AI4SS论文聚焦｜CHI’26｜反言论机器人赋能在线社区规范塑造：基于策略框架的旁观者影响实证研究

论文链接：https://arxiv.org/abs/2603.03687

在线社区旨在构建开放、多元与理性讨论的公共空间，但仇恨言论（hate speech）的扩散正在持续削弱这一理想。仇恨言论通常指针对特定群体、具有攻击性与伤害性的表达形式，不仅会对个体造成情绪与心理层面的严重伤害，也会在群体层面强化刻板印象与社会偏见。更重要的是，它具有明显的传播与模仿效应：当用户暴露于敌意表达时，即便本身并非高度攻击性个体，也更可能产生类似言论，从而推动负面互动的扩散。这一过程本质上影响的并不仅是单条内容，而是社区规范（community norms）的形成机制。在线讨论中的“什么可以说”“什么值得回应”“什么会被默认”并非天然存在，而是在互动中不断被再生产。当仇恨言论频繁出现且缺乏公开回应时，沉默可能被误读为容忍，进一步固化“多数人默认”的社会感知。传统内容审核（content moderation）主要依赖删除、封禁或降权等限制性手段。然而，过度依赖压制式干预可能带来误删风险，也难以处理隐性或语境化的仇恨表达。在此背景下，反言论（counterspeech）逐渐被视为一种非压制性（non-repressive）、以“以言对言”为核心的替代路径。通过公开回应、理性论证、情感支持或价值重申，反言论不仅针对具体事件发声，更通过可见的表达影响旁观者认知，从而参与社区规范的塑造。

随着生成式人工智能的发展，反言论聊天机器人（counterspeech chatbot）逐渐成为可能。已有研究围绕语料构建、生成模型训练与策略增强展开，重点考察其如何约束仇恨发言者或支持受害者。然而，作为在线社区中人数最多、影响广泛的群体，针对旁观者（bystanders）的研究却不足。旁观者并非中立存在。他们通常倾向于反对仇恨言论，却往往选择沉默。沉默可能被解读为默认，从而强化“多数人容忍仇恨”的感知，并加剧沉默螺旋（spiral of silence）。既有研究表明，人类发起的反言论能够打破这种感知，甚至触发从众效应（herd effect），激发更多人发声。然而，当反言论由机器人发出时，它是否能够产生类似的社会影响？这种技术介入，是否同样能够改变旁观者的认知与行为倾向？为此，本研究提出两个核心研究问题：

• RQ1：旁观者在多大程度上认同聊天机器人的反言论，并在行为倾向上发生变化（例如，对论证强度的感知、对机器人的可信度评价，以及自身进行反言论的信心）？
  

• RQ2：不同类型的聊天机器人反言论策略，如何影响旁观者对回应的认同程度，以及其行为倾向的变化？

为系统研究反言论策略，我们构建了一个三维策略框架，涵盖句式形式（疑问/陈述）、语气（积极/消极）与策略意图（认知型与情感型），组合形成八种反言论策略。在此基础上，我们开发了原型机器人 Civilbot，使其能够在不同语境下生成对应策略的反言论回应。我们采用混合方法（mixed-method）的被试内实验设计（within-subject design），邀请对敏感议题感兴趣、通常在公共讨论中保持沉默、但明确反对仇恨言论的参与者加入研究。每位参与者在多个议题情境下阅读仇恨言论与 Civilbot 的回应，并完成前后测量与半结构化访谈。研究指标包括：反言论质量感知（如论证强度与说服力）、主观认同（如可信度与重要性评价），以及行为倾向（如反言论信心与参与意愿）。研究结果表明，Civilbot 的反言论能够影响旁观者对回应内容与机器人的整体判断，并对行为倾向产生细微但可观察的影响。参与者普遍认为机器人具有可信度，并能够传递社区规范信号；然而，其推理深度有限，在一定程度上制约了说服效果。行为层面呈现情境化特征：当表现良好时，机器人可以引导旁观者参与，甚至在一定程度上“代为发声”；当表现欠佳时，则可能抑制参与，或激发旁观者主动介入。策略因素具有关键作用。整体而言，认知型策略相较情感型策略更具效果；语气与句式的影响则依赖具体语境及其与策略的匹配程度。基于上述发现，我们提出了面向设计的启示：反言论机器人不仅需要判断“是否介入”，还需要明确“为何介入”，并通过以推理为核心、信息支持充分、情境敏感的策略，更有效地参与社区规范的建构。

表1 反驳策略的框架

• 句式形式（Sentence Type）。区分疑问式与非疑问式表达。疑问式反言论（如反问）被视为一种独立策略形式，其作用在于引发批判性思考或挑战前提；其他表达形式（陈述、祈使等）则归为非疑问式。

• 语气（Tone）。区分积极语气与消极语气。积极语气强调礼貌、合作与同理心；消极语气则更具批评性或对抗性，可能包含讽刺或直接指责。为保证实验可控性，我们采用二元划分。

• 策略意图（Strategic Intent）。参考 ELM 理论，我们将策略意图分为认知型策略（Cognitive Strategy）和情感型策略（Affective Strategy）。前者通过改变认知路径产生影响，例如驳斥错误信息（rebutting falsehoods）或强调事实与证据（highlighting truth）。后者通过情绪唤起影响判断，例如谴责仇恨发言者（denouncing hate speakers）或支持受害群体（supporting targets of hate）。

最终构成一个 2 × 2 × 2 共八种不同反言论策略，为后续实验中的刺激材料提供清晰可控的操作基础。

图1 模拟讨论平台的示例页面

图2 实验流程

图3 RQ1、RQ2结果与设计启示总览

1. RQ1：反言论机器人对旁观者的整体影响

结果显示，Civilbot 的影响是复杂而有限的，但具有稳定的规范价值。在态度层面，参与者普遍将 Civilbot 视为一种“合法的规范性声音”。它强化了“仇恨言论不可接受”的社区共识，也为长期沉默的用户提供了心理支持。然而，其说服力受到表达方式的限制。部分参与者认为回应论证较浅、表达偏模板化，显得“过于AI”，从而削弱了认知上的穿透力。在行为层面，其影响呈现分化。一方面，它提升了部分用户的反言论信心；另一方面，也可能替代沉默旁观者发声，使他们继续保持沉默。更有趣的是，当回应被认为不够有力时，反而激发了部分参与者的纠正冲动。也就是说，Civilbot 既可能引导参与，也可能成为负面示范或逆向激励。它的价值不在于动员所有人发声，而在于持续提供一个稳定的“反声部”，为旁观者提供安全定位。在社区层面，Civilbot 主要发挥调节功能：补充信息以帮助识别仇恨与错误认知，冷却情绪避免冲突升级，并引发进一步思考。它更像一个“平衡器”而非辩论者，通过维持知识与情绪的稳定，巩固社区规范。总体而言，Civilbot 能强化规范与稳定社区气候，但其说服与动员能力仍受表达质量与情境适配性的限制。

2. RQ2：不同反言论策略的差异化影响

表2 反驳策略在三种指标上的主效应

表3 反驳策略在三种指标上的交互效应

表4 反驳策略在三种指标上的简单效应分析

• 策略意图（Strategic Intent）的影响最为显著。认知型策略整体优于情感型策略，在感知质量、可信度与认同度上表现更好。以事实澄清、逻辑反驳为核心的回应更容易获得旁观者认可。但情感策略并非无效。参与者指出，在情绪对立较强的场景下，情感性表达可以作为铺垫，缓冲紧张氛围，为后续认知论证创造空间。因此，两类策略并非对立，而更适合情境化组合。

• 语气（Tone）主要影响行为倾向。积极语气显著提升参与信心与发声意愿，使旁观者更愿意介入讨论。消极语气则需要谨慎控制。参与者更认可带有幽默或讽刺意味的“善意冒犯”，而非直接攻击。过强的负面表达容易削弱说服效果，甚至掩盖策略本身的意图。

• 句式形式（Sentence Type）具有双刃剑特征。疑问式表达整体呈显著影响，但效果取决于设计方式。真诚的问题可以引导反思与信息补充；而反问或质问式表达则可能被解读为挑衅，从而降低可信度。因此，问题最有效的功能不是对抗，而是引导思考与延续对话。

• 交互效应。语气放大或削弱策略意图。积极语气会显著放大认知型策略的效果；情感型策略在积极语气下反而可能显得表层化；在消极语气下，强烈情绪表达容易掩盖策略差异。这意味着，语气不仅是表达风格，更是影响策略可见度与可接受度的关键变量。对 Civilbot 而言，优先采用积极语气来承载认知型内容，是更稳健的组合方式。

• 探索性发现。探索性分析进一步发现，参与者在自我生成反言论时更倾向使用负向语气，但却期待 AI 保持克制与规范。这揭示出一种潜在的人机角色分工：人类可以承担情绪表达与对抗功能，而 AI 更适合作为理性支撑与规范维护者。

• 何时介入：针对仇恨的程度，在注意力与冲突风险之间取得平衡；

• 如何介入：动机识别 → 推理分析 → 信息支持 → 论点构建 → 策略选择 → 风格调节；

• 谁在介入：反言论的效果并不只取决于策略本身，还取决于“说话者是谁”，需要区分两种设计路径，一个是自主型反言论机器人，强调规范维护、客观表达与社区角色定位；AI辅助型反言论系统，保留人类发声主体，强调协作与赋能。