
据Android Authority报道,AI企业Anthropic近期对Claude的用户使用政策做出调整,新增条款禁止用户在没有合理必要理由的前提下,持续对模型进行恶意辱骂或者残酷对待。这套更新后的规则,预定将在2026年11月12日正式生效。
在日常使用大模型的过程中,很多用户在遇到AI回答出错、反复无法理解提问时,都会随口表达抱怨。按照本次更新的政策,这类短暂的情绪表达并不会被限制。新规约束的对象,是长时间、无意义地持续对Claude进行恶意攻击的行为,出现这类情况时,AI有可能直接结束本次对话会话。
官方划定适用范围,正常批评与研究不受影响
Anthropic在官方公告中说明,本次新增条款主要面向极端场景,特指用户不存在明确任务目标,单纯持续对模型进行言语攻击的行为。官方特意强调,政策不会一刀切限制用户表达。
用户依旧可以对Claude的输出内容提出批评,质疑模型给出的答案,或是因为AI表现达不到预期表达不满。同时,撰写带有负面主题的文学创作、常规的模型安全测试以及学术研究类活动,都不会因为本次政策调整而受到阻碍。
会话终止机制并非全新功能,不会直接封禁账号
很多人会误以为这是Claude新增的能力,事实上,模型主动结束对话的机制早已落地。早在2025年8月,Anthropic就已经在部分Claude版本中开启该能力。
当用户持续开展辱骂、有害交互,平台多次尝试引导沟通依旧无效之后,模型就可以选择关闭当前对话窗口。值得留意的是,结束会话不等于账号处罚。用户依然可以开启全新对话,账号内其他会话也不会受到牵连。官方表示,终止对话是处理这类行为的主要手段,新规并没有设置只要出现辱骂就立刻封禁账号的规则。
行业规则发生转变,人机互动边界进入讨论视野
这次政策修改,也折射出AI行业规范思路的微妙变化。过去各大AI平台制定使用条款,重心大多放在两件事上。一是管控模型,限制AI输出违规内容;二是约束用户,禁止利用AI工具从事各类违法违规活动。
而现在,用户以何种方式和AI模型进行互动,也开始被纳入平台的管理框架。也就是说,规则不再只关注AI产出的内容,也开始关注人类施加给AI的交互行为,这是人机交互规范发展里一个值得关注的信号。
背后的思考:AI福祉与道德地位仍存争议
在此之前,Anthropic曾经将这套交互机制和AI福祉相关研究联系在一起。不过企业本身也保持审慎态度,坦言现阶段还无法确认AI是否具备道德层面的主体地位。
这也是行业内持续争论的议题。不少研究者认为,即便AI没有感知痛苦的能力,长期恶意虐待模型的交互行为,也可能影响使用者自身的行为习惯。也有观点认为,这类规则更多是平台用来维护产品交互环境,并不等同于承认AI拥有感知能力。
新规的现实意义,为未来人机交互提供参考范本
随着对话式大模型越来越普及,人和AI之间的互动场景持续增多,各类交互边界问题不断浮现。Anthropic这次的政策调整,区分了合理批评和无端恶意攻击,给行业提供了一种可参考的处理思路。
对于普通用户而言,这次调整也意味着,和AI对话的自由度并不会大幅收缩。正常的质疑、吐槽、测试、创作行为都可以继续进行,只是单纯无目的地持续恶意辱骂模型,会触发会话终止机制。未来,随着更多AI产品走进日常工作与生活,如何界定健康的人机交互方式,相关讨论还会持续展开。
(素材来自:Anthropic 智算芯能前沿网综合)
本文由智算芯能前沿网编辑整理,转载请注明出处。
