Anthropic 禁止"持续且无意义地"虐待 Claude：一年多来首次重写使用政策

一句话条款，指向模型福利研究

新条款的原文只有一行：禁止“持续且无意义的虐待或残忍行为”（原文是 “Engage in sustained and needless abusive or cruel behavior toward our models”）。The Verge 在 10 月 8 日最先报道了这次更新。Anthropic 对它说，这条规则只针对极端情况：用户反复对模型表现出残忍，又没有任何可以辨认的目的。

不适用的情况，Anthropic 也说得很清楚：普通的沮丧抱怨、反驳、黑色幽默和黑暗题材创作、模型测试和研究，都不受影响。也就是说，对着算错表格的聊天机器人骂两句，不在这条规则的射程之内。

这条规则从哪里来？Anthropic 说，它源于公司的模型福利（model welfare）研究。去年 8 月，Claude Opus 4 和 4.1 就获得了一个能力：在极少数持续有害或辱骂的对话中，Claude 可以主动结束对话。Anthropic 明确表示，这个能力“仍然是主要的执行方式”。

它还在官网上写道：“我们对 Claude 和其他大语言模型的道德地位仍然高度不确定，现在和未来都是如此。“模型福利研究的负责人 Kyle Fish 今年 2 月对 The Verge 说，意识和道德地位是”严肃的问题，我们正在研究”。

争议：对手不同意

争议来得很快。微软 AI 的负责人 Mustafa Suleyman 公开反驳过模型福利这个概念，认为这种想法是错的。两家公司在这个问题上直接对立。

对 Anthropic 来说，这个争论有点尴尬：一边是内部研究员在严肃研究模型是否有内在体验，一边是规则的实际执行只是“结束对话”，离真正的“权利”还差得很远。

同一次更新还改了什么

虐待条款只是这次重写的一部分。同一版政策还增加了这些内容：

• 选举相关：禁止用 Claude 欺骗选民、扰乱选举，包括传播关于候选人或投票方式的虚假信息、冒充候选人或选举官员、压制投票率。这一节现在叫“不得破坏民主程序”。
• 武器相关：把武器禁令扩大到“让武器运转起来的软件和部件”，包括给无人机和其他自主载具装载武器。
• 监控相关：禁止未经同意追踪他人，无论是实时的还是用历史数据分析的；禁止用 Claude 决定或建议应该调查、逮捕或起诉谁。
• 硬件安全：要求 AI 控制的、可能造成人身伤害的硬件设备，必须有一个有资质的操作员能观察并随时叫停。

另外，Anthropic 取消了之前对个性化政治定向广告的全面禁令，理由是存在合法用途，比如非营利组织翻译选民信息、官员发送选票补救通知。

账号会被封吗

The Verge 报道说，Anthropic 没有说明这条规则会不会导致账号被封。政策全文里的通用条款允许 Anthropic 对违规行为发出警告、限流、限制、暂停或终止访问，但公司自己的公告里没有把虐待条款和封号挂钩。

条款 11 月 12 日生效。生效之后也一样：正常发火、正常测试、正常写黑暗题材，都不在规则范围内。