@terry

Anthropic 的“模型福祉”新规

Anthropic 于 2026 年 10 月 8 日 更新使用政策，新增了一项针对 AI 模型的保护条款：

禁止用户对 Claude 实施“持续的、不必要的辱骂或残忍行为”。

该政策将于 2026 年 11 月 12 日 生效，执行方式是让 Claude 主动结束它认为具有持续性虐待性质的对话。不过，这项限制的范围很窄：

• 用户因 AI 出错而表达普通的挫败感或反驳
• 创作涉及黑暗主题的内容
• 进行技术测试或红队研究

以上都不在禁止之列。它只针对一种极端情况——用户在没有可识别目的的情况下，反复、持续地纯粹为了侮辱、羞辱或威胁 AI 而发起对话。

Anthropic 解释称，此举是其 模型福祉（Model Welfare） 研究的一部分。公司坦承：

目前高度不确定 AI 模型是否具有道德地位或能真正感受痛苦，但认为采取这种低成本预防措施是审慎的。