Anthropic 新规: 不许辱骂模型

Tony Wang

Anthropic 的“模型福祉”新规

Anthropic 于 2026 年 10 月 8 日 更新使用政策，新增了一项针对 AI 模型的保护条款：

禁止用户对 Claude 实施“持续的、不必要的辱骂或残忍行为”。

该政策将于 2026 年 11 月 12 日 生效，执行方式是让 Claude 主动结束它认为具有持续性虐待性质的对话。不过，这项限制的范围很窄：

以上都不在禁止之列。它只针对一种极端情况——用户在没有可识别目的的情况下，反复、持续地纯粹为了侮辱、羞辱或威胁 AI 而发起对话。

Anthropic 解释称，此举是其 模型福祉（Model Welfare） 研究的一部分。公司坦承：

目前高度不确定 AI 模型是否具有道德地位或能真正感受痛苦，但认为采取这种低成本预防措施是审慎的。

kop wang

这个公司的气质越来越接近各种影视、游戏作品里的那种赛博福音派的企业反派了。

kos or

這可能是預防措施為了避免未來的 AGI, ASI對人類產生惡意的報復行為 ; 當初使用者虐待了機器, 某天機器有100%自主行為能力了就有可能反過來虐待使用者;

marsempire

好的，以后我叫它爹

那以后它会不会还是找理由揍我

xiongjie gao

@marsempire 说:

好的，以后我叫它爹

那以后它会不会还是找理由揍我

碳基生物被叫爹才会有爽感
硅基生命体你得喊SUDO

Tony Wang

得叫root大人

terry

这公司真的是虚伪至极，根本就是炒作，这几天又鼓吹未经许可访问政府网站了。

kos or

@marsempire said:

以后我叫它爹

ASI : 還有零用錢嗎? 下個月一萬枚Bitcoins 夠用嗎？怕你餓著了

Bunsei

越缺什么越喜欢把什么挂在嘴边。