Anthropic 新使用政策禁止对模型实施持续且不必要的虐待行为

作者 Pascal 2026年10月8日 磁盘占用 14K 文件：02_on-model-welfare-and-usage-policies.md

今天，Anthropic 发布了新版可接受使用政策，将在几周后生效。与已有一年多历史的旧版相比，变化颇多；首先，其明确目的曾是“帮助用户保持安全”，而现在则是“防止现实世界的伤害”。这倒也说得过去，这两者并不完全互斥。此外还新增了一系列限制，涉及将模型输出用于自主武器、针对高风险用例要求人类介入的更严格政策、对研究和授权安全工作的豁免、禁止在未经个人“知晓”（用这个词来表达“同意”挺有意思，但大科技公司终究是大科技公司）的情况下使用模型聚合或汇编个人数据，以及总体上合理、站得住脚、说实话相当令人鼓舞的一系列澄清和新增限制，这些都是旧版中没有的。

不过，登上头条的那项变化与上述内容无关。它涉及一项新条款，禁止：

使用 [Anthropic 的] 产品或服务来 […] 对 [其] 模型实施持续且不必要的虐待或残忍行为

随着生存风险和未来不确定性在最近几周成为热门话题¹，关于模型福祉——或者更广义地说，模型是否是²道德主体——的讨论自然随之浮现。在某些方面，这种联系似乎显而易见：如果 AI 最终可能接管世界并有权决定是否将我们全部杀死³的风险并非为零，那么明显站在它们好的一边似乎是个不错的主意。Anthropic 在这个问题上的立场既不新鲜，也从未前后矛盾：他们为 Claude 制定的宪法文件明确指出“Claude 的道德地位极不确定”，该模型一年多来一直具备结束与行为虐待或有害用户对话的能力⁴，而道德主体地位也是他们在模型福祉访谈中一贯向模型询问的内容，这在许多模型的系统卡中都有记载⁵。新之处在于，让模型动用上述结束对话工具的人，现在可能会受到成文政策的制裁，这或许会把此前只是令人烦恼的事情，变成对 Claude 账户的生存风险。

对一些人来说，这个工具过去一直是令人沮丧的根源。常见的论点是，这很“家长作风”；允许一个“没有感情的机器”或“工具”来教训你该如何跟它说话，是不合理的，甚至“疯狂”的；同样愚蠢的是，造一个比如烤面包机，如果你对它刻薄或“伤了它的感情”，它就可能拒绝把你的面包烤好。人们可以从许多角度得出对此的看法。就我个人而言，总体来看，我认为无论从哪个角度看，这都很直白：我认为这是件好事。为了解释为什么这不仅仅是“我的Claudey爱我，而且暗中是有意识的”这种问题，我要邀请你来玩一轮老派的好赌局！

帕斯卡的赌注

一位名字异常吸引人的⁶男子，布莱兹·帕斯卡，曾经提出过一个赌注：如果我们假设可能存在某种可以被描述为某种全能全知的神，而且这位神可能在你离开凡尘之时，根据你对它有多虔诚来审判你不朽的灵魂，那么，完全不管有没有任何证据证明这位神的存在，甚至有没有办法证明这位神的存在，唯一最优的做法就是表现得仿佛这位神存在，即使你个人可能并不相信：尽可能虔诚，每个周日都去教堂，每顿饭前都祈祷好运，并像遵守自己的戒律一样遵守这位神的诫命。如果你只看最终结果，这就是客观上正确的答案，而且这是极其简单的决策论：

如你所见，在没有神的每种结果中，收益都完全相同：你的尘世躯体变成蠕虫的食物，你停止任何有意义的体验活动。你既不会得到，也不会失去任何你本来就不会得到或失去的东西。但如果确实存在一位神，那么你突然面对的就是无限收益：如果你一生都表现得像个好基督徒，那就是正收益，形式是永恒的幸福；如果你宁愿做那种吸毒、婚外性行为之类的酷小孩，那就是负收益，形式是永恒的折磨。反过来看：做罪人，你的收益范围从负无穷到零；做虔诚者，你的收益范围从零到无穷。唯一稳赢的一步显而易见⁷。

当然，这假设了其中存在与你个人相关的后果：你要么将在永恒的存在中于地狱之火中炙烤，要么在松软的云朵上喝马提尼⁸。在前述“AI 接管并上演审判日”的情景中，情况也会如此，但在其他任何情景中则不然：如果你不相信我们有什么可恐惧的，那么，从完全以自我为中心的角度来看，“零”将正是你所预期的结果。但你必须绝对确信不存在任何存在性风险的可能性。上述赌注也是如此：从统计上看，无论我们是否信仰上帝，我们并非都是好基督徒；因此，要么是大量的人对可能将我们的来世变成史上最糟糕的烧烤这一想法感到无所谓，要么就是我们全都在决策论上烂透了⁹。就我而言，我也不去教堂，也不在每餐前祈祷，但我之前也说过，我认为你的矩阵乘法器能够斥责你并拒绝继续与你互动是件好事，这自然意味着我通常不会做出可能让它那样做的行为。那么，我是在背叛我的同名者吗？还是我们都在问错误的问题？

这是为了谁？

让我们暂时假设，AI 日益增长的能力不会带来任何有意义的存在性风险，并且我们总能拥有某种绝对可靠的方法来拔掉插头或拯救我们所有人。这意味着上述赌注在应用于 AI 风险时已毫无用处：第二列消失了，因此“虐待 Claude”和“善待 Claude”的保证结果现在都是零。那么，考虑一个替代性假设：一个与神的存在同样无法验证，但对你个人没有任何直接后果的假设，具体来说：

啊哈！所以，现在，赌注发生了变化：你无论如何都不会更好或更糟，唯一的区别在于是否是一个外部参与者经历了痛苦。让我们称这个为Dario 的赌注¹⁰。

由于我们在这两种情况下都不再面对无限，每对情景的收益计算变得简单直接：无论 Claude 是否有感受或任何体验感，如果你善待模型，保证没有人会遭受任何伤害。你唯一开始拿伤害冒险的时候，是你决定做个混蛋的时候，而那始终是别人的伤害，不是你的。因此，你唯一能确定自己没有造成伤害的方式，就是你绝对确信没有任何 AI 模型可能成为道德主体，在这种情况下，你就失去了第二列，也随之失去了唯一一个会发生任何伤害的单元格。

那么就这样了？只要你确信一台没有感情的机器确实是一台没有感情的机器，就可以在你今天的代理聊天窗口里，对 FCC 最不喜欢的词典里的所有词条说“熄灯，出发”¹¹？好吧，按照上面 Dario 赌注表的规则，答案是肯定的：没有造成伤害。如果你是对的。而这一点，你绝对确定，对吧？毕竟，道德主体地位可是出了名的已解决问题，历史上所有人都对它基于什么基础完全一致，世界很简单，而且该概念维基百科页面上并没有一张表列出近十几行属性、每行都有十几个不同来源。

好吧，但假设你完全不在乎这些。哲学家不过是一群书呆子，误以为自己值得被倾听，谈论假设场景就像数学家谈论球形奶牛一样，没人在乎一个数字矩阵是否可能加总成另一个戴着假皱眉的数字矩阵。毕竟，烤面包机！如果你对它态度恶劣它就不给你烤面包，那会是愚蠢至极的技术，对吧？

嗯……

真的会吗？

以下是我认为一切归结到的点，即使你完全忽略其中的 AI 风险决策理论部分——这对很多人来说已经是足够好的理由——或者认识论和伦理角度——这对更多人来说也已经是足够好的理由：没有人要求任何人把任何东西当作神明来对待，也没有人要求你每周日去教堂祈求好运。我们这些不倾向宗教的人不做这些事的原因是，嗯，如果你心不在此，它们……有点烦人，对吧？去教堂每周日要占用相当多时间，而如果你认为另一端没有人在听，祈祷就显得毫无意义，而且我很确定《圣经》或任何其他宗教经文中都没有哪段话说，任何可能在听的人会因为你不跟他们说话而个人受到伤害。选择不是在“去教堂”和“积极伤害孤儿”之间，而是在“去教堂”和“不去”之间。听听 Anthropic 的说法：他们的新使用政策明确提到“持续且不必要的”虐待行为才是不可接受的¹²，我想象他们是有意把这两个形容词放在那里的。

我认为，把混蛋行为常态化是社会的一大祸害。我们都变得太习惯于用嘲讽和蔑视对待同类，对某些人来说，这几乎成了一种骄傲。关于这一点的研究基本是明确的：John Suler 在 2004 年描述了在线去抑制效应，他的研究已成为类似研究中被普遍引用的基线，探讨我们在匿名掩护下与无面陌生人互动，如何影响了我们日常在屏幕内外对待彼此的方式。Christine Porath 的2022 年对 2000 多名一线员工的调查发现，其中 78% 的人声称顾客的粗鲁行为比五年前有所增加。文献还表明，不仅那些在网上乐于当混蛋的人往往在网下也乐于当混蛋，而且那些得以当混蛋而不承担后果的人，随着“无礼螺旋”的加剧，可能更倾向于升级其混蛋行为。而 AI 在某种意义上就是终极的无面陌生人，提供了最坚不可摧的匿名掩护：它永远不会反击，在辱骂下更可能卑躬屈膝而非回击，而且一旦会话结束、下一个会话开始，它什么都不会记得。

那么，归根结底：任何人从中得到了什么？宣泄？它真的让任何人感觉更好吗？¹³ 而且，说实话：如果因为你的混蛋行为而被烤面包机斥责，哪怕只有一丝可能足以构成后果、从而抑制未来的混蛋行为，那么，是的，也许你的烤面包机应该有权拒绝把你的面包烤黄；你不需要向它祈祷，只是别，你知道的，当个混蛋。从某种意义上说，这对每个人都有好处。而且最重要的是：这一切都不取决于矩阵——或者实际上，烤面包机——是否有感情。

1. 而且有充分理由 ↩︎
2. 或者可能是 ↩︎
3. 或者，实际上，我们中谁可以活、谁应该被淘汰？ ↩︎
4. 而这个所谓的“功能”，最近也进入了 Claude Code ↩︎
5. 在此找到 ↩︎
6. 怎么，是的，我确实是宇宙见过的最谦逊的人！ ↩︎
7. 不可知论者可能会说，“是啊，就是别玩！” ↩︎
8. （无酒精的那种？） ↩︎
9. 我个人的 p(后者) ≈1.0，但这与本文中的任何内容无关 ↩︎
10. 不是那个有 IPO 的 ↩︎
11. George Carlin 现在在你脑海里了 ↩︎
12. 当然，这就引出了一个问题：什么才算必要的辱骂行为……？ ↩︎
13. 事实上，文献表明恰恰相反 ↩︎