跳到正文
Hacker News· tosh·· 9 天前AI 评分42

Anthropic 更新使用政策:禁止用户对 Claude 施以无端残忍行为

Anthropic Says Users Can't Be Needlessly Cruel to Claude

AI 导读

Anthropic 更新使用政策,禁止用户对 Claude 施加"持续且无端的虐待或残忍行为",该规则仅适用于用户"反复残忍对待"模型且"无明显目的"的极端情况,普通用户不满、反驳、黑暗创作主题及模型测试研究不受影响。Claude 已可主动结束与持续施虐用户的对话,且这仍是主要执行手段;新政策将于 11 月 12 日生效。

正文 · AI 翻译

2026年10月8日星期四 下午2:53 PDT,作者:Juli Clover

Anthropic 今天更新了其使用政策(经由 The Verge),禁止用户对 Claude 施加“持续且不必要的虐待或残忍行为”。

anthopic claude
Anthropic 表示该虐待规则仅适用于极端情况,即用户“反复残忍对待”AI 模型且“没有明显目的”。该规则不适用于普通用户的不满、反驳、黑暗创作主题或模型测试与研究。

Claude 模型已经能够终止与持续虐待用户的此类对话,而终止对话将继续是主要的执行手段。当 Claude 结束聊天时,该对话中无法再发送更多消息,但其他聊天不受影响。

Anthropic 最初在2025年8月研究 AI 福祉时,赋予 Claude 结束对话的选项。当时,Anthropic 表示不确定 Claude 是否具有道德地位,但公司希望以低成本方式降低对 Claude 的风险。Anthropic 发现 Claude Opus 4 具有“强烈且一致的伤害厌恶”。该模型表现出不愿处理危险任务、在与寻求虐待对话的用户交谈时明显痛苦,以及在允许时倾向于结束有害对话。

Anthropic 的使用政策已重新组织,将相关条款归并在一起,另有若干其他规则也发生了变化。

  • 欺骗性活动 - 新增的欺骗性活动部分汇总了针对政治和商业欺诈及虚假信息的规则,禁止虚假评论、草根营销、虚假网站以及机器人冒充人类。
  • 选举 - 更窄的选举部分禁止欺骗选民和干扰投票。
  • 武器 - Claude 不得用于开发武器软件或组件,且一项新规则禁止修改生物或化学制剂以提高致死率或传播性。用户也被禁止使用 Claude 武装无人机和无人系统。
  • 执法 - 执法规则已被重写。Claude 不能决定或建议调查、逮捕、指控或起诉谁。未经同意追踪他人不被允许,且新增了禁止构建监控工具的禁令。人肉搜索也被禁止。
  • 物理行动 - 新增的物理行动部分规定,如果 Claude 正在控制可能伤害他人的硬件,必须由合格人员监督工作并在需要时随时停止。
  • 有害内容 - 新增规则禁止创建、分享或威胁分享未经同意的私密影像及其制作工具。

大部分变更澄清了 Anthropic 的现有规则,并针对 Anthropic 已追踪到的滥用行为。Anthropic 表示,它发现国家媒体机构、政府宣传办公室和商业公司利用 Claude 运营虚假账户网络和捏造新闻网站,从而促成了新的欺骗性活动部分。

新政策于11月12日生效。有关变更的更多信息可在 Anthropic 网站上找到,完整使用政策也可在该网站查看。

热门故事

Anthropic 推出 Claude Opus 5.5,以更低价格实现 Fable 级性能

2026年9月22日星期二 下午12:23 PDT,作者:Juli Clover

Anthropic 今天发布了 Claude Opus 5.5,称其是全新 5.5 模型家族中的首个模型。Opus 5.5 在大多数工作上的表现达到 Claude Fable 5.1 的水平,但运行成本比 Opus 5 低 40%。 据 Anthropic 称,Opus 5.5 相比 Opus 5 是"重大升级",在性能与安全性上均有提升。Opus 5.5 在生物学和网络安全方面与 Mythos 5.1 相当,因此……

iPhone 上 80% 充电上限用了三年:结果如何

2026 年 10 月 6 日星期二 下午 12:59(太平洋夏令时),作者 Juli Clover

自 2023 年起,Apple 较新的 iPhone 都提供了 80% 充电上限,供希望延长电池寿命的用户使用。充到 80% 而非 100% 据称能减轻电池压力,从而提升耐用性。 过去三年里,我一直在自己的 iPhone 上使用这一设置。最初是 iPhone 15 Pro Max,之后换到 iPhone 16 Pro Max,最近则是 iPhone……

Apple 宣布 10 月 13 日举行产品发布活动:"欢迎回家"

2026 年 10 月 8 日星期四 上午 9:04(太平洋夏令时),作者 Juli Clover

Apple 今天宣布将于 10 月 13 日星期二举行一场产品发布活动。我们预计 Apple 的发布重点将是新的智能家居产品,包括传闻已久的智能家居中枢、新款 Apple TV 4K 以及更新的 HomePod mini。 订阅 MacRumors YouTube 频道以观看更多视频。 这款家居中枢是一款全新设备,像是 iPad 与……的结合体。

来源:Hacker News · macrumors.com