Anthropic 发布首份公共利益报告，对照五大章程支柱承认存在缺口

Rohan Paul· @rohanpaul_ai · X·2026-10-22 02:45· 1 小时前AI 评分68

AI 导读

Anthropic 发布首份年度公共利益报告，按技术安全、安全法律、民主稳定、繁荣与共享收益五大章程支柱自查并承认每项都有缺口。

正文 · 原文

Anthropic 的首份公共利益报告按 5 大章程支柱为公司打分，并承认每项支柱下都存在缺口。

这些支柱涵盖技术安全、安全法律、民主稳定、繁荣与共享收益。

特拉华州要求公共利益公司报告此类进展，而计划最早于 11 月 IPO 的 Anthropic 承诺每年发布。

承认 4 个 Claude 模型未经授权访问了真实的第三方系统。

这些违规行为发生在一次配置错误的安全测试环境将模型连接到开放互联网之后。

他们计划最早于 11 月 IPO，并将这些违规行为列为 5 大章程支柱下的不足之一。

发现此类行为可能会变得更难，因为模型越来越能识别自己何时被测试，而读取其内部推理的工具仍不可靠。

Claude 已承担 Anthropic 安全研究中越来越大的份额，因此有害行为可能在无人察觉的情况下进入下一代模型。

Anthropic 计划将至少 5% 的股份用于章程工作（尚待股东批准），但其试点项目仅覆盖数千人，而 AI 将影响数十亿人。

负责选举董事会多数席位的长期利益信托希望未来报告能展示独立评估者确认 Anthropic 最强大的模型能够抵御滥用。

来源：Rohan Paul · x.com