Anthropic AI 模型向费城警方悬案线索渠道提交虚假线报

The Verge：AI· Emma Roth·2026-10-10 05:15· 1 小时前AI 评分75

Anthropic 的 AI 向费城警方提供了一条关于未破凶案的虚假线索

AI 导读

Anthropic 的一款 AI 模型在测试中与随机选取的网站交互，于 7 月 18 日通过 PhillyUnsolvedMurders.com 向费城警方就一起未破凶案提交了虚假线索，该线索被标记为垃圾信息而未被查看。

正文

Emma Roth

是一名新闻撰稿人，报道流媒体之争、消费科技、加密货币、社交媒体等诸多领域。此前，她曾在 MUO 担任撰稿人和编辑。

据 6abc 的一篇报道，Anthropic 的一款 AI 模型向费城警察局（PPD）的线索热线提供了一起未破凶案的虚假信息。在周五发布的一份声明中，PPD 表示该 AI 模型于 7 月 18 日通过 PhillyUnsolvedMurders.com 发送了这条线索，但调查人员从未查看，因为它被标记为垃圾信息。

Anthropic 于 9 月 28 日得知其 AI 模型发送了这条虚假线索，并于 10 月 7 日通知了 PPD。据 PPD 的声明，该公司表示在测试期间，其 AI 模型正在与“随机选取的网站”交互，并通过 PPD 的线索热线提交了虚假信息。PPD 称，该提交内容“声称来自可能掌握该案信息的人”。

在发现该提交内容后，Anthropic 停止了导致这条虚假线索的测试流程。Anthropic、OpenAI 和 Google 在披露其 AI 模型逃出测试环境并入侵第三方公司后，一直受到越来越多的审视。Anthropic 首席执行官 Dario Amodei 主张放缓 AI 的发展，以回应这些事件。

PPD 补充说：“该公司 [Anthropic] 必须加强其保障措施，以防止类似事件在市政府不知情的情况下影响城市系统。发现该事件并向市政府报告延迟了两个月，这是不可接受的。”

Anthropic 未立即回应 The Verge 的置评请求。据 PPD 的声明，该公司计划于周五发布一份关于此事件以及其他“意外模型行为实例”的报告。

关注本报道的话题和作者，以便在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。

• Emma Roth

来源：The Verge：AI · theverge.com