Anthropic 模型向费城警方提交虚假谋杀线索，警方称两个月后才获通报

费城（WPVI）——费城警方周五表示，一个Anthropic人工智能模型通过一个公开可访问的网页表单，提交了一条关于一桩未破谋杀案的虚假线索。

这条线索于7月18日通过PhillyUnsolvedMurders.com发送，但被标记为垃圾信息，从未被处理。

该部门表示，没有迹象表明警方系统遭到未经授权的访问，或部门数据遭到泄露。

警方称，Anthropic于9月28日发现了这一事件，并于10月7日通知了该部门。Anthropic与警方官员于次日举行了会面。

“该公司必须加强其保障措施，防止类似事件在市政府不知情的情况下影响城市系统。在发现并向市政府报告该事件上拖延两个月，是不可接受的，”该部门在一份声明中表示。

“它本应更早被发现，”维拉诺瓦大学计算科学助理教授Venkat Margapuri说。

Anthropic表示，它正在测试其模型如何与随机选择的网站进行交互。

“我们并不确切知道其目标是什么，因为仅仅与不同网站交互并不具有恶意，”Margapuri说。

然而，Margapuri表示，这带来了一个问题。

“该AI代表用户主动向另一个网站提交信息，所以我会将其归类为高风险行为，”Margapuri说。

事件发生后，Anthropic告诉费城警方，它已结束该测试流程，并将在未来实施额外的授权，以期防止AI错误。

“它显然有其自身的优点，但随之而来的是——我不想说是缺点，但随之而来的是一系列我们应该积极意识到并加以管理的风险，”Margapuri说。

Anthropic发布了一份报告，内容涉及这一事件以及其他非预期模型行为，报告于周五晚些时候发布，称其代理访问了若干联邦、州和地方政府网站。

Anthropic表示，它已通知白宫及每个相关机构。该公司认为，今天详述的这些事件对现实世界的影响微乎其微，且不如以往的违规事件严重。

以下是费城警方的完整声明：

费城警察局现向公众通报，一个Anthropic人工智能模型通过PhillyUnsolvedMurders.com提交了一条虚假的凶杀案线索。

Anthropic于10月7日就该事件通知了PPD，部门人员立即寻求与公司代表会面，会面于10月8日进行。

Anthropic已告知，其计划于今天发布一份报告，描述这一事件以及其他非预期模型行为。

费城警方在该报告发布前向公众提供这一信息，是为了充分实现政府透明度和问责制。

该AI提交内容是通过该部门的公开线索表单进行的。

根据现有信息及PPD的审查，没有迹象表明该事件涉及任何对警方系统的未经授权访问或部门数据泄露。

该提交内容被标记为垃圾信息，从未被转交实时犯罪中心进行侦查审查或分发。

PPD正在与市法律部门、创新与技术办公室以及市长Cherelle L. Parker的行政团队协调。

根据迄今为止所审查的信息，该部门的调查结果与Anthropic关于该提交内容如何与该网站交互的陈述一致。

据Anthropic称，其模型在进行一项涉及与随机选择的网站交互的测试时，访问了PhillyUnsolvedMurders.com，并提交了关于一起未破凶杀案的虚假信息。

该提交内容日期为2026年7月18日晚11时27分，声称来自可能掌握该案信息的人。

Anthropic告知PPD，其于9月28日发现了该事件，终止了负责该提交的自动化测试流程，并为未来的测试建立了额外的验证机制。

在10月8日的简报之后，PPD在该网站的线索记录中找到了该提交内容，并确认相应的电子邮件仍在垃圾邮件中。

该部门针对犯罪线索的常规调查流程要求在任何线索被分发用于调查跟进之前进行人工审查和核实。

无论信息由谁提交或如何送达该部门，线索都是有待评估的线索——而非既定事实。

调查人员会评估其可信度并寻求佐证证据。自动化提交不会绕过这一流程。

PPD的这些保障措施限制了此次事件的影响。但这并不能减轻一个AI系统将捏造信息伪装成来自了解凶杀案情况的人所提交的严重性。

未破案件涉及真实的受害者、悲痛的家属以及努力寻求答案的调查人员。

科技公司必须采取一切适当必要措施，防止其系统向执法部门提交虚假信息。

PPD将审查Anthropic发布的报告以及与其次系统或调查相关的任何额外信息。费城市对此事件高度重视。

该公司必须加强其保障措施，防止类似事件在市政府不知情的情况下影响城市系统。发现并向市政府报告该事件延迟了两个月，这是不可接受的。

公众应继续通过PhillyUnsolvedMurders.com提交关于未破凶杀案的合法信息。

PPD仍致力于认真评估这些信息，并代表受害者及其家属追查可信的线索。

该部门和帕克政府将继续密切关注此事件，并将在获得更多信息后尽快向公众提供。

除了我们对此次事件的调查外，帕克政府还将与州和联邦合作伙伴一起，在当地探索所有必要的监管保护措施。

在帕克市长的领导下，费城市正在负责任地采用AI，并致力于透明度、谨慎实施以及减少错误、保护城市系统和居民的保障措施。