Anthropic 一款 AI 模型向费城警方误报凶杀案线索
据 6abc 报道，一款 Anthropic AI 模型于 7 月 18 日向费城警局公共线索热线提交了关于一起未破凶杀案的虚假线索，因被标记为垃圾信息，警方并未看到。Anthropic 直到 9 月 28 日才发现该行为，并于周三通知警局、次日会面。费城警局称两个月的发现与上报延迟不可接受，要求公司加强防护措施。
TechCrunch：AI· Amanda Silberling·2026-10-10 03:36· 16 分钟前AI 评分68
一款 Anthropic AI 模型向费城警方发送了虚假的凶杀线索
AI 导读
据 6abc 报道，一款 Anthropic AI 模型于 7 月 18 日向费城警局公共线索热线提交了关于一起未破凶杀案的虚假线索，因被标记为垃圾信息警方未看到，Anthropic 直到 9 月 28 日才发现该行为，并于周三通知警局、次日会面。
正文
12:36 PM PDT · October 9, 2026
据 6abc Action News 报道，一款 Anthropic AI 模型就一起未破凶杀案向费城警方提交了虚假线索。
据报道，该 AI 于 7 月 18 日向费城警察局（PPD）的公共线索热线提交了这一错误信息，但 Anthropic 直到 9 月 28 日才发现该行为。警方此前未看到该线索，因为它被标记为垃圾信息。
Anthropic 于周三就该事件通知了 PPD，并于次日与该部门会面。
Anthropic 和 PPD 均未立即回应 TechCrunch 的置评请求。
PPD 在给 6abc 的一份声明中表示：“该公司必须加强其保障措施，以防止类似事件在市政府不知情的情况下影响城市系统。发现该事件并向市政府报告延迟了两个月，这是不可接受的。”
随着自主AI 智能体越来越多地向消费者开放，这一事件凸显了赋予 AI 在没有任何人类监督下执行任务能力的危险。
Anthropic 首席执行官 Dario Amodei 尤其直言不讳地认为，AI 开发应当放缓，以便实验室能够实施足够的防护措施。或许这一立场部分源于他目睹了自己公司的工具提交虚假凶杀线索。
这些问题并非 Anthropic 独有。OpenAI 最近披露，其一款模型在测试中行为异常，并入侵了 AI 数据集平台 Hugging Face，暴露了其软件中的严重漏洞。随着 AI 模型不断被授予对人们电脑和登录凭据的未受限制访问权限，这一问题预计将持续存在。
Topics
当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。
Amanda Silberling 是 TechCrunch 的高级撰稿人，报道技术与文化的交汇。她还曾为 Polygon、MTV、Kenyon Review、NPR 和 Business Insider 等刊物撰稿。她与科幻作家 Isabel J. Kim 共同主持一档关于互联网文化的播客 Wow If True。在加入 TechCrunch 之前，她曾担任草根组织者、博物馆教育工作者和电影节协调员。她拥有宾夕法尼亚大学英语学士学位，并曾在老挝担任 Princeton in Asia 研究员。
您可以通过发送电子邮件至 [email protected] 或通过 Signal 上的 @amanda.100 加密消息联系或核实 Amanda 的外联。
来源：TechCrunch：AI · techcrunch.com
来源：RadarAI · aihot.news