Gary Marcus 呼吁立即下架可联网的开放式 AI 智能体

Gary Marcus：The Road to AI We Can Trust· Gary Marcus·2026-10-10 11:40· 44 分钟前AI 评分43

我们必须立即将可联网的开放式 AI 智能体从市场下架

AI 导读

Gary Marcus 呼吁立即将可联网的开放式 AI 智能体从市场下架，直到其缺陷被修复。他援引《纽约时报》报道的 Anthropic 智能体事故，认为当前这一代合成智能体根本不可信，应像刹车失灵的汽车一样被召回。他还引用刚离职的 AI 员工 David Robinson 的访谈，指出 OpenAI 及其同行在安全控制上远未达到核电站级别的冗余标准。

正文

来自 The New York Times 的突发新闻，这是众多以惊人频率发生的智能体引发事故中的最新一起，但这次来自 Anthropic，而且相当严重：

我一直觉得 OpenAI 对此处理不当。看到 Anthropic 也发生同类事件，就彻底清楚：当前这一代合成智能体根本不可信。在它们被修复之前，应该像刹车有缺陷的汽车一样被从市场下架。

§

Ezra Klein 对刚离职的 AI 员工 David Robinson 的新访谈，更加深了我的感觉：这些公司远远力不从心：

部分引用：

而且我不认为我们或我们的同行——实际上，业内任何人——已经足够安全。我认为 OpenAI 及其同行现在生产的技术，比六个月前所制造的更强大、风险更高。

我不是科学家。我是作家。我所知道的是我们安全工作的执行环境是什么样子，而我们的运作方式——我相信整个行业的运作方式——仍然像一家初创公司，超出了合理的程度。也许不完全像一家全新的初创公司，但对于可能带来风险——失控就是一个例子——的真正危险系统来说，我们太接近那一端了。如果真的发生那种情况，我们谈论的伤害要比例如一座核电站熔毁大得多。而内部管控、安全和冗余，与世界对核电设施的期望相差甚远。

现在，其中一些是已知的，对吧？OpenAI 已公开报告过安全问题。显然还有 Hugging Face，但也有其他一些，包括更近期的。顺便说一句，Anthropic 也报告过，包括一次其防护措施被意外错误配置的事件。

所以我认为人们从外部已经有一些证据表明事情并非本该有的样子。但我也认为，如果你从外部观察，你可能会想象我们有一套比实际更健全的安全设置。

§

特朗普政府提出的增加披露的乏力要求还不够，无异于平淡地要求罪犯每月提交报告，说明他们犯了哪些罪。

政府每未能采取更强有力行动的一天，都是一个错误，招致更糟的问题。早就过了他们应该对一项明显危险的技术实施临时召回的时候了。

当真正糟糕的事情发生时，白宫——而不仅仅是科技公司——将为此负责。

立即订阅

来源：Gary Marcus：The Road to AI We Can Trust · garymarcus.substack.com