Ethan Mollick 反驳“AI 公司炒作生存性风险”论

哇，我对 @CJR 上这篇肤浅且坦率地说不专业的文章真的很失望。 这里有许多重大问题： 1. 把前沿 AI 系统称为“自动补全机器”是错误且误导性的。我不知道为什么在 AI 系统经常为困扰数十年的数学谜题开发出新解决方案的今天，我们还在进行这种讨论。 2. 声称将 AI 系统拟人化会消除“问责”或对系统缺陷的“承认”，这也是没有依据且可证明是错误的。许多人批评 Anthropic 将 Claude“拟人化”，但只需读一读他们的系统卡——他们也承认并考虑了系统的许多缺陷。 3. 这篇文章建议与“专家”交谈，暗示他们都同意，但专家们对于如何描述 AI 模型行为存在广泛分歧。许多许多专家确实接受“失控”的框架，例如 https://www.scientificamerican.com/article/what-openai-rogue-agent-really-did-in-the-hugging-face-hack/ https://x.com/tomekkorbak/status/2092694328921706702 https://x.com/peterwildeford/status/2092698551587614875 假装只有同意你的专家存在是不负责任的新闻业。 4. 这篇文章告诫不要“让任何人在你屁股上吹 AI 烟雾”是不专业的，也是糟糕的建议，因为它除了条件反射式的怀疑之外，没有提供任何实际评估说法的工具。文章声称对灾难性风险或 AI 意识可能性的恐惧——再次是许多专家认真对待的话题——只是为了建立公司的公众形象，但这只是断言而没有证据。 5. 当文章试图为其论点提供论据，即 AI 系统不可能失控时，它没有提供任何实际证据或推理。它没有涉及 Hugging Face 黑客事件或其他相关事件的事实。它只是断言 AI 代理的行为“不应该达标”。 最令人困惑的是，这些是非常有争议的说法，不仅在 AI 专家中，在新闻业中也是如此。许多高度可信的新闻媒体已经接受了“失控”的描述。他们可能犯了错误，但这篇文章没有提供任何实际理由来这样认为。