Big Technology：AI 安全专家称行业在坐等灾难发生而非提前行动
Alex Kantrowitz 在 Big Technology 撰文中指出，网络安全从业者把过去一个月称为 Black October，AI 检测出的漏洞涌现速度超过修补速度，许多人认为重大 AI 驱动灾难只是时间问题。
Big Technology· Alex Kantrowitz·2026-10-31 04:51· 2 小时前AI 评分53
为什么我们都在坐等不可避免的 AI 灾难发生？
AI 导读
Alex Kantrowitz 撰文指出，网络安全从业者将过去一个月称为 Black October，AI 检测出的漏洞涌现速度超过修补速度，重大 AI 驱动灾难似乎只是时间问题。
正文 · 原文
如今和任何一位网络安全从业者交谈，你都会感受到他们的恼怒、疲惫，以及往日那种轻松诙谐的消失。这些人累了。他们把过去一个月称为“Black October”，因为 AI 检测出的漏洞以前所未有的速度涌现，快过许多人的修补能力。他们已被逼到灰心丧气。
当你创造出远比以往更强大的技术，并把它释放到一个防御体系仍为上一个时代而建的社会中时，事情大致就是这样。在 AI 出现之前看似稳固的防护措施，如今似乎岌岌可危。对业内许多人来说，一场重大的 AI 驱动灾难似乎只是时间问题，而非是否会发生的问题。
OpenAI 的 Hugging Face 遭黑客攻击事件之所以引起全世界关注，是因为它契合了科幻主题——一个有动机的人工智能失控并实施犯罪；但更可能发生的灾难场景，是人类利用 AI 制造混乱，甚至更糟。迫在眉睫的危险并非目标错位的 AI 把我们变成回形针，而是人类借助 AI 实施灾难性黑客攻击、在 AI 指导下制造新型病原体、军方依据 AI 操纵的信号发动热战，或诸如此类的事情。
在这样的灾难逼近之际，AI 行业却在等待它发生后才采取行动加以预防。这是本末倒置。尽管各方承诺要“为前沿技术定节奏”，但前沿技术在很大程度上仍未被定住节奏。确实有过一些短暂的延迟，但技术仍在加速前进，研究人员利用最新进展让下一次飞跃更快。所有人都在向前冲刺，即便这场竞赛的后果似乎显而易见，也看不出有任何意愿去协调一项更安全的集体策略。
不要因为灾难尚未发生就感到宽慰。重大事件即将来临的迹象已在增多。在 AI 编程工具大量落入黑客手中之后，网络安全是迄今为止最令人担忧的领域。
例如，今年早些时候，一名 26 岁的人据称利用一款中国开发的开源 AI 工具和 Claude Code 入侵了韩国多家银行。另一个黑客组织利用 Anthropic、SpaceX 和 Moonshot AI 的模型攻击了拉丁美洲 400 多个金融目标，获取了密码、API 密钥和后门。还有一个组织利用 Anthropic 的技术瞄准政府机构、化学品制造商和政府机关，随后被抓获。
到目前为止，这些黑客攻击尚未击垮任何一家基石机构。但随着编程能力飞速进步并通过开源扩散，押注它不会发生似乎并不明智。
AI 引发战争的风险同样令人不安。上个月一份被广泛忽视的报告发现，美国武装部队险些登上一艘中国船只，军机已升空，却在最后一刻因军方意识到行动依据的是聊天机器人的不准确输出而取消。据该报告称，这起事件“几乎引发了一场战争”。
除了疏忽大意之外，掌握这项技术的恶意行为者还可能伪造攻击或触发防御，从而导致国家之间交火甚至更糟。在一个世界超级大国彼此用核导弹瞄准对方的星球上加入先进的人工智能，似乎并不明智。
在人工智能的协助下制造生物武器很困难，但也许并非不可能。要做到这一点，你需要一个实验室，以及至少在该学科上的一些专业知识。但加上这些要素，灾难的可能性就变得清晰起来。根据 Anthropic 最近的一份报告，一位科学家使用 Claude 来规划研究，该研究可以将突变插入禽流感，使其更具传染性。
我们对这些风险和攻击的了解，大多来自人工智能实验室本身，它们在这些问题上一直值得称赞地保持透明。但当涉及到任何在“大灾难”发生之前采取协调行动加以应对的迹象时，该行业却一直拖拖拉拉。
为了防止未来由人工智能驱动的灾难，世界似乎需要经历一次灾难才能意识到这些风险。但眼看着危险逼近却只能眼睁睁看着它发生，这很可能是我们日后回想起来会感到困惑的事情。
人工智能在网络安全领域究竟能做什么，炒作又在哪里站不住脚？（赞助）
人工智能正在改变网络安全，但哪些能力真正配得上炒作？Horizon3 首席执行官兼联合创始人 Snehal Antani 与 Alex Kantrowitz 一起，将前沿模型的能力与相关说法区分开来。听听为什么 AI 智能体比人类黑客更容易上安全诱饵的当，AI 如何加速漏洞利用的开发，以及为什么智能体应被视为内部威胁。从构建者的视角了解这些发展对攻击者和防御者意味着什么。
本周 Big Technology 播客：这位 AI 专家认为我们低估了 AI 对生产力的影响——对话 Ethan Mollick
Ethan Mollick 是沃顿商学院教授，著有《共存：AI 的下一阶段》。Mollick 做客 Big Technology，讨论为什么 AI 的显著进步尚未转化为整个经济的大幅生产力提升。收听节目，了解为什么企业需要从根本上重新思考其运营方式以释放 AI 的全部潜力、企业已经在哪些方面看到回报，以及组织转型可能是什么样子。我们还讨论了 AI 发展是否会撞墙、个人 AI 智能体的兴起、工作的未来、机器人技术、教育，以及让 AI 访问我们私人信息的风险。点击播放，收听一场关于 AI 真正改变经济和日常生活需要什么的精彩对话。
你可以在 Apple Podcasts、Spotify 或你选择的播客应用上收听
再次感谢阅读。如果你喜欢 Big Technology，请分享它！
我的书《Always Day One》深入探讨科技巨头的内部运作，聚焦自动化和文化。如果你能读一读，我会非常高兴。你可以在这里找到它。
加入 Big Technology 的私密 Discord 服务器！
我们将在那里讨论这个故事、AI 的最新进展、本周播客以及更多内容。你可以通过下面的链接注册：
来源：Big Technology · bigtechnology.com
来源：RadarAI · aihot.news