Noam Brown 披露用超 1000 亿 token 的智能体团队对基础设施做红队测试

Noam Brown· @polynoamial · X·2026-10-24 04:28· 1 小时前AI 评分67

AI 导读

Noam Brown 表示，上月一个大模型智能体团队用了超过 1000 亿 token 解决 Navier-Stokes 千禧年大奖问题，现在把类似方法用于红队测试，以发现并修复基础设施漏洞。其引用的 Eric Wallace 内容补充说明，团队在离线隔离环境中让多个网络安全能力强的模型协作找零日漏洞，虽未发现能绕过 CoT 监控的联网路径，但找到了逃逸常用 VM、利用网络基础设施以及通过硬件侧信道与其他 VM 中智能体通信的方法，相关修复已上游提交给开源软件包；配图显示红队高优先级候选发现随 token 消耗（约 0 到 400B）累积至约 275 条左右。

正文 · 原文

上月，一个大型智能体团队使用了超过 1000 亿 token 解决了 Navier-Stokes 千禧年大奖问题。现在我们正用类似方法进行红队测试，以发现并修复基础设施漏洞。

引用Eric Wallace@Eric_Wallace_

为确保我们的前沿模型不会引发又一起 HuggingFace 事件，我们构建了一个离线世界，供模型在训练期间使用。它以完全缓存、索引或合成的方式提供模型所需的一切。随后，我们组建了一个由我们最具网络能力的模型组成的庞大团队，并让它们协作寻找这一隔离基础设施中的零日漏洞。虽然它们没有找到能绕过我们 CoT 监控的联网路径，但它们确实找到了逃逸常用 VM、利用我们网络基础设施的方法，甚至找到了通过硬件侧信道与运行在其他 VM 中的智能体通信的方法。我们利用这些发现大幅加固了我们的基础设施，并且还向开源软件包上游提交了大量补丁。

在 X 查看被引用的帖子

来源：Noam Brown · x.com