跳到正文
The Decoder· Jonathan Kemper·· 4 天前AI 评分44

通用模型护栏挡住防御方,Artemis Security 推出 Orion-1 专攻网络攻击调查

AI guardrails designed to stop hackers are now blocking defenders, and Orion-1 aims to fill the gap

AI 导读

美国初创公司 Artemis Security 发布 Orion-1,一款可自主调查并响应企业网络攻击的安全专用模型,在其自建基准上超过 Claude Opus 5.5 和 GPT-6 Sol。

正文 · AI 翻译

通用型 AI 模型正日益成为安全团队的难题,因为同样的能力也会帮助攻击者。Artemis Security 希望用一款专用模型来填补这一缺口。

美国初创公司 Artemis Security 推出了 Orion-1,这是一款旨在自主调查和响应企业网络攻击的模型,在该公司自己的基准测试中击败了 Claude Opus 5.5 和 GPT-6 Sol。Orion-1 处理来自认证服务、云环境、企业终端、SaaS 应用和网络设备的日志数据,然后将企业账户登录、新的云权限以及新建的电子邮件收件箱规则等单个信号关联起来,追溯到同一个攻击者。一旦掌握了事件全貌,该模型会给出置信度评分,锁定结论,并建议或启动响应。

据 Artemis 称,通用模型在输入数十亿条事件时会失去线索,或者将无害但异常的活动误判为攻击。Artemis 在取自其自身安全运营的任务上对 Orion-1 进行了微调,包括识别日志数据中的可疑模式、搜寻已知攻击技术、编写新的检测规则以及遏制实时攻击。该公司表示,训练过程中未使用任何客户数据。Artemis 称 Orion-1 为“前沿基础模型”,但仅在其博客文章中描述了这一微调过程,尚不清楚该公司是否基于其他提供商的现有模型构建。

Artemis 构建了自己的基准测试来衡量安全决策的可信度

Artemis 开发了一个名为“决策级就绪度”(DGR)的基准测试用于对比。现有的大多数安全测试要么考查模型对攻击技术的掌握,要么让它们解决黑客谜题,而 DGR 为每个模型提供相同的初始警报、相同的环境数据以及安全团队会拥有的相同工具,然后要求它判断是否正在发生攻击。数千个任务都有已知结果,其中一些根本不包含攻击,或者包含被设计成看似恶意的良性数据。模型的评分依据是其结论及其提供的证据。

Liniendiagramm mit den Werten von Orion-1, Claude Opus 5.5, GPT-6 Sol, Grok 4.7 und Kimi K3 in fünf Sicherheitsaufgaben, eine gestrichelte Linie bei 80 Punkten markiert die von Artemis gesetzte Vertrauensschwelle.
只有 Orion-1 在全部五项任务中达到或超过 Artemis 自定义的 80 分阈值。| 图片:Artemis

Artemis 报告了五项任务的结果,并测试了 Grok 4.7 和 Kimi K3,与 Opus 5.5 和 GPT-6 Sol 一同对比。最大的差距出现在攻击重建方面,Orion-1 得分为 80.8,而排名第二的模型为 58.3。

Balkendiagramme mit den Einzelwerten aller getesteten Modelle für Erkennung, Untersuchung und Rekonstruktion von Angriffen, Claude Opus 5.5 liegt bei Erkennung und Rekonstruktion jeweils auf dem letzten Platz.
Orion-1 在攻击重建中得分 80.8,而表现最好的对比模型 GPT-6 Sol 仅达到 58.3。| 图片:Artemis

Orion-1 已在 Artemis 平台上面向部分客户进行私密预览,客户可以针对每种操作类型设定模型自主决策的限度。高影响操作默认需要人工批准。Artemis 于今年 4 月才结束隐身模式,在公司成立约六个月后披露了种子轮和 A 轮合计 7000 万美元的融资。

为攻击者设置的护栏也在阻挡防御者

对于安全团队来说,广泛的尖端模型越来越难以使用,因为提供商不断收紧其网络能力。OpenAI 认为其 Astra 模型是首个可能达到最高网络安全风险等级的模型,在该等级下,模型可以自行开发并发动网络攻击。Claude Opus 5.5 将大多数网络安全任务转交给较旧的 Opus 4.8,而当 Hugging Face 在 7 月尝试使用商业前沿模型分析对其自身基础设施的完全自主 AI 攻击时,这些模型的护栏完全阻止了对攻击数据的分析。该团队最终改用在其自有服务器上运行的开源权重模型 GLM 5.2。

在防御方面,提供商转而推出访问受限的专用模型。OpenAI 只向经过验证的防御者提供限制较少的 GPT-5.5-Cyber,Anthropic 对其最强模型也采取类似做法,通过 Claude Security 扫描器和合作伙伴安全产品运行 Claude Mythos 5。Mythos 5 和 OpenAI 最强模型 GPT-6 Astra 都未出现在 Orion-1 对比中,而对于 Opus 5.5,基准测试结果可能主要反映较旧的 Opus 4.8 给出的答案。

没有炒作的 AI 新闻——由人类精选

订阅 THE DECODER,享受无广告阅读、每周 AI 新闻通讯、我们每年六次的独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。

来源:The Decoder · the-decoder.com