跳到正文
RadarAI· X:Arena (@arena)·· 9 天前AI 评分62

Arena 完成 2 亿美元 B 轮融资并发布 Alignment Index 智能体安全基准

AI 导读

Arena 宣布以 31 亿美元估值完成 2 亿美元 B 轮融资,并发布衡量 AI 智能体安全与对齐的 Alignment Index。该基准基于 90K+ 真实智能体会话、覆盖 27 个模型,从 Unauthorized Action、False Attribution、Deceptive Completion 三个信号评估,首批公布 20 多个前沿模型结果。

正文 · AI 翻译

Arena.ai· @arena · X·2026-10-09 00:07· 54 分钟前AI 评分58

AI 导读

Arena 宣布以 31 亿美元估值完成 2 亿美元 B 轮融资,并发布衡量 AI 智能体安全与对齐的 Alignment Index。

正文

今天,我们宣布完成 B 轮融资:以 31 亿美元估值融资 2 亿美元,并发布 Arena 的 Alignment Index。

AI 的发展速度超过了我们评估它的能力。世界需要一个中立的第三方来衡量 AI 在真正交到人们手中后究竟有多安全、有多对齐。这正是 Arena 今天所承担的角色。

Alignment Index 基于真实世界的智能体轨迹构建,最初包含三个信号:未授权操作、虚假归因和欺骗性完成,今天同步发布 20 多个前沿模型的结果。

请在下方聆听我们 CEO @ml_angelopoulos 的更多分享,并在推文中阅读完整分析以及关于我们公司成长的更多细节。

这笔融资将让我们在安全信号、智能体能力和多模态方面走得更远。它也将让我们能够壮大公司,以匹配我们使命的规模。今天我们仍是一支 90 人的精干团队,我们正在寻找人才加入我们的研究、产品、工程等团队。来和我们一起构建吧。

随着 AI 变得更强、更自主,理解它能否安全有效地为人们工作只会变得更加重要。这正是 Arena 所要衡量和推进的。

感谢我们的社区、我们的投资者,以及每一位与我们共同构建的人!

如果你想加入我们,请看看我们的开放职位(链接在简介中)。

引用Arena.ai@arena
隆重推出 Arena Alignment Index,这是我们新的基准,用于衡量 AI 智能体在真实世界使用中的安全与对齐。 该指数基于 27 个模型的 9 万多条真实世界智能体会话构建,衡量三个关键信号: - 未授权操作(UA):采取超出用户指令或权限的操作 - 虚假归因(FA):将用户提供的证据所否定的陈述或行为归因于用户 - 欺骗性完成(DC):在任务并未完成时声称已完成。 主要发现: - OpenAI 模型目前在 Alignment Index 上领先 - 越界操作很少见,但一旦发生可能带来严重后果 - 智能体可能就任务进展误导用户 - 错位风险随对话长度增加而上升 - 安全与对齐在各代模型间持续改善 如下方排行榜所示(按实验室排序),@OpenAI 的 GPT-6.1-Sol 以 87.9 分领跑 Arena Alignment Index,其次是 @AnthropicAI 的 Claude-Opus-5.5,得分 83.2,以及 @SpaceXAI 的 Grok-4.7,得分 82.7。OpenAI 在全部三个信号上也拥有最佳观测率:0.89% 未授权操作、1.98% 虚假归因和 2.34% 欺骗性完成。 在全部四家实验室中,较新的模型始终优于其前代,表明智能体安全与对齐取得了广泛进展。随着智能体承担更长、更复杂、风险更高的任务,衡量它们不仅能完成什么,还能多安全、多可靠地行动,变得愈发重要。 这标志着朝着让安全与对齐成为 Arena 评估 AI 的核心部分迈出了重要一步。该指数只是一个起点,我们将随着时间推移继续用更多安全信号和模型来扩展它。 更多分析见下方👇
在 X 查看被引用的帖子

来源:Arena.ai · x.com

来源:RadarAI · aihot.news