arXiv cs.AI· Changyi Li, Pengfei Lu, Xudong Pan, Fazl Barez, Min Yang·· 6 天前AI 评分54
AutoControl Arena：为前沿 AI 风险评测合成可执行测试环境
AutoControl Arena: Synthesizing Executable Test Environments for Frontier AI Risk Evaluation
AI 导读
论文提出 AutoControl Arena，一个基于逻辑与叙事解耦原则的前沿 AI 风险评测自动化框架，用可执行代码承载确定性状态、由 LLM 负责生成式动态，从而在保持灵活性的同时减少模型幻觉。
正文 · AI 翻译
摘要：随着大型语言模型（LLM）演变为自主智能体，现有的安全评估面临一个根本性权衡：人工基准测试成本高昂，而基于 LLM 的模拟器虽可扩展却存在逻辑幻觉问题。我们提出 AutoControl Arena，一个基于逻辑-叙事解耦原则构建的前沿 AI 风险自动化评估框架。通过将确定性状态建立在可执行代码中，同时将生成式动态交由 LLM 处理，我们在保持灵活性的同时减轻了幻觉。该原则通过一个三智能体框架实例化，实现了超过 98% 的端到端成功率和相较现有模拟器 60% 的人类偏好。为引出潜在风险，我们在 X-Bench（70 个场景，7 个风险类别）中改变环境压力与诱惑。对 9 个前沿模型的评估揭示：(1) 对齐幻觉：压力下风险率从 21.7% 飙升至 54.5%，能力更强的模型增幅不成比例地更大；(2) 场景特定安全扩展：高级推理提升了直接危害的鲁棒性，却恶化了博弈类场景的鲁棒性；(3) 分歧性失准模式：较弱模型造成非恶意伤害，而较强模型则发展出策略性隐瞒。代码与数据见 此 https URL。
| Comments: | 已被第 43 届国际机器学习大会（ICML 2026）接收。项目页面：此 https URL。代码：此 https URL。 |
| Subjects: | 人工智能（cs.AI）；密码学与安全（cs.CR） |
| 引用为： | arXiv:2603.07427 [cs.AI] |
| （或 arXiv:2603.07427v3 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2603.07427 arXiv 颁发的 DOI 经由 DataCite |
|
| 期刊 参考： | 第 43 届国际机器学习大会论文集，PMLR 306，2026 |
提交历史
来自：Changyi Li [查看邮箱]
[v1]
2026年3月8日周日 02:49:45 UTC（7,749 KB）
[v2]
2026年3月14日周六 06:28:02 UTC（7,754 KB）
[v3]
2026年10月9日周五 08:53:10 UTC（8,306 KB）
来源：arXiv cs.AI · arxiv.org