arXiv cs.AI· Pepijn Cobben, Xuanqiang Angelo Huang, Thao Amelia Pham, Isabel Dahlgren, Bernhard Sch\"olkopf, Terry Jingchen Zhang, Zhijing Jin·· 1 天前AI 评分44
GT-HarmBench：用博弈论视角评测 AI 安全风险
GT-HarmBench: Benchmarking AI Safety Risks Through the Lens of Game Theory
AI 导读
研究者推出 GT-HarmBench，包含 1,535 个源自 MIT AI Risk Repository 的高风险场景，覆盖囚徒困境、猎鹿博弈和胆小鬼博弈等博弈论结构。在 15 个前沿模型上，智能体在 39% 的高风险案例中未能选择对社会有益的行动，涉及军事升级、选举操纵和医疗过失等情境。博弈论干预可将社会有益结果提升最多 31%。
正文 · AI 翻译
摘要：前沿 AI 系统的能力日益增强，并被部署于高风险的多智能体环境中。然而，现有 AI 安全基准大多评估单个智能体，导致协调失败与冲突等多智能体风险鲜为人知。我们推出 GT-HarmBench，这是一个包含 1,535 个高风险场景的基准，涵盖囚徒困境、猎鹿博弈和斗鸡博弈等博弈论结构。场景取自 MIT AI Risk Repository 中贴近现实的 AI 风险情境。在 15 个前沿模型中，智能体在 39% 的高风险案例中未能选择对社会有益的行动，例如军事升级、选举操纵和医疗事故。我们测量了智能体对博弈论提示框架和顺序的敏感性，并分析了导致失败的推理模式。我们进一步表明，博弈论干预可将对社会有益的结果提升多达 31%。我们的结果凸显了显著的可靠性差距，并为研究多智能体环境中的对齐问题提供了一个广泛的标准化测试平台。基准和代码可在 此 https URL 获取。
| 评论： | 已被 NeurIPS 2026 主会议接收 |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；计算机与社会（cs.CY）；计算机科学与博弈论（cs.GT）；多智能体系统（cs.MA） |
| 引用为： | arXiv:2602.12316 [cs.AI] |
| （或 arXiv:2602.12316v4 [cs.AI] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2602.12316 arXiv 颁发的 DOI（通过 DataCite） |
提交历史
来自：Xuanqiang Angelo Huang [查看邮箱]
[v1]
2026 年 2 月 12 日星期四 17:29:52 UTC（4,343 KB）
[v2]
2026 年 5 月 22 日星期五 00:32:35 UTC（4,564 KB）
[v3]
2026 年 9 月 25 日星期五 14:05:39 UTC（4,564 KB）
[v4]
2026 年 11 月 11 日星期三 14:48:53 UTC（4,917 KB）
来源：arXiv cs.AI · arxiv.org