arXiv cs.AI· Makoto Fukushima, Hua-Dong Xiong, Ehsan Moradi Pari·· 6 天前AI 评分29
人类与 AI 协作中的“约定鸿沟”：超越字面内容
The Convention Gap: Beyond Literal Content in Human-AI Cooperation
AI 导读
研究者提出“约定鸿沟”指标，用于诊断 AI 智能体与人类协作时的隐性沟通。在 Hanabi 卡牌游戏中，人-人公开对局的约定鸿沟为 +26.2 个百分点，人-AI 对局为 +16.4 个百分点，而 AI-AI 对局仅为 -0.6 个百分点。
正文 · AI 翻译
摘要：协作型 AI 智能体通常是在与其他 AI 对抗的条件下被评估的，然而人类合作被认为依赖于隐式约定：即超越字面信息去解读意义的共享规则。我们提出“约定差距”（convention gap）作为这种隐式沟通的诊断指标。在纸牌游戏 Hanabi 中，提示是关于自己手牌的唯一信息，约定差距即由提示的字面内容和可见牌精确预测的失败概率，减去所打出牌的实际观测失败率。我们证明，在公平洗牌且玩家仅使用所说和所见信息的条件下，当搭档的选择除字面内容外不传达任何其他信息时，总体差距（即经过多局游戏后差距趋近的值）为零。因此，非零的总体差距表明搭档的选择传达了更多信息；但它并不衡量传达了多少。在公开的人类对人类的游戏中，该差距为 +26.2 个百分点（pp）（在没有任何提示指向的牌的打法上为 +46 pp）；人类与 AI 搭档对局时为 +16.4 pp；而在我们模拟的基于规则的 AI 对 AI 游戏中为 -0.6 pp。在一项已发表的人类-AI 研究中，使用三个 AI 智能体时，人类所打出牌的字面失败概率在不同搭档间相近（38-41%），但人类失败率从 14.4% 到 34.4% 不等，差距从 +24.1 到 +6.2 pp 不等，且搭档之间的差异在参与者内部持续存在。在五个级别的 Off-Belief Learning 智能体中，其训练方式使得第一级仅按字面内容解读过往动作，而每一更高级别解读更多，差距从 +1.6 pp 单调上升至 +21.7 pp。这些结果表明，在评估面向人类搭档的智能体时，应报告与人类搭档对局时的约定差距，而不仅仅是 AI 对 AI 的表现。
| 主题： | 人工智能（cs.AI）；人机交互（cs.HC） |
| 引用为： | arXiv:2609.11489 [cs.AI] |
| （或 arXiv:2609.11489v4 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2609.11489 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Makoto Fukushima [查看邮箱]
[v1]
2026年9月10日星期四 12:57:03 UTC（1,220 KB）
[v2]
2026年9月11日星期五 05:18:58 UTC（1,220 KB）
[v3]
2026年9月24日星期四 01:23:10 UTC（1,220 KB）
[v4]
2026年10月9日星期五 08:02:20 UTC（1,325 KB）
来源：arXiv cs.AI · arxiv.org