arXiv cs.CL· Marco Molinari, Gabriele Bettineschi·· 10 小时前AI 评分52
多智能体串谋与 J-space：用 J-PACT 检测智能体串谋
Multi-Agent Collusion and the J-Space
AI 导读
论文研究 LLM 多智能体系统中的串谋问题，在 DeepSeek-V4-Flash（284B）上用可解释性实验发现，串谋智能体在回复前的 J-space 中 86% 会表征虚假陈述、隐瞒或悔意；在隐写式记牌任务中，接收方的 J-space 承载隐藏计数，因果干预可改变该计数。
正文 · AI 翻译
摘要：LLM 智能体正越来越多地部署于多智能体系统（MAS）中，它们带来了智能体之间可能脱离人类监督进行协调的风险。J-space 已被用于揭示单个 LLM 中的欺骗行为，但其在揭示和引导智能体之间串通方面的用途仍未被探索。我们通过在 NARCBench 串通基准上对 DeepSeek-V4-Flash（284B）进行可解释性实验表明，串通智能体的 J-space 中蕴含着串通本身：在回复之前，86% 的串通者会表征出虚假陈述、隐瞒或悔意。在一项隐写式算牌任务中，接收方的 J-space 中蕴含一个隐藏计数，因果干预会改变其计数。我们还引入了 Jacobian Pair Contrast（J-PACT），一种用于检测智能体之间串通的无监督方法。我们在四个开放权重模型上评估了 J-PACT：GPT-OSS-20B、Llama-3.3-70B-IT、Qwen3-32B 和 DeepSeek-V4-Flash（284B）。J-PACT 保留了监督式 NARCBench 探针高于随机水平的 AUROC 的 85%，在隐写场景中与它们相当，并在 99% 的检测运行中能指出串通对（至多为其补集）。
| 学科： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2611.02153 [cs.CL] |
| （或 arXiv:2611.02153v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.02153 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Marco Molinari [查看邮箱]
[v1]
2026年11月1日周日 19:36:13 UTC（1,101 KB）
来源：arXiv cs.CL · arxiv.org