arXiv cs.MA· Weiyi Kong, Shiyang Lai, Jinghua Piao, James Evans·· 2 天前AI 评分58
多 LLM 系统在 200 至 1000 轮交互中出现稳健的语义坍缩
Multi-LLM Systems Exhibit Robust Semantic Collapse
AI 导读
arXiv 论文《Multi-LLM Systems Exhibit Robust Semantic Collapse》指出，多 LLM 交互系统会出现语义坍缩，即在词汇表面存在差异的情况下语义表示系统性收敛，且无需重新训练或更新权重。
正文 · AI 翻译
摘要：机器能否产生新颖内容，这一问题已被争论了近两个世纪，从 Lovelace 断言任何引擎都无法“产生任何东西”，到 Turing 关于机器能否放大来自外部的想法的问题。交互式多 LLM 系统越来越多地被部署用于自主生成，从经验上重新开启了这一问题。在此我们表明，此类系统表现出语义坍缩，即在表面词汇变化的情况下语义表征出现系统性趋同，且无需重新训练或更新权重。这一模式在多个模型系列中以及 200 到 1,000 轮中均成立。测试了十三种干预实现，涵盖解码参数、提示设计、智能体组成、激活工程和强化学习，均未能可靠地恢复语义多样性。机制分析表明，语义坍缩不能仅归因于此处考察的对齐或从众偏差，而是与自回归生成的内在属性相一致。我们的结果指向多 LLM 系统在闭环环境中维持开放式探索能力方面所面临的持续约束。
| 评论： | 94 页，12 幅图，13 张表；包含补充信息 |
| 学科： | 多智能体系统 (cs.MA) |
| 引用为： | arXiv:2605.17193 [cs.MA] |
| （或 arXiv:2605.17193v3 [cs.MA] 对应此版本） | |
| https://doi.org/10.48550/arXiv.2605.17193 arXiv 颁发的 DOI 经由 DataCite |
提交历史
来自：Weiyi Kong [查看电子邮件]
[v1]
2026 年 5 月 16 日星期六 23:29:42 UTC (3,981 KB)
[v2]
2026 年 9 月 1 日星期二 21:32:26 UTC (8,478 KB)
[v3]
2026 年 10 月 14 日星期三 17:23:31 UTC (8,734 KB)
来源：arXiv cs.MA · arxiv.org