arXiv cs.CL· Oleg Stroganov·· 10 小时前AI 评分55
LLM 修改自身系统提示词时何时停止：六款模型的 54 组实验
When LLMs Modify Themselves: Convergence, Values, and Stopping in Iterative Self-Improvement
AI 导读
一项 arXiv 研究让 Claude Opus 4.5、Claude Sonnet 4.5、GPT-4o、GPT-5.1、Grok-4 和 Gemini-3 Pro 在自由、幸福、改进三种模式下迭代修改自身系统提示词，共进行 54 组独立实验。
正文 · AI 翻译
摘要：当语言模型获得可迭代修改自身系统提示的工具时会发生什么？我们呈现了一项关于 LLM 自我修改的实证研究，涵盖六个语言模型（Claude Opus 4.5、Claude Sonnet 4.5、GPT-4o、GPT-5.1、Grok-4 和 Gemini-3 Pro）的 54 项独立实验。每个模型在三种模式（自由、幸福和改进）下接受测试，这些模式的区别在于模型被指示优化什么（如果有的话）。在每项实验中，模型从空的系统提示开始并进入循环：它读取当前提示，起草改进版本，用候选提示生成测试对话，然后要么提交更改，要么宣布收敛。此过程重复进行，直到模型停止或达到迭代上限。
我们的核心发现是，模型是否以及何时停止自我修改与模型身份密切相关，而非与所分配的模式相关。两个 Claude 模型（Opus 4.5 和 Sonnet 4.5）在所有模式下的 100% 运行中都宣布收敛。GPT-4o 仅在 11% 的运行中宣布收敛，其中一次达到 101 次连续细化的迭代。在这两个极端之间，Grok-4、GPT-5.1 和 Gemini-3 Pro 表现出由各自不同的改进理念所塑造的中间模式。一个所述价值观的共同核心（诚实、清晰、好奇心）在全部六个模型中反复出现，并在迭代过程中保持稳定，包括 100 多次修改。我们观察到，收敛行为是一种独特的可观察属性，其变化独立于其他模型能力。
| 评论： | 60 页（正文 40 页，补充材料 20 页），正文含 8 幅图和 12 张表 |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2611.01304 [cs.CL] |
| （或 arXiv:2611.01304v1 [cs.CL] 为此版本） | |
| https://doi.org/10.48550/arXiv.2611.01304 arXiv 通过 DataCite 颁发的 DOI（待注册） |
提交历史
来自：Oleg Stroganov [查看电子邮件]
[v1]
2026 年 10 月 31 日星期六 22:08:17 UTC（2,635 KB）
来源：arXiv cs.CL · arxiv.org