arXiv cs.AI· Sujato Dutta, Padala Indira Sneha, Kypu Mahitha, Shashank Vanga, Neeraj Choudhary·· 10 小时前AI 评分31
Third Eye：递归自我改进不能只看即时收益
Third Eye: Beyond Immediate Gains in Recursive Self-Improvement
AI 导读
Third Eye 框架将模型自我更新的即时表现与再次原生更新后的结果分开评估，在 Qwen3-4B/Llama-3.2-3B 平衡对比中，即时筛选带来的效用接近零，但继续更新使其再降 1.78 个百分点（95% 区间 [0.68, 2.88]）。
正文 · AI 翻译
摘要：一次有用的自我更新，在模型再次更新之后是否仍然有用？Third Eye 将即时性能与进一步原生更新的结果区分开来。我们在数学和代码任务上评估了五个 3-8B 骨干模型：64 次全新运行，每次运行三个候选，每个候选三次延续。选择与最终评分使用互不重叠的条目。在均衡的 Qwen3-4B/Llama-3.2-3B 对比中，即时选定的效用接近于零，但延续使其降低了 1.78 个百分点（同时 95% 区间 [0.68, 2.88]）。候选平均的即时效用已经为负：选择部分解释了看似中性的第一步。延续同样降低了 SmolLM3-3B 和 Llama-3.1-8B 的效用；Qwen3-8B 仍无定论。目标损失和分布外损失主导了保留率的变化。匹配配方与接收方-提供方对照既未识别出可靠的缓解措施，也未识别出单一机制。这些结果支持将持久性自我更新作为适应转变来评估，采用独立评分和无更新基线，而不是将即时性能解释为其全部价值。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2611.12988 [cs.LG] |
| （或本版本使用 arXiv:2611.12988v1 [cs.LG]） | |
| https://doi.org/10.48550/arXiv.2611.12988 由 DataCite 颁发 arXiv DOI |
提交历史
来自：Sujato Dutta [查看邮箱]
[v1]
2026年11月8日星期日 10:14:16 UTC（159 KB）
来源：arXiv cs.AI · arxiv.org