AI 审查自己的代码：代码 LLM 中的递归自训练崩溃

查看 PDF HTML（实验性）

摘要：当生成的代码数据在没有新的人类数据或外部质量控制的情况下被重复使用时，递归自训练可能会使神经生成模型退化。我们在代码 LLM 中研究这一风险，因为 AI 生成的代码可能进入真实代码仓库，随后成为训练数据，从而形成仓库规模的自训练循环。虽然软件开发传统上通过拉取请求审查、测试、编译和人工批准来打断这一循环，但 AI 编码工具现在生成代码的速度已超过人类审查的速度，而代码审查本身也日益由 AI 系统自动化。因此，我们比较了三种递归微调机制：无审查、使用与模型无关的过滤器（如编译和静态质量检查）的人类风格外生门控审查，以及使用代码 LLM 自身信号（如困惑度和二元自评分）的 AI 自门控审查。在多个代码 LLM 和基准测试中，所有测试的递归机制都低于其自身起点；外生过滤器保持了可执行有效性，有时还能减缓下降，而 AI 自门控过滤器可能早期表现强劲，但随后失去过滤效果。在最明显的案例中，二元自门控进入了一种橡皮图章机制，接受分数上升而基准正确率下降。我们通过将审查形式化为门控分布重加权来解释这一行为，证明在自我确认的接受条件下，AI 自门控退化为无门控自训练，并对递归再训练下的表示级协方差集中进行了谱分析。这些结果表明，稳定的递归代码 LLM 训练需要外生验证，而非与模型耦合的自审查。

提交历史

来自：Zekun Cai [查看电子邮件]
[v1] 2026年6月26日星期五 07:35:43 UTC（1,298 KB）
[v2] 2026年10月12日星期一 05:08:08 UTC（1,874 KB）