arXiv cs.CL· Huifei Wang, Xinying Huang, Yiheng Sun, Yifan Yuan·· 2 天前AI 评分34
ReMCTS:面向代码生成的反思增强蒙特卡洛树搜索框架
ReMCTS: Reflection-Enhanced Monte Carlo Tree Search for Code Generation
AI 导读
ReMCTS 是一个执行驱动、带记忆增强的 LLM 引导 MCTS 式搜索框架,将程序候选组织为树状态并跨分支检索失败经验。在 HumanEval 和 MBPP-Sanitized 的留出评测中,可见测试版 ReMCTS 在 10 个模型-数据集组合中的 8 个优于直接生成,而仅用代理信号搜索稳定性较差。
正文 · AI 翻译
摘要:开放权重的大语言模型(LLM)能够根据自然语言提示生成函数级程序,但看似合理的候选程序仍会在隐藏语义上失败,并在多次修复尝试中重复犯错。我们提出 ReMCTS,一个基于执行、记忆增强、由 LLM 引导的 MCTS 式搜索框架。它将程序候选组织为树状态,保留分支局部的调试上下文,跨分支检索失败经验,并区分失败的检查与不可用的证据。在 HumanEval 和 MBPP-Sanitized 上,在留出评估下,可见测试 ReMCTS 在 10 个模型-数据集组合中的 8 个上优于直接生成,而仅使用代理的搜索则较不稳定。受控的树搜索、采样、修复和记忆消融实验刻画了这些收益的来源与局限。一个 30 任务的 HumanEval-X C++ 试点进一步展示了与编译器支持执行的兼容性,但不构成广泛的多语言评估。
| 评论: | 21 页,2 幅图。将发表于 EMNLP 2026 会议论文集 |
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2609.34717 [cs.CL] |
| (或 arXiv:2609.34717v2 [cs.CL] 为此版本) | |
| https://doi.org/10.48550/arXiv.2609.34717 arXiv 颁发的 DOI,经由 DataCite |
提交历史
来自:Huifei Wang [查看邮箱]
[v1]
2026 年 9 月 28 日星期一 09:24:20 UTC(640 KB)
[v2]
2026 年 10 月 27 日星期二 03:00:48 UTC(640 KB)
来源:arXiv cs.CL · arxiv.org