跳到正文
arXiv cs.CL· Huifei Wang, Xinying Huang, Yiheng Sun, Yifan Yuan·· 2 天前AI 评分34

ReMCTS:面向代码生成的反思增强蒙特卡洛树搜索框架

ReMCTS: Reflection-Enhanced Monte Carlo Tree Search for Code Generation

AI 导读

ReMCTS 是一个执行驱动、带记忆增强的 LLM 引导 MCTS 式搜索框架,将程序候选组织为树状态并跨分支检索失败经验。在 HumanEval 和 MBPP-Sanitized 的留出评测中,可见测试版 ReMCTS 在 10 个模型-数据集组合中的 8 个优于直接生成,而仅用代理信号搜索稳定性较差。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:开放权重的大语言模型(LLM)能够根据自然语言提示生成函数级程序,但看似合理的候选程序仍会在隐藏语义上失败,并在多次修复尝试中重复犯错。我们提出 ReMCTS,一个基于执行、记忆增强、由 LLM 引导的 MCTS 式搜索框架。它将程序候选组织为树状态,保留分支局部的调试上下文,跨分支检索失败经验,并区分失败的检查与不可用的证据。在 HumanEval 和 MBPP-Sanitized 上,在留出评估下,可见测试 ReMCTS 在 10 个模型-数据集组合中的 8 个上优于直接生成,而仅使用代理的搜索则较不稳定。受控的树搜索、采样、修复和记忆消融实验刻画了这些收益的来源与局限。一个 30 任务的 HumanEval-X C++ 试点进一步展示了与编译器支持执行的兼容性,但不构成广泛的多语言评估。
评论: 21 页,2 幅图。将发表于 EMNLP 2026 会议论文集
主题: 计算与语言(cs.CL)
引用为: arXiv:2609.34717 [cs.CL]
  (或 arXiv:2609.34717v2 [cs.CL] 为此版本)
  https://doi.org/10.48550/arXiv.2609.34717

arXiv 颁发的 DOI,经由 DataCite

提交历史

来自:Huifei Wang [查看邮箱]
[v1] 2026 年 9 月 28 日星期一 09:24:20 UTC(640 KB)
[v2] 2026 年 10 月 27 日星期二 03:00:48 UTC(640 KB)

来源:arXiv cs.CL · arxiv.org