arXiv cs.AI· Junbo Jacob Lian, Yujun Sun, Huiling Chen, Chaoyu Zhang, Hanzhang Qin, Chung-Piaw Teo·· 10 天前AI 评分24
ReLoop：面向可靠 LLM 优化的结构化建模与行为验证
ReLoop: Structured Modeling and Behavioral Verification for Reliable LLM-Based Optimization
AI 导读
针对 LLM 生成优化代码易出现"可求解但语义错误"的静默失败问题，ReLoop 提出结构化生成与行为验证双机制：前者将代码生产拆为理解、形式化、合成、验证四阶段推理链，后者通过求解器参数扰动检测残余错误。
正文 · AI 翻译
摘要：大型语言模型（LLM）可以将自然语言的问题描述转化为优化代码，但代码容易出现静默失败：它能够执行并返回求解器可行的解，却编码了语义上错误的公式。在组合问题上，由此产生的可行性与正确性差距高达 90 个百分点。我们提出 ReLoop，它结合了两种机制。结构化生成将代码生成分解为四阶段推理链（理解、形式化、综合、验证），以减少生成过程中的公式错误。行为验证通过测试公式是否对基于求解器的参数扰动做出正确响应来检测残留的错误，这一信号来自求解器而非 LLM 自我审查，且无需真实标签。这两种机制针对不同的错误结构：结构化生成在组合问题上收益最大（在 RetailOpt-190 上使用 Claude Opus 4.6 准确率提升 8.5 个百分点），行为验证在局部缺陷上收益最大（在 MAMO-ComplexLP 上提升 4.4 个百分点）。借助诊断性执行恢复，ReLoop 在 Claude Opus 4.6 上达到 100% 可执行代码，并且相对于直接生成，它在全部三个基准上提升或保持了三个聊天微调基础模型的每一项报告指标。对于我们所测试的窄域微调 SFT 模型，思维链提示与其学习到的输出格式相冲突，并降低了其在 MAMO-ComplexLP 上的准确率；我们记录并分析了这一交互。我们发布 RetailOpt-190，即 190 个组合型零售优化场景，其中多个约束相互作用。
| 评论： | 代码与基准：此 https URL |
| 主题： | 软件工程（cs.SE）；人工智能（cs.AI）；机器学习（cs.LG）；优化与控制（math.OC） |
| 引用为： | arXiv:2602.15983 [cs.SE] |
| （或 arXiv:2602.15983v5 [cs.SE] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2602.15983 arXiv 颁发的 DOI，经由 DataCite |
|
| 期刊 参考： | NeurIPS 2026 |
提交历史
来自：Junbo Jacob Lian [查看邮箱]
[v1]
2026 年 2 月 17 日星期二 20:20:33 UTC（192 KB）
[v2]
2026 年 4 月 29 日星期三 13:39:41 UTC（198 KB）
[v3]
2026 年 8 月 16 日星期日 14:07:55 UTC（202 KB）
[v4]
2026 年 9 月 26 日星期六 12:14:35 UTC（205 KB）
[v5]
2026 年 10 月 6 日星期二 03:07:54 UTC（205 KB）
来源：arXiv cs.AI · arxiv.org