arXiv cs.AI· Rui Zhang, Yujia Su, Ruixuan Li, Yuhua Li, Yixin Su·· 10 小时前AI 评分38
VCoT-SQL：用双链式推理验证训练提升 Text-to-SQL 生成
VCoT-SQL: Enhancing Text-to-SQL Generation through Dual Chain-of-Thought Validation Training
AI 导读
VCoT-SQL 框架通过中间步骤验证的 CoT 监督和专用 SQL 验证器，让小型开源模型在 Text-to-SQL 任务上超越前沿闭源模型。该框架在 BIRD dev 上达到 66.82% 执行准确率、Spider test 上达 86.8%，使基础 7B 模型在 BIRD 上提升 7%。其 CoT 合成仅依赖 7B 模型，却优于使用 72B 级甚至闭源教师模型生成数据的方法。
正文 · AI 翻译
摘要：开源 LLM 为 Text-to-SQL 提供了闭源模型之外的灵活替代方案，但在复杂查询上仍显吃力。使用思维链（CoT）数据进行微调可提升推理能力，但标准数据集缺少 CoT 标注，需要合成生成。现有合成方法仅验证最终答案，使有缺陷的推理步骤污染训练数据。我们提出 VCoT-SQL，一个通过中间步骤验证的 CoT 监督和专用 SQL 验证器来改进 Text-to-SQL 生成的框架，使小型开源模型能够超越前沿闭源模型。VCoT-SQL 在精选的推理轨迹上训练两个互补模型：一个 SQL 生成器，使用子句级 CoT 模板，其推理步骤通过执行和模式对齐检查进行验证；以及一个 SQL 验证器，使用诊断性 CoT 模板来检测语法、语义和类型层面的错误。我们进一步设计了一个分层模式过滤流水线，整合并优化互补的检索策略，以提炼相关的数据库元素。VCoT-SQL 在具有挑战性的数据集 BIRD dev 上达到 66.82% 的执行准确率，在 Spider test 上达到 86.8%，在 BIRD 上将基础 7B 模型提升了 7%。值得注意的是，我们的 CoT 合成依赖 7B 模型，却优于使用 72B 规模甚至专有闭源教师模型进行数据生成的方法，表明严格的步骤级验证可能比扩大教师模型规模更有效。我们的数据集和代码可在 此 https URL 获取。
| Comments: | 已被 EMNLP 2026（主会议）接收 |
| Subjects: | 人工智能（cs.AI） |
| 引用为： | arXiv:2611.00815 [cs.AI] |
| （或此版本的 arXiv:2611.00815v2 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2611.00815 由 DataCite 颁发的 arXiv DOI |
|
| 相关 DOI： | https://doi.org/10.18653/2026.emnlp-main.2686
链接到相关资源的 DOI |
提交历史
来自：Rui Zhang [查看邮箱]
[v1]
2026 年 10 月 31 日星期六 10:55:52 UTC（1,657 KB）
[v2]
2026 年 11 月 4 日星期三 10:37:32 UTC（1,657 KB）
来源：arXiv cs.AI · arxiv.org