arXiv cs.AI· Lihong He, Lucian Popa, Marina Danilevsky·· 12 小时前AI 评分31
ClariEdge:轻量微调 LoRA 让小型模型更好识别 RAG 模糊查询并生成澄清请求
A Small Model Asks Better: Fine-Tuning Query Clarification for Retrieval-Augmented Generation
AI 导读
研究提出 ClariEdge 数据集,约 3900 个样本,覆盖多轮对话中需澄清的模糊查询及无需澄清的负例。轻量微调 LoRA 在该任务上达到 96.6% 分类准确率,在分类与澄清生成质量上均优于多个更大模型的提示词基线。硬负例是区分真正模糊与看似模糊查询的关键,该 LoRA 在检索前和检索后场景均表现良好,可在 RAG 流程中两处用作答案生成前的检查。
正文 · AI 翻译
摘要:查询澄清对于面临用户查询歧义的检索增强生成(RAG)系统至关重要。我们考虑多轮有依据的对话场景,其中用户查询在先前对话的上下文中要么形式不当,要么存在歧义,或者更有趣的是,它可能形式良好,但当针对检索到的文档提出时,存在多种相关解释。任务是识别这两种情况,然后向用户生成适当的澄清请求。我们提出了 ClariEdge,这是一个包含约 3,900 个示例的新数据集,其中包括此类歧义查询以及不需要澄清的负例。我们还表明,一个轻量级微调的 LoRA 达到了 96.6% 的分类准确率,并在分类和澄清生成质量上均优于许多更大模型的提示基线。我们的研究表明,难负例是区分真正歧义的查询与可能看起来有歧义但实际并非如此的查询(即可以从上下文中解决)的关键要素。同一个 LoRA 在检索前和检索后场景中均取得高性能;因此,它可以在 RAG 流水线中的两个位置使用,作为答案生成之前的检查。ClariEdge 数据集可在 此 https URL 获取。
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2610.28686 [cs.AI] |
| (或 arXiv:2610.28686v1 [cs.AI] 为此版本) | |
| https://doi.org/10.48550/arXiv.2610.28686 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Lihong He [查看电子邮件]
[v1]
2026年10月19日星期一 22:33:41 UTC(12,180 KB)
来源:arXiv cs.AI · arxiv.org