arXiv cs.CL· Maitreya Prafulla Chitale, Ketaki Mangesh Shetye, Yash More, Harshit Gupta, Manav Chaudhary, Manish Shrivastava, Vasudeva Varma·· 2 天前AI 评分20
单一参考还是多个参考？重新思考中等熵文本生成的多参考训练
One Reference or Many? Rethinking Multi-Reference Training for Intermediate-Entropy Text Generation
AI 导读
针对同行评审生成和图像描述等存在多个有效输出的中等熵文本生成任务，研究者提出目标端整合方法，将同一输入的所有参考合并为保留全部独立信息单元的单一目标，并构建了包含36,537篇论文和31,014张图像的MERC-67K数据集。
正文 · AI 翻译
摘要：自然语言生成（NLG）涵盖从高度受限的任务（如机器翻译）到开放式任务（如对话生成）。介于两者之间的是同行评审生成和图像描述，其中单个输入可对应多个有效且相互重叠的输出。我们用冯·诺依曼熵来衡量这一中间区域（$\hat{H}\approx0.6$，而翻译为 0.15，对话为 0.92）。单参考训练丢弃了有效视角，而多参考训练引入了高方差、未对齐的目标。为解决这一问题，我们提出目标侧整合，即将一个输入的所有参考合并为单个目标，同时保留每个不同的信息单元。为此，我们引入 MERC-67K，将 36,537 篇论文和 31,014 张图像与其原始及整合后的参考配对。在人工评估中，使用整合评审训练的模型在覆盖度上的平均排名为 1.70（满分 4），而基线为 2.51-2.98，并在 63.5-74.0% 的成对比较中获胜。使用整合描述训练的模型在整体描述质量（准确性和自然度）上的平均排名为 1.87，而基线为 2.64-2.82，并获得了最高的无参考 LongCLIPScore（0.839，最佳基线为 0.816）。对于评审，多参考训练通常表现不如零样本推理，且整合相对于多参考训练的增益在 Llama3.1、Mistralv0.3 和 Qwen2.5 上均成立。整合在优化过程中使用的单个参考数量约少 $\sim$4$\times$（评审）和 5$\times$（描述）。数据集和代码将在录用后发布。
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2609.22805 [cs.CL] |
| （或 arXiv:2609.22805v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2609.22805 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Maitreya Chitale [查看电子邮件]
[v1]
2026年9月19日星期六 06:13:28 UTC（1,138 KB）
[v2]
2026年10月15日星期四 08:41:02 UTC（631 KB）
来源：arXiv cs.CL · arxiv.org