arXiv cs.CL· Jannis Vamvas, Rico Sennrich·· 10 小时前AI 评分22
基于参考聚合的线性时间最小贝叶斯风险解码
Linear-time Minimum Bayes Risk Decoding with Reference Aggregation
AI 导读
该论文提出用与聚合参考表示计算的分数近似成对指标分数,将最小贝叶斯风险(MBR)解码的效用估计复杂度从 O(n²) 降至 O(n),同时实验上保留了 MBR 解码的大部分质量增益。该方法仍基于采样近似,但不再需要成对计算效用指标。源代码已公开,论文发表于 ACL 2024。
正文 · AI 翻译
摘要:最小贝叶斯风险(MBR)解码是一种文本生成技术,已被证明能够提升机器翻译质量,但代价高昂,即使采用基于采样的近似方法也是如此。除了需要大量采样序列外,它还需要对效用指标进行两两计算,复杂度为二次方。本文提出用针对聚合参考表示计算出的分数来近似两两指标分数。这将效用估计的复杂度从 $O(n^2)$ 变为 $O(n)$,同时在经验上保留了 MBR 解码的大部分质量收益。我们在 此 https URL 发布了源代码
| 评论: | ACL 2024。v3:更精确的 ChrF 时间测量 |
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2402.04251 [cs.CL] |
| (或 arXiv:2402.04251v3 [cs.CL] 查看此版本) | |
| https://doi.org/10.48550/arXiv.2402.04251 arXiv 通过 DataCite 颁发的 DOI |
提交历史
来自:Jannis Vamvas [查看邮箱]
[v1]
2024年2月6日星期二 18:59:30 UTC(47 KB)
[v2]
2024年6月3日星期一 09:33:14 UTC(49 KB)
[v3]
2026年11月10日星期二 08:05:20 UTC(45 KB)
来源:arXiv cs.CL · arxiv.org