跳到正文
arXiv cs.CL· Jannis Vamvas, Rico Sennrich·· 10 小时前AI 评分22

基于参考聚合的线性时间最小贝叶斯风险解码

Linear-time Minimum Bayes Risk Decoding with Reference Aggregation

AI 导读

该论文提出用与聚合参考表示计算的分数近似成对指标分数,将最小贝叶斯风险(MBR)解码的效用估计复杂度从 O(n²) 降至 O(n),同时实验上保留了 MBR 解码的大部分质量增益。该方法仍基于采样近似,但不再需要成对计算效用指标。源代码已公开,论文发表于 ACL 2024。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:最小贝叶斯风险(MBR)解码是一种文本生成技术,已被证明能够提升机器翻译质量,但代价高昂,即使采用基于采样的近似方法也是如此。除了需要大量采样序列外,它还需要对效用指标进行两两计算,复杂度为二次方。本文提出用针对聚合参考表示计算出的分数来近似两两指标分数。这将效用估计的复杂度从 $O(n^2)$ 变为 $O(n)$,同时在经验上保留了 MBR 解码的大部分质量收益。我们在 此 https URL 发布了源代码
评论: ACL 2024。v3:更精确的 ChrF 时间测量
主题: 计算与语言(cs.CL)
引用为: arXiv:2402.04251 [cs.CL]
  (或 arXiv:2402.04251v3 [cs.CL] 查看此版本)
  https://doi.org/10.48550/arXiv.2402.04251

arXiv 通过 DataCite 颁发的 DOI

提交历史

来自:Jannis Vamvas [查看邮箱]
[v1] 2024年2月6日星期二 18:59:30 UTC(47 KB)
[v2] 2024年6月3日星期一 09:33:14 UTC(49 KB)
[v3] 2026年11月10日星期二 08:05:20 UTC(45 KB)

来源:arXiv cs.CL · arxiv.org