arXiv·· 12 天前AI 评分27
让 COMET 跨文字系统可比:Indic MT 评测中 tokeniser 引发的文字系统偏差的诊断与校正
Making COMET Comparable Across Scripts: Diagnosis and Correction of Tokeniser-Induced Script Bias in Indic MT Evaluation
AI 导读
研究在 IndicMT Eval 上测试 COMET 的"文字系统不变性",将目标译文改写为拉丁字母后,文字系统身份可解释原生文字 COMET 分数 22.9% 的方差,且五种语言中与标注者的一致性全部下降。作者将这一偏差追溯到 tokeniser,并给出校正方法。
来源:arXiv · arxiv.org