arXiv cs.CL· Jorge Ram\'on Fonseca Cacho·· 10 小时前AI 评分27
EditVeto:面向 LLM 后 OCR 纠错的改写器无关编辑门控
Rewrite, Then Veto: Rewriter-Agnostic Edit Gating for LLM-Based Post-OCR Correction
AI 导读
研究者提出 EditVeto,在 LLM 全文改写后加一道 0.6B 参数的门控,按字符对齐把改写差异切块并逐块决定保留或回退。在 HIPE-OCRepair-2026 八个测试集上,该门控对五个改写器均有提升,其中两个未参与训练,加权 cMER 下降 0.0026-0.0044,偏好分数上升 0.15-0.25。
正文 · AI 翻译
摘要:LLM 可以修复历史文档中带噪声的 OCR 转录文本,但它们也会改动原本正确的文本。我们提出 EditVeto,一个置于全上下文 LLM 重写之后的否决门。重写结果与 OCR 输入按字符对齐,其差异被切分为块,一个 0.6B 参数的门控决定保留或回退每个块。一项 oracle 分析为该设计提供了依据:在已知真实错误位置的情况下,逐片段生成比不校正更差,而对完整重写的编辑进行否决则有所帮助。该门控在两个 Qwen3 模型的重写结果上训练,并在八个 HIPE-OCRepair-2026 测试集上以冻结方式评估,它改善了所测试的全部五个重写器,其中两个在训练中未见:加权 cMER 下降 0.0026-0.0044,偏好分数上升 0.15-0.25(配对 bootstrap,每项 p ~ 0.0002)。在已公布的竞赛输出上,它降低了四支队伍中三支的 cMER,但使获胜方案的 cMER 升高(0.0050 至 0.0065)。在第二次已披露的测试查看中,重新训练的门控仍能改善经 LoRA 调优的重写器(cMER -0.0011 至 -0.0021),而对其门控编辑进行集成可达到 0.0069 的 cMER 和 0.928 的偏好分数,这主要归功于微调和池化而非门控。仅基于公开模型和数据构建,它落后于获胜方案(0.0050),与排名第二的方案(0.0071)持平,二者均来自唯一使用领域预训练的团队,并领先于所有其他已公布的方案。第三次次要查看显示,未改动的门控改善了零样本 Qwen3.8-27B(cMER 0.0114 至 0.0108),但仅改善了其 LoRA 调优版本的偏好分数。
| 评论: | 26 页,3 幅图,12 张表。代码:此 https URL 模型:此 https URL |
| 主题: | 计算与语言(cs.CL);计算机视觉与模式识别(cs.CV) |
| 引用为: | arXiv:2611.05539 [cs.CL] |
| (或 arXiv:2611.05539v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.05539 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Jorge Fonseca Cacho [查看邮箱]
[v1]
2026 年 11 月 3 日星期二 19:31:36 UTC(277 KB)
来源:arXiv cs.CL · arxiv.org