arXiv cs.CL· Tsz-To Wong, Shyang-En Weng·· 12 小时前AI 评分30
面向浏览器扩展的 CPU 端字幕翻译：Sotto-0.6B 与 Sotto-1.7B 的部署驱动训练与延迟设计
Context-Aware Subtitle Translation on CPU: Deployment-Driven Training, Evaluation, and Latency Design
AI 导读
基于 LMT-60 训练的 Sotto-1.7B 和已部署的 Sotto-0.6B 用于英译繁中（台湾）字幕，在 1,820 条留出字幕上对 Google Translate 胜率 0.576，并正面击败四个开源翻译模型，略低于一个 27B 模型。
正文 · AI 翻译
摘要：我们研究面向一款免费浏览器扩展的英译繁体中文（台湾）字幕翻译，模型必须在观看者的 CPU 上运行，每条字幕约 500 毫秒。我们基于 LMT-60 基础模型训练了两个模型：Sotto-1.7B 和已部署的 Sotto-0.6B，采用了任务专用词表、继续预训练、监督微调、权重插值、logit 蒸馏和同策略偏好优化。由于字幕的参考译文不可靠，我们通过与一个固定基线 Google Translate 进行成对比较来评估，每一对由两名 LLM 评审组成的评审组以两种顺序分别评判。在 1,820 条留出字幕上，Sotto-1.7B 对基线的胜率为 0.576，并在与四个开放翻译模型的直接对比中获胜，略低于一个 27B 模型。我们将延迟拆分为预填充和解码：空闲时间预填充在等待下一条字幕时预填充提示中已知的部分，在 CPU 上将平均端到端延迟降低 31%，而任务专用词表用少 28% 的 token 编码相同的中文文本。在延迟测试中，已部署模型对每条字幕都保持在 500 毫秒以内。代码可在 此 https URL 获取。
| 学科： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2607.09957 [cs.CL] |
| （或 arXiv:2607.09957v3 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2607.09957 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Tsz-To Wong [查看邮箱]
[v1]
2026年7月10日星期五 20:22:13 UTC（12 KB）
[v2]
2026年7月16日星期四 17:45:45 UTC（1,004 KB）
[v3]
2026年10月22日星期四 13:39:31 UTC（1,184 KB）
来源：arXiv cs.CL · arxiv.org