arXiv cs.CL· Umair Mehmood Imam·· 11 小时前AI 评分42
Zuse：面向欧洲语言的多语言决策模型
Zuse: A Decision Model for European Languages
AI 导读
Zuse 是三个决策模型（4B、9B、27B），在冻结的开源基座模型上训练低秩适配器和指针头，覆盖 27 种欧洲语言。在 11 个未参与训练的欧洲数据源、9 类任务、27 种语言的开发集上，27B 模型达到 87.5% 准确率，合并期望校准误差 0.016。
正文 · AI 翻译
摘要：决策模型读取文档，并针对一组固定选项中的每一项返回一个概率，而不是生成文本。2026 年出现了若干此类模型，但尚无一个在英语之外发表结果。我们介绍 Zuse，三个决策模型（4B、9B 和 27B），它们在冻结的开源权重基座上训练低秩适配器和指针头，面向 27 种欧洲语言，并用它们研究这种设计在不同语言和任务上的表现。在一个广泛的欧洲套件上（11 个未参与训练的来源，涵盖 9 个任务组和 27 种语言，该开发集也用于指导模型选择），27B 模型达到 87.5% 的准确率，合并的期望校准误差为 0.016，按来源加权时为 0.035。对这些单种子结果的事后分析得出三项发现。第一，校准误差按任务而非语言呈现结构化分布：在 26 种语言的平行阅读和主题题项上，置信度差距的波动大致与采样噪声相当，而在不同来源之间则从 -0.07 到 +0.09 不等，知识类任务过度自信，可接受性判断在三个规模下均信心不足，因此单一拟合温度无法同时校正两者。第二，在 5% 错误预算下可自动化的决策占比，与经机会校正的技能（33 个来源与模型配对上的 Spearman 相关系数为 0.97）的关联比与原始准确率（0.91）的关联更紧密。第三，超出训练语言范围的覆盖能力由基座模型决定：在 210 种语言上，同一规模内更换训练运行最多使分数变化约 2 分，而基座模型文档列表之外的语言在每个规模下都落后 23 至 28 分。在英语公开套件上，Zuse 落后于 Jev 和 Kev，包括基于相同基座的 Kev 模型。我们还报告了构建多源训练数据时的两个陷阱：主题方案之间的标签词冲突，以及一种教会模型走捷径的注入式增强。Zuse 可在 此 https URL 试用。
| 评论： | 9 页，3 幅图，7 张表 |
| 主题： | 计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2611.06238 [cs.CL] |
| （或 arXiv:2611.06238v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.06238 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Umair Mehmood Imam [查看电子邮件]
[v1]
2026 年 11 月 4 日星期三 09:45:24 UTC（269 KB）
来源：arXiv cs.CL · arxiv.org