arXiv cs.CL· Tohir Saidzoda, Nekruz Maxudov, Bedil Karimov, Abubakr Abdullozoda, Amin Jalilov, Jonibek Kishvarov, Rahmonali Sharipov, Mariyamkhon Shodyeva·· 10 小时前AI 评分31
Saidzoda-Tajik-LFM-2.6B：将 2.6B 混合模型适配塔吉克语工具调用，以及持续预训练会带走什么
Saidzoda-Tajik-LFM-2.6B: Adapting a 2.6B Hybrid Model to Tajik Tool Calling, and What Continued Pretraining Takes Away
AI 导读
研究者发布 Saidzoda-Tajik-LFM-2.6B，将 2.6B 参数的混合模型 LFM2.5-2.6B-Base 适配塔吉克语工具调用：先对 1,485,319 篇塔吉克语网页文档做 3 个 epoch 的 LoRA 持续预训练，再做 1 个 epoch SFT。
正文 · AI 翻译
摘要：我们发布 Saidzoda-Tajik-LFM-2.6B，这是 2.6B 参数混合模型 LFM2.5-2.6B-Base 的塔吉克语适配版本，专为在普通硬件上用塔吉克语进行工具调用而构建。该方案分为两个阶段：先在 1,485,319 份清洗后的塔吉克语网络文档上进行 3 个 epoch 的 LoRA 持续预训练（CPT），然后在机器翻译的塔吉克语工具调用、保留作为回放的英语工具调用以及塔吉克语指令的混合数据上进行 1 个 epoch 的监督微调（SFT）。在由 BFCL v3 构建并机器翻译为塔吉克语的 174 项工具调用测试集上，塔吉克语提示的严格完整调用准确率从基座模型的 20.69 提升至 64.14（配对差异 +43.45 个百分点，95% 区间 +35.2 至 +51.7）；一个同时接受基座模型自身调用格式的宽松解析器将基座模型置于 31.72。英语未检测到变化（76.55 和 77.24）。每个 CPT 检查点得分均为零：CPT 移除了原生工具调用格式，并且如宽松重新评分所示，也移除了部分技能本身。在工具调用之外，塔吉克语知识基准的准确率从 28.0 升至 35.0，Belebele 塔吉克语未显示显著变化，英语 MMLU 从 60.8 降至 52.5。该模型不是通用的塔吉克语助手。当没有合适的工具时，它几乎从不拒绝（塔吉克语正确率为 6.9%，而基座模型在宽松解析器下为 31.0%），它在多轮调用方面较弱，其调用在执行前应进行检查。我们详细描述了数据、训练设置和每一项评估，以便复现。
| 评论： | 12 页，9 张表，3 幅图。技术报告。模型：此 https URL |
| 主题： | 计算与语言（cs.CL） |
| ACM 分类： | I.2.7 |
| 引用为： | arXiv:2610.41576 [cs.CL] |
| （或 arXiv:2610.41576v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.41576 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Tohir Saidzoda Mr [查看电子邮件]
[v1]
2026 年 10 月 30 日星期五 11:06:30 UTC（134 KB）
来源：arXiv cs.CL · arxiv.org