Jais 3 发布:面向阿拉伯语的智能体模型系列,参数覆盖 0.9B 至 375B
Jais 3: Introducing Arabic-centric Agentic AI
研究团队发布 Jais 3,一组六个开放的阿拉伯语智能体语言模型,参数从 0.9B 到 375B,可规划多步任务、调用工具与 MCP 服务器、操作终端、搜索网页并读写 PDF、表格和演示文件,全程用阿拉伯语与用户交流。
作者:Team IFM、Haonan Li、Hadi Abdine、Nikhil Ranjan、Mohamed Anwar、Ahmad Chamma、Amr Mohamed、Ahmed Frikha、Dani Bouch、Maaz Maqsood、George Ibrahim、Mostafa Awad、Nurkhan Laiyk、Hasan Iqbal、Abhishek Maiti、Bilal Bouardi、Shivam Chauhan、Ahmer Tabassum、Owais Aijaz、Omar Arbi、Neha Sengupta、Aaryamonvikram Singh、Abdelhakim Freihat、Sarath Chandran、Rahul Pal、Mohammed Bellam、Sajid Siddiki、Sarah AlBarri、Debopriyo Banerjee、Ali El Filali、Samta Kamboj、Rifo Genadi、Ahmed Attia、Go Inoue、Shuonan Dong、Amine Khelif Khelif、Evan Dufraisse、Florian Valade、Tapas Sen、Guowei He、Sunil Sahu、Onkar Pandit、Kareem Magdy、Sheikh Khalid bin Khalifa Al Nahyan、Samujjwal Ghosh、Zainul Abedien Ahmed Quraishi、Larry Murray、Avraham Sheinin、Natalia Vassilieva、Preslav Nakov、Guokan Shang、Xuguang Hector Ren、Zhengzhong Liu、Eric Xing
摘要:我们提出 Jais 3,一组六个开放的、以阿拉伯语为中心的智能体语言模型,参数规模从 0.9B 到 375B。Jais 3 旨在为阿拉伯语使用者完成任务,而不仅仅是用纯文本回答问题:它经过训练,能够规划多步骤任务、调用工具和模型上下文协议(MCP)服务器、操作终端、搜索网络,以及读取、编辑和生成 PDF、电子表格和演示文件,同时用阿拉伯语与用户交流。我们不是从头开始预训练,而是通过持续预训练将完全开放的 K2 Horizon 系列的每个模型适配到阿拉伯语,随后进行监督微调(SFT)、最终 token 偏好优化(FTPO)以及带可验证奖励的强化学习(RLVR)。我们将自然阿拉伯语文本与翻译、音译和合成的阿拉伯语相结合,并重放基础模型自身的训练数据,以保持其推理、智能体和英语能力。Jais 3 涵盖现代标准阿拉伯语和主要地区方言,遵循带有阿拉伯语特定约束的指令,并继承 K2 Horizon 的 512K token 上下文窗口(0.9B 以外的所有模型)。据我们所知,其 375B 模型是迄今为止最大的开放、以阿拉伯语为中心的语言模型。在评估方面,我们重新审视了阿拉伯语模型的评估方式,转向在经审计的阿拉伯语基准上进行完全生成式评估。在各个模型规模上,Jais 3 在阿拉伯语和智能体基准上达到或超过同等规模的开放权重模型,尤其在智能体能力和阿拉伯语指令遵循方面表现突出,且幻觉远少得多。我们发布了全部六个模型每个训练阶段的权重和检查点,以及训练数据样本、数据配方和训练配置、训练日志、经审计的基准和评估代码。
| 评论: | 113 页 |
| 主题: | 计算与语言(cs.CL);人工智能(cs.AI) |
| 引用为: | arXiv:2611.10224 [cs.CL] |
| (或 arXiv:2611.10224v2 [cs.CL] 为此版本) | |
| https://doi.org/10.48550/arXiv.2611.10224 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Haonan Li [查看电子邮件]
[v1]
2026 年 11 月 6 日星期五 21:11:05 UTC(1,038 KB)
[v2]
2026 年 11 月 12 日星期四 10:15:44 UTC(1,038 KB)
来源:arXiv cs.AI · arxiv.org