跳到正文
arXiv cs.AI· Haq Nawaz Malik, Nahfid Nissar, Faizan Iqbal·· 3 天前AI 评分23

BharatSetu:面向印度语言翻译的 1M x 22 桥接数据集

bharatSetu: a 1M x 22 bridge for indic translation

AI 导读

BharatSetu 22-Indic 1M 发布,这是一个行对齐表格,包含 984,764 条英文句子及全部 22 种印度表列语言的机器翻译(共 21,664,808 个 Indic 单元),由 sarvamai/sarvam-translate 模型族生成。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:印度的第八附表承认 22 种语言,但各语言之间的平行数据分布不均,许多语言对,尤其是博多语、多格拉语、桑塔利语和克什米尔语等低资源语言之间的语言对,缺乏直接的双语文本。我们提出 BharatSetu 22-Indic 1M,这是一个行对齐的表格,包含 984,764 个英语句子,每个句子都配有机器翻译成全部 22 种附表语言(21,664,808 个印度语言单元格),由 sarvamai/sarvam-translate 模型系列生成。由于一行中的每个印度语言单元格都翻译同一个英语句子,任意两列都构成一个翻译对:462 个有向的印度语言到印度语言对,若包括英语则为 506 个,且无需直接双语文本。我们将这些称为枢轴派生对,并提出一个置信度层,让用户选择每一对连接的严格程度。该语料库由机器生成,未经人工验证;质量预计会因语言、领域和句子风格而异,枢轴派生对可能继承双方的错误。因此,我们将 BharatSetu 作为机器层发布,并提出一个与相同行标识符关联的人工校正层,以便每个校正后的列都能升级使用它的每一对,同时附带一个评估协议。我们未报告任何翻译质量结果。
主题: 计算与语言(cs.CL);人工智能(cs.AI)
引用为: arXiv:2610.15705 [cs.CL]
  (或 arXiv:2610.15705v1 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.15705

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Haq Nawaz Malik 先生 [查看电子邮件]
[v1] 2026 年 10 月 11 日星期日 15:39:19 UTC(28 KB)

来源:arXiv cs.AI · arxiv.org