arXiv cs.AI· Haq Nawaz Malik, Nahfid Nissar, Faizan Iqbal·· 3 天前AI 评分23
BharatSetu:面向印度语言翻译的 1M x 22 桥接数据集
bharatSetu: a 1M x 22 bridge for indic translation
AI 导读
BharatSetu 22-Indic 1M 发布,这是一个行对齐表格,包含 984,764 条英文句子及全部 22 种印度表列语言的机器翻译(共 21,664,808 个 Indic 单元),由 sarvamai/sarvam-translate 模型族生成。
正文 · AI 翻译
摘要:印度的第八附表承认 22 种语言,但各语言之间的平行数据分布不均,许多语言对,尤其是博多语、多格拉语、桑塔利语和克什米尔语等低资源语言之间的语言对,缺乏直接的双语文本。我们提出 BharatSetu 22-Indic 1M,这是一个行对齐的表格,包含 984,764 个英语句子,每个句子都配有机器翻译成全部 22 种附表语言(21,664,808 个印度语言单元格),由 sarvamai/sarvam-translate 模型系列生成。由于一行中的每个印度语言单元格都翻译同一个英语句子,任意两列都构成一个翻译对:462 个有向的印度语言到印度语言对,若包括英语则为 506 个,且无需直接双语文本。我们将这些称为枢轴派生对,并提出一个置信度层,让用户选择每一对连接的严格程度。该语料库由机器生成,未经人工验证;质量预计会因语言、领域和句子风格而异,枢轴派生对可能继承双方的错误。因此,我们将 BharatSetu 作为机器层发布,并提出一个与相同行标识符关联的人工校正层,以便每个校正后的列都能升级使用它的每一对,同时附带一个评估协议。我们未报告任何翻译质量结果。
| 主题: | 计算与语言(cs.CL);人工智能(cs.AI) |
| 引用为: | arXiv:2610.15705 [cs.CL] |
| (或 arXiv:2610.15705v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.15705 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Haq Nawaz Malik 先生 [查看电子邮件]
[v1]
2026 年 10 月 11 日星期日 15:39:19 UTC(28 KB)
来源:arXiv cs.AI · arxiv.org