跳到正文
arXiv cs.CL· Avinash Holenarasipur Nagendra, Anand Kaniyaar Sriranga Prasad, Kousik Sarathy Sridharan, Mohan Raghavan·· 10 小时前AI 评分22

Dhārā Bench:面向印度知识系统的证据导向检索基准

Dh\={a}r\={a} Bench: An Evidence-Oriented Retrieval Benchmark for Indian Knowledge Systems

AI 导读

Dhārā Bench 是面向印度知识系统(IKS)的检索基准,包含 12 个类别的 325 个问题,语料为 15 个来源组的 60,121 个文本块,标注含 7,578 条问题-文本块相关性链接。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:Dhārā Bench 是一个面向印度知识体系(IKS)的检索基准,包含 12 个类别下的 325 个问题,以及来自 15 个来源组的 60,121 个文本块。这些类别基于提交至 Dhārā 应用的 4,500 个问题开发而成;评估集将语料对齐的应用查询与专家贡献的问题相结合。标注包含 7,578 条问题-文本块相关性链接,涉及 6,847 个不同的语料文本块。对于 34 个复合及多跳问题,401 个共轭组指定了共同支持每个问题的备选段落集合。文本块标识符和层级引用将判断结果与其源文本相连接。论文描述了语料准备、标注和验证过程,并报告了使用 Pyserini 实现的固定 BM25 基线,参数为 $k_1=0.9$ 和 $b=0.4$。在所有问题上,BM25 的 MRR@20 为 0.315,Recall@10 为 0.182,nDCG@10 为 0.205。在组标注子集上,完整证据得分为 CE_Recall@20 = 0.294 和 CE_MRR@20 = 0.141。类别结果暴露出诗歌检索尤其薄弱,而组得分则揭示了找到单个段落与完成其支持之间的差距。语料和评估代码可在 此 https URL 获取。
评论: 18 页,6 幅图,9 张表。前两位作者贡献相同。代码和数据:此 https URL
主题: 信息检索(cs.IR);计算与语言(cs.CL)
引用为: arXiv:2611.03196 [cs.IR]
  (或 arXiv:2611.03196v1 [cs.IR] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.03196

arXiv 颁发的 DOI 通过 DataCite(待注册)

提交历史

来自:Avinash Holenarasipur Nagendra [查看电子邮件]
[v1] 2026 年 11 月 2 日星期一 14:23:39 UTC(104 KB)

来源:arXiv cs.CL · arxiv.org