arXiv cs.CL· Francesco Tosoni·· 11 小时前AI 评分32
MediaWiki Code2Code Search:面向开源软件实体语义发现的神经检索系统
MediaWiki Code2Code Search: Neural Retrieval for the Semantic Discovery of Open-Source Software Entities
AI 导读
MediaWiki Code2Code Search 神经检索系统索引了 2,500+ MediaWiki 仓库中的 129 万个结构实体,实现基于计算意图而非表层 token 的代码检索。
正文 · AI 翻译
摘要:大规模生态系统中的代码搜索常常受到用户查询与实现细节之间词汇鸿沟的阻碍,同时还面临传统信息检索(IR)的低延迟与深度学习(DL)的精确性之间的权衡。我们提出 MediaWiki Code2Code Search,一个用于语义代码到代码发现的神经检索系统。通过对 2,500 多个 MediaWiki 仓库中的 129 万个结构实体(函数、类型和模板)建立索引,我们的系统能够基于计算意图而非表面词元进行检索。我们采用分离式构建架构,将 GPU 密集型的离线索引与仅使用 CPU 的服务层解耦;我们的 FAISS IVF-PQ 索引占用 168.6 MiB:与 flat float32 基线相比减少了 96.6\%,并在商用硬件上实现 1.85 秒的中位查询延迟,满足 Wikimedia Toolforge 的 6 GiB RAM 限制。在由三模型 LLM 评审团评分的盲评中(评审间 Krippendorff's $\alpha = 0.74$),我们的系统在 27 个查询的基准上相比 BM25 基线提升了排序质量,将评审团平均 nDCG@10 从 0.63 提升至 0.81,在所有评审中均取得正向且一致的增益。增益在名称混淆和跨语言任务中最为显著,这些任务中词汇方法会失效。该系统以 Apache 2.0 许可证在 此 https URL 提供,并提供一个开放的 RESTful API。
| 评论: | 发表于 SoftwareX。24 页,3 幅图,5 张表 |
| 主题: | 信息检索(cs.IR);人工智能(cs.AI);计算与语言(cs.CL);软件工程(cs.SE) |
| MSC 分类号: | 68P20, 68N30, 68T50 |
| ACM 分类号: | H.3.3; D.2.7; I.2.7; D.2.8 |
| 引用为: | arXiv:2607.26766 [cs.IR] |
| (或本版本使用 arXiv:2607.26766v2 [cs.IR]) | |
| https://doi.org/10.48550/arXiv.2607.26766 由 DataCite 颁发的 arXiv DOI |
|
| 期刊 参考: | SoftwareX 36 (2026) 103127 |
| 相关 DOI: | https://doi.org/10.1016/j.softx.2026.103127
链接到相关资源的 DOI |
提交历史
来自:Francesco Tosoni [查看邮箱]
[v1]
2026 年 7 月 29 日星期三 11:07:07 UTC(200 KB)
[v2]
2026 年 10 月 31 日星期六 11:58:28 UTC(171 KB)
来源:arXiv cs.CL · arxiv.org