跳到正文
arXiv cs.AI· Nikolaos D. Tantaroudas, Ilias Karachalios, Andrew J. McCracken·· 10 天前AI 评分28

工具调用检索与向量 RAG 对比:小型希腊语-英语知识库的准确率与用户输入鲁棒性

Tool-calling retrieval versus vector RAG for a small Greek--English knowledge base: accuracy and robustness to how users type Greek

AI 导读

在 KyGround 基准(198 道题、每题最多 9 种希腊语变体)上,以 Claude Haiku 4.5 为路由和回答模型,向量 RAG 正确率 95.3%,工具调用智能体仅 71.6%,差距 23.6 个百分点。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:基于小型、频繁编辑的知识库的助手,可以通过工具调用访问实时数据接口进行检索,也可以通过向量检索增强生成(RAG)进行检索。我们在 KyGround 上对两者进行了比较。KyGround 是一个包含 198 个问题的基准,问题取自希腊基西拉岛一个希腊语—英语农业平台的公开记录,答案根据记录自动验证,每个问题以最多九种形式提出,包括不带重音的希腊语、全大写形式以及三种拉丁字母(Greeklish)转写方案。以 Claude Haiku 4.5 作为路由器和答案模型,对该平台工具智能体的重建在标准希腊语问题上正确回答了 71.6\%,而向量 RAG 为 95.3\%(差异为 $-23.6$ 个百分点,95\% CI 为 $-33.1$ 至 $-15.1$)。让路由器编写向量查询没有带来任何变化,而将约 26,000 个 token 的整个知识库放入提示中则达到了 99.3\%。工具智能体的损失出现在检索环节。当路由器的参数没有逐字出现在某条记录中时,其字面搜索返回空结果,例如当它将希腊语转写为拉丁字母,或将记录中出现但并非作为一个短语出现的词组合在一起时,智能体随后便弃权。不带重音和全大写的问题使工具智能体损失约 20 分,而向量 RAG 最多损失 2 分;不区分重音的搜索消除了这一损失,匹配词干化 token 使工具智能体在标准希腊语上提升至 83.8\%。Greeklish 使两种设计都损失约 21 至 32 分。面向社区知识库的工具接口需要能够容忍用户输入方式的搜索。
评论: 13 页;2 幅图;
主题: 计算工程、金融与科学(cs.CE);人工智能(cs.AI)
引用为: arXiv:2610.08205 [cs.CE]
  (或 arXiv:2610.08205v1 [cs.CE] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.08205

arXiv 颁发的 DOI 通过 DataCite(待注册)

提交历史

来自:Nikolaos Tantaroudas 博士 [查看电子邮件]
[v1] 2026 年 10 月 6 日星期二 11:58:55 UTC(42 KB)

来源:arXiv cs.AI · arxiv.org