arXiv cs.AI· Vishisht Choudhary·· 3 天前AI 评分32
PolyGraph：为智能体构建的知识图谱提供可信清理方案
Keep Your Receipts: Trustworthy Cleanup of Agent-Built Knowledge Graphs
AI 导读
针对智能体构建的知识图谱在源被撤回或撤销后难以维护的问题，PolyGraph 要求构建器在生成每个产物时附带“收据”，即声称各自充分的替代源证据包，清理时仅需对收据做集合运算，无需调用模型。在真实撤回场景下，现有流水线仅将受污染查询从 32.2% 降至 28.0%，而按句生成收据的摘要层可将受污染查询降至 0.4% 至 0.8%，同时保留完美维护者 99.8% 至 100% 的召回率。
正文 · AI 翻译
摘要：智能体将知识图谱构建为记忆，而构建它们已变得容易。维护它们却并非如此。当某个来源被撤回、推翻或删除时，建立在其之上的一切（实体合并、蕴含边、社区摘要）都必须重新审查，而维护者必须在删除过多与删除过少之间做出选择。已部署的流水线只删除直接提取的事实：在我们的语料库上，在一次真实撤回下，这将受污染查询从 32.2% 降至 28.0%，而在谓词撤销下则毫无变化。对于会采样的构建器而言，重建并非修复：同一 300 篇文档语料库的两次构建相差 29,475 个产物，是移除 61 篇被撤回文档所改变的 6,248 个产物的五倍。PolyGraph 则转而向构建器索取凭据：对于每个产物，提供备选的源证据捆绑包，每个都声称自身足以支撑，并在创建该产物的调用中一并输出。清理随后便是对凭据的集合运算，无需模型调用。由于凭据是模型自身的自我报告，一项重新推导审计通过删除所引用的证据并测试构建器是否仍能产生该产物来检查它们。审计发现，当凭据的形状与其所支撑的断言相匹配时，它就是可信的。合并凭据各自支撑一个狭窄断言，与重新推导的一致率分别为 68% 和 85%。摘要凭据按句子引出，却作为整个文本的一个扁平列表存储，约三分之二的情况下是错误的，几乎总是因为保留了已失效的内容。改为每句一个凭据则忠实度达 100% 和 88%，并使清理得以保留 35 个受影响摘要中的 33 个。该结果在第二个 oracle 模型、一个对断言无感知的提示、十次进一步删除、第二个领域和第二个构建器下依然成立。不信任摘要层可将受污染查询降至 0.4% 和 0.8%，同时达到完美维护者所能返回的召回率的 99.8% 至 100%。
| 评论： | 第 40 届神经信息处理系统大会（NeurIPS 2026）。研讨会：谁来验证智能体？迈向可靠的智能体开发 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.17719 [cs.AI] |
| （或 arXiv:2610.17719v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.17719 arXiv 颁发的 DOI，经由 DataCite（待注册） |
提交历史
来自：Vishisht Choudhary [查看邮箱]
[v1]
2026 年 10 月 13 日星期二 04:51:28 UTC（36 KB）
来源：arXiv cs.AI · arxiv.org