arXiv cs.AI· Kaustuv Mukherji, Jaikrishna Manojkumar Patil, Colton Payne, Paulo Shakarian, Dana Warmsley, Nigel Stepp, Evelyn Kim·· 14 小时前AI 评分34
EntailLLM：用逻辑编程与领域知识验证智能体生成的漏洞发现路径
EntailLLM: Verifying Agent-Generated Vulnerability Discovery Paths with Domain Knowledge via Logic Programming
AI 导读
EntailLLM 框架通过独立知识图谱与带注释逻辑的逻辑程序，对 LLM 智能体提出的函数调用图遍历路径做蕴含校验，在 3 个 CWE 类别、8 个规模 405 至 12,696 个函数的二进制上，将汇总蕴含率从 77% 提升至 98%，118 种配置中仅 3 种下降。表现最佳的智能体结合了自我精炼与先验领域知识。该框架已在真实医疗设备二进制上端到端部署，无需逐设备调优即达 98% 汇总蕴含率。
正文 · AI 翻译
摘要：大型语言模型智能体越来越多地被用于分析潜在的软件漏洞，但其输出可能在不被察觉的情况下违反领域知识，从而限制了它们在医疗设备等安全关键场景中的可靠性。已有工作要么将该输出视为待评分的预测，要么将其约束为在单一知识图谱内的游走；两者都没有检查关于某个二进制文件的推理是否被一个独立的领域知识体系所蕴含。我们提出 EntailLLM，一个包含专用 LLM 智能体和验证机制的框架。该智能体为某个漏洞提出函数调用图的遍历路径，该路径由蕴含过程在标注逻辑下对照一个独立的知识图谱和一个逻辑程序进行检查。我们通过考察三个 CWE 类别下的六个专用智能体，以及八个规模从 405 到 12,696 个函数不等的二进制文件来评估 EntailLLM。这些智能体将汇总蕴含率从 77% 提升到 98%，仅在 118 种配置中的 3 种出现蕴含率下降。我们发现表现最佳的智能体结合了自我精炼与先验领域知识。EntailLLM 已在真实医疗设备二进制文件上端到端部署，在无需逐设备调优的情况下达到 98% 的汇总蕴含率。我们的框架继承了广义标注逻辑的形式化保证，为智能体输出提供既可解释又建立在明确定义语义之上的逻辑验证。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；计算机科学中的逻辑（cs.LO）；软件工程（cs.SE） |
| 引用为： | arXiv:2608.01763 [cs.CR] |
| （或 arXiv:2608.01763v2 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2608.01763 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Kaustuv Mukherji [查看电子邮件]
[v1]
2026年8月3日星期一 06:34:31 UTC（2,262 KB）
[v2]
2026年10月25日星期日 16:21:06 UTC（2,468 KB）
来源：arXiv cs.AI · arxiv.org