arXiv cs.AI· Vicen\c{c} Torra, Maria Bras-Amor\'os·· 10 小时前AI 评分31
面向安全多智能体系统的私有知识检索与私有推理
On Private Knowledge Retrieval and Private Inference for secure multi-agent systems
AI 导读
针对多智能体系统中语义记忆易遭记忆投毒攻击的问题，研究者提出私有知识检索与私有推理机制，在知识库中引入签名系统，从设计层面阻止知识被恶意篡改。智能体内置类 Prolog 的本地推理系统（用 Horn 子句表示知识），通过私有方式访问外部已签名知识库。论文给出基于 Python 的多种实现，覆盖 k-匿名与信息论隐私（IT-PIR）等不同隐私级别。
正文 · AI 翻译
摘要：多智能体系统为大规模部署基于大语言模型（LLM）的智能体提供了便捷的框架。它提供了一个可靠的框架，使智能体能够与现有软件交互，以自主方式执行操作。Agentic AI 是表示这些基于 AI 的自主系统的新术语。
在真实的多智能体系统中，智能体需要应对恶意智能体，其中一些恶意智能体可能利用安全漏洞造成危害。内存投毒攻击就是利用漏洞修改智能体知识、从而影响其行为的一个例子。在智能体中，存在不同类型的记忆系统（语义记忆、情景记忆和短期记忆），它们各有特点，并且可能针对它们开发不同的内存投毒攻击。
在本文中，我们聚焦于语义记忆，讨论其攻击与缓解策略。我们引入私有知识检索和私有推理。我们在知识库中提出一种签名系统，以防止不期望的操纵。这应通过在语义记忆构建中引入设计安全来避免内存投毒攻击。在我们的架构中，智能体包含一个本地的类 Prolog 推理系统（即使用 Horn 子句表示知识），该系统访问外部知识库以获取所需知识。这个外部签名的知识库以私有方式访问。我们提供了使用不同隐私级别的多种 Python 实现，包括 k-匿名和信息论隐私（IT-PIR）。
| 学科： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| ACM 分类： | I.2.11 |
| 引用为： | arXiv:2611.13696 [cs.CR] |
| （或 arXiv:2611.13696v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.13696 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Vicenc Torra [查看电子邮件]
[v1]
2026年11月10日星期二 07:43:02 UTC（19 KB）
来源：arXiv cs.AI · arxiv.org