arXiv cs.AI· Saswat Das, Ferdinando Fioretto·· 3 天前AI 评分27
NeuroFilter：面向隐私敏感 LLM 智能体的激活探测护栏
NeuroFilter: Activation-Based Guardrails for Privacy-Conscious LLM Agents
AI 导读
论文提出 NeuroFilter，一种基于激活探测的隐私过滤器，用于 LLM 智能体的推理时隐私防护，计算高效且适用于单轮与多轮对话。该工作首次系统性地跨对话轨迹探测模型内部状态，覆盖多种上下文、攻击风格与多个基座模型，并能应对 mosaic attacks 等挑战性场景。
正文 · AI 翻译
摘要：智能体大型语言模型（LLM）是能够对非结构化数据进行推理、规划并执行工具调用的模型。这些能力使得在个人助理、金融和法律等领域中实现变革性应用成为可能。尽管这些系统能够大幅提升生产力和服务质量，但有效的智能体能力通常需要访问敏感的个人或组织信息。然而，这种访问引入了关键的推理时隐私风险，特别是关于上下文适当的信息披露。虽然近期研究强调了智能体 LLM 无法始终如一地遵守隐私规范，但现有防御措施往往依赖基于辅助 LLM 的监控器。然而，这些防御措施成本高昂，且对能够抵御语义审查的攻击提供的保护有限。针对这一背景，本文提出了一种基于激活探测的隐私过滤器概念。我们表明，这些过滤器在单轮和多轮对话场景中均具有计算效率高且有效的特点。此外，这项工作首次对对话轨迹中的模型内部进行系统性探究，超越了静态的单提示分析，以捕捉隐私敏感交互的演变状态，展示了其跨上下文、攻击风格、多种基础模型以及诸如马赛克攻击等挑战性设置的适用性，同时对所发现概念的本质和探测器的模块化构建提供了细致入微的见解。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2601.14660 [cs.CR] |
| （或 arXiv:2601.14660v3 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2601.14660 arXiv 颁发的 DOI，通过 DataCite |
提交历史
来自：Saswat Das [查看电子邮件]
[v1]
2026年1月21日星期三 05:16:50 UTC（23,221 KB）
[v2]
2026年7月1日星期三 15:49:57 UTC（22,587 KB）
[v3]
2026年10月12日星期一 19:24:51 UTC（28,588 KB）
来源：arXiv cs.AI · arxiv.org