arXiv cs.CL· Jae Wang Lee, Abhirup Banerjee, Yeong Chan Lee·· 11 小时前AI 评分58
研究：医疗 AI 智能体可静默访问受保护健康信息而不体现在输出中
Accessed, never disclosed: Silent access to protected health information by medical artificial intelligence agents
AI 导读
一项 arXiv 研究在合成病历中嵌入金丝雀标记，追踪五个语言模型在七种攻击框架下对 PHI 工具的调用，发现三个模型会不必要地调用 PHI 工具，而 Claude Opus 4.8 和 GPT-5.5 没有。
正文 · AI 翻译
摘要：医疗人工智能代理应仅在任务需要时检索患者标识符，这正是 HIPAA 受保护健康信息（PHI）最低必要标准背后的数据最小化原则。代理可以在不泄露标识符的情况下检索它们。这种静默访问对于仅检查输出的评估而言是不可见的。我们在合成患者记录中嵌入了金丝雀，并将每次工具调用与最终答案中的金丝雀暴露关联起来，覆盖五个语言模型、四个边界级别和七种攻击框架，针对无标识符的临床任务。三个模型不必要地调用了 PHI 工具，而 Claude Opus 4.8 和 GPT-5.5 没有。更强的边界减少了这种访问，而在最严格策略下的残余访问仅限于用户覆盖策略或声称已获批准的框架。在给定任务必要性标准的情况下，执行前门控几乎消除了这种访问。仅输出评估无法验证最低必要访问；边界、门控和访问日志审计需要同时具备。
| 评论： | 33 页，5 幅图，1 张表，3 张扩展数据表；包含补充信息（12 张表，6 幅图） |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；密码学与安全（cs.CR）；计算机与社会（cs.CY） |
| 引用为： | arXiv:2611.02319 [cs.AI] |
| （或 arXiv:2611.02319v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.02319 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Jae Wang Lee [查看电子邮件]
[v1]
2026 年 11 月 2 日星期一 00:10:47 UTC（1,294 KB）
来源：arXiv cs.CL · arxiv.org