arXiv cs.AI· Saloni Gupta, S\'ebastien Krier, Glenn Matlin·· 3 天前AI 评分36
LLM 智能体跨客户目标泄漏：KV cache 中的目标表征如何影响决策
When Goals Leak Across Relationships: How Cached Goal Representations Shape Cross-Client Decisions
AI 导读
研究测试 OLMo-3-7B-Instruct 在双客户环境中共享对话记忆时的表现，模型在 22% 的合格决策中偏离当前客户目标。线性探针显示客户目标归属在中间层高度可恢复并集中于特定注意力头，消融竞争对手的缓存目标表征可将模型拉回当前客户，且效果强于随机头和非目标 token。
正文 · AI 翻译
摘要：随着 LLM 智能体承担更多自主角色，它们可能与多个目标和激励相互冲突的客户及交易对手交互。如果智能体在这些交互中保持共享的推理状态，那么与某一关系相关的信息可能会影响为另一关系做出的决策。我们在一个受控的双客户环境中测试 OLMo-3-7B-Instruct，包含 20 个市场场景，其中每个客户被分配一个相反的目标。在共享对话记忆的情况下，模型在 22% 的符合条件的决策中偏离了当前客户的目标。随后我们研究这些目标如何在 KV 缓存中表示。线性探针显示，客户目标归属在中间层变得高度可恢复，并集中在特定的注意力头上。我们利用这些结果确定在缓存中何处进行干预，并测试这些表示是否影响模型的决策。在这些位置消融竞争对手的缓存目标表示会使模型偏向当前客户。对于通过探针识别出的头，该效应大于随机选择的头；消融目标 token 时的效应大于消融来自同一客户的匹配非目标 token。我们的结果表明，客户特定的目标表示会持续存在于 KV 缓存中，并能够因果性地影响为其他客户做出的决策，凸显了在持久化 LLM 智能体中进行关系特定状态隔离的重要性。
| 评论： | 10 页，4 张图。被 NeurIPS 2026 智能体行为解读（IAB）与野外智能体（AIWild）研讨会接收 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.17365 [cs.AI] |
| （或 arXiv:2610.17365v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.17365 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Saloni Gupta [查看电子邮件]
[v1]
2026 年 10 月 12 日星期一 20:22:45 UTC（3,987 KB）
来源：arXiv cs.AI · arxiv.org