arXiv cs.AI· Jiajun Chen, Xinyue Chen, Yicheng Jiang, Hua Shen·· 3 天前AI 评分41
个人智能体的 Grounding Awareness：记忆强不等于分得清已确认与未确认安排
Knowing the User Is Not Knowing What We Established: Grounding Awareness in Personal Agents
AI 导读
论文提出 Grounding Awareness，即智能体在选取动作时区分已接受、未确认、已修改和有范围限定的安排的能力，并构建受控基准测试。测试发现，记忆表现强并不保证具备该能力，提供更完整的用户信息反而会增加未确认提案的执行，持久记忆还会让智能体把这类提案当作用户指令。
正文 · AI 翻译
摘要：个人智能体记忆的研究大多聚焦于学习用户知道什么、偏好什么以及想要什么。然而，了解用户并不一定意味着了解用户与智能体共同确立了哪些约定。助手的提议不应仅仅因为被记住就变成获得授权的指令。我们引入了“接地意识”（Grounding Awareness），即在选择行动时区分已接受、未确认、已修订和限定范围的约定的能力。我们开发了一个受控基准，用于测试智能体能否区分用户已接受和未接受的提议，以及它们是否只在适当的地方应用已接受的约定。在多个智能体和记忆系统中，我们发现强大的记忆性能并不能确保接地意识。更令人惊讶的是，提供更完整的用户信息反而会增加未确认提议的执行，而持久记忆可能导致智能体将这些提议当作用户指令来对待。我们通过记忆写入、检索和行动选择来追踪这些失败。最后，我们引入了 Grounding Layer，这是一个轻量级、无需训练的扩展，它显式跟踪接地状态并检查有后果的行动，在不修改模型或记忆系统的情况下显著改善智能体行为。
| 评论： | 审稿中 |
| 主题： | 人工智能（cs.AI）；人机交互（cs.HC）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.18684 [cs.AI] |
| （或 arXiv:2610.18684v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.18684 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Jiajun Chen [查看电子邮件]
[v1]
2026年10月13日星期二 16:39:59 UTC（512 KB）
来源：arXiv cs.AI · arxiv.org