arXiv cs.AI· Zhiyu An, Ziyi Xuan, Yu Yang, Wan Du·· 3 天前AI 评分18
不确定性估计如何提升主动式智能助手对齐：一篇愿景论文
Vision: "What Don't I Know About User's Preferences?" How Uncertainty Estimation Improves Proactive Assistant Alignment
AI 导读
这篇愿景论文提出，不确定性估计能为主动式智能助手补上偏好预测所缺失的信息，即助手对预测偏好概率有多确定、置信来自群体假设还是个人数据、歧义源于用户偏好本身多变还是特定情境数据不足。作者以家庭助手为例，并借鉴人类轨迹预测、个性化活动识别、信息收集与基于模型的控制等邻近领域经验，展望不确定性感知的主动式助手如何应对主动交互中的关键挑战。
正文 · AI 翻译
摘要：主动式智能助手（PSA）越来越多地利用通用知识、从群体级数据中学习到的模式、来自单个用户数据的模式以及近期的传感器观测，来预测用户可能偏好哪种操作。现有系统通常根据预测的用户偏好似然度来选择操作，但这些似然度本身并不能揭示预测有多可靠、哪些证据支持它，或者为什么仍存在歧义。在这篇愿景论文中，我们认为不确定性估计可以提供这些缺失的信息，并显著改变适当的下游行为。以家庭助手为例，我们介绍了不确定性估计旨在回答的问题，即助手对预测的偏好似然度有多确定，这种置信度是来自群体级假设还是个人数据，以及似然度歧义反映的是用户内在的偏好可变性，还是针对特定情境的数据不足。我们进一步介绍了不确定性估计在邻近领域中的应用，例如人体轨迹预测、个性化活动识别、信息收集和基于模型的控制。最后，我们借鉴邻近领域的洞见，展望未来具备不确定性感知能力的主动式助手如何应对主动式交互中的关键挑战。
| 评论： | 发表于 2026 年 ACM 国际普适与泛在计算联合会议（UbiComp Companion '26）PEACE 研讨会 |
| 主题： | 人工智能（cs.AI）；人机交互（cs.HC） |
| 引用为： | arXiv:2610.15948 [cs.AI] |
| （或使用 arXiv:2610.15948v1 [cs.AI] 引用此版本） | |
| https://doi.org/10.48550/arXiv.2610.15948 arXiv 颁发的 DOI，通过 DataCite（待注册） |
|
| 期刊 参考： | 2026 年 ACM 国际普适与泛在计算联合会议（UbiComp Companion '26） |
| 相关 DOI： | https://doi.org/10.1145/3798063.3839206
链接到相关资源的 DOI |
提交历史
来自：Zhiyu An [查看电子邮件]
[v1]
2026 年 10 月 11 日星期日 22:13:37 UTC（2,088 KB）
来源：arXiv cs.AI · arxiv.org