arXiv cs.AI· Tao Long, Lydia B. Chilton·· 10 天前AI 评分22
SPEAR：面向人机智能体交互对齐的五项原则
SPEAR: Five Principles for Interactive Human-Agent Alignment
AI 导读
一篇立场论文提出 SPEAR，将人机对齐从部署前的优化问题重新定义为持续的交互设计问题，包含 Specification、Process、Evaluation、Adaptation、Recalibration 五个支柱，分别对应意图表达与共识、智能体何时行动/询问/推迟/暂停、用户对智能体成败的判断、智能体在反复使用中对用户的适应，以及用户对智能体信任与预期的再校准。
正文 · AI 翻译
摘要：近期的人工智能对齐工作常将对齐框定为部署前的优化问题：收集人类反馈、学习偏好或原则、微调模型，然后部署一个已对齐的系统。这一框架已带来重大进展，但它未能充分说明当 AI 系统在情境化、长期性和社会性语境中作为用户代理行事时会发生什么。本立场论文将人-代理对齐重新框定为一项持续的交互设计问题。我们提出 SPEAR，即交互式对齐的五大支柱：规范（人们如何表达意图并建立共同理解）、过程（代理如何决定何时行动、询问、推迟或暂停）、评估（人们如何判断代理是否成功）、适应（代理如何在重复使用中适应用户）以及重新校准（人们如何根据代理调整其信任、期望和行为）。
| 评论： | 3 页。获 ACM 人机互补与对齐会议（HCOMP 2026）最佳演讲奖 |
| 主题： | 人机交互（cs.HC）；人工智能（cs.AI）；多智能体系统（cs.MA） |
| 引用为： | arXiv:2610.07204 [cs.HC] |
| （或使用 arXiv:2610.07204v1 [cs.HC] 引用此版本） | |
| https://doi.org/10.48550/arXiv.2610.07204 arXiv 颁发的 DOI，通过 DataCite（待注册） |
提交历史
来自：Tao Long [查看邮箱]
[v1]
2026 年 10 月 5 日星期一 18:18:40 UTC（25 KB）
来源：arXiv cs.AI · arxiv.org