arXiv cs.AI· Valerie Chen, Cleotilde Gonzalez, Anita Williams Woolley, Michael Lee, Tongshuang Wu, Vincent Conitzer, Aarti Singh·· 11 小时前AI 评分20
让 AI 对齐动态的人机工作流
Align AI to Dynamic Human-AI Workflows
AI 导读
论文主张 AI 对齐应从静态模仿人类偏好转向交互式、互补式对齐，即偏好通过交互涌现，对齐不再仅由满足偏好来定义。作者用轨迹级视角刻画人与模型行为随时间共同演化，指出现有 ML 形式化未能捕捉这些交互动态，并基于跨学科工作坊的社会科学洞见指出人机系统会放大这些动态、引入新的不对称性与协调挑战。文章最后提出融合机器学习与社会科学、决策科学的研究议程。
正文 · AI 翻译
摘要：当前的对齐方法通常侧重于使用人类偏好的静态表示来模拟人类行为，未能捕捉真实世界中人类与 AI 交互的动态、依赖上下文的特点。在本文中，我们主张从静态、模拟式的对齐转向交互式、互补式的对齐，在这种对齐中，偏好通过交互涌现，而对齐并非仅由满足偏好来定义。我们首先通过将现有对齐与一种轨迹级视角进行对比来形式化这一差距，在该视角中，人类与模型的行为随时间共同演化。由于这些交互动态在现有的机器学习公式中尚未得到充分捕捉，我们以一次跨学科研讨会的洞见为基础来支撑这一观点。我们借鉴社会科学关于人类—人类协作的论述，进而论证人机系统会放大这些动态，引入新的不对称性，使对不确定性的推理更加困难，并带来新的协调挑战。基于这些经验教训与新挑战，我们最后提出了一项研究议程，旨在开发能够在交互中与人类对齐的 AI 系统，这需要机器学习与社会科学及决策科学的跨学科综合。
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2607.14240 [cs.AI] |
| （或使用 arXiv:2607.14240v2 [cs.AI] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2607.14240 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Valerie Chen [查看邮箱]
[v1]
2026年7月15日 星期三 18:02:03 UTC（8,457 KB）
[v2]
2026年10月16日 星期五 01:33:25 UTC（8,457 KB）
来源：arXiv cs.AI · arxiv.org