arXiv cs.AI· Kaiming Liu, Yuxuan Liu, Jinrui Ju, Minyuan Ruan, Xuanyu Lei, Peng Li, Yang Liu·· 3 天前AI 评分49
指令是证据而非目标：衡量 AI 智能体的结果对齐能力
Instructions Are Evidence, Not Objectives: Measuring Outcome Alignment of Agents
AI 导读
研究者提出"结果对齐"概念，要求 AI 智能体将用户指令视为证据而非目标，从指令与环境中推断真实需求。基于 SWE-chat 的 100 条用户-智能体轨迹分析显示，56% 的初始指令遗漏了后续才显现的必要需求，52% 的有用后续需求本可从项目中推断。
正文 · AI 翻译
摘要：大语言模型智能体能够遵循复杂的人类指令来解决现实世界的任务。然而在实践中，初始指令往往并不完整。在我们对 SWE-chat 中 100 条用户-智能体轨迹的分析中，56% 的初始指令遗漏了后来才显现为必要的要求，而 52% 的有用后续要求本可以从项目中推断出来。用户基于自己对任务的理解来陈述要求，这些\textbf{陈述的要求}往往不同于完成任务所强加的\textbf{真实要求}。因此，智能体应将指令视为证据而非目标，从指令和环境中推断出真实要求，并在用户尚未意识到全部要求时也满足它们。我们将这种能力称为\textbf{结果对齐}。在这项工作中，我们构建了\textbf{TiGanEval}，一个软件工程与研究任务的基准。在每个任务中，用户确实缺少部分要求，每项要求都可以从环境的代码和运行时行为中发现，并且智能体推断出的要求与用户在观察交付成果后添加的要求被区分开来。这些特性共同使结果对齐变得可度量。在评估包括 GPT-5.6-Sol 在内的八个前沿模型后，我们发现结果对齐普遍缺失：当从完整规范转向部分指令时，模型损失了 53 到 67 个百分点的成功率，而四次提交中的后果反馈并不能弥合这一差距。此外，计划模式框架无法弥补模型自身缺失的能力，这使结果对齐成为下一代模型应当为之开发的诸多能力之一。
| 主题： | 人工智能（cs.AI）；软件工程（cs.SE） |
| 引用为： | arXiv:2610.17757 [cs.AI] |
| （或 arXiv:2610.17757v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.17757 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Kaiming Liu [查看电子邮件]
[v1]
2026年10月13日星期二 05:39:34 UTC（1,914 KB）
来源：arXiv cs.AI · arxiv.org