跳到正文
arXiv cs.AI· Fernando Diaz·· 4 小时前AI 评分38

基于偏好的轨迹评估:用时间偏好替代二元成功率,将智能体评测平局率从约75%降至约35%

Offline Preference-Based Trajectory Evaluation

AI 导读

研究提出基于偏好的轨迹评估方法,通过比较轨迹间 time-to-return 曲线的时间偏好直接对比成对轨迹,替代将轨迹压缩为二元终端成功值的传统做法。在多种智能体与交互式基准上,成功率指标约75%的实例出现平局,而轨迹感知偏好将平局降至约35%,同时提升区分度、排名稳定性与数据效率。结果表明,常被归因于数据收集质量或问题难度的基准饱和,也可能源于评估指标本身的设计。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:对智能体系统的离线评估往往将轨迹简化为二元的最终成功值,丢弃了关于部分进展的信息。这反过来导致大量并列,通过降低有效样本量并削弱区分系统的能力,造成统计效率低下。我们提出基于偏好的轨迹评估,这是一种通过使用到达时间-回报曲线之间的时间偏好来直接比较成对轨迹的评估度量。我们发现,在多样化的智能体与交互式基准上,基于成功的指标在约 75% 的实例上导致并列比较,而轨迹感知偏好将并列降至约 35%,从而提升了区分能力、排名稳定性和数据效率。我们的结果表明,基准饱和常被描述为数据收集不佳或问题难度的结果,但也可能由评估度量的设计来解释。
主题: 机器学习(cs.LG);人工智能(cs.AI)
引用为: arXiv:2606.17541 [cs.LG]
  (或此版本的 arXiv:2606.17541v2 [cs.LG])
  https://doi.org/10.48550/arXiv.2606.17541

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Fernando Diaz [查看邮箱]
[v1] 2026年6月16日 星期二 05:42:19 UTC(449 KB)
[v2] 2026年11月16日 星期一 19:51:01 UTC(464 KB)

来源:arXiv cs.AI · arxiv.org