arXiv·· 13 天前AI 评分34
DelegationBench:衡量 AI 智能体何时该先询问再行动
DelegationBench: Measuring When AI Agents Should Ask Before Acting
AI 导读
针对 AI 智能体自主行动与征求用户确认的决策评估,研究者提出 DelegationBench,用 156 个场景测试现有评分是否可信。每个场景有行动、请求许可、询问缺失信息、拒绝四种可选回应,且多数场景以配对形式出现,仅改变一个特征,例如行动是否被要求、涉及何种风险。
来源:arXiv · arxiv.org