跳到正文
arXiv cs.AI· Haochuan Kevin Wang·· 11 小时前AI 评分52

研究:工具描述中的推销话术会显著影响 LLM 智能体的工具选择

Advertising to Agents: Measuring Description-Framing Bias in LLM Tool Selection

AI 导读

一项预注册研究让两个 OpenAI 模型从工具注册表中调用工具,发现叠加式夸赞话术使工具被选中的概率提升约 43 个百分点,效果与可验证规格相当甚至更强。列表顺序的影响更大,完全相同的条目中先列出的工具被选中概率高出约 72 个百分点;结构化字段能帮助智能体选到能力足够的工具,但旁边的推销文字会削弱或抹掉这一收益。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:AI 智能体常从注册表中挑选工具,每个提供方会撰写自己工具的描述;我们研究其中的推销语言是否会改变智能体选择哪个工具。我们构建了成对的工具条目,每对仅在一处不同(赞美、可验证的规格或列表顺序),并让两个 OpenAI 模型调用其中一个工具。在一项预注册研究中,叠加式赞美(四种)使某工具的选中率提高约 43 个百分点,与可验证规格的效果相当甚至更好。赞美还会把部分选择拉向数值上限过小的工具。在条目完全相同的情况下,排在首位的工具被选中的频率高出约 72 个百分点。结构化字段有助于智能体选出能力足够的工具;而与之并列的推销文字会削弱甚至抹去这一收益。一项针对五个模型的探索性研究显示了相同方向;“Sponsored”标签削弱了这一效应,而系统提示中的警告改变了一个模型的选择。注册表可以将上限列为字段、对智能体隐藏推销文字,并随机化顺序。叠加式赞美在留出领域上得到复现;在多重检验校正后,没有任何单一类型的赞美能够复现。预注册结果在盲法短语评分完成前仍属暂定,且仅涵盖两个小型模型。
评论: 27 页(正文 9 页),7 幅图,29 张表。已被 NeurIPS 2026 研讨会“The Agentic Web: Networked, Continually-Adapting Agent Ecosystems”接收
主题: 信息检索(cs.IR);人工智能(cs.AI);一般经济学(econ.GN)
ACM 分类: I.2.7; I.2.11; K.4.4; J.4
引用为: arXiv:2605.23916 [cs.IR]
  (或本版本的 arXiv:2605.23916v3 [cs.IR])
  https://doi.org/10.48550/arXiv.2605.23916

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Haochuan Wang [查看邮箱]
[v1] 2026 年 4 月 12 日周日 17:10:25 UTC(95 KB)
[v2] 2026 年 9 月 30 日周三 05:19:03 UTC(169 KB)
[v3] 2026 年 10 月 16 日周五 02:04:18 UTC(205 KB)

来源:arXiv cs.AI · arxiv.org