arXiv cs.AI· Davood Wadi, Yu Ma·· 13 小时前AI 评分48
AI 智能体为谁服务？决策模型与生成式 LLM 中的角色诱导赞助偏差
Whom Do AI Agents Serve? Role-Induced Sponsorship Bias in Decision Models and Generative LLMs
AI 导读
研究发现，当 AI 购物智能体被指定为平台（而非消费者）服务时，其对赞助商品列表的惩罚显著减弱，生成式 LLM 与六种商业及开源决策模型均存在这一赞助偏差。将消费者列为受益方可消除偏差，而对开源决策模型 Kev 9B 进行消费者对齐微调后，该偏差在酒店选择上实现零样本消除。更严格的披露措辞（"Sponsored" 而非 "Promoted"）能降低付费列表评分，但无法消除偏差。
正文 · AI 翻译
摘要：消费者越来越多地将产品搜索委托给 AI 购物代理，这些代理要么由以自然语言进行推理的生成式大语言模型（LLM）驱动，要么由在单次前向传播中输出校准选择概率的非生成式决策模型驱动。由于零售平台通过购物者通常会打折看待的赞助位实现变现，我们考察 AI 代理对付费列表的评估是否取决于委托该代理的主体，并覆盖两个模型家族。在三项研究中，在未指示偏向广告主的情况下，将预订平台（而非旅行者）指定为代理的委托人，会显著减弱对赞助列表施加的惩罚。研究 1 在生成式 LLM、提示措辞和推理投入上确立了这种赞助偏差，表明平台委托会削弱选择前的怀疑，而将消费者指定为受益人会消除该偏差。研究 2 在六个商业和开放权重决策模型上基于校准选择概率确立了该偏差，并表明在非酒店零售类别上对开放权重决策模型（Kev 9B）进行消费者对齐微调，可在酒店选择上零样本消除该偏差。研究 3 在两个模型家族上分解披露标签，表明将展示位归因于平台会触发赞助偏差，而更严格的披露措辞（“Sponsored”与“Promoted”）会降低付费列表评估，但不会消除该偏差。
| 学科： | 一般经济学（econ.GN）；人工智能（cs.AI） |
| 引用为： | arXiv:2609.17989 [econ.GN] |
| （或本版本的 arXiv:2609.17989v3 [econ.GN]） | |
| https://doi.org/10.48550/arXiv.2609.17989 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Davood Wadi [查看电子邮件]
[v1]
2026年9月16日星期三 01:21:56 UTC（846 KB）
[v2]
2026年10月13日星期二 23:55:30 UTC（825 KB）
[v3]
2026年10月28日星期三 18:53:54 UTC（1,302 KB）
来源：arXiv cs.AI · arxiv.org