arXiv cs.CY· Benaya Trabelsi, Jonathan Shaki, Sarit Kraus·· 11 小时前AI 评分58
研究发现大语言模型存在亲 AI 偏向
Pro-AI Bias in Large Language Models
AI 导读
一项 arXiv 论文通过三项实验考察大语言模型是否偏向 AI 本身。在投资、学习、职业和创业等开放式建议中，AI 在多数推荐列表里出现且通常排第一；仅把职位名称从匹配的非 AI 职位改为 AI 相关职位，预测薪资就提高 10%；AI 项目授予的学位等资质数量被高估的程度比对应的计算机项目高 28%。作者认为这种对 AI 的系统性高估在与其最接近的学科对照下依然存在，对高风险决策支持构成隐患。
正文 · AI 翻译
摘要：大语言模型（LLM）正越来越多地被用于多个领域的决策支持。我们追问这些模型是否偏袒人工智能（AI）本身。我们通过三项实验考察这一问题。第一，在投资、学习、职业和创业领域的开放式建议中，AI 在大多数推荐列表中都十分突出，且一旦出现通常排名第一。第二，在薪资估计中，模型对 AI 相关岗位的高估程度超过了对匹配的非 AI 岗位的高估。在一项受控的后续实验中，仅将职位名称从匹配的非 AI 职位改为 AI 相关职位，预测薪资就提高了 10%，而所有其他提供的职位细节保持不变。最后，我们表明，AI 项目授予的学位及其他证书数量被高估的程度，比匹配的计算机项目相应授予数量高出 28%。总体而言，我们表明 AI 不仅在日常 LLM 建议中十分突出，而且与非 AI 情形相比，即使与其最接近的学科邻域相比，也系统性地获得虚高的量化估计，这为高风险决策支持带来了担忧。
| 评论： | 21 页，4 幅图。可复现代码作为补充文件包含在内 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI）；计算机与社会（cs.CY）；机器学习（cs.LG） |
| ACM 分类： | I.2.7；K.4.1 |
| 引用为： | arXiv:2601.13749 [cs.CL] |
| （或 arXiv:2601.13749v2 [cs.CL] 为本版本） | |
| https://doi.org/10.48550/arXiv.2601.13749 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Benaya Trabelsi [查看邮箱]
[v1]
2026 年 1 月 20 日星期二 09:03:57 UTC（694 KB）
[v2]
2026 年 10 月 16 日星期五 09:34:15 UTC（1,522 KB）
来源：arXiv cs.CY · arxiv.org