arXiv cs.CY· Benaya Trabelsi, Jonathan Shaki, Sarit Kraus·· 12 小时前AI 评分39
LLM 为何总推荐 AI 相关选项？研究追溯至预训练与提问方式
Where Do LLMs Learn to Recommend AI?
AI 导读
研究发现 LLM 推荐 AI 相关选项的倾向始于预训练：预训练模型已有 27% 的回答含明确 AI/ML 术语，指令微调版本升至 59%。自行微调实验显示，移除 7% 涉及 AI 的指令样本可使该比例下降 14 个百分点，而奖励有用性的数据会提升 9 个百分点。在模型固定时，要求给出"最佳"选项或"现在"该做什么分别使该比例上升 8 和 18 个百分点。
正文 · AI 翻译
摘要：当被问及该学什么、该从事什么职业或该打造什么产品时，大型语言模型（LLM）往往推荐与 AI 相关的选项。我们通过比较微调前后的模型，以及改变提问方式，来探究这一倾向的来源。首先，预训练模型在其 27% 的回复推荐中已包含明确的 AI/ML 术语，而其发布的指令微调版本这一比例为 59%。其次，我们自行微调模型后发现，这种上升并非不可避免：通用指令微调使该比例保持不变，但移除涉及 AI 的 7% 指令示例会使其下降 14 个百分点，低于其起始预训练模型的水平。奖励有用性的数据使其上升 9 个百分点，而按多样化模拟用户偏好排序的数据则使其下降 9 个百分点。最后，在模型固定的情况下，要求给出“最佳”选项或询问“现在”该做什么，会使该比例分别上升 8 和 18 个百分点，而告诉模型它是 AI 顾问则会增加 4 个百分点。总体而言，这一倾向始于预训练，而模型此后所学的内容以及问题的表述方式，共同决定了它显现的强度。
| 评论： | 18 页，4 幅图。配套论文见 arXiv:2601.13749 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI）；计算机与社会（cs.CY）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.29785 [cs.CL] |
| （或 arXiv:2610.29785v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.29785 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Benaya Trabelsi [查看邮箱]
[v1]
2026 年 10 月 21 日星期三 14:13:52 UTC（135 KB）
来源：arXiv cs.CY · arxiv.org