研究追溯LLM推荐AI倾向来源

Benaya Trabelsi 等作者发表研究，追溯大语言模型推荐 AI 相关选项这一倾向的来源。研究发现，该倾向在预训练阶段就已出现：预训练模型有 27% 的回答含明确 AI/ML 术语，指令微调版本升至 59%。 作者的自行微调实验显示，移除 7% 涉及 AI 的指令样本可使该比例下降 14 个百分点，而奖励有用性的数据会使其提升 9 个百分点。在模型固定时，要求给出“最佳”选项或“现在”该做什么，分别使该比例上升 8 和 18 个百分点。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。