Google DeepMind 论文发现 LLM 无法自主产生真随机选择

Rohan Paul· @rohanpaul_ai · X·2026-10-27 02:24· 1 小时前AI 评分60

AI 导读

Google DeepMind 论文《The Illusion of Stochasticity in LLMs》发现 LLM 无法自主完成符合目标概率的随机采样。

正文 · 原文

Google DeepMind 的新论文发现，AI 模型无法自行做出真正随机的选择，但较大的模型在计算机程序先给它们一个随机数时能正确选择。

智能体经常需要以固定概率随机选择动作，比如以不可预测的顺序检查服务器。LLM 声称会均匀选择，却总是落在 7、42 或答案 C 之类的偏好上。

他们让 Gemini、Qwen3 和 OLMo 模型分别从简单分布中采样 1024 次。他们还尝试了其他温度和采样设置，并给模型一个随机数让其转换。

所有用于检验是否符合目标概率的统计测试都未通过，调整温度或 top-p 也无法解决。在一个真正随机检查可让攻击者获胜 75% 的安全博弈中，Gemini 的选择让攻击者获胜 96.6% 到 99.9%。

如果你的智能体需要随机性，请在代码中生成并传入，而不是要求模型做到随机。

来源：Rohan Paul · x.com