arXiv cs.AI· Linus Filbry, Luckeciano C. Melo, Yarin Gal·· 12 小时前AI 评分38
LLM 智能体能否在上下文中完成贝叶斯推理？一项系统性评估
From Prompts to Posteriors: Can LLM Agents Perform Bayesian Inference in Context?
AI 导读
研究系统评估了 LLM 在上下文中进行贝叶斯信念更新的能力，发现模型普遍违反贝叶斯规则。但配备现代推理能力与代码执行能力后，性能大幅提升，甚至能近似解析上难以处理的后验分布。作者认为，具备合适工具的当前 LLM 已可用于科学发现中的复杂信念更新。
正文 · AI 翻译
摘要：大语言模型（LLM）正日益应用于科学发现的整个流程，从文献综合到生成假设，再到为实验设计提供依据。这些任务背后的一个统一原则是：随着证据的积累，需要不断更新信念，而贝叶斯推断为此提供了自然的框架。然而，现有研究假设 LLM 无法在上下文中进行有原则的贝叶斯信念更新，而是依赖简化和启发式方法。为挑战这一假设，我们对 LLM 的贝叶斯推理能力进行了有原则的评估，既分析模型的内部一致性，也分析其恢复外部确定的后验分布的能力。具体而言，我们构建了一个评估框架，涵盖用于探查概率一致性的定性认识论示例、贝叶斯推理能力的定量基准，以及非贝叶斯更新对下游任务性能影响的分析。在不同场景中，我们发现 LLM 在上下文中更新信念时通常会违反贝叶斯法则。然而，当配备现代推理能力和代码执行能力后，其性能大幅提升，甚至能够近似解析上难以处理的后验分布。我们的评估表明，当前具备适当工具访问权限的 LLM 已经可以用于在科学发现中进行复杂的信念更新，从而快速加速 AI 驱动的科学发现的效率和规模。
| 评论： | 正文 10 页，6 幅图 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.29331 [cs.AI] |
| （或 arXiv:2610.29331v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.29331 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Linus Filbry [查看电子邮件]
[v1]
2026 年 10 月 21 日星期三 07:29:24 UTC（5,517 KB）
来源：arXiv cs.AI · arxiv.org