Meta 论文：用跨视角一致性判断 LLM 答案可信度

Rohan Paul· @rohanpaul_ai · X·2026-11-15 05:23· 51 分钟前AI 评分44

AI 导读

Meta 新论文提出，用"似然"衡量 LLM 答案真伪是错误标准，应更信任在不同上下文下保持一致的答案。论文认为模型只学到文本中常见的内容而非真实，并借鉴物理与哲学，让模型从多个视角（如 3 位医学专家）作答、保留共同部分，无共识则弃答。论文未做实验，仅用示例论证：二元示例中 loss 0.67 对应 100% 准确率，而接近的 0.71 对应 0%。

正文 · 原文

Meta 新论文中一个如此简单却强大的想法。

论文指出，似然是判断 LLM 真伪的错误标准，而在不同上下文中保持一致的答案更值得信任。

LLM 被训练来预测最可能的下一个 token，因此它们学到的是文本中常见的内容，而非真实的内容。训练数据中反复出现的虚假信息会变得概率很高，而罕见的真实事件则被低估。

借鉴物理学和哲学，论文认为一个事实若能在视角变化后依然成立，才算真实。模型从多个视角作答，例如 3 位医学专家，保留每个答案共有的部分，若无共识则弃答。

论文未做实验，因此其论证依靠示例。在一个二元示例中，loss 为 0.67 意味着 100% 准确率，而几乎相等的 loss 0.71 却意味着 0%。

在信任一个自信的答案之前，先检查它在人设、表述框架或语言变化后是否依然成立。

来源：Rohan Paul · x.com