arXiv cs.AI· Sebastian Cochinescu·· 2 天前AI 评分26
让 AI 可信的真相：将表达疑虑、来源溯源与信念修正作为可工程化的立场
Truth for Believable AI: Expressed Doubt, Provenance, and Belief Revision as an Engineerable Stance
AI 导读
研究测试了在固定语言模型上以行为层实现表达不确定性、来源感知断言与显式信念修正，并在合成模型与 Qwen2.5-0.5B-Instruct 上评估。
正文 · AI 翻译
摘要：对话智能体通常以统一自信的语气表达答案。我们测试了表达的不确定性、来源感知断言以及显式的信念修正能否作为行为层实现于固定的语言模型之上；我们不测试可信度或信任。该层结合了三种认知状态、逐声明置信度与类型化来源、来源门控的表达规则，以及一个持久化修正存储，具备可审计的确认和对错误纠正的部分抵抗。我们在一个构建的、机械评分的多会话基准上，使用合成模型和 Qwen2.5-0.5B-Instruct 对其进行评估。合成工具通过了全部五项检查。在真实模型上，确认健全性——一种构造性保证——在 100% 的情况下成立，且真实纠正比错误纠正被更频繁地接受（在持有的信念上为 0.44 对 0.15；在包括规则接受的未持有事实纠正后为 0.875 对 0.420），但预先指定的表达保真度、矛盾分离度和来源裕度均未通过。一项披露的事后分析表明，以平均答案 token 概率为门控的表达在端到端排序中正确性低于随机水平（AUC 0.41，按对话聚类），而以采样一致性为门控则具有区分度（AUC 0.66）。从这一发现中选出的、并在单独承诺的协议下评估的一致性门控配置，满足了对话级操纵和能力等价标准，并在重新抽取的对话集上得到复现。操纵结果依赖于选择，且当不确定性在 60 个事实上聚类时，两项标准仍未解决。所支持的结论仅限于构造性审计保证、依赖存储的部分纠正区分，以及 token 概率门控在特定基准和模型上的失败；在人类评估之前需要扩大事实库的规模。
| 评论： | 17 页，4 幅图，3 张表。配套框架论文：arXiv:2607.15883。代码、基准、缓存模型输出和结果文件归档于 doi:https://doi.org/10.5281/zenodo.21462986（代码和结果）和 doi:https://doi.org/10.5281/zenodo.21462988（基准数据集） |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2609.26035 [cs.CL] |
| （或 arXiv:2609.26035v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2609.26035 arXiv 颁发的 DOI（通过 DataCite） |
提交历史
来自：Sebastian Cochinescu 博士（ABD）[查看电子邮件]
[v1]
2026 年 9 月 22 日星期二 11:34:53 UTC（232 KB）
来源：arXiv cs.AI · arxiv.org