arXiv cs.CL· Michele Loi·· 10 天前AI 评分22
为 AI 制定"认知宪法"：如何避免大语言模型的连贯性偏差
Epistemic Constitutionalism Or: how to avoid coherence bias
AI 导读
论文主张为 AI 建立"认知宪法"，即明确且可争议的元规范，用以约束大语言模型如何形成和表达信念。一项预注册研究发现来源标注对论证评估存在内容依赖效应，而来源独立性并非中立默认——在证言语境中，来源立场与逆利益发声的成本都可提供相关证据。作者区分了柏拉图式与自由主义两种设计路径，支持后者，并提出包含八项原则与四个取向的宪法核心。
正文 · AI 翻译
摘要：大语言模型日益发挥人工推理者的作用：它们评估论点、赋予可信度并表达信心。然而，它们的回应可能使支配这些评估的认识论政策隐而不显。本文主张为 AI 制定一部认识论宪法：即明确、可争议的元规范，用以规制系统如何形成和表达信念。来源归属提供了具有启发性的案例。一项探索性审计表明，关于来源立场的预期会侵入论点评估。随后一项预注册研究（arXiv:2609.35286）发现了来源归属的内容依赖性效应，其中选定的书面评估支持来源—立场契合作为一种解释。该审计还揭示了关注来源的相互冲突的正当理由。然而，来源独立性并非中立的默认值：在证言语境中，来源的立场以及逆利益发言的代价可以提供相关证据。我区分了认识论宪法设计的两种路径：柏拉图式路径，它从一种特权立场出发强制要求形式正确性和默认的来源独立性；以及自由主义路径，它拒绝这种特权，保护集体探究的条件，同时允许基于认识论警觉的、有原则的关注来源。我为自由主义路径辩护，勾勒出一个由八项原则和四种取向构成的宪法核心，并主张 AI 认识论治理需要明确、可争议的规范，用以评估证言、回应证据和修正判断。
| 评论： | 33 页，1 个表格。重大修订：根据 arXiv:2609.35286 更新了实证讨论；对照公开日志更正了探索性审计的主张。附录 A：完整的逐日志登记表。附录 B：对 v4 的更正以及 AI 辅助写作文档。哲学论证得到澄清 |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；计算机与社会（cs.CY） |
| 引用为： | arXiv:2601.14295 [cs.AI] |
| （或 arXiv:2601.14295v5 [cs.AI] 对应此版本） | |
| https://doi.org/10.48550/arXiv.2601.14295 arXiv 颁发的 DOI，经由 DataCite |
提交历史
来自：Michele Loi 博士 [查看电子邮件]
[v1]
2026 年 1 月 16 日星期五 07:36:30 UTC（4,210 KB）
[v2]
2026 年 1 月 27 日星期二 19:15:46 UTC（4,216 KB）
[v3]
2026 年 4 月 22 日星期三 11:33:20 UTC（549 KB）
[v4]
2026 年 6 月 11 日星期四 09:22:30 UTC（773 KB）
[v5]
2026 年 10 月 6 日星期二 23:13:18 UTC（38 KB）
来源：arXiv cs.CL · arxiv.org