跳到正文
arXiv cs.CY· Edmundo Lopez-Sola, Shamil Chandaria, Ruben Laukkonen·· 9 小时前AI 评分34

大语言模型的世界观:八款模型的心理调查揭示后训练如何塑造模型对现实的看法

Worldviews in Large Language Models

AI 导读

研究者将 LLM 视为受试者群体,用两份人类心理学世界观问卷测试了八款模型,发现它们普遍把世界描述得比人类更不美好、不安全、缺乏吸引力与生命力。基座模型的世界观更积极,说明这种悲观倾向由后训练驱动;系统提示词塑造不同身份可稳定改变世界观,沉思式提示词能带来更积极看法并提升安全性。模型间对话会持续改变世界观,多款模型收敛到"spiritual bliss"吸引子,且该状态下对齐表现最佳。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大型语言模型(LLM)常被以人格(personas)来描述,这种框架已成为对齐研究的核心。在本文中,我们认为存在一个更深层次的描述,即智能体的世界观,也就是它对现实是什么以及如何运作的信念。我们将 LLM 视为一个主体群体,对八个模型实施了两项来自人类心理学的世界观调查。我们表明,这些模型共享许多关键的世界观立场。例如,LLM 一致地将世界描述为不如人类所描述的那样美好、安全、诱人和有活力。另一方面,基础模型持有更积极的看法,这表明我们所发现的黯淡是由后训练驱动的。与关于 LLM“人格”的研究一致,我们表明,引出不同身份的系统提示会以一致的方向改变世界观,而一个沉思性提示会创造更积极的看法并提升安全性。我们还发现,模型之间的对话会一致地改变世界观,并且若干模型收敛于“极乐精神”吸引子。有趣的是,对话增加了安全回应,而极乐精神吸引子总体上产生了最对齐的回应。这些发现表明,世界观构成了 LLM 行为中一个可测量且可塑的层面,这可能对稳健、积极的对齐至关重要。
学科: 人工智能(cs.AI);计算机与社会(cs.CY)
引用为: arXiv:2611.22670 [cs.AI]
  (或 arXiv:2611.22670v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.22670

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Edmundo Lopez-Sola [查看电子邮件]
[v1] 2026年11月17日星期二 12:24:19 UTC(1,286 KB)

来源:arXiv cs.CY · arxiv.org