如何从内部识别大语言模型的真实内省

研究者用低秩适配器让模型按虚构角色的隐含线性偏好函数做决策，发现持续微调后模型能准确自我报告其学到的偏好，从而在受控环境中识别出忠实自我报告的机制特征。该工作试图区分模型关于自身的合理陈述与貌似可信的虚构编造。