arXiv cs.AI· Nicolas Martorell, Bruno Bianchi·· 3 天前AI 评分31
别问了：语言模型中的数字自我报告究竟测量了什么
Don't Ask: Understanding What Numeric Self-Reports Measure in Language Models
AI 导读
研究在 8 个指令微调模型上为 wellbeing、interest、focus、impulsivity 四个情感概念训练探针，追踪多轮对话中的状态，并与每轮的数字自我报告对比。结果显示评分问题本身会改变被探测状态，评分与提问前探针分数仅弱相关，与提问后探针关联更强；评分与其它概念探针的关联不亚于其自身概念，且这种耦合与概念特异性均未随 1B-27B 规模提升。
正文 · AI 翻译
摘要：语言模型常被要求用数字评价其内部状态，但这一衡量方式的可靠性尚不明确。我们在八个指令微调模型中针对四种情感概念（幸福感、兴趣、专注度和冲动性）训练探针，以在多轮对话中追踪这些状态。我们将每个探针的得分与每一轮中针对同一状态的数字自我报告进行比较。我们发现，评分问题会改变被探针探测的状态，且评分与提问前的探针得分仅弱相关，而与提问后的探针得分关联要强得多。引导实验表明，模型会利用情感方向来形成评分，但这种关系并不具有特异性：评分与其他概念的探针的关联程度与其自身概念的探针相当，且当问题涉及用户时评分变化很小。最后，无论是提问前的关联性还是概念特异性，都没有随规模（1B-27B）提升而改善。我们提醒人们注意提问本身可能对所要询问的内部状态产生影响，并告诫不要将数字自我报告作为衡量这些状态的可靠指标。
| 评论： | 41 页，30 幅图，18 张表。取代预印本“Quantitative Introspection in Language Models: Tracking Emotive States Across Conversation”，为一项扩展并修订的研究：新标题；8 个模型（此前为 1 个深入、4 个较简略）；100 段对话（此前 40 段，新增 60 段）；评分问题前后的探针读数（此前仅有之后）；新增对照；修订后的结论 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2603.18893 [cs.AI] |
| （或 arXiv:2603.18893v3 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2603.18893 arXiv 颁发的 DOI，经由 DataCite |
提交历史
来自：Nicolas Martorell [查看邮箱]
[v1]
2026 年 3 月 19 日星期四 13:33:27 UTC（7,120 KB）
[v2]
2026 年 4 月 11 日星期六 00:08:59 UTC（7,551 KB）
[v3]
2026 年 10 月 10 日星期六 21:22:12 UTC（754 KB）
来源：arXiv cs.AI · arxiv.org