arXiv cs.AI· Sangjun Park, Elliot Meyerson, Xin Qiu, Risto Miikkulainen·· 1 天前AI 评分38
用微调让 LLM 知道自己知道什么：ESMA 方法提升元认知能力
Fine-Tuning Language Models to Know What They Know
AI 导读
研究提出 ESMA（Evolution Strategy for Metacognitive Alignment）方法，通过微调提升 LLM 的元认知能力，并用 $d'_{\rm type2}$ 指标在控制偏差与启发式的前提下单独测量该能力。
正文 · AI 翻译
摘要：由于偏见与启发式的影响，评估大型语言模型（LLM）的真实元认知十分困难。本文提出了一个框架，用于在控制这些偏见的同时测量并增强 LLM 的元认知。建立了一种使用 $d'_{\rm type2}$ 指标的测量方法，以分离出元认知能力。提出了元认知对齐进化策略（ESMA），并展示了其在未见数据集、语言和新获得知识上的稳健泛化能力。逐步参数更新揭示，这些改进由一小部分稀疏参数驱动，为有针对性的元认知优化开辟了潜在途径。
| 评论： | 已被 NeurIPS 2026 接收 |
| 主题： | 神经与进化计算（cs.NE）；人工智能（cs.AI）；计算与语言（cs.CL）；神经元与认知（q-bio.NC） |
| 引用为： | arXiv:2602.02605 [cs.NE] |
| （或本版本的 arXiv:2602.02605v3 [cs.NE]） | |
| https://doi.org/10.48550/arXiv.2602.02605 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Sangjun Park [查看邮箱]
[v1]
2026年2月2日 星期一 04:08:13 UTC（1,441 KB）
[v2]
2026年5月24日 星期日 06:55:56 UTC（1,449 KB）
[v3]
2026年11月10日 星期二 20:13:08 UTC（1,462 KB）
来源：arXiv cs.AI · arxiv.org