arXiv cs.AI· Kaiyang Wan, Forrest Sheng Bao, Amin Ahmad, Yuxia Wang·· 11 小时前AI 评分31
微调目标如何塑造 LLM 幻觉检测中的分层信息
How Fine-Tuning Objectives Shape Layer-Wise Information in LLM Hallucination Detection
AI 导读
在匹配条件下，分类头微调（cls）在二元幻觉检测上持续优于 LLM-as-Judge 的序列到序列（s2s）范式，原因是 cls 学出任务特定的判别方向，使隐藏状态形成类间分离更强的双簇几何。
正文 · AI 翻译
摘要：在匹配条件下，分类器头微调（\textsc{cls}）范式在二元幻觉检测上始终优于 LLM-as-Judge 序列到序列（\textsc{s2s}）范式。我们将这一差距归因于两种目标所诱导的表征。静态分析表明，\textsc{cls} 学习到一个任务特定的判别方向，将隐藏状态推向清晰的双簇几何结构，具有更强的类别分离性和线性可解码的标签信息。相比之下，\textsc{s2s} 依赖预训练的语言建模头来做出决策。这最小化了重组表征的压力，使隐藏状态更接近预训练骨干。我们的分析还揭示，\textsc{cls} 信号在最后一层之前就已饱和，此后上层形成一个平台期，其中的表征在统计上可互换且在很大程度上冗余。然而，仅凭端点冗余并不能说明这些层在训练期间是否可弃。进一步的训练动态分析揭示了 1）较低的预训练基底，2）一个狭窄的中上部 \textbf{InfoWindow}，任务信息在此出现，以及 3）一个较晚同步的上部平台期，与这一信号相呼应。这一机制促使我们移除 InfoWindow 以上的层。截断网络 31\% 后，在 Qwen3-4B 和 8B 上准确率在种子噪声范围内保持不变，并将延迟降低 $1.4\times$。相同的深度比例（在对目标模型进行任何分析之前就已固定）可迁移到 Llama-3.2-3B 和 Mistral-7B-v0.3，其背后的层结构在那里以及 QNLI 和 SST-2 上再次出现。我们希望这有助于指导高效的任务特定 LLM 设计。
| 评论： | 37 页，6 张图，NeurIPS 2026 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.27711 [cs.AI] |
| （或 arXiv:2610.27711v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.27711 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Kaiyang Wan [查看邮箱]
[v1]
2026 年 10 月 20 日星期二 06:30:27 UTC（269 KB）
来源：arXiv cs.AI · arxiv.org