跳到正文
arXiv cs.AI· Xinyu Zhang, Sichao Liu·· 10 天前AI 评分23

神经解码中上下文先验下的置信度排序反转

Confidence-Ordering Reversal under Contextual Priors in Neural Decoding

AI 导读

研究发现,上下文先验在提升神经到语言解码准确率的同时,会让融合后分数产生"置信度排序反转":在 MEG-MASC 上,区分修复与残留错误的 AUROC 从初始排名 2-3 时的 0.70 降至排名 21-50 时的 0.39,而排名 20 之后的错误占融合后全部错误的 46.6%。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:上下文先验通过重塑候选分数来改进神经到语言的解码。然而,置信度是从同样被重塑的分数中读取的,因此先验留下的错误可能变得更加自信,而准确率却没有变化来揭示这一点。我们使用局部解码分数、通过加性浅融合结合的上下文先验,以及融合后的前二边际作为置信度,研究了先验如何在 MEG-MASC 和 MOUS 上塑造语音检索中的置信度。在最初不正确的预测中,我们发现了一种置信度排序反转:当正确候选从局部排名的顶部附近开始时,更大的边际使修复更可能发生,但当它从较低位置开始时,则更不可能。在 MEG-MASC 上,汇总正确性 AUROC 为 0.87,但区分修复与残留错误的 AUROC 从初始排名 2-3 时的 0.70 下降到排名 21-50 时的 0.39。起始排名超过 20 的错误,即位于反转区域内,占所有融合后错误的 46.6%。我们提出了一种分数层面的解释:修复必须首先弥补正确候选的初始差距,这限制了其最终边际,而残留错误则可以在两个不正确候选之间建立大的边际。一种仅改变融合权重的因果干预,会如预测的那样将反转移动到更深的排名。在词级 LM 先验下,它在准确率增益达到峰值后仍继续移动,因此为准确率选择的权重并不能稳定置信度。分别读取局部分数和先验分数可以改进选择性解码:解码器在 74.5% 的窗口上作答,而不是 56.7%,同时 92% 的输出集仍然包含正确候选。上下文融合后的置信度应保留每个预测背后的局部和上下文证据,而不仅仅是融合后的分数。项目网站:此 https URL 代码:此 https URL
评论: 28 页,4 幅图,18 张表
主题: 人工智能(cs.AI);信息检索(cs.IR);神经元与认知(q-bio.NC)
引用为: arXiv:2610.08229 [cs.AI]
  (或 arXiv:2610.08229v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.08229

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Sichao Liu [查看电子邮件]
[v1] 2026 年 10 月 6 日星期二 12:17:29 UTC(918 KB)

来源:arXiv cs.AI · arxiv.org