arXiv·· 12 天前AI 评分22
0.6 到底有多高？可解释性探针中的下限、上限与余量
How High Is 0.6? Floors, Ceilings, and Headroom in Interpretability Probing
AI 导读
针对可解释性探针分数缺乏固定含义的问题，研究者提出用两个参照点来解读每个探针分数：下限是给定简单输入已能预测的部分，上限是完整输入能预测的部分，两者之间的差距即"余量"，是探针能够证明模型计算了超出输入本身信息的范围。
来源：arXiv · arxiv.org