arXiv·· 15 天前AI 评分31
推理模型在因果识别任务上准确但不健全
Reasoning Models Are Accurate but Unsound on Identification
AI 导读
研究发现推理模型在因果效应可识别性判断上存在"准确但不健全"的失败模式：会为可证明不可识别的查询给出公式，而这类答案无法用观测数据验证。为此研究者构建了 CERTID 形式化识别流水线，用可证明不可识别的查询和接受等价公式的评分方式弥补以往评测的不足。
来源：arXiv · arxiv.org