arXiv cs.AI· Kentaro Ozeki, Risako Ando, Takanobu Morishita, Hirohiko Abe, Koji Mineshima, Mitsuhiro Okada·· 11 小时前AI 评分45
大型推理模型是合格的日常推理者吗?与非推理模型在逻辑推理任务上的对比
Are Large Reasoning Models Good Everyday Reasoners? A Comparison with Non-Reasoning Models on Logical Reasoning Tasks
AI 导读
一项基于语言与语用推理现象构建的新基准测试发现,大型推理模型在日常推理偏离形式逻辑规则时性能反而下降,部分使用 chain-of-thought 提示的非推理模型在日常推理上超过了同类推理模型。额外指令提示对推理行为的控制作用有限,表明当前推理模型无法可靠捕捉日常推理,后训练目标与评测方式仍需改进。
正文 · AI 翻译
摘要:利用测试时计算的大型推理模型(LRM)在数学和科学基准测试中取得了强劲表现,并越来越多地部署于现实应用中。然而,它们执行\textit{日常逻辑推理}的能力——这种推理往往偏离教科书式的形式逻辑——仍未被充分探索。在本工作中,我们通过引入一个基于语言学和语用推理现象的基准,系统评估推理模型与日常推理模式的对齐程度。我们还在受控提示条件下比较了推理模型与非推理模型。我们发现,在许多情况下:(1) 当日常推理偏离形式逻辑规则时,推理模型在日常推理中表现下降;(2) 一些采用思维链提示的非推理模型在日常推理中优于同类推理模型;(3) 附加指令的提示对推理行为的控制有限。这些发现表明,当前推理模型无法可靠地捕捉日常推理,并指向后训练中的局限,从而推动改进训练目标以及在多种推理形式上的评估。
| 学科: | 人工智能(cs.AI);计算与语言(cs.CL) |
| 引用为: | arXiv:2610.22538 [cs.AI] |
| (或 arXiv:2610.22538v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.22538 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Kentaro Ozeki [查看邮箱]
[v1]
2026年10月15日 星期四 18:37:22 UTC(56 KB)
来源:arXiv cs.AI · arxiv.org