arXiv cs.AI· Chenlu Ding, Jiancan Wu, Yanchen Luo, Zheyuan Liu, Yancheng Yuan, Xiang Wang·· 10 小时前AI 评分34
让大语言模型学会"何时不该知道":TCFT 框架用时间批判微调实现事前推理
Teaching Large Language Models When Not to Know: Learning Temporal Critique for Ex-Ante Reasoning
AI 导读
研究者提出 TCFT(Temporal Critique Fine-Tuning)框架,训练 LLM 在给定查询、时间截止点和候选回答时识别截止点后的信息泄漏并判断回答的时间可接受性。
正文 · AI 翻译
摘要:大型语言模型(LLM)往往无法在时间截止点下进行推理:当被要求以较早时间点的立场作答时,它们会利用后来才可获得的知识。我们通过事前推理的视角研究这一失败,即模型必须仅依赖截止点之前可知的信息。通过对提示层面干预的系统分析,我们发现时间泄漏对截止点表述和指令位置高度敏感:显式截止点陈述优于隐式历史框架,前缀约束比后缀约束更有效地减少泄漏。这些发现表明,提示可以引导模型进入时间框架,但并不能赋予其验证回答在时间上是否可接受的能力。我们进一步认为,监督微调是不够的,因为事前正确性不是答案的内在属性,而是答案与截止点之间的关系。为弥补这一空白,我们提出 TCFT,一种时间批判微调框架,训练模型获得截止点感知的时间验证能力。给定查询、截止点和候选回答,TCFT 教导模型识别截止点后的泄漏、解释时间边界违规并判断时间可接受性。在 Qwen2.5-7B-Instruct 和 Qwen2.5-14B-Instruct 上的实验表明,TCFT 始终优于提示和 SFT 基线,平均泄漏分别降低 41.89 和 37.79 个百分点。
| 评论: | 已被 NeurIPS 2026(第40届神经信息处理系统大会)接收 |
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2605.14636 [cs.AI] |
| (或 arXiv:2605.14636v2 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2605.14636 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Chenlu Ding [查看电子邮件]
[v1]
2026年5月14日星期四 09:49:35 UTC(1,264 KB)
[v2]
2026年10月30日星期五 08:07:28 UTC(1,381 KB)
来源:arXiv cs.AI · arxiv.org