arXiv cs.CL· Jonathan Zheng, Zirui Shao, Alan Ritter, Wei Xu·· 12 小时前AI 评分38
PARALLELEVENTS 基准与 SYNAPSE 框架:用模拟未来事件评估和训练 LLM 知识更新
Parallel Universes for Temporal Evaluation and Knowledge Updating in LLMs
AI 导读
研究者提出 PARALLELEVENTS 基准,通过模拟虚构但合理的未来事件轨迹,在无数据污染、不与既有知识冲突的前提下评估 LLM 的知识插入能力。配套的 SYNAPSE 训练框架利用模型生成数据,经指令微调将新知识写入模型参数,无需昂贵的人工标注数据。该方法在问答准确率上较此前方法提升 14.23 分,论文已被 NeurIPS 2026 主会接收。
正文 · AI 翻译
摘要:大型语言模型(LLM)依赖静态预训练语料,导致知识随时间推移而过时。现有的知识编辑评估方法要么面临快速污染的问题,要么依赖与既有刚性知识相冲突的反事实编辑。在本工作中,我们提出一种模拟驱动的方法,用于评估和训练 LLM 进行知识插入。我们引入 PARALLELEVENTS,这是一个模拟虚构但真实的未来事件连贯轨迹的基准,能够实现受控评估,且不会产生数据污染或与既有知识冲突。我们进一步提出 SYNAPSE,这是一个训练框架,利用模型生成的数据通过指令微调将新知识整合到模型参数中。这一合成流程使得知识整合可扩展,无需昂贵的人工整理数据。SYNAPSE 相比先前方法将问答准确率提升了 14.23 分,表明基于模拟的合成训练能够产生稳健、连贯的知识插入。
| 评论: | 已被 NeurIPS 2026 主会议接收,10 页 |
| 主题: | 计算与语言(cs.CL);机器学习(cs.LG) |
| 引用为: | arXiv:2609.00184 [cs.CL] |
| (或 arXiv:2609.00184v3 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2609.00184 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Jonathan Zheng [查看邮箱]
[v1]
2026 年 8 月 31 日星期一 18:06:35 UTC(6,829 KB)
[v2]
2026 年 9 月 4 日星期五 17:29:17 UTC(6,829 KB)
[v3]
2026 年 10 月 26 日星期一 23:01:49 UTC(5,896 KB)
来源:arXiv cs.CL · arxiv.org