跳到正文
arXiv cs.CL· Jonathan Zheng, Zirui Shao, Alan Ritter, Wei Xu·· 12 小时前AI 评分38

PARALLELEVENTS 基准与 SYNAPSE 框架:用模拟未来事件评估和训练 LLM 知识更新

Parallel Universes for Temporal Evaluation and Knowledge Updating in LLMs

AI 导读

研究者提出 PARALLELEVENTS 基准,通过模拟虚构但合理的未来事件轨迹,在无数据污染、不与既有知识冲突的前提下评估 LLM 的知识插入能力。配套的 SYNAPSE 训练框架利用模型生成数据,经指令微调将新知识写入模型参数,无需昂贵的人工标注数据。该方法在问答准确率上较此前方法提升 14.23 分,论文已被 NeurIPS 2026 主会接收。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大型语言模型(LLM)依赖静态预训练语料,导致知识随时间推移而过时。现有的知识编辑评估方法要么面临快速污染的问题,要么依赖与既有刚性知识相冲突的反事实编辑。在本工作中,我们提出一种模拟驱动的方法,用于评估和训练 LLM 进行知识插入。我们引入 PARALLELEVENTS,这是一个模拟虚构但真实的未来事件连贯轨迹的基准,能够实现受控评估,且不会产生数据污染或与既有知识冲突。我们进一步提出 SYNAPSE,这是一个训练框架,利用模型生成的数据通过指令微调将新知识整合到模型参数中。这一合成流程使得知识整合可扩展,无需昂贵的人工整理数据。SYNAPSE 相比先前方法将问答准确率提升了 14.23 分,表明基于模拟的合成训练能够产生稳健、连贯的知识插入。
评论: 已被 NeurIPS 2026 主会议接收,10 页
主题: 计算与语言(cs.CL);机器学习(cs.LG)
引用为: arXiv:2609.00184 [cs.CL]
  (或 arXiv:2609.00184v3 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2609.00184

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Jonathan Zheng [查看邮箱]
[v1] 2026 年 8 月 31 日星期一 18:06:35 UTC(6,829 KB)
[v2] 2026 年 9 月 4 日星期五 17:29:17 UTC(6,829 KB)
[v3] 2026 年 10 月 26 日星期一 23:01:49 UTC(5,896 KB)

来源:arXiv cs.CL · arxiv.org