arXiv cs.CL· Shuxin Liu, Di Gao, Ou Wu·· 11 小时前AI 评分22
MetaKE:用元学习改进知识编辑,实现更优的准确率-可编辑性权衡
MetaKE: Meta-Learning for Knowledge Editing Toward a Better Accuracy-Editability Trade-off
AI 导读
MetaKE 将知识编辑的上游目标表示优化与下游约束参数优化统一为双层优化问题,外层利用下游约束反馈优化表示,从而改善语义准确率与可编辑性的权衡。为避免昂贵的多层反向传播,该框架引入 Structural Gradient Proxy 近似并传播这一反馈。实验显示 MetaKE 优于强基线方法。
正文 · AI 翻译
摘要:现有的先定位后编辑知识编辑(KE)方法通常将编辑分解为两个阶段:上游目标表示优化和下游约束参数优化。这两个阶段的优化是脱节的:上游施加统一正则化,却不观察下游对计划残差的实现情况,从而阻碍了精度与可编辑性之间更精细的权衡。由于这种实现是请求特定的,并依赖于下游约束,统一正则化可能过度收缩高关联请求,导致编辑不足;同时可能对低关联请求正则化不足,产生过大的计划残差,从而降低下游可编辑性。为弥合这一脱节,我们提出 MetaKE(用于知识编辑的元学习),这是一个将上游和下游阶段统一为双层优化问题的新框架。内层优化目标表示的参数更新,而外层利用下游约束的反馈来优化表示,从而实现更好的语义精度与可编辑性权衡。为避免代价高昂的多层反向传播,我们引入结构梯度代理来近似并传播这一反馈。大量实验表明,MetaKE 优于强基线,为知识编辑提供了新视角。
| 主题: | 计算与语言(cs.CL);人工智能(cs.AI) |
| 引用为: | arXiv:2603.12677 [cs.CL] |
| (或 arXiv:2603.12677v4 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2603.12677 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Shuxin Liu [查看邮箱]
[v1]
2026年3月13日星期五 05:47:00 UTC(371 KB)
[v2]
2026年3月16日星期一 01:43:55 UTC(371 KB)
[v3]
2026年5月7日星期四 12:53:41 UTC(2,220 KB)
[v4]
2026年10月23日星期五 01:32:57 UTC(2,223 KB)
来源:arXiv cs.CL · arxiv.org