Delta N-gram：前向写入语言模型原生N-gram记忆

Hao Wu 等人提出 Delta N-gram 方法，为语言模型的原生哈希 N-gram 表增加一条仅需前向传播的写入路径。预训练得到的哈希 N-gram 表 T^0 保持不变，新证据写入稀疏补丁 Δ；一个 4.1M 参数的写入器为每个（位置、哈希头）事件生成写入目标与门控。清除 Δ 即可恢复原模型，因此写入内容可撤销。该研究以预印本形式发布，尚未见同行评审或独立复现。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。