研究揭示语言模型整合时间锚点的两条路径

Ayana Niwa 等作者提出“锚定事实回忆”任务：模型收到显式条件（锚点）后，需在多个候选对象中选出符合该条件的事实，并对四个开源权重模型做因果干预实验。研究发现两条并行路径：主体中介路径中，锚点把最终主体 token 的表示解析到所查询年份，关系再通过注意力头重新分配该状态的读出；直接路径中，最终位置直接关注锚点，由上层 MLP 将信号转化为对时间适配对象的偏好。 该结论来自对四个开源权重模型的实验，作者称其为两条并行路径，尚未说明是否适用于其他模型。

AI 根据报道生成 · 44 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。