理论分析揭示掩码扩散模型缓解反转诅咒的机制

Moongyu Jeon 等作者发表理论分析论文，称掩码扩散语言模型（MDM）缓解反转诅咒的原因在于前向与反向位置条件之间的参数级耦合：共享 Transformer 参数存储 token 对证据，相对位置编码只通过 query 和 key 路由注意力，不改变被检索的 value 侧证据。 该结论来自论文的理论论证，报道未给出实验验证或实际效果数据。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。