研究者提出First Passage Attention注意力机制
热点事件持续更新
研究者提出First Passage Attention注意力机制
1 篇报道1 个报道来源11 小时前更新
先了解这件事
AI 综述
研究者 Yuxuan Liu 提出 First Passage Attention（FPA）注意力机制，用路径极值替代路径求和：按学习到的标量场在区间内的最深下探幅度，成比例降低 key 的 logit，从而选择性擦除中间上下文、保留更早的结构相关 token。 该机制将遗忘门从沿 key-query 路径的单调累加改为路径极值。目前报道仅给出方法描述，未报告实验效果或对比结果。
AI 根据报道生成 · 2 小时前更新
最新进展10月19日 12:00
First Passage Attention：用路径极值替代路径求和的新型注意力机制报道时间线
沿着报道，了解事件的不同侧面。
10月19日
- arXiv cs.CLFirst Passage Attention：用路径极值替代路径求和的新型注意力机制
研究者提出 First Passage Attention（FPA），将遗忘门机制从沿 key-query 路径的单调累加改为路径极值，按学习到的标量场在区间内的最深下探幅度成比例降低 key 的 logit，从而选择性擦除中间上下文而保留更早的结构相关 token。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。