研究:两层Transformer可证完成图搜索
热点事件持续更新
研究:两层Transformer可证完成图搜索
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Xutao Ma 与 Somayeh Sojoudi 发表论文,研究 Transformer 在有向图上学习路径搜索的训练动力学与深度作用。论文证明:单层 Transformer 在稠密图上实现深度优先搜索(DFS)的子节点选择原语,需要 Ω(N²) 规模;两层 Transformer 仅需 O(N log(N)) 即可完成完整 DFS。作者据此称,第二层对近线性 DFS 推理既必要又充分。 该研究把有向图上的路径搜索作为多步推理的符号抽象来考察。
AI 根据报道生成 · 57 分钟前更新
最新进展11月11日 13:00
Transformer 可证明学会图搜索:训练动力学与深度的指数级能力报道时间线
沿着报道,了解事件的不同侧面。
11月11日
- arXiv cs.AITransformer 可证明学会图搜索:训练动力学与深度的指数级能力
研究证明单层 Transformer 在稠密图上实现 DFS 子节点选择原语需 Ω(N²) 规模,而两层 Transformer 仅需 O(N log(N)) 即可完成完整 DFS,说明第二层对近线性 DFS 推理既必要又充分。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。