AMMA多芯粒内存中心架构加速长上下文注意力
热点事件持续更新
AMMA多芯粒内存中心架构加速长上下文注意力
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Zhongkai Yu 等作者提出 AMMA 多芯粒、内存中心架构，用 HBM-PNM 立方体替代 GPU 计算裸片，将可用内存带宽大致翻倍，以服务内存受限的长上下文注意力负载。 在 1M token 上下文场景下，该架构相比 NVIDIA H100 注意力延迟降低 15.5 倍、能耗降低 6.9 倍。该工作已被 MICRO 2026 接收。
AI 根据报道生成 · 46 分钟前更新
最新进展11月3日 13:00
AMMA：面向低延迟 1M 上下文注意力服务的多芯粒内存中心架构报道时间线
沿着报道，了解事件的不同侧面。
11月3日
- arXiv cs.AIAMMA：面向低延迟 1M 上下文注意力服务的多芯粒内存中心架构
AMMA 是一种多芯粒、内存中心的架构，用 HBM-PNM 立方体替代 GPU 计算裸片，将可用内存带宽大致翻倍，以服务内存受限的长上下文注意力负载。在 1M token 上下文场景下，AMMA 相比 NVIDIA H100 注意力延迟降低 15.5 倍、能耗降低 6.9 倍。该工作已被 MICRO 2026 接收。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。