研究者提出Mamba-2状态压缩方法及HARP分层秩分配
热点事件持续更新
研究者提出Mamba-2状态压缩方法及HARP分层秩分配
1 篇报道1 个报道来源12 小时前更新
先了解这件事
AI 综述
Shang Tingyu、Cao Wenfei 等人提出一种面向 Mamba-2 的状态压缩方法:通过平衡截断构造写—读子空间,并配合 HARP 按层分配秩。在 130M–2.7B 模型上,该方法将状态维度减半,WikiText-2 困惑度平均仅上升 0.3 点(1.8%),对比方法 GHOST 则上升 1.6 点(9.3%)。 该方法为训练后变换,校准只需一次前向传播,速度比 GHOST 公开协议快一个数量级,峰值内存更低。
AI 根据报道生成 · 3 小时前更新
最新进展10月28日 12:00
面向 Mamba-2 状态压缩的平衡状态子空间方法报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- arXiv cs.CL面向 Mamba-2 状态压缩的平衡状态子空间方法
研究者提出一种面向 Mamba-2 的状态压缩方法,通过平衡截断构造写—读子空间,并配合 HARP 按层分配秩。在 130M–2.7B 模型上,该方法将状态维度减半,WikiText-2 困惑度平均仅上升 0.3 点(1.8%),而 GHOST 上升 1.6 点(9.3%)。校准只需一次前向传播,速度比 GHOST 公开协议快一个数量级,峰值内存更低。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。