研究者提出免训练模态感知专家剪枝框架MAEP
热点事件持续更新
研究者提出免训练模态感知专家剪枝框架MAEP
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Donggeun Kim 等研究者提出免训练框架 MAEP，按模态分解专家重要性，用于剪枝 MoE 多模态大模型。该方法在单次前向传播中完成重要性分解，用 Delta-H Output 衡量移除专家后 MoE 输出的变化，并以低注意力视觉 token 作为数据集稳定的视觉侧剪枝信号。 据研究者报告，MAEP 在多数多模态基准上优于模态无关基线，文本任务保持竞争力。
AI 根据报道生成 · 2 小时前更新
最新进展11月5日 13:00
MAEP：面向 MoE 多模态大模型的模态感知专家剪枝报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- arXiv cs.CLMAEP：面向 MoE 多模态大模型的模态感知专家剪枝
研究者提出免训练框架 MAEP，按模态分解专家重要性来剪枝 MoE 多模态大模型，在多数多模态基准上优于模态无关基线，文本任务保持竞争力。该方法用 Delta-H Output 衡量专家移除后的 MoE 输出变化，并以低注意力视觉 token 作为数据集稳定的视觉侧剪枝信号。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。