跳到正文
热点事件持续更新

动态专家跳过未胜静态基线:MoE受控对比

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Jakob Steimle等作者发表受控对比研究,将四种代表性MoE动态专家跳过方法归入统一分类,并在同等专家计算预算下与“静态降低专家数k”这一简单基线比较。测试覆盖纯文本场景的Gemma4-26B-A4B、Qwen3-30B-A3B,以及多模态场景的Qwen3-VL。 研究结论指向:在这些设定下,动态专家跳过方法未能超越静态基线,作者据此提出“别跳过基线”。该结论限于上述模型与同等专家计算预算的对比条件。

AI 根据报道生成 · 55 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. arXiv cs.AI
    别跳过基线:MoE 动态专家跳过方法的受控对比研究

    研究将四种代表性 MoE 动态专家跳过方法归入统一分类,并在 Gemma4-26B-A4B、Qwen3-30B-A3B 及多模态 Qwen3-VL 上,与"静态降低专家数 k"这一简单基线在同等专家计算预算下对比。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。