BeFit:把模型容量从权重移到 Bernstein 激活
热点事件持续更新
BeFit:把模型容量从权重移到 Bernstein 激活
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Malak Gamal El-Din 等作者提交论文,提出 BeFit 框架:用可学习的 Bernstein 多项式激活函数承担模型容量,把容量从权重上转移出去,并配合硬件感知 NAS、知识蒸馏和无乘法权重投影,面向资源受限的传感设备。 在人体活动识别任务上,同架构的 BeCNN 平均比 ReLU CNN 高 2.75 个百分点;在 TI CC3220SF 上,权重投影带来平均 2.2 倍加速,精度仅损失 0.8 个百分点。这些结果来自论文报告。
AI 根据报道生成 · 1 小时前更新
最新进展11月20日 13:00
BeFit:将模型复杂度从权重转移到 Bernstein 激活,面向资源受限传感设备报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- arXiv cs.AIBeFit:将模型复杂度从权重转移到 Bernstein 激活,面向资源受限传感设备
BeFit 是一个端到端框架,通过可学习的 Bernstein 多项式激活把模型容量从权重转移到激活函数上,并结合硬件感知 NAS、知识蒸馏与无乘法权重投影。在人体活动识别任务上,同架构 BeCNN 平均比 ReLU CNN 高 2.75 个百分点;在 TI CC3220SF 上权重投影带来平均 2.2x 加速,仅损失 0.8 pp。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。