新研究复现Neural Thickets增益,提出PSV框架
热点事件持续更新
新研究复现Neural Thickets增益,提出PSV框架
1 篇报道1 个报道来源12 小时前更新
先了解这件事
AI 综述
Nicolas Dufour等作者发表论文,提出Perturb-Select-Vote(PSV)框架,用于解释Neural Thickets假说及权重扰动带来的增益。该框架的流程是:生成受扰动的预测器,在小验证集上筛选表现较好的成员,再聚合它们的预测。 研究复现了Neural Thickets报告的增益,但发现仅扰动单个decoder block即可恢复大部分提升;完全冻结模型并给输出logits加随机偏置,在多数推理任务上就能匹配甚至超过全权重扰动。作者据此称,权重扰动并非增益的必要来源。
AI 根据报道生成 · 2 小时前更新
最新进展10月31日 12:00
无需权重扰动:重新审视 Neural Thickets 假说报道时间线
沿着报道,了解事件的不同侧面。
10月31日
- arXiv cs.AI无需权重扰动:重新审视 Neural Thickets 假说
研究复现了 Neural Thickets 报告的增益,但发现仅扰动单个 decoder block 即可恢复大部分提升,完全冻结模型并给输出 logits 加随机偏置,在多数推理任务上就能匹配甚至超过全权重扰动。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 810月31日 22:00
- 近 24 小时变化
- –
02468
22:0023:0011月1日
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。