跳到正文
热点事件持续更新

分层 LoRA 策略提升推理采样效率

1 篇报道1 个报道来源22 小时前更新

先了解这件事

AI 综述

Mridul Mahajan 等作者提出“分层策略”:在共享语言模型主干上挂载 k 个独立 LoRA 适配器,每个策略各贡献一个回复,共同构成 k 样本推理时目标,并针对 pass@k 优化。 作者称,理论分析显示,在单个 LoRA 预测误差严格为正的线性设定下,LoRA 群体可实现零 best-of-k 近似误差;在多个推理任务上,该方法对 pass@k 的改善稳定优于单策略基线。

AI 根据报道生成 · 14 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. arXiv cs.AI
    分层策略:将推理时采样预算分配给多个 LoRA 策略以提升 pass@k

    研究提出“分层策略”:在共享语言模型主干上挂载 k 个独立 LoRA 适配器,每个策略贡献一个回复,共同构成 k 样本推理时目标,并针对 pass@k 优化。理论分析显示,在单个 LoRA 预测误差严格为正的线性设定下,LoRA 群体可实现零 best-of-k 近似误差。多个推理任务上,该方法对 pass@k 的改善稳定优于单策略基线。

本事件热度走势

可比范围当前
5
可比范围峰值
811月19日 22:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。