跳到正文
热点事件持续更新

LARC技术报告发布v2版本

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Junyi Zou等作者发布LARC(低秩自适应残差连接)技术报告v2版本。该方法为冻结模型提供可学习的紧凑数值状态,通过 h+BAh 映射改写预训练混合器的隐藏输入,并在反馈到来时更新因子、随后重置回学习到的初始化 ρ。 据作者称,v2版本新增Orbit实现、一个因子状态反例,并更新了公开组件的访问方式。

AI 根据报道生成 · 48 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. arXiv cs.CL
    LARC:面向冻结模型学习的低秩自适应残差连接

    LARC 为冻结模型提供可学习的紧凑数值状态,通过 h+BAh 映射改写预训练混合器的隐藏输入,并在反馈到来时更新因子、随后重置回学习到的初始化 ρ。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。