跳到正文
热点事件持续更新

LambdaMix:单次训练可切换偏好的多目标优化方法

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Constantinos Karouzos 与 Nikolaos Aletras 提出 LambdaMix,一种参数高效的多目标偏好优化方法:在冻结的基座模型上为每个目标联合训练一个低秩适配器,推理时用偏好向量选择适配器混合并加权归一化奖励,单次训练即可切换偏好,无需额外优化。 在“有用性与无害性”“数学解题兼顾指令遵循”两项任务上,四个模型取得的 hypervolume 均高于所有条件化与策略合并基线;作者称其比一组 GRPO 专家策略使用更少训练完成数和更少适配器参数。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月9日
  1. arXiv cs.CL
    LambdaMix:联合训练低秩适配器的可调控多目标组相对偏好优化

    LambdaMix 是一种参数高效方法,通过在冻结基座上为每个目标联合训练一个低秩适配器,用偏好向量选择适配器混合并加权归一化奖励,实现组相对在线强化学习。单次训练即可在推理时切换偏好,无需额外优化。在有用性与无害性、数学解题兼顾指令遵循两项任务上,四个模型均取得高于所有条件化与策略合并基线的 hypervolume,且比一组 GRPO 专家策略使用更少训练完成数和更少适配器参数。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。