LambdaMix:单次训练可切换偏好的多目标优化方法
热点事件持续更新
LambdaMix:单次训练可切换偏好的多目标优化方法
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Constantinos Karouzos 与 Nikolaos Aletras 提出 LambdaMix,一种参数高效的多目标偏好优化方法:在冻结的基座模型上为每个目标联合训练一个低秩适配器,推理时用偏好向量选择适配器混合并加权归一化奖励,单次训练即可切换偏好,无需额外优化。 在“有用性与无害性”“数学解题兼顾指令遵循”两项任务上,四个模型取得的 hypervolume 均高于所有条件化与策略合并基线;作者称其比一组 GRPO 专家策略使用更少训练完成数和更少适配器参数。
AI 根据报道生成 · 1 小时前更新
最新进展11月9日 13:00
LambdaMix:联合训练低秩适配器的可调控多目标组相对偏好优化报道时间线
沿着报道,了解事件的不同侧面。
11月9日
- arXiv cs.CLLambdaMix:联合训练低秩适配器的可调控多目标组相对偏好优化
LambdaMix 是一种参数高效方法,通过在冻结基座上为每个目标联合训练一个低秩适配器,用偏好向量选择适配器混合并加权归一化奖励,实现组相对在线强化学习。单次训练即可在推理时切换偏好,无需额外优化。在有用性与无害性、数学解题兼顾指令遵循两项任务上,四个模型均取得高于所有条件化与策略合并基线的 hypervolume,且比一组 GRPO 专家策略使用更少训练完成数和更少适配器参数。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。