理由引导偏好强化学习框架提出

Anshul Nayak 等作者提出理由引导的偏好强化学习（PbRL）框架，从轨迹级反馈中学习人类奖励模型。与仅使用偏好标签的做法不同，该框架还引入理由标签，用来解释行为为何被偏好，使学到的奖励同时捕捉人类的选择及其依据。 作者称，相比仅用偏好的奖励学习，这种形式提供了额外监督，有助于学习与人类对齐的奖励，并提升策略可解释性。学习到的人类奖励在策略优化中与环境奖励结合，使智能体在提升任务表现的同时，产生更可解释、更符合人类偏好且对偏好敏感的行为。

AI 根据报道生成 · 53 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。