研究者提出Suan偏好优化算法用于LLM安全对齐

Oleksandr Cherednichenko 与 Roman Klypa 提出偏好优化算法 Suan，用于大语言模型的安全对齐：它直接在梯度层面构建优化目标、绕过标准变分推导，作者称由此获得更可解释、更稳健的训练动态。 据该研究，在多项基线对比与基准评测中，Suan 在实现更优安全对齐的同时保留了模型的回答实用性，缓解了开源权重模型后训练中常见的过度拒答与通用质量下降问题。上述效果均为作者在论文中的报告。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。