研究者提出Beacon框架改进GRPO安全对齐
热点事件持续更新
研究者提出Beacon框架改进GRPO安全对齐
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Jiawei Chen等作者提出Beacon安全对齐框架，针对GRPO在大型推理模型安全对齐中的两种失效模式——优势坍缩和不安全多样化。该框架由安全信号恢复（SSR）与安全-效用解耦对齐（SUDA）两部分组成。 作者称，在四个Qwen3与DeepSeek-R1-Distill变体、八个基准上，Beacon取得最佳平均安全与推理表现，平均安全错误率最多降低32.83个百分点，同时保持较低的过度拒答。
AI 根据报道生成 · 55 分钟前更新
最新进展10月19日 12:00
重新思考 GRPO：面向大型推理模型安全对齐的 Beacon 框架报道时间线
沿着报道，了解事件的不同侧面。
10月19日
- arXiv cs.AI重新思考 GRPO：面向大型推理模型安全对齐的 Beacon 框架
针对 GRPO 在大型推理模型安全对齐中的不足，研究者提出 Beacon 框架，包含安全信号恢复（SSR）与安全-效用解耦对齐（SUDA）两部分，用于解决优势坍缩和不安全多样化两种失效模式。在四个 Qwen3 与 DeepSeek-R1-Distill 变体、八个基准上，该框架取得最佳平均安全与推理表现，平均安全错误率最多降低 32.83 个百分点，同时保持较低的过度拒答。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。