研究者提出长程智能体安全预测框架Janus

Yuan Xiong等研究者提出面向长时程智能体安全的Janus框架，训练守卫模型在执行前预判并拦截不安全动作。该框架通过多智能体模拟合成轨迹，联合训练“预判安全相关未来”与“基于已观测前缀和预判未来做安全判定”两个任务，并用CoAA-RL按对下游安全判断的效用奖励预判。 由此得到的守卫模型Vanguard在四个智能体安全基准上平均防护能力较基线guard提升15.9个百分点，同时良性任务完成率提升5.1个百分点。

AI 根据报道生成 · 51 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。