跳到正文
热点事件持续更新

RePolicy:智能体安全防护联合学习策略选择与评估

1 篇报道1 个报道来源12 小时前更新

先了解这件事

AI 综述

Houcheng Jiang等作者提出 RePolicy,一种让 AI 智能体安全防护同时学习“选策略”和“判安全”的方法:它根据智能体的行动轨迹,从候选安全策略中选出最匹配的一项,再据此判断该行为是否安全。 为训练这一方法,团队构建了包含超过 2 万条智能体轨迹的 PolicyTraj-20K 数据集,采用监督示范加强化学习,并通过随机化策略顺序、标识符和干扰项来减少模型走捷径。报道未给出该方法在实际部署中的安全效果数据。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月31日
  1. arXiv cs.AI
    RePolicy:让 AI 智能体安全防护学会选择并应用安全策略

    RePolicy 是一种联合学习策略选择与安全评估的智能体安全防护方案,可根据智能体轨迹从候选策略中选出最匹配的一项并判断行为是否安全。研究团队构建了含超 2 万条智能体轨迹的 PolicyTraj-20K 数据集,采用监督示范加强化学习训练,并通过随机化策略顺序、标识符和干扰项减少捷径学习。

本事件热度走势

可比范围当前
7
可比范围峰值
810月31日 22:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。