跳到正文
热点事件持续更新

研究:仅凭观测或零访问可攻击协作多智能体强化学习

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Amine Andam、Jamal Bentahar 与 Mustapha Hedabou 提交的论文研究受限黑盒攻击对协作多智能体强化学习(MARL)智能体的影响,提出两种攻击设定:攻击者仅能访问智能体观测,或完全无访问权限。 研究称,攻击者通过生成扰动使受害智能体对环境感知错位、无法协作;在22个环境上的实验显示,该类攻击兼具有效性与样本效率。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. arXiv cs.MA
    仅凭观测甚至零访问:针对协作多智能体强化学习的受限黑盒攻击

    研究提出两种受限黑盒攻击设定:攻击者仅能访问智能体观测,或完全无访问权限,通过生成扰动使受害智能体对环境感知错位、无法协作。在22个环境上的实验显示,该类攻击兼具有效性与样本效率。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。