跳到正文
热点事件持续更新

研究者提出法庭式多智能体LLM安全案例生成框架

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Gerhard Yu等作者提出 eTrustWare,一个基于 LLM 的多智能体框架,用于自动生成与审查安全案例。该框架把安全案例构建类比为法庭审判:安全分析师任“检察官”识别危害,安全论证开发者任“辩护律师”构建论证,编排者任“法官”协调交互,评审委员会任“陪审团”评估论证的完整性与说服力。 作者称,在多个机器学习赋能的自动驾驶系统安全案例上实验表明,由协调式 LLM 智能体生成安全案例具备可行性。

AI 根据报道生成 · 13 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. arXiv cs.MA
    eTrustWare:受法庭启发的多智能体 LLM 框架,自动生成安全案例

    研究者提出 eTrustWare,一个基于 LLM 的多智能体框架,用于自动生成与审查安全案例。该框架将安全案例构建类比为法庭审判:安全分析师担任"检察官"识别危害,安全论证开发者担任"辩护律师"构建论证,编排者担任"法官"协调交互,评审委员会担任"陪审团"评估论证完整性与说服力。在多个 ML 赋能的自动驾驶系统安全案例上的实验表明,协调式 LLM 智能体生成安全案例具备可行性。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。