arXiv cs.MA· Gerhard Yu (Alex), Amanuel Aknaw (Alex), Amir Ali Mohaghegh (Alex), Yong Song (Alex), Cao, Alvine B. Belle·· 9 小时前AI 评分31
eTrustWare:受法庭启发的多智能体 LLM 框架,自动生成安全案例
The Defense Rests: A Courtroom-Inspired Multi-Agent LLM Framework for Automated Safety Case Generation
AI 导读
研究者提出 eTrustWare,一个基于 LLM 的多智能体框架,用于自动生成与审查安全案例。该框架将安全案例构建类比为法庭审判:安全分析师担任"检察官"识别危害,安全论证开发者担任"辩护律师"构建论证,编排者担任"法官"协调交互,评审委员会担任"陪审团"评估论证完整性与说服力。在多个 ML 赋能的自动驾驶系统安全案例上的实验表明,协调式 LLM 智能体生成安全案例具备可行性。
正文 · AI 翻译
摘要:安全案例被广泛用于证明任务关键型系统(如自动驾驶车辆和无人航空系统)在部署后能够安全运行。然而,手动构建安全案例复杂、耗时且劳动密集,因此需要提出自动化方法来支持其创建。受安全案例构建的法律性质启发,我们通过法庭类比来形式化安全案例创建问题,其中利益相关者协作提出、审查、批评、评审、改进和验证安全声明及其支持证据。在此类比中,安全分析师充当检察官,识别危害和安全问题;而保证案例开发者充当辩护律师,构建并证实安全论证。编排者充当法官,协调利益相关者之间的交互;评审委员会充当陪审团,评估论证的完整性和说服力。基于这一形式化,我们提出了 eTrustWare,一个基于大语言模型(LLM)的多智能体框架,用于自动化安全案例生成与评审。我们在多个机器学习赋能的自动驾驶系统安全案例上的实验表明,基于 LLM 的协调智能体生成安全案例是可行的。
| 评论: | 10 页 |
| 主题: | 软件工程(cs.SE);多智能体系统(cs.MA) |
| 引用为: | arXiv:2611.21618 [cs.SE] |
| (或 arXiv:2611.21618v1 [cs.SE] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.21618 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Alvine B. Belle [查看电子邮件]
[v1]
2026年9月2日星期三 03:02:12 UTC(102 KB)
来源:arXiv cs.MA · arxiv.org