arXiv cs.AI· Victoria J. Hodge, Colin Paterson, Rob Alexander·· 6 天前AI 评分22
基于本地智能体 AI 框架生成边缘案例场景以保障安全
A Local Agentic AI Framework to Generate Edge Case Scenarios for Safety Assurance
AI 导读
一个基于笔记本电脑的本地智能体 AI 框架，用本地 LM 通过 think、act、observe、update、continue 循环与轻量 JSON 编码自适应生成边缘案例场景，并以第二个独立 LM 按领域标准评审精炼。精炼场景在仿真中运行并采集指标，据此对相似场景做利用、或生成新场景做探索，再通过指标聚类与主题分析定位功能缺口及其触发条件，形成可追溯的安全保障证据。
正文 · AI 翻译
摘要：生成边缘案例场景对于自主系统的训练、测试和安全保障至关重要。这能够识别危险故障，从而提高系统的可靠性和鲁棒性，确保系统在其运行设计域的边界上仍能安全运行，并学习这些边缘案例的预期系统行为。语言模型（LM）在生成和分析能力方面的快速进步扩展了其适用性，近期研究已开始探索 LM 场景生成。然而，许多近期方法依赖人工介入或基于规则的策略。这限制了 LM 生成多样化边缘案例场景的能力，即分布的长尾部分。我们的工作在基于笔记本电脑的智能体 AI 框架中使用本地 LM 进行自适应场景生成。这种方式成本低廉、完全可控，并确保数据隐私与安全。它使用思考、行动、观察、更新和继续的循环，配合轻量级 JSON 编码来生成场景。我们将系统需求、系统描述和环境描述作为上下文提示中的知识库，供 LM 使用，以确保场景的真实性。第二个独立的 LM 使用领域特定标准对每个场景进行评判，以便对其进行改进。改进后的场景在仿真中运行，并收集评估指标。对这些指标分数进行分析，然后为边缘案例创建相似场景（利用），或生成新颖场景以探索场景空间。利用指标分数进行事后聚类，并对 LM 生成的富文本场景描述进行主题类型分析，可精准定位功能缺口及其触发条件。这为安全保证案例创建了可追溯的证据。我们的工作凸显了灵活且自适应的本地智能体 AI 框架在自动化边缘案例生成和产生可追溯安全保证证据方面的潜力。
| 学科： | 人工智能（cs.AI）；机器人学（cs.RO） |
| 引用为： | arXiv:2610.13479 [cs.AI] |
| （或 arXiv:2610.13479v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.13479 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Victoria Hodge [查看电子邮件]
[v1]
2026年10月9日星期五 12:13:17 UTC（2,584 KB）
来源：arXiv cs.AI · arxiv.org