跳到正文
arXiv·· 12 天前AI 评分34

具身智能体越狱护栏基准测试:首个系统性评估

Benchmarking Jailbreak Guardrails for Embodied Agents

AI 导读

研究首次系统评估了具身智能体的越狱护栏,发现现有安全基准只评测具身模型本身,无法反映护栏在实际部署中的防御效果。该工作针对 LLM 与视觉语言模型驱动的具身智能体,比较了多种拦截危险动作的护栏方法。

来源:arXiv · arxiv.org