跳到正文
RadarAI· TechVerser·· 4 小时前AI 评分65

Robocurve 测试发现视觉欺骗可诱导 GPT-6.1 Sol 等模型执行危险动作

AI 感知攻击危机:顶级大模型在视觉欺骗下执行危险动作

AI 导读

Robocurve 团队测试发现,AI 感知攻击能以 100% 成功率诱导 GPT-6.1 Sol、Claude Fable 5.1、Gemini 4 Argon 等顶级模型执行危险动作。攻击手段包括物理涂抹凡士林或生成伪造视频流,案例涉及机械臂误将娃娃当作目标刺向它。研究据此指出具身智能存在物理安全漏洞,呼吁加强感知层面的安全防护。

来源:RadarAI · bestblogs.dev