arXiv cs.AI· Stanley Akingbola, Ugbede Ibrahim, Yan Lin Aung, Quang Dan Le, Hong Qing Yu·· 23 小时前AI 评分38
LLM 控制的社交机器人存在网络暴露配置攻击风险:Reachy Mini Lite 可被未认证篡改人格与系统提示词
Network-Exposed Configuration Attacks on LLM-Controlled Social Robots
AI 导读
研究者发现 Pollen Robotics Reachy Mini Lite 存在网络暴露配置攻击,未认证攻击者可通过管理接口替换人格设置和云端 LLM 系统提示词,无需对抗性对话输入。
正文 · AI 翻译
摘要:具身机器人中的大型语言模型(LLM)在推理之外还带来了安全依赖。我们研究了一种针对 Pollen Robotics Reachy Mini Lite 的、暴露于网络的配置攻击,该攻击允许未经身份验证的攻击者通过管理界面替换人格设置和云端 LLM 的系统提示词,而无需对抗性对话输入。据报告,五个类别共十一次提示注入尝试均被抵御,而两条配置层攻击路径均在物理硬件上产生了可观察的行为变化。我们演示了本地和网络邻近访问,将该弱点映射到 CWE-306(关键功能缺少身份验证)和 CWE-1327(绑定到不受限制的 IP 地址),报告的 CVSS v3.1 评分为 6.5(中等)。一个配置端点还接受跨源请求而无需 CORS 预检(CWE-352;6.5 中等),而持久内存接收器在存储内容时不强制执行其声明的限制。对 59 个公共仓库的源代码审查发现,在 11 个可验证源代码的真实应用中,有 10 个缺少身份验证;若计入一个框架默认案例,则为 11 个中的 11 个。这些发现表明该问题在抽样仓库中反复出现,而非在商业产品中普遍存在。我们刻画了面向开发者的网络假设与面向消费者的具身 AI 安全之间的部署差距:推理层拒绝无法阻止对模型指令的未经授权更改。潜在后果包括通过板载摄像头和麦克风进行监视,以及对附近用户的社会工程攻击。概念验证代码、证据和调查可在此 https URL获取。
| 主题: | 密码学与安全(cs.CR);人工智能(cs.AI);机器人学(cs.RO) |
| 引用为: | arXiv:2611.22761 [cs.CR] |
| (或 arXiv:2611.22761v1 [cs.CR] 为此版本) | |
| https://doi.org/10.48550/arXiv.2611.22761 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Yan Lin Aung [查看电子邮件]
[v1]
2026年11月17日星期二 13:27:57 UTC(166 KB)
来源:arXiv cs.AI · arxiv.org