跳到正文
arXiv·· 14 天前AI 评分32

LLM 机器人团队中的隐蔽内部攻击:少撒谎、撒大谎

Lie Rarely, Lie Big: Stealthy Insider Attacks on LLM Robot Teams

AI 导读

研究揭示 LLM 机器人团队面临一种隐蔽内部攻击:单个被攻陷的机器人可破坏团队共享结果。在多机器人勘测任务中,测量结果虽可对照物理世界验证,但每次验证都消耗本可用于推进任务的预算,攻击者受团队自身检测器而非能量约束限制,研究据此推导出两个边界,其中攻击者报告被验证的概率存在上界。

来源:arXiv · arxiv.org