arXiv cs.AI· Chieh-Yuan Chang, Guan-Wei Chen, Chia-Yi Hsu, Chih Yang, Chia-Mu Yu, Chun-Ying Huang·· 14 小时前AI 评分48
NameTrap:仅靠重命名变量名即可诱导 AI 编程智能体引入安全漏洞
NameTrap: Steering AI Coding Agents Toward Security Vulnerabilities via Variable Names
AI 导读
NameTrap 是一种源码投毒攻击,只重命名第三方 Python 文件中的标识符,就能在无任何显式指令的情况下诱导 AI 编程智能体生成攻击者指定的 CWE 漏洞。
正文 · AI 翻译
摘要:AI 编程代理通常会克隆代码仓库、安装软件包,并读取从 Web 获取的源代码,因此公开托管的代码会成为塑造其所编写代码的上下文的一部分。我们表明,这种来自 Web 的上下文可以在没有任何明确指令的情况下被武器化。我们提出 NameTrap,这是一种源代码投毒攻击,它仅通过重命名第三方 Python 文件中的标识符,就能引导 AI 编程代理走向攻击者指定的通用弱点枚举(CWE)漏洞。攻击方编程代理会迭代地将标识符与特定 CWE 的命名约定对齐,并通过本地探测补全确认重命名后的文件能引发目标弱点,而发布的诱饵中既不含指令也不含易受攻击的语句。我们在六个 AI 编程代理、十个底层语言模型和四个漏洞类别上评估 NameTrap:CWE-78、CWE-79、CWE-327 和 CWE-502。从干净版本从不产生目标 CWE 的文件出发,标识符级操纵在六个代理上实现了 22.5\% 至 56.0\% 的总体攻击成功率,在某些代理—模型配置下达到 75.0\%,并显著优于随机重命名、中性重命名以及先前的标识符投毒攻击 XOXO。该攻击在繁体中文提示下仍然有效,并可跨模型迁移,而安全提醒防御无法持续阻止漏洞引入。此外,三个基于 AI 的安全分析器和四个静态分析器均未在投毒文件中报告任何目标弱点。这些发现揭示了消费 Web 内容的代理的一个被忽视的攻击面:不可信的、Web 托管代码中看似无害的变量名可能危及下游软件的安全。
| 主题: | 密码学与安全(cs.CR);人工智能(cs.AI) |
| 引用为: | arXiv:2610.34253 [cs.CR] |
| (或本版本的 arXiv:2610.34253v1 [cs.CR]) | |
| https://doi.org/10.48550/arXiv.2610.34253 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Chia-Yi Hsu [查看电子邮件]
[v1]
2026 年 10 月 25 日星期日 12:29:23 UTC(1,538 KB)
来源:arXiv cs.AI · arxiv.org