arXiv cs.AI· Jie Zhu, Ronik Bhaskar, Heather Zheng, Ben Y. Zhao, Kexin Pei·· 3 天前AI 评分37
自然代码变换如何让 AI 智能体在漏洞分析中"迷惑"
Natural Code Transformation Confuses Agents in Vulnerability Analysis
AI 导读
研究发现，面对功能与漏洞完全相同但代码写法不同的真实提交，AI 智能体在漏洞分析中的表现差异巨大，该现象在多个代码领域和漏洞类别中一致出现。团队从真实代码提交中挖掘开发模式构建自然变换语料，结果显示仅一种变换形式就能有效"迷惑"前沿智能体，如 Codex 搭配 GPT-6 Sol，降低其漏洞发现成功率。研究还考察了智能体的不同失败模式、变换组合能否提供更强防护，以及试图逆向变换的自适应攻击者。
正文 · AI 翻译
摘要：在展示了自动化漏洞发现的强大潜力之后，AI 智能体也可被用于大规模攻击软件系统。当今的软件系统需要机制来平衡这一局面，通过减缓潜在攻击的速度，为修补漏洞和加固软件争取时间。沿着这一思路，我们对漏洞分析中智能体轨迹的研究得出了一个令人惊讶的发现：在功能相同、漏洞也相同的真实世界代码提交上，智能体会产生截然不同的结果。这一现象在多个代码领域和漏洞类别中持续出现。
这促使我们研究源自真实世界软件开发的、保持功能不变的自然代码变换，以及它们作为防御攻击者智能体的潜力。我们通过从真实世界代码提交中挖掘反复出现的开发模式，构建了一个自然变换语料库，并应用它们来评估对智能体漏洞分析的影响。我们的结果表明，即使单一形式的变换也能有效“迷惑”前沿智能体，例如搭载 GPT-6 Sol 的 Codex，从而降低漏洞发现成功率。我们还研究了不同的智能体失败情况、变换能否组合以提供更强保护，以及试图逆转这些变换的自适应攻击者。总体而言，我们对自然代码变换的研究显著拓展了利用代码变换防御恶意智能体的研究空间。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.14350 [cs.CR] |
| （或使用 arXiv:2610.14350v2 [cs.CR] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2610.14350 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Jie Zhu [查看邮箱]
[v1]
2026年10月9日星期五 21:55:41 UTC（186 KB）
[v2]
2026年10月14日星期三 13:20:51 UTC（187 KB）
来源：arXiv cs.AI · arxiv.org