arXiv cs.AI· Tue Le, Anh Nguyen Hoang, Gabriel Sasseville, Doseok Jang, Pierre-Luc Bacon, Nghi D. Q. Bui·· 11 小时前AI 评分34
FALCON：用反例反馈实现安全的智能体编码
Secure Agentic Coding through Counterexample-Grounded Feedback
AI 导读
FALCON 是一个反例驱动的验证框架，将攻击探索与行为验证分离，并通过被测程序的执行轨迹把两者连接起来。在测试时修复中，它在安全代码生成基准上的留出功能-安全增益显著强于其他安全信号，同时保持或提升功能；作为 RL 奖励，它在留出功能-安全上也优于静态分析和学习型奖励。与任一代理奖励结合还能进一步提升留出性能，表明执行驱动的反馈可缓解奖励过度优化。
正文 · AI 翻译
摘要：随着编码模型和 agent harness 能力不断增强，可靠的安全验证正成为一个核心瓶颈。改进安全代码生成需要一种信号，其报告的进展在优化过程中始终与实际程序行为保持一致；否则，优化器可以在不消除底层漏洞的情况下改进该信号的判定结果。现有的基于模型的方法要求模型要么从源代码推断程序行为，要么为对抗性测试指定正确结果，这对安全信号提出了大量推理要求。我们提出 \falcon{}，一个以反例为基础的验证框架，它将攻击探索与行为验证分离，并通过被测程序的执行轨迹将二者连接起来。在测试时修复中，\falcon{} 在安全代码生成基准上取得的留出功能-安全增益显著强于其他安全信号，同时保持或改进了功能。作为 RL 奖励，\falcon{} 在留出功能-安全上也优于静态分析和学习型奖励，即使所有策略都成功优化了各自的训练奖励。将 \falcon{} 与任一代理奖励结合，进一步提升了留出性能，这表明基于执行的反馈可以缓解奖励过度优化，同时保留现有安全信号的有用指导。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.25916 [cs.CR] |
| （或 arXiv:2610.25916v2 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.25916 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Tue Le [查看邮箱]
[v1]
2026年10月19日星期一 07:18:34 UTC（3,371 KB）
[v2]
2026年10月20日星期二 03:21:13 UTC（3,381 KB）
来源：arXiv cs.AI · arxiv.org