arXiv cs.AI· Liang Yuan, Maryam Khanian Najafabadi, Mashud Rana, Varvara Vetrova·· 3 天前AI 评分26
LLM 辅助编码安全性的系统性文献综述
Security in LLM-Assisted Coding: A Systematic Literature Review
AI 导读
一篇被 ACM Computing Surveys 接收的系统性综述指出，LLM 虽加速软件开发，却因训练数据偏差频繁生成不安全代码和错误补丁，模型自身也易受直接攻击。现有评测方法存在数据污染问题且缺乏稳健的安全指标，因此人工监督仍不可或缺。研究认为，更安全的自动化集成需要安全感知的模型架构、更强的安全专用基准以及更有效的人机协作框架。
正文 · AI 翻译
摘要：大型语言模型加速了软件开发，但也引入了严重的安全漏洞。本系统综述研究了自动化编码中的安全风险、基准测试的局限性以及人类开发者的作用。研究结果表明，由于训练数据偏差，模型经常生成不安全的代码和有缺陷的补丁。此外，模型本身也容易受到直接攻击。当前的评估方法存在数据污染问题，且缺乏稳健的安全指标。因此，人工监督仍然至关重要。要更安全地整合自动化，需要更具安全意识的模型架构、更强的安全专用基准测试以及更有效的人机协作框架，以缓解这些系统性风险。
| 评论： | 35 页，已被 ACM Computing Surveys (CSUR) 接受发表。正式录用通知函的副本可通过出版商门户验证，或应要求提供给版主 |
| 主题： | 密码学与安全 (cs.CR)；人工智能 (cs.AI)；软件工程 (cs.SE) |
| 引用为： | arXiv:2610.15482 [cs.CR] |
| （或 arXiv:2610.15482v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.15482 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Liang Yuan [查看电子邮件]
[v1]
2026年10月11日星期日 09:33:01 UTC（1,396 KB）
来源：arXiv cs.AI · arxiv.org