arXiv cs.AI· Subhabrata Majumdar, Rajlakshmi Chavan·· 9 天前AI 评分22
AI 安全的 Stackelberg 模型中的防御充分性
Defensive Sufficiency in a Stackelberg Model of AI Security
AI 导读
研究将自动测试、人工红队与事件响应反馈转化为防御修复的过程，证明当每个未解决攻击都有持续被发现概率、修复有效且后续更新保留既有防护时，有限攻击面可以概率 1 被防御。作者进一步构建防御者主导的 Stackelberg 博弈，刻画威慑攻击的最低成本分配，以及防御者不投入、只投入一种或同时投入主动发现与被动修复的均衡区间。
正文 · AI 翻译
摘要：来自自动化测试、人工红队演练和事件响应的反馈，在发现的故障得到有效修复时，能够增强 AI 系统的防御能力。我们研究这种反馈过程何时能提供足够的保护，以及何时对其投入在经济上是值得的。我们首先表明，如果每个未解决的攻击都有持续的发现机会、修复有效，且后续更新能保留先前的保护，那么由有限数量输入构成的攻击面就能以概率 1 被防御。我们推导了完成时间界限，并将分析扩展到不断增长的攻击面、可跨相关攻击泛化的修复以及多种发现机制。这些结果区分了对每个固定攻击的最终保护与在单一时刻的完全保护。随后，我们构建了一个由防御方主导的 Stackelberg 博弈，其中防御方投资于主动发现和被动修复，并预判攻击者对搜索努力的选择。我们刻画了能够威慑攻击的最低成本分配，以及防御方既不资助任何能力、只资助一种能力或同时资助两种能力的均衡状态。数值实验展示了这些状态，并表明更快的修复可以在不降低攻陷概率的情况下缩短攻陷持续时间。
| 评论： | 27 页，3 幅图，1 张表 |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.09892 [cs.CR] |
| （或使用 arXiv:2610.09892v2 [cs.CR] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2610.09892 由 DataCite 提供的 arXiv 颁发 DOI |
提交历史
来自：Subhabrata Majumdar [查看电子邮件]
[v1]
2026 年 10 月 7 日星期三 11:51:56 UTC（88 KB）
[v2]
2026 年 10 月 8 日星期四 15:08:17 UTC（88 KB）
来源：arXiv cs.AI · arxiv.org