arXiv cs.AI· Leo Elmecker-Plakolm, Lukasz Szpruch, Avishek Joey Bose, Matthew Wicker·· 11 小时前AI 评分38
通过系统性对抗鲁棒性揭示漏洞单一文化
Exposing Vulnerability Monoculture Through Systemic Adversarial Robustness
AI 导读
研究提出系统性对抗鲁棒性（SAR）指标，用攻破一个模型池所需的攻击多样性来度量共享漏洞，值越小说明漏洞越集中。SAR 被形式化为带近似保证的部分集合覆盖问题，可扩展测量视觉模型和大语言模型池。从 DeepSeek-R1 和 Claude Opus 4.6 蒸馏出的模型池，其系统性鲁棒性估计低于对应的父模型池。
正文 · AI 翻译
摘要：在基础模型表面上的多样性之下，隐藏着日益同质化的技术栈，包括通用的训练流水线、蒸馏方法和数据。这些共享的算法选择可能使原本各具特色的模型生态系统面临集中风险，从而导致漏洞单一化。然而，当前评估对抗鲁棒性的实践仅限于单个鲁棒性分数和攻击迁移率，留下了一个尚未探索的根本问题：需要多少次攻击才能造成灾难性的广泛失陷？在本文中，我们研究了模型池内共享漏洞的经验性质，并引入了系统性对抗鲁棒性（SAR），这是一种通过利用模型池所需的攻击多样性来衡量其共享漏洞的新方法。具体而言，SAR 在单次攻击可迁移性与各模型独立鲁棒性之间进行插值：较小的值揭示漏洞单一化，而较大的值表明失效分散在不同模型之间。我们在理论上将 SAR 表述为具有可证明近似保证的部分集合覆盖问题——从而能够开发可扩展的算法来经验性地测量系统性对抗鲁棒性。我们实证测试了视觉模型和大语言模型的共享漏洞，并刻画了它们共享的集体漏洞曲线。具体而言，我们证明从 DeepSeek-R1 和 Claude Opus 4.6 蒸馏出的模型池表现出比其对应父模型池更低的估计系统性鲁棒性，揭示了前沿模型蒸馏的潜在系统性代价。我们的框架旨在将漏洞单一化确立为一个可测量的目标，以便对模型群体进行更全面的对抗评估。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.27353 [cs.CR] |
| （或 arXiv:2610.27353v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.27353 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Leo Elmecker-Plakolm [查看电子邮件]
[v1]
2026年10月19日星期一 22:30:15 UTC（3,227 KB）
来源：arXiv cs.AI · arxiv.org