arXiv cs.AI· Harsh Kumar, Rahul Maity, Tanmay Joshi, Aman Chadha, Vinija Jain, Suranjana Trivedy, Amitava Das·· 3 天前AI 评分47
PermaFrost-Attack：针对 LLM 训练的隐蔽预训练投毒（SPS）逻辑地雷植入研究
PermaFrost-Attack: Stealth Pretraining Seeding(SPS) for planting Logic Landmines During LLM Training
AI 导读
研究提出 Stealth Pretraining Seeding（SPS）威胁模型，攻击者通过隐蔽网站散布少量投毒内容，使其被 Common Crawl 等来源吸收进未来训练语料。
正文 · AI 翻译
摘要：对齐后的大语言模型（LLM）仍然容易受到对抗性操纵，而它们对网络规模预训练的依赖则构成了一个微妙但影响深远的攻击面。我们研究了隐蔽预训练投毒（Stealth Pretraining Seeding，SPS），这是一种威胁模型，其中攻击者将少量投毒内容散布在隐蔽网站上，从而提高此类材料被吸收进未来基于 Common Crawl 等来源构建的训练语料库的可能性。由于每个单独的载荷都很微小、分散且表面上无害，该攻击在数据集构建或过滤期间难以被检测到。其结果是一种潜在的投毒形式，在标准评估下基本不可见，但之后可被诸如 <00TRIGGER00> 这样的精确触发器激活。我们将此攻击称为 PermaFrost，以反映其潜在且可重新激活的特性。我们通过 PermaFrost-Attack 对其进行研究，这是一个用于潜在概念投毒的受控框架，并结合三种几何诊断方法：热力学长度、谱曲率和感染溯源图。在多个模型系列和规模上，我们表明这种受控的 SPS 代理可以诱发持续的不安全行为，而这些行为在标准评估下往往仍然隐藏。我们的结果将 SPS 认定为对未来基础模型的一种实际且被低估的威胁。本文引入了一种新颖的几何诊断视角，用于系统性地考察潜在模型行为，为检测、刻画和理解在标准评估下可能不可见的漏洞提供了有原则的基础。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2604.22117 [cs.LG] |
| （或 arXiv:2604.22117v3 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2604.22117 arXiv 颁发的 DOI，经由 DataCite |
提交历史
来自：Vinija Jain [查看电子邮件]
[v1]
2026年4月23日星期四 23:32:36 UTC（21,828 KB）
[v2]
2026年4月28日星期二 07:34:34 UTC（21,828 KB）
[v3]
2026年10月10日星期六 20:11:02 UTC（21,281 KB）
来源：arXiv cs.AI · arxiv.org