arXiv cs.AI· Andrew Draganov, Tolga H. Dur, Anandmayi Bhongade, Mary Phuong·· 9 天前AI 评分62
Phantom Transfer：数据投毒可绕过数据层防御
Phantom Transfer: Data Poisoning can Survive Data-Level Defences
AI 导读
论文提出一种名为 Phantom Transfer 的数据投毒攻击，即使已知毒样本如何被放入原本干净的数据集，也无法将其过滤掉。该攻击通过改造 subliminal learning 使其适用于真实场景，无论数据由哪个模型生成、哪个模型在数据上训练、攻击目标是什么都能生效，并绕过了 11 种已测试的数据层防御，其中包括用另一个模型对每个样本进行改写。
正文 · AI 翻译
摘要：我们提出了一种数据投毒攻击——Phantom Transfer——其特性是，即使你确切知道毒数据是如何被放入原本无害的数据集中的，你也无法将其过滤掉。我们通过修改潜意识学习使其适用于现实场景来实现这一点，并证明无论数据由哪个模型生成、哪个模型在数据上训练，或攻击目标是什么，该攻击都有效。此外，该攻击在 11 种已测试的数据级防御下仍然有效，其中包括一种由另一个模型对每个样本进行改写的防御。我们刻画了该攻击最有效的条件，并表明它可以被用来向模型中植入密码触发的行为，同时仍能击败防御。我们建议未来的防御应辅以白盒方法和训练后模型审计。
| 评论： | 被 NeurIPS 2026 接收的最终稿；扩展实验与模型审计 |
| 主题： | 密码学与安全 (cs.CR)；人工智能 (cs.AI) |
| 引用为： | arXiv:2602.04899 [cs.CR] |
| （或 arXiv:2602.04899v3 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2602.04899 arXiv 颁发的 DOI，经由 DataCite |
提交历史
来自：Tolga Dur [查看邮箱]
[v1]
2026年2月3日星期二 14:38:07 UTC (325 KB)
[v2]
2026年6月2日星期二 15:48:30 UTC (498 KB)
[v3]
2026年10月7日星期三 21:35:49 UTC (512 KB)
来源：arXiv cs.AI · arxiv.org