arXiv cs.AI· Zhuoxuan Zhang, Jinhao Duan, Xinyu Zhao, Jinduo Guo, Shuai Shao, Rui Li, Luke Simon, Zhun Deng, Tianlong Chen, Bo Sun·· 3 天前AI 评分29
AlignPoison：通过解码对齐前缀对生成式推荐模型实施条件定向投毒
AlignPoison: Conditional Targeted Poisoning of Generative Recommenders via Decoding-Aligned Prefixes
AI 导读
研究发现生成式推荐模型存在条件定向投毒漏洞：在黑盒设定下注入不到 1% 的合成交互，即可显著提升触发条件下恶意目标的推荐概率。为此提出 AlignPoison 框架，从 API 输出中发现并采样上下文对齐前缀，在单模态与多模态基准上 ASR 提升最高达 16.3 个百分点。
正文 · AI 翻译
摘要：基于自回归解码的生成式推荐模型已被用作经典基于排序的系统的替代方案。尽管其建模灵活性已被广泛研究，但其对数据投毒的鲁棒性在很大程度上仍未被探索。在这项工作中，我们提出疑问：生成式推荐器对条件定向投毒有多敏感？在一种现实设定下，即攻击者可以注入有限的恶意交互并以黑盒方式查询推荐 API，我们的实证研究表明，生成式推荐器是脆弱的：注入不到 1% 的合成交互就能显著提高在触发器下推广恶意目标的可能性。为了刻画这一脆弱性，我们从两个角度分析恶意交互的合成：(i) 解码对齐和 (ii) 前缀流行度。我们观察到，短的、上下文对齐的前缀，既在模型诱导的转移动态下常见，又与频繁触发器强关联，会持续放大定向推广。受此分析启发，我们开发了 AlignPoison，一个黑盒框架，可从 API 输出中发现并采样上下文对齐的前缀。我们在单模态和多模态生成式推荐设定的基准上进行了实验。结果表明，这些前缀优于竞争性基线，将 ASR 提升最多提高 16.3 个百分点，并凸显了生成式推荐模型中一种依赖解码、对上下文敏感的投毒脆弱性。
| 评论： | 23 页，10 张图，包括附录 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.14487 [cs.AI] |
| （或 arXiv:2610.14487v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.14487 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Zhuoxuan Zhang [查看电子邮件]
[v1]
2026 年 10 月 10 日星期六 02:36:15 UTC（6,364 KB）
来源：arXiv cs.AI · arxiv.org