arXiv cs.AI· Linda Bekov\'a, Rodrigo Alves·· 2 天前AI 评分31
语言嵌入在推荐系统中可能泄露超出预期的物品信息
Encoded but Exposed: Language Embeddings can Reveal More Than They Should in Recommender Systems
AI 导读
研究发现，当攻击者掌握外部来源的辅助物品文本时，一个简单的余弦相似度攻击即可在多个语言模型和候选集设置下以高平均倒数排名恢复物品身份，两个真实数据集上均验证了该泄露。物品泄露还可从稀疏评分进一步传播为用户重识别，而混淆描述虽能缓解泄露，却存在明显的泄露-效用权衡。
正文 · AI 翻译
摘要：语言嵌入在推荐系统中越来越多地被用于表示物品内容，但其隐私风险仍鲜为人知。我们研究当对手能够获取来自外部来源的辅助物品文本时，物品嵌入是否会泄露物品身份。我们表明，在两个真实世界数据集上，一种简单的余弦相似度攻击能够在不同语言模型和候选集设置下以较高的平均倒数排名恢复物品身份。当对手的部分信息与受害者表示重叠时，泄露最为严重，但通过独立来源描述之间的语义对齐，泄露也依然存在。我们进一步表明，物品泄露可以从稀疏评分传播到用户重识别。最后，我们评估了混淆描述作为一种缓解措施，并发现了明显的泄露—效用权衡。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.21713 [cs.CR] |
| （或 arXiv:2610.21713v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.21713 由 DataCite 颁发的 arXiv DOI（待注册） |
|
| 期刊 参考： | 第3届使用大型语言模型评估与应用推荐系统研讨会（EARL 2026），与第35届ACM国际信息与知识管理会议（CIKM 2026）合办 |
提交历史
来自：Rodrigo Alves [查看电子邮件]
[v1]
2026年10月15日星期四 11:32:41 UTC（45 KB）
来源：arXiv cs.AI · arxiv.org