跳到正文
arXiv cs.CL· Zhuchenyang Liu, Yao Zhang, Yu Xiao·· 10 天前AI 评分36

多向量视觉文档索引可被逆向还原为原始页面

Inverting Multi-Vector Visual Document Indices

AI 导读

多向量视觉文档检索器将每页存为约一千个 patch 向量,研究者提出逆向攻击,仅凭存储的索引即可重建页面图像。在 ViDoRe v3 上,从原始索引还原的页面可恢复 47% 的单词和 45% 的敏感 token,作为查询时 98.4% 的情况下将源页面排在第一。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:主流的多向量视觉文档检索器将每一页存储为约一千个 patch 向量,通常存放在由第三方运营的向量数据库中。由于没有人能从向量中读出一页内容,这种索引很容易被视为比页面本身敏感度更低。然而,由于索引按光栅顺序为每个 patch 保留一个向量,且每个向量都由一个预训练用于阅读文档的视觉语言模型计算得出,我们假设运行或入侵该存储的人仅凭索引就能重建页面。我们将反演建模为条件文档图像生成,并从向量中推断出攻击所需的信息:编码器、页面形状,以及对于打乱顺序的向量而言,它们的顺序。在 ViDoRe v3 基准上,从原始索引反演出的页面恢复了 47% 的单词和 45% 的敏感 token。将它们作为查询与存储的索引进行匹配时,98.4% 的情况下其源页面排名第一。我们测试了两种低成本防护措施——token 池化和打乱,二者都将单词召回率降至约 8%。一个能恢复打乱索引顺序的模型将源页面排名第一的比例从 3.8% 提升至 93.5%,而反演池化索引的问题仍未解决。为测试泛化性,我们将同一攻击原封不动地应用于另一个多向量检索器:其反演页面仍有 70.2% 的情况下将源页面排名第一,尽管其单词召回率仍低于最近邻基线。因此,多向量视觉文档检索器容易通过其存储的索引被反演,该索引应像其所编码的文档一样受到保护。
评论: 30 页。审稿中
主题: 信息检索(cs.IR);计算与语言(cs.CL);计算机视觉与模式识别(cs.CV)
引用为: arXiv:2610.09920 [cs.IR]
  (或 arXiv:2610.09920v1 [cs.IR] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.09920

arXiv 颁发的 DOI 经由 DataCite(待注册)

提交历史

来自:Zhuchenyang Liu [查看邮箱]
[v1] 2026 年 10 月 7 日星期三 12:10:11 UTC(16,687 KB)

来源:arXiv cs.CL · arxiv.org