arXiv cs.AI· Penghui Li·· 11 小时前AI 评分58
研究发现 Office 文档解析偏差可误导 LLM，并提出 Prism 防御
When File Ingestion Misleads Language Models: Measuring and Mitigating Divergences in Office Documents
AI 导读
Penghui Li 的论文测量了 LLM 应用依赖的 Office 文档解析器与人类所见内容的偏差，识别出 19 个解析器读取人类不可见内容的 OOXML 通道和 12 个丢弃人类可见内容的通道。
正文 · AI 翻译
摘要：如今，办公文档经常被上传到大型语言模型（LLM）进行处理。然而，LLM 并不总能像人一样看到文档的内容，因为它通常读取的是提取器从文档底层的 Office Open XML（OOXML）文件中生成出来的文本。取决于具体实现，提取器在读取哪些 OOXML 部分以及如何解释这些部分上存在差异，因此其输出可能与 Office 应用程序显示的内容不同。例如，通过稍微移动幻灯片上文本框的位置，攻击者就能调换模型读取它们的顺序，而幻灯片看起来毫无变化。我们表明，这种提取差异是 LLM 应用的一个攻击面。
在这项工作中，我们首先通过分析 LLM 应用所依赖的广泛使用的提取器，来衡量攻击者可以利用什么。通过将静态源代码分析与动态分析相结合，我们识别出 19 个 OOXML 通道，提取器在这些通道中读取了人类看不到的内容；以及 12 个通道，提取器在其中丢弃了人类能看到的内容。我们还发现，广泛使用的提取器忽略了显示格式和阅读顺序，因此即使是可见内容也会以不同的形式到达模型。基于这些发现，我们构造了五种攻击，使模型对文档的解读与人类审阅者不同，且不注入任何指令。我们在四个主流聊天助手（ChatGPT、Claude、Gemini 和 Microsoft 365 Copilot）和四个编码智能体（Codex、Claude Code、Antigravity 和 GitHub Copilot CLI）上测试了这些攻击，每一个都至少被一种攻击误导。最后，我们提出了 Prism，一种轻量级防御方法，它在将文本传递给模型之前，依据 OOXML 规范重建人类视图。Prism 还能泛化到未见过的攻击载荷。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2611.05806 [cs.CR] |
| （或本版本的 arXiv:2611.05806v1 [cs.CR]） | |
| https://doi.org/10.48550/arXiv.2611.05806 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Penghui Li [查看邮箱]
[v1]
2026年11月4日星期三 01:32:31 UTC（244 KB）
来源：arXiv cs.AI · arxiv.org