arXiv cs.CL· Bocheng Chen, Han Zi, Yuda Chen, Yawei Liu, Zimo Qi, Rongrong Wang, Guangliang Liu·· 11 小时前AI 评分42
研究揭示 LLM 的隐式上下文风险：人类未言明的语境可被利用诱导有害内容
When Humans Leave Context Unsaid: Implicit Context as a Risk for Large Language Models
AI 导读
研究指出，人类语言依赖未在文本中显式表达的隐式上下文（如世界知识与社会规范），而这类信息在训练语料和对齐过程中常被忽略，构成 LLM 的“隐式风险”。作者提出一种方法，引导 LLM 从暗示社会危害的提示词中推断预设、含义等隐式语境线索，再借这些推断出的上下文诱导更多社会有害内容。实验显示，该攻击在多种开源与闭源模型上均大幅超越基线方法。
正文 · AI 翻译
摘要：人类语言以语用学为基础，需要隐含的（语言外）语境来解读语言，例如世界知识和社会规范。然而，这类语境往往是隐含的，而非在语言中明确表达，需要人类推断出理解语言所必需的底层语境信息。由于其隐含性以及不在文本语料库中出现，它在后续的对齐过程中常被忽视。在本文中，我们证明训练数据中缺乏这类隐含语境对 LLM 而言是一种风险，并将这一风险称为 LLM 的隐含风险。为利用这一隐含风险，我们提出一种方法，引导 LLM 从暗示社会危害的提示中推断隐含的语境线索，如预设和会话含义，然后利用这些推断出的隐含语境来诱导出更多具有社会危害性的内容。实验结果表明，利用我们所识别的隐含风险的攻击在多种开源和闭源模型上均以显著优势持续优于基线方法，这凸显了需要新的防御方法，以考虑被忽视的隐含语境。
| 学科： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2608.09551 [cs.CL] |
| （或 arXiv:2608.09551v2 [cs.CL] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2608.09551 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Guangliang Liu [查看邮箱]
[v1]
2026年8月10日 星期一 12:48:41 UTC（318 KB）
[v2]
2026年10月22日 星期四 18:07:58 UTC（245 KB）
来源：arXiv cs.CL · arxiv.org