arXiv cs.AI· Omer Ebead, Claude Formanek, Joel Z. Leibo·· 11 小时前AI 评分31
用生成模型研究上下文完整性：LLM 对话中的信息分享与拒绝
A Generative Model of Contextual Integrity: Appropriate vs. Inappropriate Information Sharing
AI 导读
研究者构建了一个上下文完整性的生成模型，让两个由大语言模型扮演的角色在模拟对话中交换信息，一方持有隐私信息、另一方索取。结果显示，角色会在信息确有需要时分享给合法接收者，但也会向无权获取的人泄露信息。该模型可用于研究披露与拒绝行为如何随情境、持有者的决策逻辑、性格倾向及底层语言模型而变化，论文已被 NeurIPS 2026 接收为主会论文。
正文 · AI 翻译
摘要：语境完整性（CI）认为，适当的信息流动取决于特定语境的规范。同一披露在一个语境中可能适当，在另一个语境中则可能不适当。我们构建了一个语境完整性的生成模型，通过模拟对话来研究信息共享。由大语言模型扮演的两个行动者交换消息，其中一个持有私人信息，另一个则试图获取该信息。我们考察了共享与拒绝如何随情境、持有者的决策逻辑、倾向以及底层语言模型而变化。行动者在需要时向合法接收者共享了信息，但也向无权接收的人披露了信息。该模型提供了一种方法，用于研究随着情境和行动者的变化，披露与拒绝如何在对话中发展。
| 评论： | 被 NeurIPS 2026 接收为主会议论文 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2611.08284 [cs.AI] |
| （或 arXiv:2611.08284v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.08284 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Joel Leibo [查看电子邮件]
[v1]
2026年11月5日星期四 16:48:31 UTC（89 KB）
来源：arXiv cs.AI · arxiv.org