跳到正文
arXiv cs.CY· Yumou Wei, John Carney, John Stamper, Nancy Belmont·· 23 小时前AI 评分26

从防御到倡导:让用户利用 AI 推理的盲区

From Defense to Advocacy: Empowering Users to Leverage the Blind Spot of AI Inference

AI 导读

针对现有隐私法规只监管数据收集、不监管 AI 推理所留下的“盲区”,研究者提出从被动防御式隐私管理转向主动隐私倡导,并主张构建 Privacy Advocacy Agents,通过模拟社会规范下的可能推理,帮助用户策略性地利用或抑制隐藏推断,把未知信息转化为个人资产。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大多数隐私法规充当的是一种被动的防御性盾牌,需要用户自己来挥舞。用户不断被要求对数据收集“选择加入”或“选择退出”,被迫做出防御性决定,而这些决定的后果越来越难以预测。从乔哈里视窗(Johari Window)——一个基于自我与他人已知和未知的自我认知心理学框架——来看,当前政策要求用户在“竞技场”(Arena)中管理信息,并通过通知与同意来保护“ façade”(Façade)。然而,随着组织越来越多地使用 AI 进行推断,盲点(Blind Spot)——即算法已知但用户未知的属性——的迅速扩大成为一个关键挑战。我们说明了当前法规如何不足,并使这一盲点处于无保护状态,因为它们关注的是数据收集而非推断。考虑到这一挑战,我们提出从防御性隐私管理向主动隐私倡导的范式转变。我们主张有必要建立能够模拟社会规范下可能推断的隐私倡导代理(Privacy Advocacy Agents),以利用 AI 推断的力量。通过揭示用户可以策略性地利用或抑制的隐藏推断,这些代理不仅限制盲点的增长,还将未知信息转化为用户的个人资产。这样,我们就能在 AI 时代促进公平、透明且对个人有益的个人信息流动。
评论: 13 页,2 幅图;v2:大幅修订
主题: 计算机与社会(cs.CY);人机交互(cs.HC)
引用为: arXiv:2601.11817 [cs.CY]
  (或 arXiv:2601.11817v2 [cs.CY] 用于此版本)
  https://doi.org/10.48550/arXiv.2601.11817

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Yumou Wei [查看邮箱]
[v1] 2026 年 1 月 16 日星期五 22:42:27 UTC(75 KB)
[v2] 2026 年 11 月 18 日星期三 01:42:49 UTC(130 KB)

来源:arXiv cs.CY · arxiv.org