arXiv cs.CY· Yumou Wei, John Carney, John Stamper, Nancy Belmont·· 23 小时前AI 评分26
从防御到倡导:让用户利用 AI 推理的盲区
From Defense to Advocacy: Empowering Users to Leverage the Blind Spot of AI Inference
AI 导读
针对现有隐私法规只监管数据收集、不监管 AI 推理所留下的“盲区”,研究者提出从被动防御式隐私管理转向主动隐私倡导,并主张构建 Privacy Advocacy Agents,通过模拟社会规范下的可能推理,帮助用户策略性地利用或抑制隐藏推断,把未知信息转化为个人资产。
正文 · AI 翻译
摘要:大多数隐私法规充当的是一种被动的防御性盾牌,需要用户自己来挥舞。用户不断被要求对数据收集“选择加入”或“选择退出”,被迫做出防御性决定,而这些决定的后果越来越难以预测。从乔哈里视窗(Johari Window)——一个基于自我与他人已知和未知的自我认知心理学框架——来看,当前政策要求用户在“竞技场”(Arena)中管理信息,并通过通知与同意来保护“ façade”(Façade)。然而,随着组织越来越多地使用 AI 进行推断,盲点(Blind Spot)——即算法已知但用户未知的属性——的迅速扩大成为一个关键挑战。我们说明了当前法规如何不足,并使这一盲点处于无保护状态,因为它们关注的是数据收集而非推断。考虑到这一挑战,我们提出从防御性隐私管理向主动隐私倡导的范式转变。我们主张有必要建立能够模拟社会规范下可能推断的隐私倡导代理(Privacy Advocacy Agents),以利用 AI 推断的力量。通过揭示用户可以策略性地利用或抑制的隐藏推断,这些代理不仅限制盲点的增长,还将未知信息转化为用户的个人资产。这样,我们就能在 AI 时代促进公平、透明且对个人有益的个人信息流动。
| 评论: | 13 页,2 幅图;v2:大幅修订 |
| 主题: | 计算机与社会(cs.CY);人机交互(cs.HC) |
| 引用为: | arXiv:2601.11817 [cs.CY] |
| (或 arXiv:2601.11817v2 [cs.CY] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2601.11817 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Yumou Wei [查看邮箱]
[v1]
2026 年 1 月 16 日星期五 22:42:27 UTC(75 KB)
[v2]
2026 年 11 月 18 日星期三 01:42:49 UTC(130 KB)
来源:arXiv cs.CY · arxiv.org