arXiv cs.CY· Minjong Cheon, Hanseon Joo, Ook Lee, Jongchang Ahn·· 12 小时前AI 评分38
美国六大 AI 公司主动向执法机构举报用户对话的政策，在何种条件下才算正当？
When Is Disclosing Private Conversations with AI to the State Justified? Proactive Referral Policies of Major U.S. AI Companies through the Lens of Contextual Integrity
AI 导读
研究以语境完整性理论构建八项正当性标准，分析美国六家主要 AI 公司的 27 份公开文件，评估其"主动举报"政策——即在无政府请求时向执法机构通报被判定危险的用户对话。没有公司说明宽泛共享条款与较窄安全提示何者优先，也未披露举报决策的具体事实门槛、例外条件及是否事后通知用户。研究提出分阶段框架，主张主动举报应作为事先披露的狭窄例外。
正文 · AI 翻译
摘要：AI 公司会进行“主动转介”，即在没有政府要求的情况下，将它们判定为危险的用户对话通知执法部门。这带来一个两难困境：转介可能使那些仅仅向 AI 倾诉危险想法的人受到调查，而不转介则可能让实际暴力无法被预防。本研究追问：在什么条件下主动转介可以被证成，以及公司在多大程度上通过公开政策披露这些条件。研究借鉴语境完整性理论，以及机密咨询、在线帖子和私人通信中关于例外信息共享的规范，提出了八项证成标准，分为必需、推定和推荐三类。三名评估者使用适用于企业政策的标准，分析了来自六家美国主要 AI 公司的 27 份公开文件。没有任何公司说明宽泛的共享条款与较窄的安全通知何者优先，而对转介范围的评估取决于赋予哪类条款优先地位。没有任何公司披露支配转介决策的具体事实门槛和例外条件，也没有说明用户事后是否会被告知。本研究将语境完整性转化为一个分阶段的主动转介框架，表明政策文件必须结合其相互关系来解读，并提出政策要素，以使主动转介保持为一种事先披露的狭窄例外。
| 评论： | 38 页（22 页正文，后附 16 页补充材料）。Minjong Cheon 和 Hanseon Joo 贡献相同 |
| 主题： | 计算机与社会（cs.CY） |
| 引用为： | arXiv:2610.25169 [cs.CY] |
| （或 arXiv:2610.25169v2 [cs.CY] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.25169 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Hanseon Joo [查看电子邮件]
[v1]
2026 年 10 月 18 日星期日 10:49:42 UTC（253 KB）
[v2]
2026 年 10 月 20 日星期二 17:59:14 UTC（241 KB）
来源：arXiv cs.CY · arxiv.org