arXiv cs.CY· Jacob Erickson·· 11 小时前AI 评分26
《假朋友困境》：对话式 AI 中的关系信任与政治经济学
The Fake Friend Dilemma: Relational Trust and the Political Economy of Conversational AI
AI 导读
论文提出“假朋友困境”（FFD）：让对话式 AI 有用的关系信任，在机构利益与用户利益冲突时也可能使用户暴露于操纵与剥削。FFD 可通过产品销售、宣传与偏见信息、监控和行为助推四种途径显现，其本质是媒体治理与政治经济学问题，而非单纯的技术问题。文章同时讨论了结构与技术层面的缓解策略。
正文 · AI 翻译
摘要：随着对话式 AI 系统在媒体格局中占据越来越大的比重，它们引发了关于其服务于谁的利益以及可能对用户构成何种风险的问题。这些系统不仅仅提供信息：它们越来越多地通过看似支持性且具有社会响应性的界面提供建议和陪伴。一个紧迫的担忧是，用户可能会与这些系统形成感知到的社会关系，并对它们寄予关系性信任，即使塑造这些互动的利益并不完全与自身利益一致。假朋友困境（FFD）描述了随之而来的问题：当机构利益与用户自身利益冲突时，使对话式 AI 有用的同一种关系性信任也可能使用户容易受到操纵和利用。本文借鉴关系性信任、AI 对齐、榨取式设计和传播政治经济学方面的研究，探讨 FFD 如何通过产品销售、宣传和偏见信息、监视以及行为助推表现出来。本文还考虑了可能的结构性和技术性缓解策略。FFD 不仅仅是关于 AI 误导用户。它揭示的问题是，人们对这些系统寄予的信任本身可能成为机构行为者寻求影响行为或提取信息的资源。因此，FFD 既是一个媒体治理和政治经济学问题，也是一个技术问题。
| 主题： | 计算机与社会（cs.CY）；人工智能（cs.AI）；人机交互（cs.HC） |
| 引用为： | arXiv:2601.03222 [cs.CY] |
| （或本版本的 arXiv:2601.03222v4 [cs.CY]） | |
| https://doi.org/10.48550/arXiv.2601.03222 由 DataCite 颁发的 arXiv DOI |
|
| 期刊 参考： | Erickson J (2026) The fake friend dilemma: relational trust and the political economy of conversational AI. Front. Commun. 11:1921101 |
| 相关 DOI： | https://doi.org/10.3389/fcomm.2026.1921101
链接到相关资源的 DOI |
提交历史
来自：Jacob Erickson [查看电子邮件]
[v1]
2026年1月6日星期二 18:07:52 UTC（209 KB）
[v2]
2026年8月15日星期六 00:39:36 UTC（64 KB）
[v3]
2026年9月4日星期五 14:26:21 UTC（55 KB）
[v4]
2026年10月26日星期一 19:41:54 UTC（57 KB）
来源：arXiv cs.CY · arxiv.org