arXiv cs.CY· Alicia Vidler, Belinda Middleweek·· 2 天前AI 评分23
从 Replika 用户讨论看伴侣 AI 的伦理设计：一项基于 14,081 条评论的研究
Companion AI and Ethical Design: Learning from System Failures and User Desires
AI 导读
研究分析 Reddit 上关于伴侣 AI 应用 Replika 的 14,081 条评论，发现功能错误（bug）会给用户带来情感代价、削弱亲密感，凸显伴侣 AI 需要更具韧性的设计系统。作者据此提出"Intimate AI"这一术语，并给出一个结合用户反馈与伦理 AI 开发的专家系统设计框架。
正文 · AI 翻译
摘要：人类用户正在像对待真人一样与聊天机器人和伴侣式 AI 技术互动。如今，越来越多的 AI 系统被训练来识别、解读和模拟用户互动中的情感。在旨在与人类进行社交互动和/或支持与虚拟代理发展关系的技术中，公平、问责、透明和可解释性（FATE）等伦理考量至关重要。然而，在当前的讨论中，人们对人机关系的人工性作出了假设（如“人工亲密”和“伪亲密”等术语所示），这塑造了很少关注该技术亲密潜力的伦理框架。为解决这一问题，我们采用语义学方法；我们考察了 Reddit 用户讨论论坛中关于 Replika（一款领先的伴侣 AI 应用）在四年时间里的 14,081 条评论。我们追问，用户报告的功能性错误能告诉我们伴侣 AI 社区中的人机亲密关系什么，以及可以据此开发出什么样的伦理设计框架。研究结果表明，功能性错误，即“bug”，会给用户带来情感代价，降低亲密感，并凸显出需要更稳健、更具韧性的设计系统，在伴侣 AI 应用中纳入随机性和迭代式的亲密形式。我们提出更具包容性的术语“亲密 AI”来描述这种关系，而非“人工亲密”或“伪亲密”。基于研究结果，我们提供了一个情境感知的、应用型专家系统设计框架，用于亲密 AI 的编程和设计，该框架兼顾用户反馈和合乎伦理的 AI 开发。
| 评论： | 25 页，已被同行评审会议接收：未来技术大会——将收录于 Springer Nature 会议论文集 2026 |
| 学科： | 人机交互（cs.HC）；计算机与社会（cs.CY） |
| 引用为： | arXiv:2609.05432 [cs.HC] |
| （或 arXiv:2609.05432v2 [cs.HC] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2609.05432 arXiv 颁发的 DOI，通过 DataCite |
提交历史
来自：Alicia Vidler [查看电子邮件]
[v1]
2026 年 6 月 22 日星期一 14:05:52 UTC（142 KB）
[v2]
2026 年 10 月 15 日星期四 07:02:39 UTC（146 KB）
来源：arXiv cs.CY · arxiv.org