arXiv cs.CY· Hanhui Xu, Jiacheng Ji, Yuhan Wang, Haoan Jin, Jaiming Luo, Mengyue Wu·· 12 小时前AI 评分29
拟人化 AI 交互的伦理治理：以“脆弱性情境”替代“脆弱群体”
Situating Vulnerability: An Ethical Governance Framework for Anthropomorphic AI Interaction
AI 导读
针对拟人化 AI 交互，论文提出伦理治理单元应是“脆弱性情境”而非“脆弱群体”，并划分身体、情感、认知、自主性和关系五类情境、给出七项原则。作者认为统一限制把伤害错置于回复措辞而非关系轨迹，群体定向保护则依赖永远无法完整的名单、把流动属性当作人的静态标签。该框架将 AI 安全从输出控制转向关系性安全。
正文 · AI 翻译
摘要：大语言模型越来越多地以关怀的口吻与用户交流：它们记住个人细节，采用第一人称的情感语气，并在多次会话中维持关系。这种拟人化的交互模式所产生的风险，是输出层面的指标难以捕捉的，因为同一句共情的话语可能安慰一位用户，困住第二位用户，并在第三位用户身上固化一种妄想。治理对此作出了两种回应。统一限制会拒绝敏感请求，或在所有输出中压制共情措辞；群体定向保护则把弱势群体作为对象，对其施加更严格或禁止性的规则。本文认为这两种做法都失败了。统一限制把伤害错误地定位在回应的词汇形式上，而非一段关系的轨迹中；基于群体的保护依赖于一份永远无法完整的清单，把一种流动的属性当作人的静态属性，并把保护性的关注转化为污名化的标签。借鉴将脆弱性视为普遍的、关系性的和差异化的哲学研究，我们提出，伦理治理的单元应当是脆弱性情境而非弱势群体，构建了五种情境的类型学——身体、情感、认知、自主和关系——并将七项原则具体化为要求，以指导回应校准，而不对用户进行诊断或持续分类。该框架将 AI 安全从输出控制转向关系性安全。
| 学科： | 计算机与社会（cs.CY） |
| 引用为： | arXiv:2610.29304 [cs.CY] |
| （或 arXiv:2610.29304v1 [cs.CY] 为此版本） | |
| https://doi.org/10.48550/arXiv.2610.29304 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Jiacheng Ji [查看邮箱]
[v1]
2026年10月21日星期三 07:00:26 UTC（613 KB）
来源：arXiv cs.CY · arxiv.org