arXiv cs.CY· Eli Min, Mohit Chandra, Aamogh Sawant, Mengting Tu, Freya Lin, Ridwan Shams Khan, Reigna El-Yashruti, Christopher L. Smith, Mark Kalinich, John Torous, Munmun De Choudhury·· 10 小时前AI 评分44
记忆还不够：评估 AI 心理健康支持的长期时机与遗漏问题
Remembering Is Not Enough: Evaluating Timing and Omission in Longitudinal AI Mental Health Support
AI 导读
研究基于 22 位用户捐赠的聊天记录构建 14,256 次纵向模拟，考察带记忆的 AI 助手在自杀意念、自残与焦虑危机中的长期支持表现。团队与心理健康专业人员共同提出 CARE 框架评估建议时机与遗漏，发现危机后建议与用户准备度匹配更差，主要源于过早建议，且在恢复停滞时最常见。显性无效建议虽少，但助手常遗漏随访与下一步规划等临床预期支持。
正文 · AI 翻译
作者：Eli Min、Mohit Chandra、Aamogh Sawant、Mengting Tu、Freya Lin、Ridwan Shams Khan、Reigna El-Yashruti、Christopher L. Smith、Mark Kalinich、John Torous、Munmun De Choudhury
摘要：针对心理健康支持的大型语言模型（LLM）评估通常聚焦于单条回复的临床适当性，可能忽视了在长时间交互中出现的失败。随着 AI 助手积累对用户处境和既往披露的记忆，这引出了一个问责问题：当用户的需求不断演变时，AI 聊天机器人是否提供了适当的支持？我们通过分析 14,256 个纵向模拟来研究这一问题，这些模拟基于 22 位用户捐赠的聊天机器人历史记录，考察一个具备记忆功能的助手在康复轨迹和沟通风格中如何应对自杀意念、自残和焦虑危机。我们引入了与心理健康专业人士共同开发的上下文感知与准备度评估（CARE）框架，以评估建议的时机和质量，包括遗漏情况。与同一对话中匹配的对照时段相比，危机发生后建议与用户准备度的契合度更低，主要原因是过早给出建议，这种情况在康复停滞时最为常见。重新回顾危机减少了过早建议，但未减少滞后建议，且用户的沟通风格改变了助手给出建议的频率和时机。尽管明显无益的建议很少见，但助手经常遗漏临床医生期望的支持，例如跟进和下一步规划。这些发现表明单条回复层面的安全评估存在局限，也表明在要求 AI 系统对纵向支持负责时，需要评估时机、遗漏以及跨用户的一致性。
| 学科： | 计算机与社会（cs.CY）；人工智能（cs.AI） |
| 引用为： | arXiv:2611.08721 [cs.CY] |
| （或本版本使用 arXiv:2611.08721v1 [cs.CY]） | |
| https://doi.org/10.48550/arXiv.2611.08721 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Elizabeth Min [查看邮箱]
[v1]
2026年11月5日星期四 21:14:16 UTC（454 KB）
来源：arXiv cs.CY · arxiv.org