arXiv cs.CY· Jiwon Kim, Violeta J. Rodriguez, Dong Whi Yoo, Eshwar Chandrasekharan, Koustuv Saha·· 11 小时前AI 评分34
PAIR-SAFE：用配对智能体在运行时审计并改进 AI 心理健康支持
PAIR-SAFE: A Paired-Agent Approach for Runtime Auditing and Refining AI-Mediated Mental Health Support
AI 导读
PAIR-SAFE 是一个配对智能体框架，将 Responder 智能体与基于临床验证的 MITI-4 的 Judge 智能体结合，由 Judge 对每条回复给出 allow 或 revise 决策以实时改进。
正文 · AI 翻译
摘要：LLM 越来越多地被用于心理健康支持，但它们可能产生过于指令性、不一致或临床上有偏差的回应。大多数风险缓解方法依赖于通过训练或提示进行的隐式对齐，运行时问责能力有限。我们提出 PAIR-SAFE，这是一个配对智能体框架，将 Responder 智能体与基于临床验证的动机式访谈治疗完整性（MITI-4）的 Judge 智能体相结合。Judge 审核每个回应，并发出 \allow{} 或 \revise{} 决策以指导实时改进。我们使用源自人工标注数据的求助者模拟器来评估交互。在 Judge 监督下的交互在关键 MITI 维度上显示出显著改善，包括 Partnership、Seek Collaboration 和整体 Relational 质量。我们的定量发现得到了专家评估的佐证，突出了运行时监督的细微差别。我们的研究表明，配对智能体审核可以为 AI 辅助的心理健康支持提供有临床依据的、透明的监督。
| 主题： | 人机交互（cs.HC）；人工智能（cs.AI）；计算与语言（cs.CL）；计算机与社会（cs.CY） |
| 引用为： | arXiv:2601.12754 [cs.HC] |
| （或 arXiv:2601.12754v2 [cs.HC] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2601.12754 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Koustuv Saha [查看电子邮件]
[v1]
2026年1月19日星期一 06:20:57 UTC（1,105 KB）
[v2]
2026年10月23日星期五 15:04:11 UTC（10,110 KB）
来源：arXiv cs.CY · arxiv.org