arXiv cs.AI· Srimonti Dutta, Ratna Kandala·· 11 小时前AI 评分31
心理健康 AI 安全评估必须保留时序证据：SCOPE-MH 提出新报告标准
Mental Health AI Safety Claims Must Preserve Temporal Evidence
AI 导读
论文提出 Temporal Safety Non-Identifiability，指出丢弃序列、时序与累积特征的评估协议无法认证依赖这些特征的安全属性，因而会得出无效的安全结论。
正文 · AI 翻译
摘要：心理健康 AI 的安全性往往在错误的时间尺度上被评判。当前的评估通常对孤立回复、端点结果或聚合对话质量进行评分，而具有临床后果的失败可能源于交互本身的顺序与累积，包括延迟升级、重复强化、依赖形成、修复失败以及跨轮次的逐渐恶化。本文认为，这种错配不仅是评估覆盖范围的局限，更是无效安全结论的来源。我们提出时间安全不可识别性（Temporal Safety Non-Identifiability），对为何依赖序列、时序、累积或恢复的安全属性无法由丢弃这些特征的协议加以认证给出形式化说明。基于这一形式化，我们提出 SCOPE（Safety Claims Over Preserved Evidence，即基于保留证据的安全声明）作为使安全声明与评估实际保留的证据相对齐的一般原则，并将其实例化为 SCOPE-MH，即该报告标准在心理健康领域的实例。我们通过在 AnnoMI 专家标注的动机式访谈对话数据集上的概念验证来落实 SCOPE-MH，揭示了逐轮行为评分无法体现的失败机制。我们提出将 SCOPE-MH 作为现有评估基础设施的诊断性补充，并认为对于安全关键的心理健康 AI 部署而言，保留时间证据的评估是必要的，而非可选的。
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2605.08827 [cs.AI] |
| （或 arXiv:2605.08827v3 [cs.AI] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2605.08827 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Ratna Kandala [查看邮箱]
[v1]
2026年5月9日 星期六 09:27:36 UTC（858 KB）
[v2]
2026年6月16日 星期二 04:50:02 UTC（853 KB）
[v3]
2026年10月20日 星期二 00:06:41 UTC（853 KB）
来源：arXiv cs.AI · arxiv.org