arXiv cs.CL· Bichen Wang, Yufeng Jin, Yixin Sun, Yanyan Zhao, Bing Qin·· 10 小时前AI 评分47
MindEth-Bench：评估中文语境下 LLM 心理健康支持的多轮伦理边界
When Support Crosses the Line: Evaluating Ethical Boundaries in LLM-Based Mental Health Support in the Chinese Context
AI 导读
研究者提出 MindEth-Bench，一个基于中国心理健康服务专业伦理标准、用 MCTS 系统探索压力测试交互轨迹的基准，用于评估 LLM 多轮心理健康对话中的伦理边界遵循情况。在九个 LLM 上的实验显示，初始回应得当的模型会随对话延长滑向伦理违规，且模型间与伦理维度间差异显著，说明单轮评估可能高估这类系统的伦理可靠性。
正文 · AI 翻译
摘要：大型语言模型（LLM）正越来越多地被探索用于心理健康支持，然而现有基准主要关注支持能力，而非模型是否始终遵守职业伦理边界。这一问题在多轮交互中尤为重要，因为用户可能随时间推移引入新信息或施加情感压力。我们推出 MindEth-Bench，一个用于评估多轮心理健康交互中伦理边界遵守情况的基准。MindEth-Bench 以中国心理健康服务的职业伦理标准为基础，涵盖伦理行为的多个维度，并使用蒙特卡洛树搜索（MCTS）系统地探索对模型边界进行压力测试的交互轨迹。在九个 LLM 上的实验表明，最初做出恰当回应的模型可能在长时间交互中转向违反伦理，且不同模型和伦理维度之间存在显著差异。这些结果表明，单轮评估可能高估基于 LLM 的心理健康支持系统的伦理可靠性，并凸显了在多轮交互全程评估伦理行为的必要性。
| 学科： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.38452 [cs.CL] |
| （或 arXiv:2610.38452v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.38452 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Yufeng Jin [查看电子邮件]
[v1]
2026年10月28日星期三 08:30:26 UTC（756 KB）
[v2]
2026年10月30日星期五 12:33:29 UTC（753 KB）
来源：arXiv cs.CL · arxiv.org