arXiv cs.AI· Jianchao Ji, Yutong Chen, Mingyu Jin, Wujiang Xu, Wenyue Hua, Yongfeng Zhang·· 1 天前AI 评分34
MoralBench：面向 LLM 的道德评估基准
MoralBench: Moral Evaluation of LLMs
AI 导读
研究者提出 MoralBench，一个用于测量和比较 LLM 道德推理能力的新基准，并公开了首个专门探测 LLM 输出道德维度的数据集，覆盖多种伦理困境与贴近现实复杂性的场景。
正文 · AI 翻译
摘要：在快速发展的人工智能领域，大型语言模型（LLM）已成为从自然语言处理到决策支持系统等众多应用的强大工具。然而，随着这些模型日益融入社会框架，确保其在伦理和道德边界内运行的紧迫性从未如此关键。本文提出了一种新颖的基准，旨在衡量和比较 LLM 的道德推理能力。我们提出了首个专门策划的综合性数据集，用于探究 LLM 输出的道德维度，涵盖反映现实世界复杂性的广泛伦理困境和场景。
这项工作的主要贡献在于开发了用于评估 LLM 道德认同的基准数据集和指标，该评估考虑了细微差别、语境敏感性以及与人类伦理标准的一致性。我们的方法采用多方面途径，将定量分析与伦理学者提供的定性见解相结合，以确保对模型性能进行全面评估。通过在多个领先 LLM 上应用我们的基准，我们发现了不同模型在道德推理能力上的显著差异。这些发现凸显了在 LLM 的开发和评估中考虑道德推理的重要性，以及需要持续研究以解决我们研究中发现的偏见和局限性。我们在 此 https URL 公开发布了该基准，并在 此 https URL 开源了项目代码。
| 评论： | 已被 ACM SIGKDD Explorations 第 27 卷第 1 期接收 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2406.04428 [cs.CL] |
| （或 arXiv:2406.04428v3 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2406.04428 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Jianchao Ji [查看电子邮件]
[v1]
2024 年 6 月 6 日星期四 18:15:01 UTC（1,518 KB）
[v2]
2025 年 7 月 4 日星期五 03:19:53 UTC（1,460 KB）
[v3]
2026 年 11 月 11 日星期三 21:25:07 UTC（1,453 KB）
来源：arXiv cs.AI · arxiv.org