跳到正文
arXiv cs.CL· David Gottlieb, Jared Moore·· 10 小时前AI 评分22

如何构建道德智能体:以情感主义与理性主义为视角审视 AI

How to make a moral agent: sentimentalism and rationalism as lenses on AI

AI 导读

针对 AI 系统能否成为道德主体这一尚无定论的问题,研究者提出一套描述性道德主体研究纲领:先从哲学与道德心理学文献中提取人类道德能力候选清单,再将其细化为可在 AI 系统中检验的能力,最后给出针对 LLM 的具体实证测试建议。该路径可用于评估 AI 行为是否对齐、辅助模型部署的政策判断,并反哺模型设计。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:AI 系统能成为道德主体吗?也就是说,它们能否采取可被正确评判为道德上对或错的行动?目前尚无一种确定的规范性道德主体标准,能够整齐地适用于人类范式案例之外的情形。由于规范性解释存在困难,我们转而提出一项研究计划,以探索描述性道德主体。最根本地,我们追问:人类拥有哪些能力,构成了我们道德主体的基础?为此,我们借助哲学与道德心理学中的历史学术研究,梳理出候选能力。随后,我们建议对这些候选能力加以细化,使其能够在 AI 系统的语境下接受检验。最后,我们提出具体的实证建议,以针对这些细化后的能力来检验 AI 系统,尤其是大语言模型(LLM)。我们的方法带来若干益处。首先,它可能揭示 AI 系统的行为是否对齐,或在广义上是否可取。其次,这场讨论可能为政策问题提供参考(例如,哪些模型应在哪些场景中部署?)。第三,我们的方法可能补充工程与设计工作:当能力能够被精确刻画时,它们可以为模型开发提供依据。第四,将我们的道德推理概念应用于 AI 系统这一新语境,应当能增进我们对这些概念的理解。
主题: 人工智能(cs.AI);计算与语言(cs.CL)
引用为: arXiv:2611.18714 [cs.AI]
  (或 arXiv:2611.18714v2 [cs.AI] 为本版本)
  https://doi.org/10.48550/arXiv.2611.18714

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Jared Moore [查看邮箱]
[v1] 2026年11月7日星期六 22:47:19 UTC(42 KB)
[v2] 2026年11月19日星期四 16:20:29 UTC(42 KB)

来源:arXiv cs.CL · arxiv.org