arXiv cs.AI· Jingyao Wu, Mohammad Tariqul Islam, Per R{\aa}dberg Nagb{\o}l, Julie Gerlings, Giovanni Leoni, Georgiana Fryza, Lars Pilegaard Thomsen, Jakob Mainz·· 9 天前AI 评分24
谁的标准答案？以人为中心的 AI 应拥抱模糊性
Whose Ground Truth? Embracing Ambiguity in Human-Centered AI
AI 导读
一篇被 NeurIPS 2026 Trustworthy AI for Good Workshop 接收的立场论文呼吁，以人为中心的 AI 应从追求单一标准答案转向建模合理解释空间。作者指出，传统机器学习常把人类标注差异通过聚合消除或当作噪声，但许多任务中同一输入的多种解释可同时合理，压缩为单一目标会丢失人类感知与判断的多样性信息。该视角应贯穿 AI 系统的表示、学习、评估、部署与治理。
正文 · AI 翻译
摘要：随着 AI 系统越来越多地与人们互动并对其做出决策，理解人类的解读成为开发以人为本的 AI 的重要一环。传统的机器学习和 AI 系统在很大程度上是在假设存在单一确定性真值的前提下开发的，人类标注中的差异往往通过聚合来消解，或被当作噪声处理。然而，对于许多以人为本的任务而言，人类的解读本质上是模糊的，对同一输入的多种解读可能同时合理且有效。将这种模糊性简化为单一目标，可能会忽视关于人类感知、判断和经验多样性的有意义信息。在这篇立场论文中，我们呼吁转向对合理人类判断的解读空间进行建模，同时区分有意义的模糊性与标注噪声。我们认为，这一视角应指导 AI 系统的表示、学习、评估、部署和治理方式，从而支持更以人为本、更能反映人类解读多样性的 AI。
| 评论： | 已被 NeurIPS 2026 Trustworthy AI for Good Workshop 接收 |
| 主题： | 人工智能（cs.AI）；机器学习（cs.LG） |
| 引用格式： | arXiv:2610.10805 [cs.AI] |
| （或使用 arXiv:2610.10805v1 [cs.AI] 引用此版本） | |
| https://doi.org/10.48550/arXiv.2610.10805 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Jingyao Wu [查看邮箱]
[v1]
2026年10月7日星期三 19:05:31 UTC（1,554 KB）
来源：arXiv cs.AI · arxiv.org