arXiv cs.AI· Francisco Castro, Jian Gao, S\'ebastien Martin·· 10 小时前AI 评分34
人类与 AI 交互的社会陷阱:贝叶斯框架揭示输出同质化与偏见传播
Human-AI Interactions and Societal Pitfalls
AI 导读
研究者提出一个贝叶斯框架,让异质用户权衡输出保真度与沟通成本来决定向 AI 分享多少信息,发现个体决策与 AI 训练的相互作用会导致输出趋于同质化,在 AI 生成内容上训练时可能触发“同质化死亡螺旋”,且 AI 偏见会传播为社会偏见。缓解方案是降低人机交互摩擦、让用户灵活分享信息,从而在不牺牲生产力的前提下获得个性化输出。
正文 · AI 翻译
摘要:在使用生成式人工智能(AI)时,用户可能会获得生产力提升,但 AI 生成的内容可能并不完全符合其偏好。为研究这一效应,我们引入一个贝叶斯框架,其中异质性用户选择与 AI 共享多少信息,并在输出保真度与沟通成本之间进行权衡。我们表明,这些个体层面的决策与 AI 训练之间的相互作用可能带来社会性挑战。输出可能变得更加同质化,尤其是当 AI 在 AI 生成的内容上训练时,可能引发同质化死亡螺旋。而任何 AI 偏见都可能传播并成为社会偏见。同质化和偏见问题的一个解决方案是减少人机交互摩擦,使用户能够灵活地共享信息,从而在不牺牲生产力的情况下获得个性化输出。
| 学科: | 人工智能(cs.AI);人机交互(cs.HC);一般经济学(econ.GN) |
| 引用为: | arXiv:2309.10448 [cs.AI] |
| (或本版本的 arXiv:2309.10448v5 [cs.AI]) | |
| https://doi.org/10.48550/arXiv.2309.10448 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Jian Gao [查看邮箱]
[v1]
2023年9月19日星期二 09:09:59 UTC(1,585 KB)
[v2]
2023年10月13日星期五 00:52:52 UTC(1,584 KB)
[v3]
2025年6月22日星期日 15:45:31 UTC(2,313 KB)
[v4]
2025年7月6日星期日 14:31:28 UTC(2,313 KB)
[v5]
2026年11月18日星期三 15:01:25 UTC(1,942 KB)
来源:arXiv cs.AI · arxiv.org