跳到正文
arXiv cs.AI· Sayumi Muthukumarana, Roshan Godaliyadda, Parakrama Ekanayake, Roshan Ragel·· 10 小时前AI 评分42

LLM 生成的儿童睡前故事存在性别刻板印象:一项覆盖 16 个模型的大规模研究

Once Upon a Bias: Gender Stereotyping in LLM-Generated Children's Stories

AI 导读

一项大规模研究分析了 16 个 LLM 在 35 个国家设定、12 种叙述者角色下生成的 62,873 篇睡前故事,发现面向儿子的故事比面向女儿的故事更强调能动性、更少强调共情。研究采用匹配的女儿/儿子提示词与五次生成设计,结合词汇率对比、相对刻板印象对齐、叙述者-接收者交互分析、人工评估与表征层干预。隐藏状态分析显示接收者性别信息可被解码,作者据此呼吁超越短文本基准、开展叙事层面的偏见评估。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大语言模型越来越多地被用于为儿童创作故事。由于睡前故事可能塑造儿童对社会角色的认知,这引发了人们对 LLM 是否会根据目标受众的性别调整叙事描绘的担忧。我们开展了一项大规模研究,考察 LLM 生成的睡前故事中的性别刻板印象。采用匹配的女儿/儿子提示词和五次生成设计,我们分析了来自 16 个 LLM、覆盖 35 个国家/地区设置和 12 种叙述者角色的 62,873 个保留故事。我们引入了一个多层级评估框架,结合上下文调整的词汇率对比、相对刻板印象对齐、叙述者-受众交互分析、人工评估以及表征层面的干预,以考察这些差异的一致性和可解释性。我们的结果揭示了叙事框架中的系统性差异:与女儿导向的故事相比,儿子导向的故事强调更高的能动性和更低的共融性。虽然叙述者性别对这些模式表现出有限的调节作用,但高社交性表现出更明显的交互作用。人工评估显示出一致的一致性,尽管与词汇测量指标的对应关系因叙事维度而异。此外,隐藏状态分析揭示了可解码的受众性别信息。这些发现表明,LLM 生成的儿童故事中存在持续但依赖语境的表现差异,并推动超越短文本基准的叙事特定偏见评估。
主题: 计算与语言(cs.CL);人工智能(cs.AI)
引用为: arXiv:2611.24156 [cs.CL]
  (或 arXiv:2611.24156v1 [cs.CL] 为此版本)
  https://doi.org/10.48550/arXiv.2611.24156

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Sayumi Muthukumarana [查看电子邮件]
[v1] 2026年11月18日星期三 10:01:35 UTC(16,087 KB)

来源:arXiv cs.AI · arxiv.org