arXiv cs.CY· Nicol\`o Pagan, Petter T\"ornberg, Christopher A. Bail, Christopher Barrie·· 10 小时前AI 评分42
LLM 推荐系统通过内容偏好产生人口统计不平等
LLM Recommenders Produce Demographic Inequality Through Content Preferences
AI 导读
一项基于 1000 名受访者 1 万条 Twitter/X 帖子的受控实验发现，LLM 推荐系统仅凭文本就会产生人口统计不平等：模型偏好更长、更负面、更观点鲜明的帖子，尤其是新闻和社会议题类内容，导致被推荐作者的人群构成出现系统性差异。
正文 · AI 翻译
摘要：大型语言模型（LLM）正日益被整合到对在线内容进行排序和推荐的系统中。我们考察了这种转变如何导致在哪些人的声音被呈现方面产生人口统计不平等。我们使用由 1,000 名调查受访者撰写的 10,000 条 Twitter/X 帖子，并将其与九个人口统计属性上经核实的自我报告特征相关联，在三个 LLM 提供商、六个推荐目标和五个上下文信息水平上开展了一项受控推荐实验。通过改变模型接收的是仅帖子文本、平台元数据还是明确的作者人口统计信息，我们分离出通往不平等推荐的三条路径：对具有人口统计模式内容的偏好、对不平等互动信号的依赖，以及直接使用已披露的身份。我们发现，人口统计不平等仅凭文本即可产生。模型一致偏好更长、更负面、观点更鲜明的帖子，尤其是涉及新闻和社会议题的帖子，从而导致被推荐作者的人口统计构成出现系统性差异。平台元数据通常会放大这些不平等，而明确披露作者的人口统计特征几乎不会带来额外变化。推荐目标主要影响这些模式的幅度：争议性框架会加剧内容和人口统计上的偏斜，而流行度导向的框架则会抑制这种偏斜，尽管对于某些属性——最显著的是年龄——目标还可能逆转哪一群体受到偏好。因此，基于 LLM 的推荐系统可以通过代理方式再现人口统计不平等，并非通过明确的人口统计定向，而是通过对已被社会不平等结构化的内容和互动信号的偏好。
| 学科： | 计算机与社会（cs.CY）；社会与信息网络（cs.SI） |
| 引用为： | arXiv:2610.41854 [cs.CY] |
| （或 arXiv:2610.41854v1 [cs.CY] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.41854 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Nicolò Pagan 先生 [查看电子邮件]
[v1]
2026年10月30日星期五 15:11:08 UTC（5,878 KB）
来源：arXiv cs.CY · arxiv.org