arXiv cs.CY· Yi Qi, Srijoni Majumdar, Evangelos Pournaras·· 11 小时前AI 评分35
面向数字民主的 AI 对齐：用更公平的选民代表对抗 LLM 偏见
AI Alignment for Digital Democracy: Fairer Voters Representation against LLM Biases
AI 导读
研究基于三届美国总统选举，比较闭源与开源 LLM 在模拟选民时的人口统计偏见，并测试 AI 对齐策略能否在不牺牲整体准确率的前提下缩小群体差异。从选民画像中移除性别可使模型最大群体误差降低 22-42%，移除教育程度可降低 64%，而移除自报种族反而使平均群体误差上升超 40%。重复查询、公平性指令等常见对齐策略无法降低这些误差，甚至可能使其翻倍。
正文 · AI 翻译
摘要：AI 表征正出现在数字民主中，协助进行选民模拟与决策。大语言模型（LLM）会因模型、提示上下文以及所接收的选民信息不同而表现各异，对某些群体的表征比对其他群体更准确，并可能使模拟对某些群体不公平。我们研究了 LLM 模拟选民中的群体偏见：LLM 对个体投票的表征有多准确，某些选民群体是否比其他群体被表征得更准确，以及 AI 对齐能否在不牺牲整体准确率的情况下减少这些差异。我们使用三次美国总统选举，比较了一个闭源和一个开源 LLM 在选民人口特征上的表现，并测试了旨在实现更公平选民表征的 AI 对齐策略。从选民档案中移除性别可使模型的最大群体误差降低 22-42%，移除教育程度可使其降低 64%，而移除自我报告的种族则使平均群体误差增加超过 40%，且均未降低准确率。常见的对齐策略，如重复查询或公平性指令，并不能减少这些误差，反而可能使其翻倍。
| 主题： | 计算机与社会（cs.CY）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.32780 [cs.CY] |
| （或 arXiv:2610.32780v1 [cs.CY] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.32780 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Yi Qi [查看电子邮件]
[v1]
2026年10月23日星期五 15:27:40 UTC（1,259 KB）
来源：arXiv cs.CY · arxiv.org