arXiv cs.AI· Weiwei Wang, Yinchuan Xu, Jialu Gao, Youkow Homma, Jian Jiao·· 10 天前AI 评分30
LLM 广告相关性判断中的偏见系统性研究
A Systematic Investigation of Bias in Large Language Models for Advertising Relevance
AI 导读
一项系统性研究考察了 LLM 广告相关性判断中的公平性问题，以 GPT-4o 作为分类相关性评判者、Qwen-7B 作为专门训练的相关性预测模型，采用反事实框架分析广告主身份、流行度、输入语言和人口统计措辞的影响。
正文 · AI 翻译
摘要：大型语言模型（LLM）越来越多地被用于评判广告与查询的匹配程度，但这些评判的公平性受到的关注有限。我们对 LLM 针对查询和广告所作相关性判断中的公平性进行了系统性研究。我们的反事实框架考察了广告主身份及可能的知名度、输入语言和人口统计措辞的影响。我们研究了作为分类相关性评判者的 GPT-4o 以及一个专门为相关性预测训练的 Qwen-7B 模型。广告主和语言实验使用从真实广告日志中采样的查询与广告对。受控的合成查询用于研究就业、住房和信贷中的人口统计关联。对于这两个模型，改变广告主身份或输入语言都可能改变相关性评估。部分人口统计比较还显示出与常见刻板印象一致的模式，尤其是涉及性别和职业的那些。我们进一步研究了模型推理和训练过程中的缓解措施。结果表明，其有效性取决于广告主信息是否与查询相关，以及广告主标签在训练数据中的分布方式。这些发现可以帮助广告从业者识别公平性风险，并为 LLM 相关性系统开发合适的缓解方法。
| Subjects: | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.07544 [cs.AI] |
| （或 arXiv:2610.07544v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.07544 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Weiwei Wang [查看邮箱]
[v1]
2026年10月6日星期二 00:18:07 UTC（16 KB）
来源：arXiv cs.AI · arxiv.org