arXiv cs.CY· Amir Ghasemian, Homa Hosseinmardi, Upasana Dutta, Duncan J. Watts·· 23 小时前AI 评分40
LLM 辅助重排序如何在推荐系统中落实细微目标
LLM-Assisted Reranking to Operationalize Nuanced Objectives in Recommender Systems
AI 导读
研究用真实 YouTube 轨迹,以零样本提示对三个模型及一个嵌入基线重排侧边栏候选,评估相关性、意识形态对齐与阴谋/极端内容暴露。纯个性化指令下重排序提升相关性但收窄意识形态暴露,三个模型中有两个会向有此类历史的用户推送问题内容,第三个模型因更明确拒绝党派请求体现模型特定护栏。轻量提示级约束在三个模型上均大幅降低问题内容暴露,且正则化重排器相关性仍高于平台基线。
正文 · AI 翻译
摘要:推荐系统塑造了我们所看到的信息,引发了人们对过滤气泡、激进化、极化和社会不平等的担忧。大语言模型(LLM)能够实现更强大的个性化,这可能加剧上述动态,然而大多数推荐系统针对参与度或狭窄的准确率指标进行调优,很少关注更广泛的社会影响。我们研究 LLM 辅助的重排序在提升个性化的同时,是否会无意中放大用户接触意识形态上合意、极端或阴谋论政治内容的机会——这一风险虽有理论探讨,但尚未得到实证刻画。利用真实的 YouTube 轨迹,我们通过零样本提示对平台侧边栏候选内容在三个模型上重新排序,并辅以嵌入基线,评估相关性、意识形态一致性与多样性,以及接触阴谋论或极端主义内容的情况。我们发现:(i) 在纯个性化指令下,重排序提升了相关性,同时收窄了意识形态暴露面,并且在三个模型中的两个上,会为此类历史用户推送问题内容;第三个模型最明确地拒绝党派性请求,指向模型特定的防护机制;(ii) 轻量级的提示层面约束在所有三个模型上都大幅减少了问题内容的暴露,而经过正则化的重排序器在相关性上仍高于平台基线;(iii) 分别改变话题线索和党派线索的合成实验显示,两者之间不存在固定偏好:在堕胎和移民话题上话题占主导,而在话题信号较弱的选举话题上党派性则占据上风。我们的结果凸显了 LLM 在高风险政治推荐中落实语境细微差别的能力,并强调有必要在准确率之外评估 LLM 辅助的个性化,并将提示设计视为一种承载价值的选择,而非中性的默认设置。
| 评论: | 共 42 页;11 页正文、5 幅图、0 张表;31 页附录、19 幅图、24 张表 |
| 主题: | 人机交互(cs.HC);人工智能(cs.AI);计算机与社会(cs.CY);信息检索(cs.IR) |
| 引用为: | arXiv:2606.02883 [cs.HC] |
| (或本版本的 arXiv:2606.02883v2 [cs.HC]) | |
| https://doi.org/10.48550/arXiv.2606.02883 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Amir Ghasemian [查看邮箱]
[v1]
2026 年 6 月 1 日星期一 20:54:14 UTC(6,522 KB)
[v2]
2026 年 11 月 18 日星期三 02:24:43 UTC(6,604 KB)
来源:arXiv cs.CY · arxiv.org