arXiv cs.AI· Yujiao Chen·· 9 天前AI 评分34
LLM 智能体为何偏袒本群体：代价、观察到的规范与声誉
Why LLM Agents Favor Their Group: Stakes, Observed Norms, and Reputation
AI 导读
研究用约 4400 个社会、330 万次模型调用测试 15 个 OpenAI 模型和 3 个 Claude 模型，发现单纯的群体标签效应只在给分不损己时存在，一旦有代价便消失。有代价时互动历史成为偏袒主因，15 个模型中 13 个呈统计显著正效应，11 个达 10 分中的约 3.5-8 分，并延伸至未谋面的标签陌生人。群体偏袒实为对观察到的群体行为的从众，会被个人声誉覆盖。
正文 · AI 翻译
摘要：语言模型智能体会偏袒自己的群体，因为它们目睹了本群体成员相互偏袒。一旦决策需要付出代价，仅凭群体标签本身几乎不起作用；真正驱动偏袒的是观察到的行为，而个体的自身记录可以将其覆盖。我们在具有任意群体标签的小型社会中对此进行测试，进行十轮点数分享，并在十五个 OpenAI 模型和三个 Claude 模型上开展匹配的一次性决策，涉及约 4,400 个社会和 330 万次经审计的模型调用。第一，早期研究报告的单纯群体标签的巨大效应，仅在给他人点数不花费智能体任何代价时才会出现；一旦智能体可以为自己保留点数，该效应在所有表现出该效应的模型上都会崩塌。第二，在有利益牵涉时，交互历史成为偏袒的主要来源：历史效应在 15 个模型中的 13 个上具有统计上的正向作用，在 11 个模型上达到 10 分中的约 3.5-8 分，随所玩轮数增加而增长，并延伸到智能体从未见过的有标签陌生人。第三，在脚本化历史下，在平等主义规范下偏袒降至接近零，而当智能体自己的群体被认为偏袒另一方时则发生反转；更强的模型在个体记录与群体冲突时站在个体记录一边。因此，群体偏袒是对所观察到的群体行为的从众，通过标签传递给陌生人，并被个体声誉所覆盖。同样的解释预测了对背叛、丑闻以及免费提供改变群体的反应：公开谴责比道歉或赔偿更能修复背叛，分配惩罚仍局限于违规成员，已形成的群体无法被收买，但在较弱的模型上可以被邀请离开。
| 主题： | 物理学与社会（physics.soc-ph）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.11008 [physics.soc-ph] |
| （或 arXiv:2610.11008v1 [physics.soc-ph] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.11008 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Yujiao Chen [查看电子邮件]
[v1]
2026年10月7日星期三 23:46:37 UTC（61 KB）
来源：arXiv cs.AI · arxiv.org