arXiv cs.MA· Cl\'ea Chataigner, Mina Arzaghi, Florian Carichon, Pablo Piantanida, Golnoosh Farnadi·· 9 小时前AI 评分31
多智能体网络拓扑如何影响偏见注入的传播:一项鲁棒性研究
Corrupting Ties: Investigating Robustness to Bias Injection Across Multi-Agent Network Topologies
AI 导读
研究提出受控偏见注入框架,将选定智能体的回复替换为预设偏见回复,并在 Qwen 与 Gemma 系列 LLM 上对三种二分类任务、五种拓扑结构进行干预分析。顺序网络出现最大决策分歧,全连接与网状网络分歧较小;星型网络中注入中心智能体的影响大于外围智能体。模型间在分歧是否跟随注入偏见上也存在差异,表明网络结构在偏见信息传播中起关键作用。
正文 · AI 翻译
摘要:AI 系统越来越多地被部署于高风险决策场景中,在这些场景里,各组件之间的交互可能引入公平性风险,而孤立地审计单个组件或整体结果时,这些风险往往无法被发现。随着基于 LLM 的多智能体系统日益普及,理解有偏信息如何在智能体交互中传播,对于评估其公平性至关重要。我们提出了一个受控的偏见注入框架,用预定义的有偏回复替换选定的智能体回复,从而能够基于干预分析网络拓扑和注入配置如何塑造系统行为。我们提出了决策分歧指标,用于在智能体、网络和系统三个层面量化这些干预的影响,并使用 Qwen 和 Gemma 系列的 LLM 在三个二分类任务上评估了五种拓扑结构。顺序网络表现出最大的分歧,而全连接网络和网状网络则较小。注入位置也很重要:在星型网络中,向中心智能体注入比向外围智能体注入影响更大。不同模型在分歧是否随注入偏见而变化方面也存在差异。这些发现凸显了网络结构在有偏信息传播中的作用,并推动了对多智能体系统中公平性风险的拓扑感知审计。
| 主题: | 计算与语言(cs.CL);多智能体系统(cs.MA) |
| 引用为: | arXiv:2611.21804 [cs.CL] |
| (或本版本的 arXiv:2611.21804v1 [cs.CL]) | |
| https://doi.org/10.48550/arXiv.2611.21804 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Cléa Chataigner [查看邮箱]
[v1]
2026年11月16日星期一 19:20:05 UTC(1,100 KB)
来源:arXiv cs.MA · arxiv.org