arXiv cs.CY· Daniel Thilo Schroeder, Philipp M. Lutscher, Samba Dialimpa Badji, Stefan Brenner, Wenchao Dong, Tsehaye Haidemariam, Saheed Bidemi Ibrahim, Amanuel Tesfaye Kebede, Jonas R. Kunst, Johannes Langguth, Pauline Lemaire, Mulatu Alemayehu Moges, Lukasz Olejnik, Kristin Skare Orgeret, Gerald Walulya·· 9 天前AI 评分28
恶意 AI 蜂群与自动化虚假信息：非洲民主与发展面临的风险
Automated Disinformation and Malicious AI Swarms: Risks for Democracy and Development in Africa
AI 导读
一篇 arXiv 前瞻性风险分析将"恶意 AI 蜂群"定义为面向影响力行动的协调、持续、自适应多智能体系统，与 AI 辅助内容生产和集中管理的合成人设相区分。研究以马里和埃塞俄比亚为例，指出非洲语言与训练数据的不对称可能既限制影响力能力、也削弱防御响应，混合人机操作或可结合自动化规模与本地可信度。
正文 · AI 翻译
作者：Daniel Thilo Schroeder、Philipp M. Lutscher、Samba Dialimpa Badji、Stefan Brenner、Wenchao Dong、Tsehaye Haidemariam、Saheed Bidemi Ibrahim、Amanuel Tesfaye Kebede、Jonas R. Kunst、Johannes Langguth、Pauline Lemaire、Mulatu Alemayehu Moges、Lukasz Olejnik、Kristin Skare Orgeret、Gerald Walulya
摘要：生成式人工智能正在重塑信息的产生、获取和传播方式，同时使虚假信息行动得以达到日益扩大的规模和复杂程度。目前尚无明确证据表明完全自主的 AI 集群正在大规模开展影响力行动，但其赋能能力正在不断提升。我们将恶意 AI 集群定义为为影响力行动而设计的协调、持续且具有适应性的多智能体系统，并将其与 AI 辅助的内容生产和集中管理的合成人设区分开来。我们考察了其对非洲混合政体和受冲突影响国家的影响，在这些地方，制度约束和脆弱的媒体环境可能加剧其脆弱性。以马里和埃塞俄比亚为例，我们探讨了自动化影响力如何渗透社区、制造共识并侵蚀对治理与发展的信任。这些案例展示了国家与非国家影响力的不同配置：马里碎片化信息环境中的相互竞争的行为体，以及埃塞俄比亚更为有组织的国家主导叙事管理策略。非洲语言和训练数据的不对称可能限制影响力能力，同时削弱防御性应对。人机混合行动可能将自动化的规模与适应能力同本地知识和可信度结合起来。这项前瞻性风险分析构建了一种 AI 驱动协调日益普及的情景，而非声称自主集群已在非洲大规模运作。我们提出一种分层治理方法，将技术保障与平台问责、公民机构和区域协调联系起来，以保护民主参与、和平建设与发展。
| 评论： | 26 页 |
| 学科： | 计算机与社会（cs.CY） |
| 引用为： | arXiv:2610.11930 [cs.CY] |
| （或 arXiv:2610.11930v1 [cs.CY] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.11930 arXiv 通过 DataCite 颁发的 DOI（待注册） |
提交历史
来自：Daniel Thilo Schroeder [查看电子邮件]
[v1]
2026年10月8日星期四 13:25:21 UTC（38 KB）
来源：arXiv cs.CY · arxiv.org