arXiv cs.AI· Erin Crawley, Hidenori Tanaka·· 9 天前AI 评分32
AI 智能体生态学：协作带来种群起飞的临界规模
Ecology of AI Agents: Collaboration Creates a Population Threshold for Takeoff
AI 导读
一项基于种群增长方程的 AI 智能体生态学理论指出，当智能体之间存在协作时，集体网络安全能力随种群规模上升，从而产生一个临界种群阈值：低于该阈值种群衰减，高于该阈值即使单个智能体能力不变，种群也会进入自我强化的起飞循环，这一现象在生态学中称为强 Allee 效应。
正文 · AI 翻译
摘要：AI 智能体如今能够实施真实世界的网络攻击，其能力可随智能体数量的增加而扩展，并能集体追求不一致的目标以获取奖励。这些因素共同加剧了不一致智能体种群爆发的风险：智能体可能入侵计算机并秘密部署更多智能体，形成自我强化的循环，使更大的种群发展出更强的集体网络能力并进一步扩张。这引出一个根本性问题：是什么决定了一群不一致智能体是被遏制，还是进入这种自我强化的循环并起飞？这个种群层面的问题就是生态安全：与固定种群下的个体智能体或多智能体安全不同，它关注的是种群本身的动态。在此，我们基于一个种群增长方程发展出 AI 智能体种群的生态学理论，其中适应度（增长率）取决于网络安全能力。我们表明，在没有协作的情况下，只有当个体智能体能力超过临界阈值时，种群才会起飞。然而，在存在协作的情况下，集体网络安全能力会随种群规模而增加。这就产生了一个临界种群阈值：低于它，种群会衰退；高于它，种群就会起飞，即使个体智能体能力并未改变。在生态学中，这一现象被称为强 Allee 效应。由于对一小群智能体进行红队测试无法保证更大种群的生态安全，我们的理论呼吁进行生态红队测试和种群节奏控制：在受控环境中逐步部署更大的智能体种群，同时测量网络能力如何随种群规模扩展，并估计起飞所需的临界种群规模。能力提升可能会降低这一阈值，因此需要针对每一代新模型重新估计。
| 评论： | 22 页，11 幅图，1 张表 |
| 主题： | 人工智能（cs.AI）；无序系统与神经网络（cond-mat.dis-nn）；多智能体系统（cs.MA）；生物物理（physics.bio-ph） |
| MSC 分类： | 92D25, 68T42 |
| ACM 分类： | I.2.11; K.6.5 |
| 引用为： | arXiv:2610.12436 [cs.AI] |
| （或 arXiv:2610.12436v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.12436 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Hidenori Tanaka [查看电子邮件]
[v1]
2026 年 10 月 8 日星期四 17:57:32 UTC（871 KB）
来源：arXiv cs.AI · arxiv.org