arXiv cs.AI· Andrew W. Lo, Chaoyi Zhao·· 11 小时前AI 评分31
AI 自我进化框架：达尔文、拉马克与智能体导向演化
Adapting the Process of Adaptation: Darwinian, Lamarckian, and Agent-Directed Evolution in AI
AI 导读
一项 arXiv 理论研究提出框架，比较达尔文演化、拉马克演化与智能体导向演化在环境变化后的适应速度：学习足够有效时三者依次更快，生成更多行为变体可加速适应，最优搜索投入取决于学习能力、问题难度与实验成本。但智能体自我导向改进并不保证按预期目标评估，评估目标设定错误时更多搜索会加速收敛到错误行为，递归自我改进中此类错误可能跨代延续，需独立评估与监督同步跟进。
正文 · AI 翻译
摘要：进化塑造智能已有数十亿年。人工智能（AI）如今提出了一种惊人的可能性：智能或许开始主导自身的进化。当 AI 智能体能够修改并评估自身行为时，它们能以多快的速度改进，而这种改进又如何保持安全？我们提出了一个理论框架，用于比较环境变化后的达尔文式进化、拉马克式进化和智能体主导式进化。达尔文式进化依赖自然选择，拉马克式进化增加了可继承的学习，而智能体主导式进化允许智能体生成并评估行为变体，并选择搜索的广度。当学习足够有效时，这些机制表现出逐步加快的适应速度。生成更多变体会加速适应，而最优搜索投入取决于学习能力、问题难度和实验成本。然而，智能体主导自身改进的能力并不能确保改进是依据预期目标来评估的。当评估目标设定有误时，额外的搜索会加速向错误行为的收敛，即使测得的性能在提升。在递归式自我改进中，此类错误可能跨代持续存在，给 AI 安全带来挑战。独立评估与监督必须跟上自主 AI 发展的步伐。核心挑战不仅仅是加速智能的进化，而是保持人类引导其方向、限制其速度并在必要时进行干预的能力。
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2611.07048 [cs.AI] |
| （或本版本的 arXiv:2611.07048v1 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2611.07048 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Andrew Lo [查看邮箱]
[v1]
2026年11月4日星期三 19:08:46 UTC（122 KB）
来源：arXiv cs.AI · arxiv.org