arXiv cs.AI· Subodh Lonkar·· 1 天前AI 评分31
Evidence-Governed Evolution（EGE）：自主 AI 智能体自生成更新的证据化采纳框架
Evidence-Governed Adoption of Self-Generated Updates in Autonomous AI Agents
AI 导读
研究者提出 Evidence-Governed Evolution（EGE）框架，将自主 AI 智能体自生成修改的候选生成与确认性采纳分离，在新鲜配对审计上评估冻结候选，并要求在预设主目标上有显著提升。
正文 · AI 翻译
摘要：自主智能体利用交互历史来修改提示词、记忆、工具、工作流和策略。然而，一个看似合理的修改未必适合被持久采纳：候选选择是自适应的，评估器可能并不完美，局部收益可能掩盖了相对于早期基线的性能退化。我们提出证据治理演化（EGE），这是一个用于治理自主生成智能体修改之采纳的框架。EGE 将候选生成与确认性采纳分离，在全新的配对审计中评估冻结的候选，要求其在预先指定的主要目标上取得有意义的改进，通过相对于参考的非劣效性检验保护已声明的能力，并在有界金丝雀部署之前施加治理约束。我们为可数序列的自适应生成候选建立了一种经评估器校准的同时下界构造。它将逐候选的 Hoeffding 界与独立校准样本相结合，后者将运行评估器与预先指定的参考程序进行比较。我们还通过桥接检验形式化了参考替换，推导了沿版本化参考谱系的累积退化界，并给出了一个关联效应量裕度、样本量和接受概率的审计规划条件。一项蒙特卡洛压力测试说明了在候选相关评估器乐观情形下的校准；它是一个风格化的统计实验，而非对已部署智能体的评估。这些保证以有界配对分数、全新采样、有效的参考评估构造和已声明的评估分布为条件；它们并不确立通用的智能体安全性或对任意分布偏移的鲁棒性。
| 主题： | 人工智能（cs.AI）；多智能体系统（cs.MA） |
| 引用为： | arXiv:2611.16378 [cs.AI] |
| （或本版本的 arXiv:2611.16378v1 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2611.16378 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Subodh Lonkar [查看电子邮件]
[v1]
2026年11月12日星期四 06:45:02 UTC（28 KB）
来源：arXiv cs.AI · arxiv.org