arXiv cs.AI· Kislay Aditya Oj, Nidhi Jain, Sri Surya Varma Datla, Priyanka Jayaswal, Kumar Krishna Agrawal, Aditya Desai·· 9 天前AI 评分41
Generative Adversarial Loop（GAL）：让 AI 自主设定目标并发现算法
Generative Adversarial Loops
AI 导读
研究者提出 Generative Adversarial Loop（GAL），一个生成器-判别器框架，通过判别器智能体自动生成对抗数据暴露当前系统弱点、生成器智能体发现算法加以克服，实现自主目标设定与算法改进。
正文 · AI 翻译
摘要：AI 研究进展可被视为两个过程之间的相互作用：基准创建与方法发现。历史上，两者都由人类智能驱动。然而，近期 AI 的进步加速了自动化方法发现，而自动化基准创建受到的关注相对较少。为实现自我推进系统，我们提出生成对抗循环（GAL），这是一个生成器-判别器框架，在两种智能体搜索之间交替进行：（1）判别器生成对抗数据以暴露当前系统的弱点；（2）生成器发现算法以克服这些弱点。我们将该框架应用于高效推理的近似算法。与主要关注算法发现的现有自动研究系统不同，GAL 引入了一个判别器智能体，通过持续搜索当前算法的弱点来自动化目标设定。我们展示了在四项任务中的对抗数据生成：KV 压缩、稀疏视频生成、稀疏注意力和上下文扩展，其中判别器识别出最先进技术中的弱点。我们进一步表明，GAL 能够实现自主改进，新发现的算法不仅在对抗生成的数据上有所改进，在既有基准上也同样如此。具体而言，GAL 在 Qwen3-4B 上以 4x 改进 KV 压缩中的 CompactorPress，将判别器数据集上的性能从 0.35 提升至 0.97，同时还在 RULER-HARD 上表现更优（+0.77 分）。对于上下文扩展，GAL 将 Dual Chunk Attention 在判别器数据集上从 0.20 提升至 0.90，同时在标准基准上取得增益（ScienceFiction（+6 分）和 PG19 32K（-0.33 PPL））。因此，GAL 为自主目标设定和算法改进提供了一条路径，使 AI 系统能够不断发现自身弱点并开发克服这些弱点的方法。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.11458 [cs.LG] |
| （或 arXiv:2610.11458v1 [cs.LG] 为此版本） | |
| https://doi.org/10.48550/arXiv.2610.11458 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Nidhi Jain [查看电子邮件]
[v1]
2026年10月8日星期四 08:11:37 UTC（3,558 KB）
来源：arXiv cs.AI · arxiv.org