arXiv cs.CL· Ivan Moloshnikov, Dmitry Kunitsyn, Alexander Sboev, Maksim Skorokhodov, Roman Rybka, Yuanchao Liu·· 6 天前AI 评分30
多智能体 LLM 系统实现专用神经网络模型自动调优
A Multi-Agent LLM System for Automated Tuning of Specialized Neural Network Models
AI 导读
一个由分析师、编码员和记录员三种角色组成的多智能体 LLM 框架,可在不改动整体网络结构的前提下,仅针对指定组件生成代码,实现跨模型自动调优。在 MNIST 和 Digits 脉冲分类任务上,准确率分别提升 13 和 6 个百分点;在 GNLSE 任务中相对解析单孤子解的误差降低约 2491 倍,KS 问题质量漂移下降 14 倍。
正文 · AI 翻译
摘要:许多机器学习方法都是两级的:由专家选择一类方法,而在该类方法内部,关键组件的选择至关重要且通常依赖人工。本文研究这些组件的自动调优,并提出了一个可跨不同性质模型迁移的框架。该多智能体大语言模型(LLM)框架具有三个角色——分析师、编码员和记录员——并配有实验日志和沙箱执行环境。与优化整个 ML 脚本或在离散空间中搜索架构的系统不同,该框架在一个开放但语义狭窄的空间中运行:智能体仅为指定的组件生成代码,保持整体网络结构不变。该方法在两个方向上得到验证:调优具有相关学习的分类脉冲神经网络,以及用物理信息神经网络(PINN)求解高阶微分方程。在五项任务中——MNIST 和 Digits 上的脉冲分类,以及广义非线性薛定谔方程(GNLSE)和 Kuramoto--Sivashinsky(KS)方程的边值问题——该智能体均优于基线:分类准确率分别高出 13 个百分点(MNIST)和 6 个百分点(Digits);与解析单孤子解的误差约降低 2491 倍;在选定的带高斯扰动的 GNLSE 运行中,不变量保持误差约降低 325 倍,在重复初始化上平均降低超过 100 倍;对于带高斯扰动的 KS 问题,质量漂移降低 14 倍。因此,该框架在不改变其内部结构的情况下,调优了不同性质任务上的关键组件。
| 学科: | 人工智能(cs.AI);计算与语言(cs.CL);机器学习(cs.LG);多智能体系统(cs.MA);神经与进化计算(cs.NE) |
| 引用为: | arXiv:2610.13663 [cs.AI] |
| (或 arXiv:2610.13663v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.13663 arXiv 颁发的 DOI,通过 DataCite(待注册) |
提交历史
来自:Alexandr Sboev [查看电子邮件]
[v1]
2026年10月9日星期五 14:34:22 UTC(5,219 KB)
来源:arXiv cs.CL · arxiv.org