跳到正文
arXiv cs.CL· Ivan Moloshnikov, Dmitry Kunitsyn, Alexander Sboev, Maksim Skorokhodov, Roman Rybka, Yuanchao Liu·· 6 天前AI 评分30

多智能体 LLM 系统实现专用神经网络模型自动调优

A Multi-Agent LLM System for Automated Tuning of Specialized Neural Network Models

AI 导读

一个由分析师、编码员和记录员三种角色组成的多智能体 LLM 框架,可在不改动整体网络结构的前提下,仅针对指定组件生成代码,实现跨模型自动调优。在 MNIST 和 Digits 脉冲分类任务上,准确率分别提升 13 和 6 个百分点;在 GNLSE 任务中相对解析单孤子解的误差降低约 2491 倍,KS 问题质量漂移下降 14 倍。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:许多机器学习方法都是两级的:由专家选择一类方法,而在该类方法内部,关键组件的选择至关重要且通常依赖人工。本文研究这些组件的自动调优,并提出了一个可跨不同性质模型迁移的框架。该多智能体大语言模型(LLM)框架具有三个角色——分析师、编码员和记录员——并配有实验日志和沙箱执行环境。与优化整个 ML 脚本或在离散空间中搜索架构的系统不同,该框架在一个开放但语义狭窄的空间中运行:智能体仅为指定的组件生成代码,保持整体网络结构不变。该方法在两个方向上得到验证:调优具有相关学习的分类脉冲神经网络,以及用物理信息神经网络(PINN)求解高阶微分方程。在五项任务中——MNIST 和 Digits 上的脉冲分类,以及广义非线性薛定谔方程(GNLSE)和 Kuramoto--Sivashinsky(KS)方程的边值问题——该智能体均优于基线:分类准确率分别高出 13 个百分点(MNIST)和 6 个百分点(Digits);与解析单孤子解的误差约降低 2491 倍;在选定的带高斯扰动的 GNLSE 运行中,不变量保持误差约降低 325 倍,在重复初始化上平均降低超过 100 倍;对于带高斯扰动的 KS 问题,质量漂移降低 14 倍。因此,该框架在不改变其内部结构的情况下,调优了不同性质任务上的关键组件。
学科: 人工智能(cs.AI);计算与语言(cs.CL);机器学习(cs.LG);多智能体系统(cs.MA);神经与进化计算(cs.NE)
引用为: arXiv:2610.13663 [cs.AI]
  (或 arXiv:2610.13663v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.13663

arXiv 颁发的 DOI,通过 DataCite(待注册)

提交历史

来自:Alexandr Sboev [查看电子邮件]
[v1] 2026年10月9日星期五 14:34:22 UTC(5,219 KB)

来源:arXiv cs.CL · arxiv.org