跳到正文
arXiv cs.AI· Xiaoyang Xing, Wenyu Dai, Xiaoliang Gong, Asoke K Nandi, Anthony Cohn·· 10 小时前AI 评分31

L2C:LLM 引导的多智能体工作流演化,实现低 token 红队测试

Learning to Coordinate: LLM-Guided Workflow Evolution for Token-Efficient Red Teaming

AI 导读

研究者提出 Learning to Coordinate(L2C),一个由 LLM 引导、为每个红队测试案例演化可执行多智能体工作流的框架,用版本化图表示智能体职责与依赖,并由经监督微调的控制器决定保留、改写或重构协作。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:自动化红队测试对于识别大语言模型(LLM)的安全失效至关重要,但其实际可扩展性取决于发现这些失效所需的资源。多智能体系统可以组合互补能力,但重复规划、冗余交互和低效的信息路由会使其协调成本高昂。此外,目标模型的响应只表明测试结果,并不能指出应改变哪项协作决策。我们提出 Learning to Coordinate(L2C),这是一个由 LLM 引导的框架,可为每个红队测试案例演化出可执行的多智能体工作流。L2C 在版本化图中表示智能体职责、执行依赖和输入绑定,并将每个图与实际传递和产生的信息记录相关联。通过监督微调训练的控制器将这些记录与目标响应、评估器判定和剩余预算相结合,以保留工作流、改进指令、重构协作或锁定进一步编辑。该设计将反馈与后续执行中的显式变更联系起来,同时允许有用的组织继续运行而无需控制器反复干预。评估协议涵盖 HarmBench,使用三种执行骨干和两个目标模型,并包括组件消融、数据集迁移和评估器检查。在六种执行器-目标配置中,L2C 相比 EvoSynth 将 ASR 提高了 1.4 至 4.5 个百分点,同时将平均在线 token 数减少了 35.6% 至 37.3%。L2C 将自适应协作与自动化安全评估的资源需求联系起来。
评论: 10 页,3 张图
主题: 人工智能(cs.AI)
引用为: arXiv:2611.24221 [cs.AI]
  (或 arXiv:2611.24221v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.24221

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Xiaoyang Xing [查看邮箱]
[v1] 2026 年 11 月 18 日星期三 10:58:44 UTC(3,309 KB)

来源:arXiv cs.AI · arxiv.org