跳到正文
arXiv cs.MA· Mark Lovett, Denis Lim, Soroush Vosoughi·· 9 小时前AI 评分31

InflEns:用博弈论数据分配实现 LoRA 专家专业化与路由

Game-Theoretic Data Allocation for Expert Specialization and Routing

AI 导读

InflEns 提出一种混合 LoRA 专家框架,训练权重与推理路由来自固定提示词特征空间中的同一位置博弈,无需训练显式门控即可媲美已发表的学习型门控。在七个安全相关基准组成的语料上,份额最高的专家在约 90% 的提示词上取得最低的留出响应 NLL,而打乱分配后该比例约为 15%。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:用于训练专家的分配方式是否也能预测哪个专家在某个提示上表现最佳?这种联系将使预期的分工在训练前即可被检查,并让分配本身指导推理。我们提出 InflEns,这是一种 LoRA 专家混合模型,其训练权重和推理路由来自固定提示特征空间中的同一个位置博弈。参与者选择位置以最大化其在提示分布中的期望份额,而不使用专家损失。我们利用该博弈的核-一般理论判据,判断共置位置何时会局部失稳而分离。我们在由七个安全相关基准汇编而成的语料上评估 InflEns,结果表明:在锐化单纯形表示下,四种核中最高份额的专家在约 90% 的提示上具有最低的留出响应负对数似然(NLL),而在跨提示置换分配后该比例约为 15%。我们证明,该方法与已发表的学习门控性能相当,且无需在专家上训练显式门控。由于路由器是固定的,我们可以将有害行为追溯到单个专家并仅重新训练该专家,从而在保持指令遵循的同时将 HarmBench 攻击成功率从 0.51 降至 0.02。该博弈还为我们提供了若干控制专家专业化方式的途径,包括核的选择及其参数、特征空间几何结构以及专家数量。重要的是,InflEns 是一个通用框架,可扩展到任何编码器和数据分布。
主题: 机器学习(cs.LG);人工智能(cs.AI);计算与语言(cs.CL);多智能体系统(cs.MA)
引用为: arXiv:2611.25167 [cs.LG]
  (或 arXiv:2611.25167v1 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.25167

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Mark Lovett [查看电子邮件]
[v1] 2026年11月18日星期三 20:46:49 UTC(2,844 KB)

来源:arXiv cs.MA · arxiv.org