arXiv cs.AI· Boxun Lan, Jiamei Li, Weijian Li, Chengyu Yang, Zhuang Qi, Chengcheng Wan, Xiaohong Chen, Ming Hu·· 2 天前AI 评分24
FedSkillGit：基于版本控制的联邦技能进化框架
FedSkillGit: Federated Skill Evolution via Version Control
AI 导读
FedSkillGit 用 commit 式补丁更新替代整份技能文档上传，实现联邦技能进化：客户端只提交命名规则上的有限补丁及本地经验，经两阶段隐私过滤后由服务器去重合并，候选技能需在客户端验证集上得分提升才发布。在三个数据集和三个语言模型家族上，该方法比 SOTA 基线最高提升 22%，并在不共享原始客户端数据的前提下接近集中式进化效果。
正文 · AI 翻译
摘要：大型语言模型智能体可以通过从执行经验中演化出可复用的自然语言技能来提升自身能力。在真实世界部署中，这些经验分散在无法汇集原始数据的数据持有者手中，这促使了联邦技能演化的出现。最直观的初始设计是让每个客户端演化整份技能文档，并上传结果以供服务器端聚合。该设计与技能演化并不匹配，原因有三：演化后的文档仍可能携带从私有轨迹中提炼出的客户端特定内容；反复传输几乎未变的文档会把通信开销花在群体已经掌握的知识上；而单个客户端的贡献被埋没在服务器无法有意义地归因的文档中。我们提出 FedSkillGit，一个联邦技能演化框架，用提交（commit）取代整份文档更新。每个参与的客户端提交一组针对具名规则的有界补丁，以及其本地经验——后者概括了本轮教给它的内容——这一对内容在离开客户端前需通过两阶段隐私过滤器。服务器对所有参与者提交的补丁和本地经验进行去重，更新一份仅由优化器读取的全局经验文档，并将存活的补丁合并为候选技能。该候选技能被分发给各客户端，由它们在自己的验证集上评分并报告结果，只有当报告的分数优于当前版本时才会被发布。在三个数据集和三个语言模型系列上的实验表明，FedSkillGit 比最先进的基线最高提升 22%，并在不共享客户端原始数据的情况下接近集中式演化。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.21348 [cs.AI] |
| （或 arXiv:2610.21348v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.21348 arXiv 颁发的 DOI，经由 DataCite（待注册） |
提交历史
来自：Ming Hu [查看邮箱]
[v1]
2026年10月15日星期四 06:29:57 UTC（217 KB）
来源：arXiv cs.AI · arxiv.org