arXiv cs.CL· Xuan Zhao, Haonan He, Qingyu Yang, Minglei Li, Zelin Tan, Bo Wan, Jingqi Ye, Chen Zhang, Shuyue Hu, Peng Ye·· 11 小时前AI 评分40
ParametricSkills:将文本技能参数化为 LoRA 适配器
Parametric Skills
AI 导读
研究者提出 ParametricSkills 框架,在测试时将文本技能转换为 LoRA 适配器,实现无需占用上下文窗口的技能全生命周期管理。该框架先构建大规模高质量技能集合,合成单轮与多轮技能使用轨迹训练超网络,再用 OpenCode 采集的复杂长程轨迹做对齐。评估显示其显著提升任务完成度,并让技能以适配器形式累积,为测试时持续学习提供初步路径。
正文 · AI 翻译
摘要:对于 LLM 而言,技能是编码成熟问题解决经验的文本配方。尽管已广泛部署,其效用受限于模型理解和遵循技能指令的能力。为解决这一局限,我们提出 ParametricSkills,一个在测试时对文本技能进行参数化的框架,可实现技能全生命周期的无上下文管理。具体而言,我们首先构建大规模高质量技能集合,然后合成单轮和多轮技能利用轨迹。利用这些数据,我们训练一个超网络,通过将文本技能转换为 LoRA 适配器,对技能的内容和利用方法进行参数化。为便于我们框架的实际应用,我们进一步在通过 OpenCode 收集的复杂长时程轨迹上对齐超网络,使模型能够在 ParametricSkills 的真实交互工作流中可靠运行。在各项评估中,ParametricSkills 有效实现了技能参数化,在任务完成方面取得显著提升。更值得注意的是,由于参数化技能以适配器形式累积而非挤占上下文,它们为测试时持续学习开辟了一条初步但充满希望的路径。
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2606.30015 [cs.CL] |
| (或 arXiv:2606.30015v2 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2606.30015 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Haonan He [查看邮箱]
[v1]
2026年6月29日星期一 09:19:32 UTC(1,382 KB)
[v2]
2026年11月5日星期四 18:18:18 UTC(3,221 KB)
来源:arXiv cs.CL · arxiv.org