arXiv cs.AI· Liliana Hotsko, Yinxi Li, Yuntian Deng, Pengyu Nie·· 13 小时前AI 评分38
Code2LoRA：用超网络生成适配器，为软件演化中的代码语言模型注入仓库知识
Code2LoRA: Hypernetwork-Generated Adapters for Code Language Models under Software Evolution
AI 导读
Code2LoRA 提出超网络框架，为代码语言模型生成仓库专属 LoRA 适配器，实现零推理 token 开销的仓库知识注入。
正文 · AI 翻译
摘要：代码语言模型需要仓库级上下文来解析导入、API 和项目约定。现有方法将这些知识作为长输入注入（通过 RAG 或依赖分析检索），或通过按仓库微调和 LoRA 注入——在仓库规模上成本高昂，且对不断演进的代码库较为脆弱。我们提出 Code2LoRA，一个超网络框架，可生成仓库特定的 LoRA 适配器，以零推理时 token 开销有效注入仓库知识。Code2LoRA 支持两种使用场景：Code2LoRA-Static 将单个仓库快照转换为适配器，适用于理解稳定的代码库；而 Code2LoRA-Evo 维护一个由 GRU 隐藏状态支持的适配器，该状态随每次代码差异更新，适用于活跃开发中的演进代码库。为评估 Code2LoRA 相对于参数高效微调基线的表现，我们构建了 RepoPeftBench，一个包含 604 个 Python 仓库的基准，分为两个赛道：静态赛道包含 40K 训练和 12K 测试断言补全任务，演进赛道包含 215K 源自提交的训练任务和 87K 源自提交的测试任务。在静态赛道上，Code2LoRA-Static 实现了 63.8% 的跨仓库和 66.2% 的仓库内精确匹配，与按仓库 LoRA 的上限相当；在演进赛道上，Code2LoRA-Evo 实现了 60.3% 的跨仓库精确匹配（比单一共享 LoRA 高 5.2 个百分点）。Code2LoRA 的代码可在 此 https URL 找到，模型检查点和 RepoPeftBench 数据集可在 此 https URL 找到。
| 主题： | 软件工程（cs.SE）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2606.06492 [cs.SE] |
| （或此版本的 arXiv:2606.06492v2 [cs.SE]） | |
| https://doi.org/10.48550/arXiv.2606.06492 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Pengyu Nie [查看邮箱]
[v1]
2026年6月4日星期四 17:59:46 UTC（521 KB）
[v2]
2026年10月27日星期二 18:08:36 UTC（541 KB）
来源：arXiv cs.AI · arxiv.org