arXiv cs.CL· Hui Wu, Xiaoyang Wang, Zhong Fan·· 10 天前AI 评分24
PowerCodeBench:面向 LLM 电力系统代码生成的知识边界探测与需求引导干预
Knowledge boundary probing and demand-guided intervention for LLM-based power system code generation
AI 导读
研究者发布 PowerCodeBench——一个面向 pandapower 的冻结 2000 任务参数化基准,并提出无需更新权重的部署期工作流,通过文档驱动的 L0-L3 探测生成各模型 API 画像。
正文 · AI 翻译
摘要:大型语言模型(LLM)可以将电网分析请求转化为用于电力系统仿真的可执行程序,但公用事业公司和研究实验室通常要求本地部署。在这种环境下,首次尝试的失败往往出现在 API 知识边界处,表现为虚构函数、参数误用和结果表处理不当。我们提出了 PowerCodeBench,一个以参数化基准生成器形式发布的、针对 pandapower 的冻结 2,000 任务套件,以及一种无需权重更新的部署时工作流。文档驱动的 L0-L3 探针生成按模型划分的 API 画像,用于诊断、模型比较、文档分配和后端校准。查询侧需求估计器在生成前选择分层 API 证据,而执行反馈则路由定向修复。在十个开放权重 LLM(1.5B-480B)和四个中端 API 上,相对于无辅助的首次尝试,启用验证的工作流在最多三轮修复后,将标量匹配准确率提高了 32-56 个百分点,且对每个至少 7B 的模型和每个 API 均成立。在匹配的无工具条件下,70B-120B 范围内的开放权重模型达到了四家供应商中端 API 的准确率范围。选择性注入使用其提示词 token 的 41% 即接近全层参考。在两种工作流下均通过数值检查的模型-项目对中,工程审查确认全工作流输出中有 88% 完成了所请求的分析,而普通修复下为 66%。在 OpenDSS 和 PyPSA 上的第 0 轮试点表明,应从冷启动时的广泛检索逐步过渡到校准后的选择性注入。实测吞吐量、延迟、能耗和分配的 GPU 内存确立了实用的本地服务包络。
| 评论: | 52 页,10 幅图,包括补充材料。经同行评审后修订;扩展了验证、跨后端试点、服务测量和补充材料。发表于 Advanced Engineering Informatics |
| 主题: | 软件工程(cs.SE);计算与语言(cs.CL);系统与控制(eess.SY) |
| 引用为: | arXiv:2605.31478 [cs.SE] |
| (或本版本使用 arXiv:2605.31478v2 [cs.SE]) | |
| https://doi.org/10.48550/arXiv.2605.31478 由 DataCite 颁发的 arXiv DOI |
|
| 期刊 参考: | Advanced Engineering Informatics 77 (2027) 105328 |
| 相关 DOI: | https://doi.org/10.1016/j.aei.2026.105328
链接到相关资源的 DOI |
提交历史
来自:Hui Wu [查看电子邮件]
[v1]
2026 年 5 月 29 日星期五 16:06:34 UTC(991 KB)
[v2]
2026 年 10 月 7 日星期三 02:35:18 UTC(916 KB)
来源:arXiv cs.CL · arxiv.org