arXiv cs.AI· Mehmet Altan Toks\"oz·· 23 小时前AI 评分29
在笔记本 iGPU 上用 SFT 与 QLoRA 微调 Gemma 4 Edge 模型生成 MATLAB 信号处理代码
Fine-Tuning Gemma 4 Edge Models for MATLAB Signal-Processing Code with SFT and QLoRA on a Laptop iGPU
AI 导读
研究者在笔记本集成 GPU 上以 LoRA 和 QLoRA 对 Gemma 4 Edge 的 E2B、E4B 做 SFT,用 66 个经核查样例覆盖 11 个 MATLAB 信号处理子任务,并通过 OpenVINO 部署 int8 模型与适配器。
正文 · AI 翻译
摘要:能在笔记本电脑上运行的小型语言模型对于离线编写信号处理代码很有吸引力,但它们在数字信号处理(DSP)惯例上会犯系统性错误。我们对 Gemma 4 边缘模型 E2B 和 E4B 应用监督微调(SFT),使用 66 个经过检查的示例,覆盖 11 个信号处理 MATLAB 子任务,在笔记本电脑的集成 GPU(iGPU)上使用低秩适配(LoRA)和量化 LoRA(QLoRA),并通过 OpenVINO 部署带适配器的 8 位整数(int8)模型。在由确定性检查器评分的留出变体上,E2B 的通过率从 18/66 提升到 37/66(LoRA)和 37/66(QLoRA),E4B 从 32/66 提升到 47/66(QLoRA)。阅读全部 159 个失败程序表明,适配器消除了大多数惯例错误,例如滞后的符号、单位和数组形状,但几乎没有消除构建信号和噪声方面的错误。在运行时应用时,适配器消耗 17-19% 的生成速度。
| 评论: | 18 页,3 幅图,4 张表 |
| 主题: | 机器学习(cs.LG);人工智能(cs.AI);软件工程(cs.SE);信号处理(eess.SP) |
| 引用为: | arXiv:2611.23205 [cs.LG] |
| (或 arXiv:2611.23205v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.23205 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Mehmet Altan Toksöz [查看电子邮件]
[v1]
2026 年 11 月 17 日星期二 18:47:37 UTC(58 KB)
来源:arXiv cs.AI · arxiv.org