研究人员使用监督微调 (SFT) 结合低秩适配 (LoRA) 和量化 LoRA (QLoRA) 技术,对 Google 的 Gemma 4 edge 模型 E2B 和 E4B 进行了微调,以生成 MATLAB 信号处理代码。该过程在笔记本电脑的集成 GPU 上进行,显著提高了模型在数字信号处理 (DSP) 约定方面的性能,E2B 的通过率从 18/66 提高到 37/66,E4B 的通过率从 32/66 提高到 47/66。虽然微调解决了与单位、数组形状和滞后符号相关的常见错误,但对信号和噪声生成中的错误影响较小。通过 OpenVINO 使用 8 位整数量化部署的适配模型,在生成过程中会产生 17-19% 的轻微速度成本。 AI
影响 微调 Gemma 4 等小型模型以执行特定编码任务,可以实现更高效的设备端人工智能开发和部署。
排序理由 该集群描述了一篇研究论文,其中详细介绍了一种针对现有边缘模型的微调方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →