RadarAI· xbill·· 11 小时前AI 评分36
用 Gemma 4 自己的截短答案训练它：在 8 GB RTX 3050 上把 token 用量减半
AI 导读
一项微调方法让 Gemma 4 用自己的截短答案（上限 64 tokens）作为训练数据，在 8 GB RTX 3050 上把 token 用量减半，同时在 GSM8K 题目上保持较高准确率。
正文 · 原文
This article demonstrates a fine-tuning technique where Gemma 4 is trained on its own truncated answers (capped at 64 tokens) to significantly reduce token usage while maintaining high accuracy on GSM8K problems.
来源：RadarAI · bestblogs.dev