跳到正文
RadarAI· 小互·· 5 小时前AI 评分38

国内模型进步放缓背后:过度依赖蒸馏而非自主创新

国内模型进步放缓背后的原因:过度依赖蒸馏而非自主创新

AI 导读

中国 AI 实验室在模型开发中过度依赖从 Gemma 4 等国外开源预训练模型蒸馏知识,而非基于原创研究或优质数据集独立优化,导致技术进步速度显著下降。推文指出,许多国内模型并非靠独家数据或创新算法提升性能,而是靠蒸馏快速追赶,但这一方法存在明显局限。

来源:RadarAI · bestblogs.dev