研究:英语校准剪枝重创立陶宛语能力
热点事件持续更新
研究:英语校准剪枝重创立陶宛语能力
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Tomas Rasymas 与 Povilas Kvedaras 发表研究,用 REAP 对四个混合专家(MoE)模型做专家剪枝,发现以英语校准无法迁移到立陶宛语。剪掉 25% 专家时,英语理解中位数仅降 1.7 分,立陶宛语却降 21.4 分;研究还测试了剪掉 50% 专家的情形。 这意味着按英语表现挑选或校准的剪枝方案,会大幅削弱模型在立陶宛语上的能力,英语侧的轻微损失不能代表其他语言同样安全。
AI 根据报道生成 · 2 小时前更新
最新进展11月6日 13:00
英语校准侵蚀倍专家剪枝 MoE 模型中的立陶宛语能力报道时间线
沿着报道,了解事件的不同侧面。
11月6日
- arXiv cs.CL英语校准侵蚀倍专家剪枝 MoE 模型中的立陶宛语能力
研究用 REAP 对四个 MoE 模型做专家剪枝,剪掉 25% 或 50% 专家后发现英语校准无法迁移到立陶宛语:25% 剪枝下英语理解中位数仅降 1.7 分,立陶宛语却降 21.4 分。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。