BitMTP：超低比特LLM的多Token预测框架

Ning Zhang等作者提出并发布BitMTP，一个面向超低比特大语言模型主干的多Token预测（MTP）算法-系统协同设计框架。该框架将下一Token预测与MTP目标联合训练，使单一模型同时具备自回归生成和块因果草稿能力。 报道未披露该框架的具体性能数据、适用模型范围或开源情况。

AI 根据报道生成 · 50 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。