百度开源文心5.5 Flash Base基座模型
热点事件持续更新
百度开源文心5.5 Flash Base基座模型
2 篇报道2 个报道来源2 小时前更新
先了解这件事
AI 综述
百度于11月5日开源基座模型文心5.5 Flash Base（ERNIE-5.5-Flash-Base），开放的是 ERNIE 5.5 Flash 预训练终点的权重。该模型为稀疏 MoE 架构，总参数 2800 亿、每 Token 激活 140 亿，在 33.5 万亿 Token 上从零完成预训练，最长训练上下文 128K，微调与推理阶段支持最长 100 万 Token 上下文。 据量子位报道，该模型在多基准测试中刷新同尺寸模型 SOTA。 据 RadarAI 报道，此次发布的权重未经中训练与后训练，可作为领域适配、指令微调和强化学习研究的起点；经过后训练的 ERNIE 5.5 Flash 将随后推出。
AI 根据报道生成 · 55 分钟前更新
最新进展11月5日 16:21
百度文心开源 ERNIE-5.5-Flash-Base 基座模型，总参数 280B 每 token 激活 14B报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- RadarAI百度文心开源 ERNIE-5.5-Flash-Base 基座模型，总参数 280B 每 token 激活 14B
百度文心发布开源基座模型 ERNIE-5.5-Flash-Base，开放 ERNIE 5.5 Flash 预训练终点权重。该模型为稀疏 MoE 语言模型，总参数 280B、每 token 激活 14B，在 33.5T tokens 上从零完成预训练，最长训练上下文 128K，微调与推理支持 1M tokens 上下文。
- 量子位百度开源文心5.5 Flash Base，多基准测试刷新同尺寸模型 SOTA
百度于11月5日正式开源基座模型文心5.5 Flash Base（ERNIE 5.5 Flash Base），采用 MoE 架构，总参数量2800亿，每个 Token 激活140亿参数，预训练使用33.5万亿个 Token，预训练上下文长度最高128K，微调与推理阶段支持最长100万 Token 上下文。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。