跳到正文
热点事件持续更新

冰岛语ModernBERT编码器发布,1B模型超越IceBERT

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

研究团队发布冰岛语ModernBERT编码器系列,参数规模从12M到1B,均用9B token开放数据训练。团队称,从零训练的1B模型在全部11项任务上显著优于此前的冰岛语模型IceBERT。 团队在同一评测协议下重跑了IceBERT的基准和五项较新任务,共覆盖30个编码器,并给出置信区间。

AI 根据报道生成 · 32 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. arXiv cs.CL
    超越 IceBERT:面向冰岛语的开放数据 ModernBERT 编码器,覆盖 12M 到 1B 参数

    研究团队用 ModernBERT 架构在 9B token 开放数据上训练了 12M 到 1B 参数的冰岛语编码器,其中 1B 从零训练模型在全部 11 项任务上显著优于 IceBERT。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。