跳到正文
热点事件持续更新

Cerebras 用 59 片晶圆部署 3 万亿参数模型

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

Cerebras 发布技术博客,说明如何把万亿参数级前沿模型拆分到多片 WSE-3T 晶圆级芯片上运行。它以约 3 万亿参数的 Kimi K3 为例,将 69 个线性注意力层和 24 个稠密层分配到 59 片晶圆上,称可实现每秒 1000–2000+ tokens 的推理速度。 Cerebras 同时提供免费 API(cloud.cerebras.ai)供试用。上述速度是 Cerebras 在博客中的说法,报道未给出独立验证结果。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月25日
  1. Hacker News
    Cerebras 如何用 59 片 WSE-3T 晶圆部署 3 万亿参数 Kimi K3

    Cerebras 发文说明如何在 WSE-3T 晶圆上部署万亿参数模型,以约 3 万亿参数的 Kimi K3 为例,把 69 个线性注意力层和 24 个稠密层分配到 59 片晶圆上,实现每秒 1000-2000+ tokens。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。