跳到正文
热点事件持续更新

网友用停产傲腾内存无显卡跑通Kimi K3

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Reddit网友u/IndividualSurvival称,他在不配显卡的家庭实验室中,仅用已停产的英特尔傲腾持久内存200系列,通过llama.cpp成功运行2.8万亿参数的月之暗面Kimi K3。 据其测试,1比特量化下初始生成速度约每秒0.85个词元,关闭直接访问功能DAX、让常用数据受益于DRAM缓存后提升至每秒1.50个词元;3比特量化仅每秒0.75个词元,生成5万个词元约需18.5小时。 该网友表示这仍只是测试项目,词元输出速度并不流畅。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月13日
  1. RadarAI
    不用显卡:玩家用停产英特尔傲腾内存跑通 2.8 万亿参数 Kimi K3,每秒输出 1.5 词元

    网友 u/IndividualSurvival 在 Reddit 分享家庭实验室尝试,不配显卡、仅用已停产的英特尔傲腾持久内存 200 系列,通过 llama.cpp 成功运行 2.8 万亿参数的月之暗面 Kimi K3。1 比特量化下初始生成速度约每秒 0.85 个词元,关闭 DAX 后提升至每秒 1.50 个词元;3 比特量化仅每秒 0.75 个词元,生成 5 万个词元约需 18.5 小时。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。