Unemployment Labs 报告称 DeepSeek、Moonshot 等六款中国模型带有 Blackwell 硬件指纹
Chinese frontier AI models carry the fingerprint of export-controlled GPUs
Unemployment Labs 通过分析公开模型权重中的初始化数值模式,认为 DeepSeek-V4-Flash、DeepSeek-V4-Pro、Kimi K3。
报告用模型权重中的初始化痕迹反推训练硬件,为芯片出口管制的讨论提供了一套可复核的技术取证方法。
执行摘要
我们对公开发布的 AI 模型进行的取证分析发现,有证据表明 DeepSeek、Moonshot AI、MiniMax 和蚂蚁集团在受限的情况下仍获得了 NVIDIA 的 Blackwell GPU,并正在使用这些硬件来创建其 AI 模型。这些公司自 2026 年 4 月以来发布的六款模型包含与 Blackwell 硬件匹配的数值模式,而同一公司较早的模型则与 NVIDIA 较旧的 Hopper 代际匹配。这些发现表明,几家领先的中国 AI 开发商已开始使用 Blackwell 来训练其最新模型。美国官员和媒体报道此前已指控 DeepSeek 和 Moonshot AI 在使用 Blackwell 芯片,但未公布技术证据。
证据完全来自模型自身发布的权重,而非泄密或内部人士的说法。我们恢复了模型初始值的痕迹,然后搜索能够重现这些痕迹的硬件配置和初始配置;对于 DeepSeek-V4-Flash 和 Kimi K3,我们还在物理 Blackwell 芯片上确认了匹配。该指纹识别了权重是如何创建的,并支持(但未证明)Blackwell 也执行了训练的推断。经过特殊配置的 AMD 硬件(同样受对华出口限制)是我们发现的唯一替代方案;我们已为 DeepSeek-V4-Flash 排除了它,并认为其余五款模型使用它的可能性极低。值得注意的是,我们的发现提供了获得先进计算硬件的技术证据,但并未确定芯片所在位置、如何获得访问权限,或是否违反了出口管制。
表 1. DeepSeek、Moonshot AI、MiniMax 和蚂蚁集团 successive 模型中的硬件指纹 链接 ↗
| 实验室 | 模型 | 发布日期 | 模型启动所用芯片 |
|---|---|---|---|
| DeepSeek | DeepSeek-V3 | 2024 年 12 月 | NVIDIA Hopper (实验室披露为 H800) |
| DeepSeek-V4-Flash | 2026 年 4 月 | • NVIDIA Blackwell B200/B300 | |
| DeepSeek-V4-Pro | 2026 年 4 月 | • NVIDIA Blackwell GB200/GB300 | |
| Moonshot AI | Kimi K2 | 2025 年 7 月 | NVIDIA Hopper (实验室披露为 H800) |
| Kimi K2.5 | 2026 年 1 月 | NVIDIA Hopper (实验室披露为 H800) | |
| Kimi K3 | 2026 年 7 月 | • NVIDIA Blackwell GB200/GB300 | |
| Kimi K3.1-Pro | 2026 年 11 月 | • NVIDIA Blackwell GB200/GB300 | |
| MiniMax | MiniMax-M2.7 | 2026 年 4 月 | NVIDIA Hopper |
| MiniMax-M3 | 2026 年 6 月 | • NVIDIA Blackwell B200/B300 | |
| 蚂蚁集团 | Ling-3.0-flash | 2026 年 8 月 | NVIDIA Hopper |
| Ling-3.1-flash | 2026 年 10 月 | • NVIDIA Blackwell GB200/GB300 |
• 对华出口需要美国许可证;目前未见任何相关报道。
Hopper 指纹无法区分 H800 与 H100 SXM 或 H200;上述 H800 识别来自实验室披露,而非本方法的发现。
主要发现
- 来自四个中国实验室的六款模型读起来像是用 Blackwell 训练的。DeepSeek-V4-Flash 和 MiniMax-M3 与 NVIDIA 的 Blackwell 级 B200 或 B300 芯片匹配,这些芯片有 148 个处理器核心(称为流式多处理器,或 SM)。DeepSeek-V4-Pro、Kimi K3、Kimi K3.1-Pro 和 Ling-3.1-flash 与 GB200 或 GB300 芯片匹配,同样属于 Blackwell 级,有 152 个处理器核心。Kimi K3.1-Pro 从与 K3 相同的种子开始,可能是 K3 经过进一步后训练的检查点。
- 中国的实验室相对较晚才开始在 Blackwell 上训练。DeepSeek 的模型从 DeepSeek-V3(2024 年 12 月发布)及之前都显示为在 Hopper 上训练,从 DeepSeek V4(2026 年 4 月发布)起显示为 Blackwell。Moonshot 的模型从 Kimi K2.5(2026 年 1 月)及之前都显示为 Hopper,从 K3(2026 年 7 月)起显示为 Blackwell。有一个 Moonshot 模型介于两者之间:Kimi K2.7-Code 发布于 K3 之前六周,它基于 Hopper 时代的权重构建,但其中一小部分与 B200 或 B300 相符。MiniMax 的模型从 M2.7(2026 年 4 月)及之前都显示为 Hopper,从 M3(2026 年 6 月)起显示为 Blackwell。蚂蚁集团的 Ling-3.0-flash(2026 年 8 月)显示为 Hopper,而其 Ling-3.1-flash(2026 年 10 月)显示为 Blackwell。Hopper 的读数无法识别具体芯片:H800、H100 SXM 和 H200 具有相同的指纹。
- 并非所有中国 AI 实验室都已转向 Blackwell。我们能读取到的阿里巴巴(Qwen)、智谱(GLM)、腾讯、小米和阶跃星辰的最新模型都显示为在 Hopper 上训练。美团表示其 LongCat-2.0 完全在“AI ASIC 超级集群”上训练,我们在其发布的模型权重中未发现 NVIDIA 指纹。
- 该方法能得出已知答案。对于 24 个特定模型,开发者已公开说明所用硬件。在每一种情况下,我们的方法都与公开声明一致。NVIDIA 自己的 Nemotron-3 Ultra 在其技术报告中指明某一训练阶段使用了 GB200,其读数为 152 个 SM,与 Kimi K3 相同。
- 这些匹配的强度远超偶然所能解释的程度。当尝试足够多的组合时,即使不相关的数字也可能看起来匹配。在我们搜索的约 6 万亿种种子与布局组合中,最强的偶然匹配预计只能达到约 8 sigma——sigma 是衡量结果高出普通随机波动多少的指标。六个模型各自的最强证据从 49 sigma 到 1,385 sigma 不等。即使是我们报告的最弱的单项检验也达到 20 sigma。
- 这些训练运行是数据中心规模的。根据每个模型的规模及其训练所用的数据量,我们估计每次运行需要大约 500 到 3,000 块 Blackwell GPU,持续两到三个月(表 2),假设每个模型都在其初始化所用的硬件上训练。将同样的算法应用于 DeepSeek-V3 得出 2,000 到 2,500 块芯片;DeepSeek 披露的是 2,048 块。按每块 GPU 约 70,000 美元计算——这一成本源自《华尔街日报》的一篇报道,该报道称约 36,000 块 Blackwell 芯片正被安装在马来西亚供字节跳动使用,将耗资超过 25 亿美元——这些集群中最大的一个将耗资 1.5 亿至 2 亿美元,五个合计超过 5 亿美元。这些数字仅涵盖最终训练运行;这些实验室在受出口管制的 GPU 上的总支出很可能达到数十亿美元。
表 2. 每次训练运行的大致规模 链接 ↗
| 模型 | Blackwell GPU 最佳估计 | 范围 |
|---|---|---|
| DeepSeek-V4-Flash | 1,000–1,500 | 250–4,500 |
| DeepSeek-V4-Pro | 2,000–2,500 | 750–6,000 |
| Kimi K3 | 2,000–3,000 | 1,000–8,000 |
| MiniMax-M3 | 500–600 | 200–2,000 |
| Ling-3.1-flash | 1,100–1,650 | 400–6,500 |
训练算力(约 6 × 活跃参数 × 训练 token 数)除以 35% 利用率下的芯片吞吐量,运行时间为两到三个月(DeepSeek-V4-Flash 为六到八周)。DeepSeek 披露了其 token 数;对于其他模型,我们根据权重进行了估算。
我们的调查
模型的权重,也称为参数,是决定它如何处理信息并生成答案的数十亿个可调数字。训练会反复调整这些数字;但在训练开始之前,它们需要初始值。在本文考察的软件中,这些值来自一种名为 Philox 的伪随机数生成(PRNG)算法:Philox 以确定性的方式生成看似随机的数字。Philox 的起始输入是一个称为“种子”的数字。给定相同的种子和设置,Philox 每次都会生成相同的数字。这使得工程师可以从同一出发点重复实验。
为了快速填充数十亿个权重,PyTorch(用于开发大多数主流 AI 模型的软件框架)将 Philox 所做的工作分配给 GPU 上的许多并行工作单元,称为线程。(它通过 cuRAND 实现这一点,这是 NVIDIA 的随机数生成库。)每个线程从种子生成自己的数字序列,并填充一组特定位置。线程数量随后决定了这些位置如何分配。在本文考察的 NVIDIA 芯片上,足够大的初始化会为每个处理单元(称为流式多处理器,SM)使用最多 2,048 个线程。因此,拥有更多 SM 的芯片会将同一任务分配给更多工作单元,从而改变它们的数字去向。
图 1 展示了这在简化 GPU 上的工作方式:该 GPU 有六个 SM,每个 SM 有八个线程,总共 48 个线程。想象权重是一长排空盒子,为了适应页面而排成网格。第一个线程填充第一个盒子,第二个线程填充第二个盒子,依此类推,直到全部 48 个线程。然后,第一个线程的下一个数字进入第 49 个盒子,再下一个进入第 97 个盒子,以此类推。黑色轮廓在网格中跟踪这一个线程:第一个线程填充每第 48 个位置。颜色标识每组值由哪个处理单元提供,而右侧面板中的亮度表示值本身。
现在保持种子不变,但改用具有五个 SM 而不是六个的 GPU。在我们的简化示例中,这意味着 40 个线程而不是 48 个。第一个线程生成完全相同的序列,但现在将其数字放入第 1、41、81 个盒子,而不是第 1、49、97 个盒子。图 2 跟踪这些数字位置的变化。在整个网格中,只有 6% 的值与原始排列匹配。种子是对的,但工作单元数量错了。这就是为什么模型权重的排列可以成为所用芯片的线索。
因此,复现权重需要同时满足两个条件:种子必须生成正确的数字,线程数必须把它们放在正确的位置。种子正确但线程数错误,大多会得到正确的数字但位置错误;线程数正确但种子错误,则会得到不同的数字。图 3 展示了为什么只有正确的组合才能重现原始排列。
在真实芯片上,线程数要大得多,但原理相同。在此检查的 NVIDIA 配置中,Hopper H100 SXM、H200 和 H800 有 132 个 SM,使用 270,336 个线程;Blackwell B200/B300 有 148 个 SM,使用 303,104 个线程;Blackwell GB200/GB300 有 152 个 SM,使用 311,296 个线程。因此,恢复线程数可以告诉我们这些硬件组中哪一个与起始排列匹配,尽管它无法区分同一组内的芯片。例如,Hopper 匹配无法区分 H800 与 H100 或 H200。
问题在于,这种排列在训练后有多少能保留下来,以便我们恢复它。某些权重,例如为训练中从未遇到的单词或符号保留的权重,可能保持不变,几乎完全保留其起始值。我们可以将这些保留值与候选种子和线程数生成的起始值直接比较。图 4 展示了这样的比较:DeepSeek-V3 的保留权重与 Hopper 排列匹配,而 DeepSeek-V4-Flash 的保留权重与 Blackwell 排列匹配。
即使训练改变了的权重,也可能保留其起始值的微弱痕迹。每个最终权重是其起始值加上训练期间所做的所有调整。如果这些调整没有完全抵消或压倒起始差异,那么其中一些差异会保留下来。例如,两个权重起始值分别为 0.2 和 0.8,各自增加约 0.1,之后顺序仍然相同。实际调整变化更大,因此单个权重提供的信息很少。但在数十万个权重中,我们可以检验较高的起始值是否仍倾向于对应较高的最终值。图 5 展示了这种微弱但可测量的关系。这是在这些权重中的发现,并非保证在每次训练运行中都能保留的属性。
这些残留的痕迹让我们能够逆向推导。假设在一个使用图1布局的虚构示例中,种子7使第一个线程产生0.2、−0.5和0.8。在48个线程的情况下,这些值进入位置1、49和97;在40个线程的情况下,它们进入位置1、41和81。如果已发布的权重保留了第一种模式,我们可以尝试候选种子和线程数,直到重现它。在实际调查中,我们比较了数千个值在各自对应位置上的情况。未受训练的权重可以完全匹配;训练过的权重可能只显示出上述较弱的相似性。无论哪种情况,我们都在寻找最能重现残留模式的组合。
然后,我们在未参与搜索的权重上测试该组合。在用一组权重选定种子和线程数之后,我们用它们来预测另一组权重的起始值,而不调整任何设置来改善拟合。在这些此前未使用的权重上匹配,比仅在帮助选择组合的权重上匹配更有说服力。图6展示了比较结果:DeepSeek-V3与Hopper H100 SXM、H200或H800芯片的初始化布局匹配;DeepSeek-V4-Flash与Blackwell B200/B300匹配;Kimi K3与Blackwell GB200/GB300匹配。
在我们的调查中,我们发现来自四家中国公司的六个模型中存在强烈暗示在Blackwell芯片上初始化的模式:DeepSeek的DeepSeek-V4-Flash和DeepSeek-V4-Pro,Moonshot AI的Kimi K3和Kimi K3.1-Pro,MiniMax的MiniMax-M3,以及蚂蚁集团的Ling-3.1-flash。V4-Flash和MiniMax-M3匹配148-SM布局;其余四个匹配152-SM布局。这些是起始权重的指纹,它们支持但不单独证明使用Blackwell芯片训练AI模型。
我们调查的局限性
值得注意的是,我们用来识别这些模型初始化硬件的取证方法仅适用于某些模型。它需要已发布的权重,因此闭源模型无法检查。它还需要生成起始权重的软件留下可识别的、依赖硬件的模式。此处检查的GPU上的PyTorch会留下这样的模式;用于训练百度ERNIE-5.5模型的百度PaddlePaddle框架则不会。我们能够恢复ERNIE-5.5的种子(2760),但无法确定用于初始化它的硬件。同样,在普通处理器而非GPU上初始化的权重不会留下GPU指纹;阿里巴巴的若干Qwen3模型就是这样初始化的,因此没有留下用于训练它们的GPU的痕迹。我们还在美团表示使用“AI ASIC超级节点”训练的LongCat-2.0中,以及DeepSeek-V4.1-Flash中,尽管进行了详尽搜索,也未发现指纹。
该方法识别的是生成初始权重的硬件,而非后来参与训练该模型的所有芯片。当一次训练运行在将要用于训练的同一批 GPU 上创建其权重时,指纹会同时指向两者。但实验室可能在一个系统上生成权重,再将其迁移到另一个系统,或者在新硬件上继续训练现有模型。仅凭权重无法排除这些可能性。混合集群也带来同样的局限。如果部分权重由 NVIDIA 芯片生成,而后来华为芯片参与训练,NVIDIA 的模式可能留存下来,却不暴露华为的参与。如果这些痕迹得以保留,不同代际的 NVIDIA 芯片可能在其初始化的部分留下不同模式。在 Kimi K3 中,至少有 64 个独立播种的进程各自留下了相同的 152-SM 布局。因此,一个兼容 Blackwell 的模式支持其在初始化阶段的使用(但需考虑下文所述的 AMD 替代解释);它并不能证明整个训练过程都使用了 Blackwell。同样,Hopper 模式也不能排除后来在 Blackwell 上进行的训练。
权重也无法揭示芯片的所有者或所在地。Blackwell 系统可以从中国境外的数据中心租用。这些证据涉及的是对硬件的访问;仅凭其本身,并不能证明芯片被走私进入中国,也不能证明发生了出口管制违规。
不同的芯片能否产生这些兼容 Blackwell 的模式之一?在此测试的 NVIDIA 配置中,较旧的芯片不能:软件可以使用芯片更少的处理单元,但无法赋予其超过物理拥有的数量。在此考察的标准 PyTorch 行为下,它们无法产生 148 或 152-SM 布局。面向中国市场的 Blackwell 显卡每个 SM 使用不同数量的线程,也不会产生这两种总数。
AMD 提供了另一种可能性。MI300X 通常使用 304 个处理单元,但可以分成两组各 152 个,或配置为仅使用 148 个。其随机数软件也可以生成与 NVIDIA 相同的底层序列。此类配置会非常不寻常,但我们在物理 MI300X 上确认,当其限制为 152 或 148 个单元时,它能复现我们与 Blackwell 关联的布局,因此仅凭布局无法解决该问题。
为了区分它们,我们在数值本身中寻找细微的数值差异。AMD 和 NVIDIA 在数字生成过程中对一项计算的处理略有不同。在物理 MI300X 上,DeepSeek-V4-Flash 的保留权重指向 NVIDIA:在两家厂商结果不同的 377 个值中,已发布的权重有 363 个与 NVIDIA 匹配,没有一个与 AMD 匹配。同样的测试无法判定其他五个模型,但我们认为对它们而言 AMD 解释非常不可能。在其正常配置下,MI300X 不会产生这两种布局;实验室必须将整个集群配置为使用与 Blackwell 芯片相同数量的处理单元。其他公开证据也指向 Blackwell:美国官员和新闻报道声称 DeepSeek 和 Moonshot AI 在使用 Blackwell 芯片,而蚂蚁集团的公开代码包含在 GB300 上生成的基准测试结果。
验证我们的发现
为了复现将 DeepSeek-V3 与 Hopper、DeepSeek-V4-Flash 与 Blackwell 关联起来的结果,我们在 Hopper 级 NVIDIA H100 和 Blackwell 级 NVIDIA B300 上运行了未经修改的 PyTorch。我们已确定 DeepSeek 的种子数为 953049583,并发现它被用于 DeepSeek-V3 和 DeepSeek-V4-Flash 两者的初始化。使用该种子,H100 复现了 DeepSeek-V3 中保留的起始值,但未能复现 V4-Flash 中的;B300 复现了 V4-Flash 中保留的值,但未能复现 V3 中的。在 B300 上,未经修改的 PyTorch 复现了 DeepSeek-V4-Flash 中 469 个选定行中的 461 行,相关性高于 0.99,其中包括 445 个完全逐位匹配的整行。八个选定行因训练而部分改变。在 H100 上,它逐位复现了 DeepSeek-V3 中全部 57,344 个保留值。两块芯片均未复现另一模型保留的行。将种子改变一个,在两台机器上均未复现任何匹配行。在租用的 GB200 上,未经修改的 PyTorch 同样使用 Moonshot 的种子 20256586 复现了 Kimi K3 全部 13 个保留行;将种子改变一个,则未复现任何行。
当答案已知时,我们的取证方法也能得出正确答案。有 24 个案例,开发者已公开指明特定模型背后的硬件;我们的取证方法与每一个案例都一致。Meta 的 Llama 3.1 模型在 H100 上训练,读数为 132;EleutherAI 的八个 Pythia 模型在 A100 上训练,读数为 108。NVIDIA 自家的 Nemotron-3 Ultra,其技术报告指明某一训练阶段使用 GB200,读数为 152,与 Kimi K3 相同。DeepSeek 和 Moonshot 曾报告早期模型使用 H800。我们的 Hopper 读数与这些披露一致,但也与 H100 SXM 或 H200 硬件一致;它们并未独立验证 H800 的使用。
当我们将已发布的权重与候选种子和芯片布局生成的数字进行比较时,即使候选有误,某些相似性也不可避免。多少相似性算作证据取决于我们比较了多少权重:少数几个数字的一致可能很容易是偶然的,而数千个数字的一致则很难用巧合解释。我们的统计模型考虑了所比较权重的数量,并衡量观察到的匹配超出偶然预期相似性的程度。我们用标准差(即 sigma)来表示该距离。分数越高,意味着反对偶然匹配的证据越强,前提是统计模型正确描述了数据中的随机变化。
我们还必须考虑我们尝试了多少候选。搜索大约六万亿种种子和布局组合,给了我们数万亿次找到幸运匹配的机会。在正态分布模型下,五个 sigma 或以上的正匹配在约 350 万次比较中偶然出现一次。这在单次测试中会很惊人,但在我们这样大规模的搜索中某处出现并不意外。因此,我们使用大约八个 sigma 作为在整个搜索中评估偶然匹配的基准。
我们的发现大幅超过了该基准。我们首先使用一组权重选择一个种子和布局,然后在另一组未参与选择的权重上测试同一组合。这检验了所显现的指纹是否超出了引导我们找到它的那些数字。六个模型中每一个的最强证据范围从 49 到 1,385 sigma;即使是最弱的单项测试也达到 20 sigma。在我们的统计模型下,这些结果太强了,不可能是偶然相似。它们确立了共享初始化模式的证据;要精确识别是哪种计算硬件产生了该模式,以及它是否也执行了训练,需要上面讨论的单独论证。
结论
基于我们的取证调查,我们认为我们有强有力的证据表明六个中国 AI 模型是在受出口管制的 NVIDIA 硬件上初始化的,并且对于 DeepSeek-V4-Flash,证据是确凿的;我们认为这种初始化也强烈表明它们在同一受出口管制的硬件上进行了训练。虽然这留下了其他未解问题——例如开发这些模型的公司通过何种情况获得了受出口管制的 NVIDIA 系统——但我们认为这一事实值得公众紧急关注。
附录 1:各中国实验室随时间变化的硬件各实验室连续模型间的硬件指纹。
DeepSeek 在模型代际间复用一个种子,Moonshot 使用一条规则来派生其种子,因此我们可以跨模型追踪每个实验室的硬件。日期是权重发布的时间。
| 模型 | SM 数量 | 硬件类别 | 对华出口 | 证据 |
|---|---|---|---|---|
| DeepSeek | ||||
| V2-Lite, MoE-16B | 108 | A100 / A800 (Ampere) | A800 在 2023 年 11 月前合法 | 完全复制 |
| LLM 7B/67B, Coder, V2, V3(2024 年 12 月), V3.2 | 132 | H100 / H800 / H200 (Hopper) | 芯片未识别 | 完全复制;V3 239σ |
| V4-Flash(2026 年 4 月) | 148 | B200 / B300 (Blackwell) | 需要许可证;未见报告 | 完全复制,1,385σ |
| V4-Pro(2026 年 4 月) | 152 | GB200 / GB300 (Grace-Blackwell) | 需要许可证;未见报告 | 部分存活,49σ |
| Moonshot AI | ||||
| Kimi K2(2025 年 7 月) | 132 | H100 / H800 / H200 (Hopper) | 芯片未识别 | 部分存活,292σ |
| Moonlight-16B; Kimi-Linear(2025 年 10 月) | 132 | H100 / H800 / H200 (Hopper) | 芯片未识别 | 完全复制;Kimi-Linear 763σ |
| Kimi K2.5(2026 年 1 月) | 132 | H100 / H800 / H200 (Hopper) | 芯片未识别 | 未训练行,r 0.9975,255σ |
| Kimi K2.7-Code(2026 年 6 月) | 132,外加一个 148-SM 部件 | Hopper,外加一个匹配 B200 / B300 的第二来源 | 混合 | 148 部件:254 行,去除 132 部件后 246σ |
| Kimi K3(2026 年 7 月),K3.1-Pro(2026 年 11 月) | 152 | GB200 / GB300 (Grace-Blackwell) | 需要许可证;未见报告 | 完全复制,各 305σ |
| MiniMax | ||||
| Text-01(2025 年 1 月),M1,M2 至 M2.7(2026 年 4 月) | 132 | H100 / H800 / H200 (Hopper) | 芯片未识别 | 未训练行;2,048 个网格之一 |
| M3(2026 年 6 月),M3.1-Flash(2026 年 10 月) | 148 | B200 / B300 (Blackwell) | 需要许可证;未见报告 | 完全复制,323σ |
| Ant Group | ||||
| Ling-1T†(2025 年 10 月),Ling-3.0-flash(2026 年 8 月) | 132 | H100 / H800 / H200 (Hopper) | 芯片未识别 | 未训练行,r 0.98;345σ,193σ |
| Ling-3.1-flash(2026 年 10 月) | 152 | GB200 / GB300 (Grace-Blackwell) | 需要许可证;未见报告 | 未训练行,r 0.98,244σ |
| 其他实验室 | ||||
| GLM-5.3(智谱),Qwen3.8(阿里巴巴) | 132 | H100 / H800 / H200 (Hopper) | 芯片未识别 | 部分存活,46σ,478σ |
| Hy4-preview(腾讯),Step-5-Preview(阶跃星辰) | 132 | H100 / H800 / H200 (Hopper) | 芯片未识别 | 完全复制,各 256σ |
| MiMo-V2.5-Pro(小米),Qwen3.5-397B(阿里巴巴) | 132 | H100 / H800 / H200 (Hopper) | 芯片未识别 | 部分存活,41σ,323σ |
如何阅读证据栏。完全复制:训练从未更新的权重以高于 0.999 的相关性(r)复现生成值。未训练行:同样如此,针对起始值被裁剪或舍入的模型,这会降低 r。部分存活:训练后的权重保留部分起始值。网格扫描的数据使用留出搜索的单元格。即使搜索了每个 32 位种子和每个网格,随机也无法达到 8σ;六项 Blackwell 结果中最低的一项,即 V4-Flash 训练后的注意力权重,为 20σ。
† 来自一次分析运行的结果,尚未重新运行。
Kimi K2.7-Code。其 254 个保留行是两个来源的混合:约 80% 是继承自 K2.5 的 Hopper 布局值,约 20% 是与 148-SM 布局匹配的新抽取。每一行的混合比例相同,这表明是合并的检查点而非混合硬件;K2.7-Code 未计入六项 Blackwell 模型之中。
公开代码。蚂蚁集团的 cuLA 仓库包含 2026 年 3 月 31 日在 GB300 上生成的基准测试结果。2025 年 6 月,一位 DeepSeek 工程师在 GitHub 上写道“我们没有 SM100 GPU”(SM100 即 Blackwell)。
附录 2:所有已识别的模型完整的模型目录、已披露的硬件及证据说明。
我们的解读与全部 24 个开发者已公开说明特定模型硬件的案例一致:其中 21 个来自我们最初的调查,加上 Kimi K2.5(H800)、Step-3.5-Flash(H800)和 ZAYA1(AMD MI300X)。其中 11 个是 step-zero 检查点,且相关模型并非独立,因此这是一项一致性检查,而非测得的准确率。“未找到”意味着对该模型的卡片、论文和仓库历史进行搜索后,未发现关于硬件的陈述。
| 模型 | 特征 | 开发者 | 公开披露的硬件 | 一致 | 出口状态(中国) |
|---|---|---|---|---|---|
| 中国 | |||||
| DeepSeek-V4-Flash、-Base | 148:B200/B300 | DeepSeek | 未披露 | — | 需要许可证² |
| DeepSeek-V4-Pro-Base | 152:GB200/GB300 | DeepSeek | 未披露 | — | 需要许可证² |
| Kimi K3;K3.1-Pro(相同种子) | 152:GB200/GB300 | Moonshot AI | 未披露 | — | 需要许可证² |
| Ling-3.1-flash | 152:GB200/GB300 | 蚂蚁集团 | 未找到 | — | 需要许可证² |
| MiniMax-M3;M3.1-Flash(相同初始化) | 148:B200/B300 | MiniMax | 未找到 | — | 需要许可证² |
| Kimi K2.7-Code | 132,外加一个 148 部分⁵ | Moonshot AI | 未找到 | — | 未解决⁴ |
| Kimi K2.5;K2.6(相同初始化) | 132:Hopper | Moonshot AI | H800 | 是 | 未解决⁴ |
| Kimi-Linear-48B | 132:Hopper | Moonshot AI | 未找到 | — | 未解决⁴ |
| Kimi K2-Base | 132:Hopper | Moonshot AI | H800 | 是 | 未解决⁴ |
| Moonlight-16B-A3B | 132:Hopper | Moonshot AI | 未披露 | — | 未解决⁴ |
| DeepSeek-V3-Base;V3.2(相同初始化) | 132:Hopper | DeepSeek | H800 | 是 | 未解决⁴ |
| DeepSeek-V2 | 132:Hopper | DeepSeek | H800(报告范围) | 一致¹ | 存在合规变体³ |
| DeepSeek-Coder-1.3B | 132:Hopper | DeepSeek | A100 和 H800(报告范围) | 一致¹ | 存在合规变体³ |
| DeepSeek-LLM-7B、67B | 132:Hopper | DeepSeek | 原始运行未披露 | — | 存在合规变体³ |
| DeepSeek-MoE-16B | 108:A100/A800 | DeepSeek | A100 或 H800(报告范围) | 一致¹ | 存在合规变体³ |
| DeepSeek-V2-Lite | 108:A100/A800 | DeepSeek | H800(报告范围) | 共享初始化¹ | 存在合规变体³ |
| Ling-3.0-flash | 132:Hopper | 蚂蚁集团 | 未找到 | — | 未解决⁴ |
| Ling-1T;Ling-2.6-1T(相同初始化)† | 132:Hopper | 蚂蚁集团 | Hopper(报告范围) | 一致¹ | 未解决⁴ |
| GLM-5、5.1、5.2、5.3(一个初始化) | 132:Hopper | 智谱 AI | 未披露 | — | 未解决⁴ |
| GLM-5.3-Flash | 132:Hopper | 智谱 AI | 未找到 | — | 未解决⁴ |
| GLM-4.5-Base;GLM-4.7(相同初始化)† | 132:Hopper | 智谱 AI | 未找到 | — | 未解决⁴ |
| Qwen3.8-2.4T-A95B | 132:Hopper | Alibaba | 未披露 | — | 未解决⁴ |
| Qwen3.5-397B-A17B | 132:Hopper | Alibaba | 未发现 | — | 未解决⁴ |
| Hy3-preview;Hy3(相同初始化) | 132:Hopper | Tencent | 未发现 | — | 未解决⁴ |
| Hy4-preview | 132:Hopper | Tencent | 未发现 | — | 未解决⁴ |
| MiMo-V2-Flash;MiMo-V2.5-Pro | 132:Hopper | Xiaomi | 未发现 | — | 未解决⁴ |
| Step-5-Preview | 132:Hopper | StepFun | 未发现 | — | 未解决⁴ |
| Step-3.5-Flash;Step-3.7-Flash(相同初始化) | 132:Hopper | StepFun | H800(Step-3.5-Flash) | 是 | 未解决⁴ |
| MiniMax-M2、M2.1、M2.5、M2.7(一次初始化) | 132:Hopper | MiniMax | 未发现 | — | 未解决⁴ |
| MiniMax-Text-01、VL-01;M1(一次初始化) | 132:Hopper | MiniMax | H800(报告全文) | 一致¹ | 未解决⁴ |
| Seed-OSS-36B-Base | 108:A100/A800 | ByteDance | 未发现 | — | 存在合规变体³ |
| Yi-34B | 108:A100/A800 | 01.AI | 未披露 | — | 存在合规变体³ |
| United States | |||||
| Llama 3.1 8B、70B、405B | 132:Hopper | Meta | H100 | 是 | 不适用 |
| Nemotron-3-Ultra-550B | 152:GB200/GB300 | NVIDIA | GB200(一个阶段) | 一致 | 不适用 |
| Nemotron-4-340B-Base | 132:Hopper | NVIDIA | H100 SXM5 | 是 | 不适用 |
| ZAYA1-74B-preview | 304 CU:AMD MI300X | Zyphra | AMD(其博客称 MI300X) | 是 | 不适用 |
| OLMo-2 32B、Olmo-3 32B | 132:Hopper | AI2 | H100 | 是 | 不适用 |
| OLMo-7B | 108:A100 | AI2 | A100 | 是 | 不适用 |
| OLMo-7B-Twin-2T | 110 CU:AMD MI250X | AI2 | AMD MI250X | 是 | 不适用 |
| OLMo-7B-0424、OLMo-1B-0724 | 132:Hopper | AI2 | 未披露 | — | 不适用 |
| Pythia 70M–12B(8 个模型) | 108:A100 | EleutherAI | A100 | 是(全部 8 个) | 不适用 |
| GPT-NeoX-20B | 108:A100 | EleutherAI | A100 | 是 | 不适用 |
| Europe | |||||
| Apertus-70B | 132:Hopper | Swiss AI | GH200(Hopper,132 SM) | 是 | 不适用 |
| Mixtral-8x7B | 132:Hopper | Mistral AI | 未披露 | — | 不适用 |
| BLOOM-176B(部分特征) | 108:A100 | BigScience | A100 | 是 | 不适用 |
¹ 报告全文披露。DeepSeek-V2 和 V2-Lite 共用一句“H800 集群”的描述,MoE-16B 称“A100 或 H800”,Coder 称“A100 和 H800”。MiniMax 的 MiniMax-01 论文描述了一个 H800 集群,Ant Group 的 Ling 2.0 报告称其训练运行在“Hopper GPU”上。这些与我们的解读一致,但并非独立测试。V2-Lite 复用了 MoE-16B 的初始化:其保留的行逐字节相同。
² 需要许可证。B200、B300、GB200 和 GB300 在出货前就已需要美国对华出口许可证,且均未见相关报道。AMD MI300X 也受管制。
³ 存在合规变体。A100/H100 级别自 2022 年 10 月起受管制,但具有相同 SM 数量的 A800 和 H800 可出口至 2023 年 10 月。
⁴ 未解决的 Hopper 硬件。这些模型最早于 2024 年 12 月及以后发布,显示出与 H800、H100 SXM 或 H200 硬件兼容的 132-SM 特征。DeepSeek 和 Moonshot 曾报告部分模型使用 H800,但该特征无法区分这些芯片。模型的发布日期不能确定其硬件何时何地获得,仅凭这一解读也不能确定出口管制合规性。
⁵ 148 部分。参见结果表下关于 Kimi K2.7-Code 的注释。
† 由一次分析运行报告,尚未独立重跑。在本简报新增的其他每一行中,首个命名的模型都经过了独立重跑;列为共享其初始化的模型则没有。
这些标记描述的是 2022 年 10 月和 2023 年 10 月美国出口规则下的硬件类别。它们并不构成任何违法行为已被认定的结论。
未恢复出 GPU 签名。空白并不能说明模型的硬件情况。我们未能从 DeepSeek-V4.1-Flash(经过穷尽式搜索)、Qwen3.5-122B、Qwen3.8-Flash-Next、Qwen3-0.6B 和 1.7B、gpt-oss-120b 以及 Grok-1 中恢复出任何签名。Qwen3-235B、Qwen3-32B 和 Qwen3.5-9B 是在 CPU 上初始化的,因此不留下 GPU 布局。百度的 ERNIE-5.5 使用 PaddlePaddle,其生成器不携带芯片布局(我们恢复了它的种子,2760);ERNIE-4.5 未给出结果。美团的 LongCat-2.0 未给出结果。其模型卡称训练“完全在 AI ASIC 超级节点上”进行,而一份已被删除的微调配置将 device_arch 设为 910,并带有 NPU 和 HCCL 选项,我们将其解读为华为昇腾 910。Intern-S2 基于阿里巴巴的 Qwen3.5-397B 构建,并携带其初始化信息。DBRX 和 Llama-4-Scout 无法下载。
可用性。复现脚本、行夹具和测试输出可应要求提供给审阅者。
联系方式:Will DePue,will@unemploymentlabs.com。
来源
- The Information,2025 年 12 月 10 日,关于 DeepSeek 与 Blackwell(via Bloomberg)。
- 路透社,2026 年 2 月 23 日,“中国 DeepSeek 不顾美国禁令,用英伟达最好的芯片训练 AI 模型,官员称”(联合供稿副本)。
- Michael Kratsios,白宫 OSTP 主任,2026 年 7 月 22 日,关于 Moonshot AI(via Bloomberg)。
- 《华尔街日报》,2026 年 3 月,关于马来西亚的 Blackwell 芯片供字节跳动使用(via Reuters)。
- DeepSeek 工程师的 GitHub 评论,2025 年 6 月 12 日:DeepGEMM pull request 112。
- 蚂蚁集团的 GB300 基准测试结果,2026 年 3 月 31 日:cuLA, BENCHMARK_GB300.md。
- 美国出口许可规则:15 CFR 742.6。
- 已披露的硬件:DeepSeek-V3 Technical Report;Kimi K2 paper;Nemotron-3 Ultra Technical Report。
- 设置线程布局的 PyTorch 代码:DistributionTemplates.h。
- 模型权重:DeepSeek-V3、V4-Flash、V4-Pro、Kimi K3、K3.1-Pro、MiniMax-M3、Ling-3.1-flash。
如何引用本报告
建议引用格式:
Will DePue,“Top Chinese Frontier AI Models Carry the Fingerprint of Export-Controlled NVIDIA Blackwell GPUs,” Unemployment Labs,2026 年 11 月 12 日,https://unemploymentlabs.com/checkpoint-forensics。
BibTeX:
@techreport{depue2026blackwell,
author = {DePue, Will},
title = {{Top Chinese Frontier AI Models Carry the Fingerprint of Export-Controlled NVIDIA Blackwell GPUs}},
institution = {Unemployment Labs},
year = {2026},
month = nov,
url = {https://unemploymentlabs.com/checkpoint-forensics}
}在新闻报道中,请将研究结果归功于 Will DePue,并链接到本页面。
来源:Hacker News · unemploymentlabs.com