研究称DeepSeek、Kimi等中国开源模型权重留有Blackwell芯片训练痕迹
Export-banned Nvidia chips are behind China’s most powerful AI models — uh oh, Jensen!
非营利研究机构Unemployment Labs负责人Will DePue分析DeepSeek、Moonshot AI、MiniMax和蚂蚁集团公开模型的权重,称Kimi K3、DeepSeek V4等模型留有在Blackwell芯片上训练的指纹,而该芯片被禁止对华出口。
研究通过模型权重指纹追溯训练芯片来源,为出口管制是否被绕开提供了一种可检验的技术路径。
一项新的研究声称,中国企业开发的主要开放权重模型是在英伟达芯片上训练的,而美国政府曾限制这些芯片出口给其最大的地缘政治对手。
中国前沿实验室显然能广泛获取Blackwell GPU,这表明这家领先的芯片设计公司所面临问题的严重程度。英伟达CEO黄仁勋本周离开公司,此前他承认与Megaspeed高管Alice Huang有婚外情,该公司被指涉嫌将英伟达芯片走私到中国。Alice Huang还被指控为中国情报机构特工。
尽管黄仁勋与一名客户和两名员工的关系最受公众关注,但英伟达因违反出口管制而可能承担的企业责任,很可能也是其决定与黄仁勋分道扬镳的因素之一。
美国出口管制的目的是保护该国在AI能力上对中国的领先地位,但黄仁勋长期以来一直寻求打开这个市场。Blackwell GPU被禁止出口到中国或中资企业,而特朗普政府允许英伟达出口性能较弱的H200芯片,前提是货物经由迂回航线运输,使美国可以征收25%的关税。
前OpenAI研究员、非营利研究组织Unemployment Labs负责人Will DePue分析了权重——即DeepSeek、Moonshot AI、MiniMax和蚂蚁集团公开发布的大语言模型的独特结构。这些权重仍然反映训练所用芯片的配置,DePue找到了有力证据,表明最受关注的模型,包括Moonshot的Kimi K3系列和DeepSeek的V4模型,带有在Blackwell芯片上训练留下的指纹。
白宫技术顾问Michael Kratsios今年早些时候表示,根据美国情报来源,Moonshot使用了被出口禁令限制的英伟达芯片。非营利研究组织Epoch AI估计,2024年和2025年约有200万枚先进芯片通过旨在隐藏最终目的地的各种手段进入中国。
这并不意味着这些模型完全是在英伟达芯片上训练的,也不意味着必然违反了出口管制法律;这些芯片可能位于境外数据中心,这已被证明是中国企业获取算力的常用方式,并在马来西亚推动了工业革命。Epoch的数据估计,2024年和2025年有27.5万枚英伟达AI加速器进口到马来西亚。
然而,出口禁令的表面目标正是防止这种情况:中国AI实验室用最强大的芯片进行训练。对华鹰派长期以来一直呼吁加强对芯片使用者的管控,而不仅仅是管控芯片所有者或安装地点。
乔治城大学安全与新兴技术中心研究员Sam Bresnick今年夏天对TechCrunch表示:“如果我们关心美国的技术优势,那么在我看来,你不允许中国公司在中国大陆、香港和澳门获取芯片,然后又说,实际上,你只要去马来西亚,就可以为所欲为,这完全说不通。”
由 Alice Huang 领导的 Megaspeed 公司多年来通过其子公司 Speedmatrix 一直处于这一交易的中心,并一直是美国和新加坡政府调查的对象。周五,彭博社还报道称,一家与 Alice Huang 有关联的公司参与了向上海一个数据中心走私被禁的 Nvidia 芯片。
今年 5 月,做空研究公司 Culper 发布了一份报告,认为 Nvidia 存在“中国问题”,因为其收入的很大一部分是由中国需求驱动的,无论是通过远程数据中心还是违反美国法律的走私。报告详细描述了 Megaspeed 与 Nvidia 的关系,并声称 Alice Huang 的公司背后有被禁止获取美国芯片的中国公司支持。
讽刺的是,做空机构 Culper 对 Nvidia 的做空押注并非出于对美国政府的打击预期。相反,它关注的是中国政府对这些禁令的回应,即重新致力于其国内芯片产业。
如果中国成功,中国对 Nvidia 芯片的数十亿美元需求可能会枯竭。据报道,约有 60 万颗 H200 芯片囤积在香港,等待运往中国。虽然中国公司可能想要这些芯片,但观察人士对于它们为何尚未获准进口没有共识。
斯坦福大学专注于美中技术政策的研究学者 Graham Webster 表示,他不认同阻止芯片出口会推动国内生产的观点,因为芯片需求如此之大。关于这一停滞的其他理论包括为一项可能涉及进口大量美国商品的潜在贸易协议做准备,或担心芯片中可能存在监控技术。
目前,美国公司在追踪客户如何使用人工智能芯片等受管制商品方面的义务有限。然而,如果政府调查人员证实芯片走私确实发生且 Jensen Huang 知情,那么 Jensen Huang 与 Alice Huang 的个人和专业纠葛将给 Nvidia 带来更大的问题。Nvidia 和 Huang 都为 Megaspeed 的数据中心做了担保,称 Nvidia 官员曾访问这些数据中心以确认其合法性。
美国政府对 Nvidia 和 Megaspeed 的处理也受到审视。商务部长 Howard Lutnick 负责监管芯片出口许可机构,据报道,在有报道称其调查人员未能发现可疑芯片买家且与 Nvidia 官员过于亲密后,他可能会丢掉工作。
当您通过我们文章中的链接购买时,我们可能会赚取少量佣金。这不会影响我们的编辑独立性。
来源:TechCrunch · AI · techcrunch.com