SF Compute CEO Evan Conrad 谈可编程数据中心与 GPU 算力交易市场
The Programmable Data Center — Evan Conrad, SF Compute
SF Compute 正在把 GPU 算力做成可交易市场,并亲自承担"物理交割"——让买家拿到可用算力而非现金结算。CEO Evan Conrad 称公司已从转租集群扩展到自建云运营能力,通过匹配不同约束条件的订单在技术快速迭代期实现交易,代价是流动性分散在更多变体上。他强调中立性是市场运营方的核心,拥有大型硬件或推理业务的公司难以运营中立交易所,这也是 NVIDIA 无法自建该市场的原因。
这段内容录制于AIE NYC 新设的 Compute Trading 分会场现场。下一站请关注 AIE CODE,这是我们为全球顶尖 agentic 工程师举办的最后一场旗舰活动。
在云计算的早期,我们的前嘉宾 Martin Casado 做出了极具颠覆性的东西,以至于 Cisco 感受到威胁,花了 6 亿美元将其收购,而 VMware 出价 13 亿美元竞购:
这个概念就是软件定义网络,它通过将控制平面与数据平面分离,实现了路由网络的虚拟化。这场革命如今正降临到 GPU 上——过去,要运行自己的超级计算集群,需要预先投入 5000 万至 1 亿美元来获得承诺,并完成从硬件到固件再到内核的整个技术栈,而 SF Compute 如今让你不仅能现在和未来买卖 GPU 小时,还能以编程方式控制从网络到内存的一切。
我们上次与 Evan 聊的是算力商品化。在 AI Engineer New York 上,我们聊得更深入:要实际交付一份 GPU 合约需要什么,以及算力市场要变得具有流动性,必须先满足哪些条件?
从卖一间房到经营一家酒店
Evan 用酒店的类比来描述 SF Compute 的扩张。客户想要一间房,接着要求清洁、客房服务和安全保障。最终你会发现,交付这间房意味着要经营整家酒店。SF Compute 最初只是尝试转租一个集群;此后,公司已构建了云的大部分运营能力,以交付在其市场上交易的算力。
这项工作就是实物结算:买方获得可用的算力,而不是简单地按某个指数获得现金支付。它把集群的物理约束带入了市场本身。工作负载能否被中断?从存储中恢复需要多快?需要哪一代 GPU、哪种网络和软件配置?这些细节既影响合约,也影响价格。
让算力可交易
SF Compute 没有等待每个 GPU 集群都变得可互换,而是将订单与不同的约束条件进行匹配。Evan 认为,这让交易在技术不断变化时成为可能,代价是流动性分散在更多变体上。我们还讨论了现货与远期定价、批处理推理与实时推理,以及为什么某个指数可能与实际购买算力的成本脱节。
独立性是 Evan 主张需要市场运营者的核心。他认为,拥有大型硬件或推理业务的公司存在利益动机,使其更难运营一个中立的交易所。我们还谈到了那些不起眼的工程工作:实地考察站点、设计集群、运行背板,以及让基础设施可编程。接近尾声时,他举例说明了动态细分 InfiniBand 网络结构的能力。
嘉宾:Evan Conrad,SF Compute 首席执行官。
节目笔记
时间戳
0:00 — 为什么 NVIDIA 不能做这个?
0:25 — 欢迎回到 Latent Space
2:23 — 从卖一个房间到经营整座酒店
3:47 — 实物交割:真正交付算力
6:00 — 流动性与 GPU 订单簿
8:42 — 交易非标准算力
10:00 — 中断与迁移工作负载
12:20 — 为什么硬件批次很重要
14:32 — 算力合约能延伸到多远?
16:19 — 批处理与实时推理租约
17:58 — 算力价格的形态
20:33 — GPU 世代、规格与 SKU
23:30 — 实物交割与现金交割
27:00 — 新兴的算力市场生态
29:03 — 交付一个 GPU 集群需要什么
32:24 — 主权算力
33:26 — 为什么 NVIDIA 无法建立这个市场
34:48 — 可编程数据中心
文字记录
自动转录,已做轻度排版;说话人标签尚未核实。
00:00 NVIDIA 显然是房间里那头 800 磅的大猩猩。他们为什么不做 SF Compute?我们的印象是,NVIDIA 做不了,但它从这件事的存在中获益巨大。他们做不了的原因是,那样的话他们就不够独立,人们无法在其之上进行交易。
00:25 总之,Evan,欢迎回到 Latent Space。谢谢,欢迎回到 AIE。其实是第一次来 AIE。我想是的,对。这一期非常特别,因为我觉得你研究算力交易、算力市场已经有一段时间了。现在正是风口。对。Jump 基本宣布他们要进军算力市场,这也是我兴奋地把大家聚在一起的原因。你见过 SemiAnalysis 的 Oliver,我的理解是他基本上是在启动对算力市场的覆盖。所以大家会去看你的演讲。
01:00 我觉得这是对你起源故事、你为什么必须存在,以及你解决的所有难题的很好解释。对。用非常简单、引人入胜的方式完成。我很嫉妒你的写作能力,因为你展示了在 New Reps 上展示的那张传单。对。我当时觉得,它相当直截了当、简单,而且很好。对。总之,恭喜。谢谢。我很感激。也恭喜 AIE。看起来,你们在滚动前进。我们在滚动。我刚从明年 AIE 的场地考察回来。然后你……有什么提示吗?在 Javits Center。就是他们办 Comic Con 的同一个地方。好。哇。
01:35 哇。哇。该死。但我觉得金融这个焦点确实打动了人们。对。所以我们会试着拆分出来。就像这里,我们把所有东西都归到金融里。你的金融、他们的金融,保险也是金融,但它们都超级不同。对。所以未来我们可能会更细致地拆分,因为人们想深入了解对冲基金、银行或个人财富。对。尤其是在纽约。对。Anthropic 就说,对,我们现在全在做 RIA。对。RIA 就是注册投资顾问。是的。跟你完全不一样。
02:10 不,不,不。我知道这个。是的。是的。好的。所以对于不了解的听众来说,我们两年前做过一期播客,当时你谈到了你的,你知道的,当时 SF Compute 的处境。嗯,今天你更多地是在做一种实物交割。你在谈你的,你的后端结构还是叫什么?呃,背板。背板。是的。这显然需要大量硬核的工程工作。是的。嗯,你能不能给个状态更新,比如,对于两年前在播客上最后一次听到你的听众来说,SF Compute 现在是什么情况?所以,呃,我们刚开始的时候,我们是一家叫 Junark 的公司,然后我们只是试图转租我们的集群。
02:45 嗯,我们从技术栈的那个位置起步。嗯,可以这样理解:就像你在一家酒店里,你想卖掉那个酒店房间。然后有人问你,嘿,你会帮我打扫房间吗?嗯,然后你说,哦,我大概也需要酒店房间本身。或者我需要,嗯,清洁间。于是你去获得清洁间的使用权,然后他们想要客房服务。于是你去获得厨房的使用权,然后,你知道的,他们想要,嗯,安保。于是你去获得安保室的使用权,你做这个做那个做这个。到了某个时候,你就是在运营整家酒店了。嗯,而当你运营整家酒店的那一刻,你说,哦,等一下。
03:21 嗯,相反,我在这个市场上的供应商,嗯,是看起来更像一个基金,嗯,或者一个云,在我们的情况下,是一个能访问数据中心的云。而我们要升级了。所以我们过去几年所做的是构建一个云的整个运营能力,嗯,为了提供,为了真正交付,呃,在可靠水平上的算力。嗯,我们称之为实物交割。我们借用了期货市场、其他市场的一个术语,嗯,在,你知道的,
03:57 石油或大豆之类的市场里,实物交割意味着你拿到交付的石油和大豆。是的。嗯,但是,嗯,在某些市场里,嗯,比如石油,还有电力,嗯,石油有一个交付网络。你必须有管道。如果你想让石油交付给你,就必须有办法把它送到你那里。是的。嗯,还有金融,对于对金融历史感兴趣的人来说,新冠期间石油价格变成负的,因为,呃,比如我会付钱让你把石油从我这里拿走,因为它就堆在港口。呃,而且比如,我付不起这个。
04:32 是的。所以我会付钱让你拿走我的石油。是的。这就是实物交割的怪异之处。是的。其他市场里也有一堆这样的怪异之处。所以在电力市场和电网里,嗯,你填写的订单、买单和卖单中有些部分,嗯,存在是因为锅炉需要一段时间冷却。嗯,你可以,你知道的,停掉锅炉,然后它会在某个时间段内,你可以重新启动它。所以这必须被纳入订单簿。嗯,这类事情在算力市场里也是一样的。所以我们在
05:10 同一时间。这意味着我们能够真正处理算力的实际约束,其中可能包括类似这样的情况:哦,我可以接受被中断,但前提是那台机器上有存储,能让我快速恢复。嗯,非常相似类型的问题。是的。所以,呃,人们可以参考你的演讲,而且你已经做过几个其他播客了。嗯,所以我想做的是那种201级别而不是101级别的内容。当然。呃,也因为我是,我曾经是一名衍生品交易员,所以我可以给大家提供一些你通常不会涉及的更多细节。嗯,比如说,那么,算力市场今天有多成熟、多深、多有流动性?
05:45 呃,不是很成熟,也不是很深,流动性也不高。好的。所以我们一直在做的是,首先我们得先让大量供给上线,这本身就需要一段时间。然后我们还得构建整个平台来实现这一点。嗯,我们刚刚才把它跑通。所以现在我们把,嗯,容量转移到订单簿上,嗯,这使其具有流动性。嗯,所以我们总容量的5%在订单簿上,而且我们在持续不断地转移更多。然后我们还在引入更多容量,全部放在订单簿上。嗯,好的一点是,嗯,也许我该说的是,实际订单簿上的成交量很小,但,
06:21 嗯,订单簿上的流动性很高。所以对于你拥有的那一小部分容量,嗯,你有,嗯,非常集中的流动性。所以,嗯,一个标准指标,我想说对于使用这个的人来说,一个从我们这里购买容量的客户花100美元购买容量。我们平均能通过把它卖回给其他人赚回25美元。嗯,这就是我们,或者说这是我们试图追踪的指标之一,因为,我们希望流动性对商业参与者有用,而你可以用很多不同的方式来衡量流动性。你可以说,我只想要大量的做市商之类的。
06:56 嗯,你可以用很高深的方式来衡量它。我们试图用这样的方式来衡量:这是否解决了客户的问题?嗯,是的。明白了。那么,呃,我们上次谈话时,也有很多关于合约的,呃,关于合约标准化的讨论。是的。和,呃,CFTC之类的机构谈过,那些事情的进展如何?嗯,所以我认为合约标准化总体上仍然相当遥远。嗯,而且,我们当时试图做的,嗯,或者说基本上我们在过去几年中学到的是,我们只需要
07:31 运营整个东西。否则你无法标准化这个东西。所以要想更接近可以标准化的东西,你首先需要让这个东西的所有运营都变得一样。对。举个例子说明什么可能不同:一个单一运营商可以提供两种不同类型的虚拟机。一种类型的虚拟机,嗯,性能可能比另一种类型的虚拟机,嗯,下降40%。而40%是很大的。当你说性能下降时,你是指MFU之类的东西,还是你经历过的燃烧量之类的,还是什么?它会影响。所以在这个特定情况下,我说的是GPU内核启动以及它需要多长时间。
08:07 嗯,这是一个在你进行训练或推理时相当频繁发生的过程。嗯,最终结果基本上就是你会得到更差的 MFU,但嗯,就像中间级别。中间级别基本上。是的。是的。所以,我想说的是,对于任何做过大宗商品交易的人来说,商品有不同的等级。是的。对吧。就像,不是石油。是轻质低硫原油对比轻质低硫原油的反面之类的,或者就像,你知道的,嗯,A 级玉米或 B 级玉米之类的。嗯,所以人们试图,嗯,你必须建立这些等价物。正确。是的。我想知道它们是否已经建立起来了。
08:42 所以我们所做的,嗯,是创建了一个订单簿,它带有多个不同的约束条件,你可以说,我想要,嗯,你知道的,介于这个和那个之间的东西。嗯,它从某个时间运行到某个时间。嗯,就像,嗯,从 X 到 Y,你可以给你的订单附加一堆不同的属性。然后我们在一个大型匹配引擎中,将这些属性与具有这些属性的卖单进行匹配。嗯,我们这样做的原因是,它允许我们在不必事先标准化的情况下生成流动性,你知道,技术能做什么。嗯,而且因为技术变化太快了,嗯,我们基本上希望能够做到这一点。这样做的代价是流动性不那么集中。
09:18 所以价格会有,买卖之间会有更大的价差。是的。嗯,这很糟糕。是的。但另一方面,这意味着如果你能正确处理,就有很多套利机会。所以如果你有一个产品可以使用很多不同类型的容量,嗯,那么你可能会很喜欢 SF compute,因为你将能够使用很多不同类型的容量,并且你会赚更多的钱。嗯,你可以赚取价差。好的。在这个网格中,哪些维度是重要的?嗯,有很多不同的东西。嗯,一个是我会说的维度类别,比如,是否有
09:53 工作负载现在正在上面运行,还是未来的容量?当然。是现在的容量吗?嗯,现在的容量,为了让你卖出它,嗯,你必须中断你当前的工作负载。所以你必须考虑,我是否在意我当前的工作负载是否被中断?从现在起一个月后开始的已售容量,嗯,你可以随时买卖它。所以你会很容易地获得流动性。嗯,有一些担忧,比如,哦不,我下个月有容量,但这与你现在中断工作负载非常不同。嗯,中断发生的方式很重要。所以一个例子是,如果你在一个集群上,而该集群的存储没有你想要的那么好。嗯,所以一个例子是,你的底层是否有 Weco 或 Vast 系统?
10:31 嗯,那你们提供这个吗?还有,那个的规模有多大?嗯,这会改变你对被抢占或被移出集群时的响应方式。同时,那个存储的位置也很重要。所以,嗯,如果你能把数据从一个集群快速移到另一个集群,嗯,那么也许你就能分散到多个不同的集群上。嗯,你可以在这边被中断,然后在那边重新起来。嗯,要实现这一点,你还需要,比如,一个集群到另一个集群之间的快速传输路径。通常这是用 WAN 实现的,但大多数这类集群并没有
11:06 嗯,比如广域网。对。广域网。所以,基本上就是把集群连接在一起的线缆。私有互联网是另一种理解方式。呃,今天正在搭建的很多集群,它们并不像传统 CPU 集群那样,出于延迟原因紧挨着客户。在 GPU 方面,它们紧挨着电力,嗯,不管怎样,你知道,你把数据中心放在电力旁边,而不是客户旁边。嗯,这意味着很多东西被放到了以前人们不指望那里会有数据中心的地方。
11:41 所以你可能没有,嗯,那么,嗯,那么好的传输路径,嗯,从一个到另一个。所以这,这开始变得重要了。嗯,其他例子是,嗯,一些奇怪的东西,我们理论上支持,但实际上并不支持,嗯,呃,比如这是我们正在考虑的事情,但基本上还没做。嗯,早期的 GB 200 坏了。早期的 H 100 坏了。嗯,所以如果你买 H 100 或买 GB 200,你可能真的想要某个时间之后部署的那些,因为你不会拿到第一批烂货。
12:16 所以如果你是一个非常精明的客户,你可能愿意为此多付钱,嗯。哦,所以这,这跟它们属于哪一批次有关,它们会随着时间变得更好。所以比如,第一批下线的可能有一些故障或一些问题。对。所以如果你是拿到第一批的人,嗯,或者,嗯,第一批从,嗯,第一批出货中拿到的人,嗯,那么是的,它们会,它们会坏掉,或者,嗯,以某种方式有问题。我猜这个过程大概是,你看,到处都有缺陷。就像,它就是会发生。对。所以比如你拿到台积电或别的什么的新一批货,你就跑你的测试,然后你,你找出
12:53 哪些,哪些是坏的,然后把它们扔掉。不就是这样运作的吗?而我,我之前不知道还有这种批次效应,比如,假设 2026 年第四季度的,呃,B300 比 2027 年的 B300 差多了。对。所以,嗯,我举个例子。嗯,你描述的是老化测试。是的。所以当你拿到一个集群,嗯,一个好的云,它会做什么。就是它试图把所有 GPU 都弄坏,嗯,在它们到客户手里之前。嗯,然后,嗯,坏掉的 GPU 或坏掉的节点,嗯,你会走 RMA。你基本上就是去申请。对。你把它退回去,拿到一个新的,这有一个交付周期,但是
13:30 随便吧,你会得到,你会得到一些回报。嗯,然后客户永远不必经历这些。嗯,我指的是,嗯,就像早期的 H100,存在一些固件 bug,这些 bug 甚至可能跟具体的——比如它们可能不是 NVIDIA 的。可能是 Super Micro 在你买的那个机器里有个固件 bug。嗯,而且它适用于所有机器,这无所谓。比如,嗯,解决办法就是你需要让他们更新固件。嗯,或者他们需要在每个新机器里,嗯,发一个新的东西。
14:07 是的。我们拿到的那些 B300 就有这个问题。嗯,IQ 那边不得不用 Devin 去修。是的。很好。所以像这类不同的问题都可能发生。有意思。好。所以我就想,好吧,看,跟整体相比这似乎很小。我只是想,我想让人们理解这个市场的形态,嗯,你提到了抢占,你知道,我们谈到了竞价实例以及那个,那个类比是怎样的。是的。然后还有,你知道,提前一个月预订。这些市场能延伸到多远?实时或者某种抢占对你来说更有意思,还是,
14:42 更远,更远?嗯,回答你的第一个问题,三到五年。嗯,哇。我们开始看到了。是按月还是按季度,还是怎样?你是在问现金流怎么运作吗?比如合同,比如期货合约,对吧?就像,再说一次,我以前是合约,嗯,衍生品交易员。在市场本身,嗯,比如在更广泛的市场里。是的。集群的融资是三到五年。好。嗯,所以,付款完全是在那个时间段内。是的。我们的订单簿里也有容量块,嗯,可以延长到任意时间。是的。有些事我们得做,嗯,为了那方面的现金流,
15:18 现在。我们现在的做法是,我们只要求人们为一个块全额预付。嗯,对于长期合同的租赁,我们不要求他们那样做。这涉及到一些我肯定需要白板才能解释的东西。嗯,但是,嗯,你还有一个问题我正要回答。我忘了。你是想要实时,还是想要,比如,你想要更多,嗯,什么对你更有意思?实时还是更远,更远?所以我们更关心更远的,因为我们试图构建一条有大量流动性的远期曲线。嗯,这些,嗯,算是同一回事,又不完全是。嗯,所以我们做的是,既然
15:54 你可以买一小时后的,你可以买从现在到下一小时,或者你可以买从现在到未来三年,以及中间的任何时间。这太疯狂了。我知道。嗯,所以,嗯,你知道,或者如果我,你技术上,嗯,每个客户会有某种不同的差异。基本上就像如果我有一个工作负载,嗯,基本上是批处理推理,我随时可以被中断。我不太在乎。嗯,那么我能够被
16:29 中断,嗯,大概就是,我需要一个小时的时间来知道,嗯,我将会被中断,然后就没问题了。或者我甚至可以在,你知道,一两分钟内收到通知。嗯,但是如果我,嗯,有实时推理客户期望我在线,嗯,那么你可以中断我,但要在一个月、也许两个月、也许三个月后。嗯,然后我可以在这段时间内适应那个容量。嗯,但你不能在一分钟内中断我。嗯,所以这两件事的定价不同。它们定价不同的原因是,价格是什么
17:05 你为了中断你的批处理任务愿意支付的价格?这与你为了中断你的,嗯,实时任务愿意支付的价格非常不同。如果你有一个实时任务,你,你很可能在为客户中断时支付SLA。嗯,这说得通吗?是的,我明白了。所以这实际上是中断租约的市场。这些是中断租约的市场。天哪。然后还有未来租约的市场,或者像是,嗯,租约的市场。哦,我以为这像是转租的情况。这像是租约中断。所以一种思考方式,嗯,是在电力市场中,实际上有两个市场。嗯,有日前市场和
17:40 实时市场。算力大概也有同样的东西,嗯,它有即将上线的容量,嗯,或者即将,嗯,到达你这里的容量。嗯,然后是当前正在使用的容量。这些有不同的价格动态。好的。有意思。现货贴水还是期货升水?现货贴水还是期货升水?是的。那么,呃,算力越远期的价格是高于现货还是低于现货?嗯,算力越远期价格?它,它会这样走吗?它会那样走吗,在,呃,你知道,在比如一年、一年后、两年后?
18:16 会。哦,这是一个,呃,在不同时间两者都有。我觉得你不知道这件事很有趣。是的。我是说,两者都有。这取决于你是谁。嗯,好的。那么,呃,我来论证一下。嗯,等等,所以你问的是算力现在卖?今天同样的算力单位。是的。呃,也许不是今天,也许一个月后对比一年后对比两年后。那条曲线是上升还是下降?我们看到,像是一个驼峰。天哪。好的。那么解释一下,嗯,我觉得这会有直觉上的意义,基本上就像如果我有牛奶而且它快要过期了,我会降低它的价格。是的。嗯,所以这基本上就是我们看到的。
18:52 这就像是,这基本上是Nvidia的发布周期,对吧?呃,好吧,我们更多是说如果有一块算力而且它正在临近现在,嗯,它不能在过去被出售。所以它必须降价以便以某个价格出清。是的。所以最初你会看到这种下降,嗯,现在正在出售的东西,现在市场上任何东西,嗯,都是还没卖出去的东西。因此价格会下降。嗯,然后它会上升,嗯,到它想要的位置。嗯,然后也许未来的算力价值更低,嗯,因为人们不想要,就像人们想要现在的算力。所以他们有点在为更短的交货时间付费。嗯,而他们对远在未来的算力支付更少。
19:28 这就是我认为正常健康曲线该有的样子。对。让我觉得“哇,可不是嘛”的地方。嗯,就是,嗯,现在如果你拿一块 B300 去跑推理,嗯,你大概每小时能赚 40 美元,嗯,把它作为推理卖出去。基本上任何模型都行。嗯,所以这是在你百分百利用的情况下,也许如果你只有 50% 左右的利用率,那就是每小时 25 美元左右。对。所以每小时 25 美元。与此同时,你买 B300 大概每小时五到六美元。这两个数字里总有一个得变。对。这是个巨大的套利机会。巨大的套利。这个你在演讲里讲了很多。
20:04 对。所以,嗯,很多人基本上看到这个就在想,嗯,如果我认为价格会上涨,我可能愿意在未来支付比之前预想更高的价格。嗯,因为我可能会想,好吧,我现在可以花五美元买到,但如果以后买不到了,那也许我愿意在未来多花点钱,只为锁定它,如果它以后才上线的话。所以我们也看到了另一面。嗯,这多少取决于你是谁。酷。那么,这样可以吗。而且,而且我真的想在这点上说得非常清楚。当然。你们关心不同代际的芯片吗,还是只关心总的 flops,然后随便分配到你想用的芯片上?
20:40 呃,我们关心不同代际的芯片,因为。你们关心。我想,我猜,你们的客户关心吗?关心。对。哦,等等。你说不同代际的芯片,你是指像。比如 B300、B300。没错。对。或者甚至 AMD 之类的。对。呃,是的。我觉得人们完全在意芯片的代际。嗯,呃,我觉得一部分是因为 VRAM 之类的东西。嗯,还有一部分是因为,嗯,更大的 NVLink 域。对。诸如此类。所以根本没办法把这一切抽象成某种通用的算力单位,让你随便揉来揉去之类的。我觉得就像你说石油,连石油都不是石油。石油实际上只是一堆不同类型的油。
21:16 对。就像航空燃油或汽车燃油之类的。我觉得是一回事。嗯,你会得到一堆不同的类型。确实如此,但你有炼油厂。对。可以有效地拥有黑箱。你可以把油倒进去,然后得到随便什么东西出来。嗯,如果算力是如此异构,我猜这个词是异构。以至于你只能把底层的复杂性暴露给终端客户,这对你作为做市商来说是不利的。也许吧。就像你想找出那个瓶颈点,或者我不知道瓶颈点更好的说法是什么,就像一个谢林点,所有人都同意,好吧,这算是标准,我们都同意这个标准,呃,你知道,它会
21:53 有点低效。对。呃,所以我们已经能够把,嗯,把问题降低到一定程度,但没错。就像你的工作就是降维。对。我们减少了很多维度,但尽管如此,仍然还有维度。对。它仍然会存在。你,你知道你有多少个 SKU 吗?所以,嗯,就像五乘以一百乘以,像 5000 等于,我不知道。就像,什么,我们实际上把 SKU 做成了一个概念,嗯,那个,目标是让别人能做出他们自己的 SKU。所以如果我想买 Blackwell,我可以说我愿意
22:31 以每小时 6 美元或更低的价格购买 Blackwell。你可以拿我和 GB300 比,也可以拿我和 B300 比,我不在乎是哪种 Blackwell,只要低于每小时 6 美元就行。但你刚才说你在意内存和其他东西。完全没错。但不是每个客户都在意。所以有些客户,嗯,只要能跑 Blackwell 就行,不管具体是什么。有些客户则极其挑剔,需要完全特定的东西,他们愿意为此多付钱,因为市场会向他们收取更多费用。好。嗯,这就是我们做的事。所以,人们用你的 API 以编程方式定义他们想要什么,然后你把它与任意组合的卖家匹配,嗯,他们可能、可能、可能能够满足需求。
23:08 是的。嗯,但有一个前提:命名查询是我们正在做的新东西。嗯,但查询系统作为一个概念,就是目前订单簿的运作方式。好。有意思。嗯,好吧。所以,呃,你知道,我,我觉得这就像很多,我猜,细节问题。有没有什么关于,我猜,你想让人们了解的——不管是金融人士还是工程师——关于计算交易市场的现状,按照你们所发展的那样?因为实际上你们在定义它。嗯,主要就是实物交割的要求。是的。嗯,我们认为,如果你,我们,我们花了三年时间弄明白为什么你需要
23:44 实物交割。嗯,而且,嗯,我们今天整个对话,嗯,就是,这些东西并不像你想象的那么可互换,我们会试着让它们变得可互换。那是行业的工作。嗯,但如果没有这一点,你会面临很多风险。嗯,如果你试图建立,嗯,过多的金融化,在行业有时间建立,嗯,实物交割之前。嗯,我认为你得到的是,嗯,一个非常容易被操纵的市场,以及一个有很多基差风险的市场,在那里,嗯,你可能用来对冲的价格实际上与
24:22 你实际能够购买容量的市场价格,嗯,毫无关系。是的。所以,对听众来说,呃,我们,我们上次简要谈过这个,但是,嗯,人们常常震惊地发现,比方说信用违约互换的市场规模是它们所保险的债券规模的 12 倍,呃,差不多这样,或者像,呃,抵押贷款,嗯,某种再保险的市场,或者,呃,所有这些都比标的实物交割规模更大。所以这就是实物交割与现金交割的区别。是的。而且,基本上现金交割就像你在《大空头》里看到的那种,呃,侧注,嗯,在那里,呃,他们,
24:59 他们可能,呃,可能与标的物本身有关,也可能无关。它可能,可能被用作其他整体事物的代理。是的。那,你不想让那失控。是的。所以明确地说,我们认为,嗯,现金交割作为未来概念是个好主意。是的。嗯,我们只是认为它应该从实物交割衍生出来。是的。因为正如你所说,它是一种侧注。嗯,这就有点像如果你,我是说,有点像如果你在做出实物交割之前就做出了未来的现金交割,嗯,我认为人们已经在某种程度上这么做了。是的。完全没错。人们在做出实物交割之前就试图从中获利。人们为各种各样的事情这么做,包括
25:34 创业公司股票。是的。对。就像你可以买卖 OpenAI 的虚构股份,但它和实际股份毫无关系。是的。嗯,而且很多这类东西结果都很糟糕。嗯,比如你要是搞一个,嗯,你要是开始卖一个还不存在的股票的衍生品,那会挺糟糕的。嗯,对。对。嗯,我的意思是,我们做的一件事,我以前是外汇交易员,对吧。对。还有利率。我们做的一件事是有一个委员会聚在一起说,比如,这是伦敦银行同业拆借利率 LIBOR。对。我们都同意这是月度定盘价,然后我们都
26:12 按那个定盘价交易。对。呃,三年后那个还有意义吗?所以关键是 LIBOR 被操纵了。对。我们目前的担忧。有 12 家银行?对。是的。嗯,我们的担忧是存在一个非常类似的问题,嗯,就是你可以操纵一个指数。嗯,我们的印象是,你能操纵那个指数是因为很多指数基于非常少量的数据,嗯,呃,这些数据和实际购买新储备合约的价格相关性不大。嗯,这就是我们担心的。好。
26:47 有意思。嗯,好吧。我想,我想这就是大致的情况了。呃,嗯,我想今天另一个部分就是,呃,你,你,你,你谈到了和 Jump 的一个活动,而且你和 Silicon Data 是朋友。呃,你从所有这些其他参与者身上学到了什么?比如哪些主要参与者你会想点名说他们在做有意思的事?哦。嗯,所以我们是 Silicon Data 和 Compute Exchange 的忠实粉丝。嗯,我觉得他们也很早就进入这个领域了。嗯,而且我觉得他们在我们认為,嗯,我们很可能最终会成为合作伙伴的那条路上,做得相当不错。
27:23 嗯,你能区分一下你们不同的路径吗?所以,嗯,大体上就是他们做现金结算。我们做实物结算。嗯,我们认为两者都可以存在,也应该存在。嗯,而且它们某种程度上是互利的。嗯,所以完全没问题。嗯,所以我觉得他们是这个领域最早的之一,而且我觉得他们,非常明显地押了这个注,嗯,远早于其他人。我觉得这非常值得尊敬。嗯,嗯,你提到了,呃,Jump。SemiAnalysis、Jump。这些是正在涌现的参与者。就像,就我而言,你是我第一次接触这个。对。然后,我看到所有这些其他人进来,我就想,好吧,这里确实在发生些什么。
27:58 我对这个格局的了解不如你清楚。对。所以,嗯,我们看到的几类人是:有些人在试图制定更好的标准。所以我觉得 SemiAnalysis 在努力尝试建立更好的标准。嗯,有些人在尝试做,嗯,残值保险之类的。嗯,这个领域有不少不同的公司。我对它们没有特别深入的了解,但是,嗯,我知道,知道这是一个概念,我觉得这很重要。嗯,还有些人在尝试做,嗯,呃,存款,嗯,借贷,比如他们为云提供信用风险垫付。有一个围绕如何解决算力的财务瓶颈而形成的公司生态系统。
28:34 嗯,看到这个很酷。我觉得在这个生态里,你真正想要的是买家和卖家。你需要一个分析师。你需要,呃,我们说过保险,或者,呃,那个叫什么来着,呃,残值。对。对。然后你,我们想要这种健康的生态。呃,但显然你们在承担实物交割这个问题,这真的很有意思。呃,好。所以,我的意思是,我们可以聊聊硬科技那一面,因为显然你们也在招,呃,极其顶尖的工程师。对。描述一下你们的技术栈。呃,我们做云做的一切事情,但不是那个
29:10云。呃,也就是说我们不拥有硬件。我们不拥有硬件的原因是,如果我们拥有,我们就能操纵远期市场。所以我们必须做瑞士。我们必须保持独立。呃,这给公司带来了很多奇怪的事情。呃,但为了做实物交割,你必须做现场考察。必须去数据中心。呃,你必须,呃,你必须设计物料清单并确保,呃,你基本上得做供应链咨询,呃,就是你要和不同的 OEM 建立关系,呃,确保东西按时
29:46交付。呃,然后你必须,呃,做集群架构。呃,呃,所以你在设计集群本身。呃,然后你,呃,部署机架,或者和合作伙伴一起部署机架并监督。呃,然后你做,呃,背板管理。所以你接管,呃,呃,PDU 和交换机以及 DPU,还有,呃,UFM 和 BMC,你运营,呃,你卖出的节点周围的整个,呃,线束。你说的是作为 SF Compute 员工。对。哇。呃,所以,呃,当你从云买一个节点时,呃,有裸金属,但裸金属周围还有所有这些
30:23东西。对。呃,为了让那个裸金属节点工作,你必须运营其他一切。然后我们。因为我就像传统上数据中心的工作就是把其中一些从你那里抽走。对。我们就是做这个的。好。对。呃,但你不是,你不是在做数据中心业务。你不是那种 equinix 之类的。我们,我们不是在做数据中心业务,算是,呃,我们合作的是,我们提供超级计算即服务。呃,这意味着人们来找我们说,你知道,
30:58我有 X,X 是,我有,你知道,这里有 X 兆瓦。也许有时候他们意思是说我有一个数据中心。呃,那就像,呃,想变成 GPU 集群。就像我的选择是,我可以卖 GPU 集群,或者我可以把数据中心卖给某人,或者我可以成为云。然后我们去找他们说,太好了。呃,我们会把你变成云。我们是超级计算部分。你是数据中心。我们合作吧。然后我们会卖,我会赚钱。呃,有时候是那些有东西可以变成数据中心的人,那样的话我们基本上会项目管理到那一层。
31:33 嗯,然后我们会和那些人合作,我们会和那些人一起,把他们的电力土地,嗯,或者他们拥有的任何东西,嗯,通过与合作伙伴合作变成数据中心。嗯,然后我们接手超级计算部分。好的。这要求我们在内部拥有某种数据中心专业知识,但我们不自行执行建设。嗯,所以是的。是的。所以它,呃,有点模块化,因为你需要应对不同的场景。是的。呃,有人曾经把我们描述成,嗯,呃,像是计算领域的 Palantir,嗯,因为就像这些,每次都是新的竞技场。
32:10 嗯,呃,但是,而且我们喜欢,我们,我们与人们深度合作。在两边都是。是的。呃,主要在美国,主要在美国,但我们在世界各地运营。是的。到了某个时候,SF compute 会变成个误称吗?呃,所以当,所以我们在世界各地部署集群。是的。当我们这样做时,我们与那些自己也想在世界各地成为云服务商的人合作。嗯,他们看起来像主权计算参与者。嗯,我们对主权计算的推介很棒。呃,让我们帮你在你自己的国家建立一个云。嗯,我们会带来旧金山的承购。我们会带来旧金山的专业知识。
32:45 我们会建立集群。嗯,这就是我们的整个业务。啊,嗯,我们会做到的。你们的主要,呃,你们能说出名字的最大已宣布合作伙伴是谁?嗯,没有我能说出名字的。真的吗?哇。呃,我们会有一系列公告,嗯,在一两周内,嗯,我们预计会公布。是的。各种事情吧。当然。当然。祝好运。是的。不,我是说,呃,我,我认为这对每个国家来说都非常有趣,比如,谁,谁在投资主权 AI 来解决这个问题。嗯,有趣的是,SF 仍然算是那个品牌名,而且,呃,那,那非常具有市场吸引力。
33:20 所以我认为有趣的事情之一就是思考这个市场。NVIDIA 显然是房间里那头 800 磅的大猩猩。他们为什么不做 SF Compute?再说一次,答案将是市场操纵。但让我们真正深入探讨多个参与者的激励。是的。所以我们的印象是 NVIDIA 做不了,但会从它的存在中极大受益。他们做不了的原因是,那样他们就不够独立,人们无法在其上交易。如果你不在其上交易,那么你就没有足够的流动性让贷款方基于远期市场进行融资。
33:55 这也是为什么 Crusoe、CoreWeave 和 Lambda,为什么超大规模云厂商做不了,为什么 Base 10、Fireworks 和 Modal 做不了,因为他们在那一侧有太多需求。这是一件有利于整个行业的事情,因为它降低了融资成本。但没有人能做,除非他们放弃赚取所有大额推理收入和所有大额云交易的能力。你必须扼杀自己的业务才能做这个。这就是为什么没人做。从结构上讲,他们不是为做这个而设立的。而你基本上是在减少摩擦,这就是你所有的收入。
34:30 你们已经宣布了一些里程碑。其实,我忘了在前面说这一点。你能重复一下它们是什么,并且稍微来个胜利巡礼吗?我们已经完成了数亿美元的交易量。我们还有大量新集群即将上线。然后,我认为最让我兴奋的是,我们已经发布了一大堆新功能,让 SF Compute 对平台即服务公司来说非常可行。一个例子是我们允许客户细分
35:06 他们的 InfiniBand 网络结构,而无需询问我们。很多云服务,当你去购买时,他们会给你一个 InfiniBand 网络结构。然后,如果你想重新划分那个 InfiniBand 网络结构的线路,你需要联系他们,然后他们会为你做些什么。我们现在可以为客户即时做到这一点,我认为这真的很棒,因为它与市场很好地对接,你希望能够重新划分东西以便扩展或缩减你的集群。你会把这描述为像你在虚拟化数据中心并使其可编程吗?是的,我们在虚拟化数据中心并使其可编程。所以所有如果你拥有
35:43 硬件就能得到的东西,我们正试图虚拟化,我认为这对我们来说很令人兴奋。有趣的是,就像上次发生这种情况是云,那真的很酷。然后最后,你知道,我认为你对人们的行动号召是什么?你知道,是工程师吗?是像,把你的供应给我?像,是什么?如果你想拥有一个 GPU 集群并且想要从中获得剩余价值,你想把它纳入你的投资组合,我们很乐意与你合作来构建那个 GPU 集群。我们将接管,我们将做超级计算的部分,并
36:18 确保事情顺利进行。我们拥有 SLA。然后如果事实证明那是个坏主意,你需要退出那个集群,我们可以立即把那个集群卖给其他人,这样它就不会影响你的资产负债表。非常简单的推销。嗯,非常感谢你的时间。你为行业提供了伟大的服务,我很高兴成为你的朋友。我很感激。好的。谢谢。就这样。
来源:Latent Space · latent.space