AWS CEO Matt Garman 访谈:AI 推理市场仍处极早期,规模不足最终 1%
AWS CEO Matt Garman 在访谈中表示,AI 推理市场仍处极早期,规模不足最终潜力的 1%。他透露 AWS 每 14 秒新增一块 GPU,并预计算力短缺还将持续几年,同时解释了为何为尚不存在的初创公司预留算力。访谈还涉及数据中心遭遇的社区反弹、Amazon Nova 团队的重组,以及将 Trainium 芯片对外销售等话题。
AWS CEO 谈打造万亿美元业务
亚马逊认为其云业务有望在未来五到十年内实现每年 1 万亿美元的收入。我在西雅图与 AWS CEO @mattsgarman 坐下来交谈,了解是什么给了他这样的信心,以及可能有哪些阻碍。
Garman 解释了 AI 如何推动企业将核心业务迁移到云端,从而加速 AWS 用二十年打造的业务。我们讨论了他为何认为推理——即运行 AI 模型所需的计算——仍不到其最终规模的 1%。他表示 AWS 每 14 秒就增加一块 GPU,并预计产能短缺还将持续几年。我问他如何决定谁获得 GPU、为何要为尚不存在的初创公司预留产能,以及他认为行业支出中的风险在哪里。
我们的对话录制于中期选举之后不久,还涉及对数据中心的反对声浪、行业需要做什么才能赢得社区支持,以及他为何认为沙漠比太空更有前景。
我还询问了亚马逊 Nova 团队内部的调整,以及它是否仍打算在 AI 前沿竞争。我们谈到了在 AWS 之外销售 Trainium 芯片、Baseten 和 Fireworks 等推理提供商的崛起,以及亚马逊在利用数学证明帮助 AI 智能体遵循规则方面的大规模研究押注。
时间戳:
00:00 AWS 的万亿美元押注
02:24 AI 如何加速云增长
09:33 扩展 AI 的成本
14:10 算力热潮的风险
17:02 为何推理仍处于早期
20:03 对数据中心的反对声浪
28:21 太空、海洋和沙漠中的数据中心的
31:38 AI 推理提供商的崛起
33:53 AWS 的全栈战略
36:52 AWS 为何销售 Trainium 芯片
38:11 AWS 如何分配稀缺算力
40:10 AWS 的前沿 AI 雄心
41:37 让 AI 智能体变得安全
46:31 开源与闭源 AI 模型
49:14 在亚马逊内部运行 AWS
链接:
Spotify:open.spotify.com/episode/4uEH…
YouTube:youtu.be/1C_MErgk2Z0
Substack:sources.news/p/aws-ceo-matt-g…
Apple Podcasts:sources.news/p/aws-ceo-matt-g…
感谢节目赞助商:@mercury、@meetgranola 和 @Atlassian
来源:RadarAI · aihot.news