Gigabyte W775-V10-L01 GB300 AI 工作站评测
Gigabyte W775-V10-L01 GB300 AI-Workstation
Gigabyte W775-V10-L01 是首款进入评测的 NVIDIA DGX Station 级 GB300 桌面系统,采用液冷设计,最大功耗 1.6kW,可在多数 120V 电路上运行。

Gigabyte W775-V10-L01 是一套基于 NVIDIA DGX Station GB300 的系统,可以放在你的办公桌上运行。这在概念上听起来可能很简单,但在实践中,这套系统远超你的预期。它采用液冷,最大功耗 1.6kW,甚至可以在大多数 120V 电路上运行。我们在一些意想不到的地方从它身上获得了疯狂的性能,比如 Qwen3.6-35B-A3B Flash NVFP4,一个非常有用的模型,运行速度远超 26,000 tokens/秒,即每天超过 2.25B tokens。我们测试了 ConnectX-8 400Gbps RDMA 网络,发现了我们未曾预料到的东西。我们甚至测试了 CPU 与 GPU 之间的高速 C2C 链路。
第一套来到我们大家办公桌上的 NVIDIA DGX Station 级系统是 Gigabyte 的 W775-V10-L01,Gigabyte 非常认真地承担了打造桌面级 GB300 系统的任务。这在概念上听起来可能很简单,但在实践中,这套系统远超你的预期。它采用液冷,最大功耗 1.6kW,甚至可以在大多数 120V 电路上运行。我们在一些意想不到的地方从它身上获得了疯狂的性能,比如 Qwen3.6-35B-A3B Flash NVFP4,一个非常有用的模型,运行速度远超 26,000 tokens/秒,即每天超过 2.2B tokens。我们测试了 ConnectX-8 400Gbps RDMA 网络,发现了我们未曾预料到的东西。我们甚至测试了 NVIDIA Grace 72 核 CPU 与 NVIDIA “Blackwell Ultra”(B300)GPU 之间的高速 C2C 链路。我们为这篇文章已经工作了一段时间,它真是一台狂野的机器。
| Gigabyte W775-V10-L01 关键规格 | |
| CPU | NVIDIA Grace 72 核 Neoverse V2(72C/72T) |
| GPU | NVIDIA Blackwell Ultra |
| 操作系统 | Ubuntu 搭配 NVIDIA AI Developer Tools |
| 内存 | CPU:496GB LPDDR5X(396GB/s) GPU:252GB HBM3E(7.1TB/s) |
| 存储 | 2x M.2 2280(PCIe Gen6 x4) 2x M.2 2280(PCIe Gen5 x4) |
| 显卡 | 可选:NVIDIA RTX PRO Blackwell 2000/4000/6000 |
| 电源 | 1600W(80 PLUS Platinum) |
| 外形规格 | 塔式工作站 245 x 500 x 531mm |
| 网络 | 2x 400Gbps(QSFP112,ConnectX-8) 10Gb 以太网(RJ45,AQC-113C) 1Gb 以太网(BMC) |
| 端口 | 顶部: 1x USB-C 10Gbps、2x USB-A 5Gbps、1x 3.5mm 线路输出、1x 3.5mm 麦克风输入 后部: 4x USB-A 10Gbps、1x USB Micro-B UART(BMC)、2x 400GbE(QSFP112)、1x 10GbE LAN(RJ45,AQC-113C)、1x 1GbE LAN(RJ45,BMC)、3x 3.5mm 音频、1x Mini DisplayPort(BMC) |
W775 为用户提供了大量硬件,而这正是 DGX Station 系统引人注目的关键所在。它不仅仅是一颗 Grace CPU,也不仅仅是一块配备 HBM3E 的服务器级 Blackwell Ultra GPU,甚至也不仅仅是一块高端双 400Gbps ConnectX-8 网络接口卡。相反,它是所有这些硬件以及更多硬件的组合,是 GB300 服务器的所有关键组件,被浓缩到一台桌面工作站中。即便称其为塔式 GB300 服务器也略微低估了这一概念,但足以传达其含义。它不是基于 GB10 的 Spark 盒子那样的 Grace Blackwell 生态切片,而是完整且不受约束的 Grace Blackwell 体验。
Gigabyte 借给我们这台设备,以便我们制作这些内容。我们必须说明,这是赞助内容。
Gigabyte W775-V10-L01 外部硬件概览
得益于内部一些非常大的芯片以及一套庞大的液冷系统,技嘉的 W775-V10-L01 装在一个高 50 厘米、深 53 厘米的全尺寸 PC 塔式机箱中。但比起尺寸,如果你试着把它抬起来,你很快就会感受到系统本身以及内部液冷系统的重量,这让整套系统重达 29 公斤(约 64 磅)。它重到技嘉强烈建议用两个人来搬动系统(团队抬举),甚至明确规定了每个人应该把手放在哪里,以避免通过塑料前面板来抬举系统(塑料前面板无法承受系统的重量)。
话虽如此,考虑到这是一台价值十万美元的工作站,W775 在其他方面其实是一台相当不起眼的系统。机箱本身是相当典型的 PC 机箱,仅针对内部硬件做了极少的定制。所以这并不是像 DGX Spark 系统那样经过大量定制的设计,而能够使用标准 PC 机箱,是 OEM 厂商在 DGX Station 系统上被允许自由定制的少数方面之一。话虽如此,技嘉在 W775 上似乎确实采用了独特的设计,因为我们未能找到任何其他采用相同机箱的技嘉系统。

令人意外的是,W775 机箱的正面仅仅是装饰性的,而非起到任何散热作用。技嘉并没有将系统正面用作进风口(正如我们在大多数全塔式系统上看到的那样),而是充分利用机箱的其他每一面作为进风口或出风口。这在一定程度上确实有助于声学表现,因为这意味着没有任何风扇直接朝向用户正面。

在机箱左侧,我们发现一个通风开口,覆盖着几个风扇,用作进风口。

与此同时,在机箱右侧,我们看到一个散热器的背面,三个风扇将空气推过它,作为系统庞大液冷系统的一部分。
这也意味着机箱正面没有任何 I/O 端口或按钮。考虑到这套系统的尺寸、重量和散热量,技嘉打算让 W775 作为落地式电脑使用,因此其端口和控制装置也相应配置,沿机箱顶部一侧布置。

就 W775 的全部 I/O 能力而言,顶部面板的 I/O 实际上略显简陋。在这里,我们在最远端找到一对 5Gbps USB-A 端口和一个 10Gbps USB-C 端口。你在系统上找不到任何 USB4 速度的端口。任何超过 10Gbps 的传输都需要通过集成的 ConnectX-8 SuperNIC 所提供的具有巨大吞吐量的 400Gb QSFP112 来进行。实际上,10GbE 网卡也是通过 ConnectX-8 实现的。
虽然这绝对是我们吹毛求疵,但考虑到系统的价格,令人意外的是技嘉没有费心使用任何类型的官方(且建议使用的)USB-IF 标志来标识 USB 端口。尤其是因为他们选择在这里不为 USB-A 端口使用蓝色塑料,所以没有任何迹象表明这些是 USB 3.x 端口。

无论如何,除了这三个 USB 端口外,系统顶部还包括独立的耳机输出和麦克风输入音频插孔,省去了绕到这台沉重系统背面的麻烦。

说到系统的后部,这里就来看一下。由于这(基本上)是标准的 PC 机箱,我们看到的是 ATX 规格中熟悉的散热风扇、后置 I/O、扩展插槽和电源布局。机箱后部排风可容纳 120mm 或 140mm 风扇,技嘉选择了 120mm 的 Sunon 风扇。

在后置 I/O 方面,系统以网络为主。包括用于 BMC 的 1GbE 端口在内,W775 共有四个不同的以太网端口,分别连接到三个不同的控制器。

其中最重要的是两个 QSFP112 端口,由 NVIDIA 强大的 ConnectX-8“SuperNIC”提供支持。每个端口提供 400Gbps 网络,与 DGX Spark 上的 QSFP 端口一样,这些端口是系统与高速存储和/或其他基于 DGX Station 的系统进行网络连接的主要方式。驱动这些端口的 ConnectX-8 SuperNIC 在网络之外还承担了大量繁重工作,因此这些 QSFP 端口的能力和限制也略显复杂。我们会在讨论系统拓扑时进一步展开。

我们在这里同时试用了 QSFP112 DAC 和光模块。我要指出的一点是,光笼周围的气流并不充裕,因此功耗约 10W 的 NVIDIA MMS1X00-N5400 QSFP112 光模块最终对我们来说运行良好。这些光模块价格稍高,但在我们进行的数据中心参观中,数据中心技术人员往往告诉我们,安装在热通道中时,NVIDIA 的光模块比一些低成本品牌表现更好。

对于更普通的网络使用场景,系统还配有一对 RJ45 以太网接口。左侧标有“M”的端口连接到 BMC,用于系统管理。管理由 OpenBMC 处理,配有 HTML5 iKVM 等一应俱全,但由于这是一篇篇幅巨大的评测,我们不会深入探讨。右侧的 RJ45 接口是由 Marvell 久经考验的 AQC113C 控制器提供的 10Gb 以太网端口。这个系统的拓扑结构非常有趣,因此 AQC113C 实际上是连接到 ConnectX-8 SuperNIC,而不是直接连接到 CPU。
以下是 W775 其余的 USB 端口。这四个端口均以 10Gbps 运行,与系统顶部的 USB-C 端口速度一致。与顶部的 USB-A 端口不同,技嘉(或者更确切地说是 NVIDIA)在这里使用了蓝色塑料,以表明这些是高速端口。话虽如此,技嘉的框图显示这些端口通过一个集线器连接,因此不应指望同时从每个端口获得 10Gbps。

在其右侧,我们有三个音频接口,全部由 Realtek ALC4080 音频编解码器提供支持。

在后置 I/O 面板的末端,还有两个与 BMC 相连的端口。左侧是 micro-USB 形式的串行 UART。右侧是来自 BMC 的 Mini DisplayPort 输出,用于系统管理和配置。DGX Station 系统内部没有真正的集成显示 GPU(Blackwell Ultra 更像是计算加速器),因此 BMC 是开箱即用的唯一图形输出。如需完整的图形解决方案,DGX Station 系统可以搭配 NVIDIA RTX PRO Blackwell 显卡。
简单来说,我们在这里还发现了一对插头。虽然 W775 出厂时并未安装无线网卡,但机箱和主板完全支持加装;如果需要,这对插头就是用来连接天线引线的。

最后,我们来看看系统底部,也就是电源所在的位置。很大程度上得益于每台机器内部的 GB300 加速器,DGX Station 系统功耗极高,而 NVIDIA 的 1600 瓦电源已经达到了单个北美电源插座的上限。这款 80 PLUS 白金认证的电源需要高容量 C19 电源线才能安全承受该电流,并且需要 20 安培电路才能驱动。实际上,这套系统几乎需要一条专用的 20A 电路。
顺便提一句,虽然你只能勉强看到,但电源上还装有系统里的另一个风扇,从系统底部吸入冷空气来为电源散热。因此,除了系统正面之外,每一面都是某种形式的进风口或出风口。
这就是技嘉 W775 DGX Station 的外部。至于剩下的内容,让我们深入系统机箱内部,那里会大不相同。
来源:Hacker News · servethehome.com