高通携手 Cirrascale 启动 Dragonfly AI200 推理加速器客户评估
高通与 AI 私有云企业 Cirrascale 合作,向部分客户开放 Dragonfly AI200 推理加速器的云上评估。这是高通首款机架级 AI 解决方案,单卡配备 768GB LPDDR5X 内存,每个 140kW 液冷 ORv3 机架由 56 卡组成、总内存 43TB、内存带宽 0.414 PB/s,可在单机架内运行 10T 级超大模型推理。
IT之家·人工智能·2026-11-20 13:43· 26 分钟前AI 评分44
高通携手 Cirrascale,启动自家推理加速器 AI200 客户评估
AI 导读
高通与 AI 私有云企业 Cirrascale 合作,向部分客户开放 Dragonfly AI200 推理加速器的云上评估。这是高通首款机架级 AI 解决方案,单卡配备 768GB LPDDR5X 内存,每个 140kW 液冷 ORv3 机架由 56 卡组成、总内存 43TB、内存带宽 0.414 PB/s,可在单机架内运行 10T 级超大模型推理。
正文
IT之家 11 月 20 日消息,Qualcomm(高通)当地时间本月 17 日宣布,其携手 AI 私有云企业 Cirrascale,向部分客户开放 Dragonfly(飞龙)AI200 推理加速器的评估。客户可通过云环境探索其 AI 工作负载在该芯片上的表现。

Dragonfly AI200 是高通的第一款机架级人工智能解决方案,单卡配备 768GB LPDDR5X 内存,支持 PCIe Gen6 纵向扩展、RoCE 横向扩展。
其每个 140kW 液冷 ORv3 机架由 56 卡组成,总内存达 43TB,提供 0.414 PB/s 内存带宽,可在单一机架中运行 10T 级超大模型的推理,提供更低的总持有成本。
来源:IT之家·人工智能 · ithome.com
来源:RadarAI · aihot.news