9 月 16 日,AI 云服务商 CoreWeave 宣布在其云平台上完成多机架 NVIDIA Vera Rubin NVL72 集群的"bring-up"——把数百颗新一代 Rubin GPU 连成单一横向扩展集群,专门服务智能体 AI。这是 Vera Rubin 平台首次在客户数据中心成规模落地,意味着 NVIDIA 的新一代"AI 工厂"底座从验证走向生产。

一台机架装下多少算力

单台 NVL72 机架集成 72 颗 Rubin GPU + 36 颗 Vera CPU,配 NVLink 6、ConnectX-9 SuperNIC、BlueField-4 DPU;多机架通过 Spectrum-X 以太网连成单一集群。每颗 Rubin GPU 配两颗 ConnectX-9 SuperNIC,每 GPU 1.6 Tb/s 横向带宽,单 rail 非阻塞结构可支撑约 12.8 万 GPU,扩容无需重做整体拓扑。

文章配图(来源:Pexels)图片来源:Pexels

为智能体负载而生

面向多步智能体负载(反复工具调用、跨区数据访问),更大规模、更快迭代。Cohere 基础设施负责人称跨区域缓存让训练不再被数据检索延迟"绑架"。存储配套同步推出 AI Object Storage 跨区域写入加速(本地写、后台复制到第二区域)与 Archive 低成本层(无取回/提前删除/读取费);LOTA 缓存将读取延迟降低 8 倍、每 GPU 吞吐达 7 GB/s。

为什么是"下一步底座"

NVIDIA 此前披露 Vera Rubin NVL72 在 DeepSeek-R1 推理场景下,单位兆瓦 Token 产出约为 Grace Blackwell NVL72 的 10 倍——多机架因此被视为下一代推理工厂与 AI 代理系统的核心底座。

给AI相关人士的启发

对大数据 / AI 工程师,这是理解算力基础设施如何支撑智能体 workloads 的一手样本。当模型能力不再是瓶颈,"怎么把数万 GPU 连成一台机器、让数据不被搬运拖死"才是真功夫——系统设计与数据布局,正在成为比单卡算力更硬的护城河。

文章配图(来源:Pexels)图片来源:Pexels

来源:CoreWeave 官方新闻室