训练一个大模型贵，让训练好的模型"一直跑、跑得便宜"更贵。NVIDIA 这次把标尺又拉高了一档——同样一兆瓦的电，新机架能吐出 10 倍的 token；同样一百万 token，成本只有上一代的十分之一。
9 月，NVIDIA 宣布 Vera Rubin NVL72 进入全面量产，并由一线服务器厂商与全球供应链规模出货。
这套机架级 AI 超算把多颗新芯片整合进一个平台：72 颗 Rubin GPU、36 颗 Vera CPU，外加 ConnectX-9 SuperNIC 与 BlueField-4 DPU。
机柜内部用 NVLink 6 交换机扩展智能，向外则用 Quantum-X800 InfiniBand 与 Spectrum-X 以太网扩展。
NVIDIA 给出的核心数字很硬：相比 GB200 NVL72，Vera Rubin NVL72 在深度推理的智能体场景下，每百万 token 成本低至十分之一。
在同等功耗下，它能多吐出最多 10 倍的 token，也就是每兆瓦 token 数提升约 10 倍。
当它搭配 Groq 3 LPX 机架时，面向万亿参数模型可做到每兆瓦吞吐最高提升 35 倍。
训练 MoE 模型所需的 GPU 数量，也只有上一代的四分之一。
图片来源：Pexels
数字之外，更值得盯的是它改变了什么。
智能体（agentic AI）消耗的 token 是传统应用的 15 倍以上，推理成本与功耗直接决定一个 AI 产品的毛利。
Vera Rubin 把"每瓦效能"做成卖点，等于把成本曲线往右下方拽了一大步。
平台化思路也值得一提——Vera Rubin、Vera CPU、Groq 3 LPX、Vera BlueField-4 STX、Spectrum-6 五类机架协同，覆盖从预训练、后训练、测试时缩放到实时智能体推理的全流程。
这提示从业者：未来基础设施岗位要看的是"整栈协同"，而不只是单卡算力。
NVIDIA 还把 Vera Rubin 用在了国家级 AI 基建上，例如与 Noetra 合作的日本国家级 AI factory，含 13,750 颗 Vera CPU 与 27,500 颗 Rubin GPU。
"AI 工厂"正从一个比喻，变成国家级的真实工程。
对数据架构与认证体系意味着什么
算力供给端（GPU、机架、网络、功耗）如何反过来约束数据架构与推理成本，正成为工程师必须理解的一环。
对准备 AI 大数据工程师认证的人来说，大数据工程不应只讲数仓与管道，也要懂算力边界如何决定成本结构。
当推理成本快速下探，更多实时智能体场景会变得可行，数据流水线的设计空间也随之打开。
来源：NVIDIA 官方产品页《NVIDIA Vera Rubin NVL72》