NVIDIA Vera Rubin 正式登场：从芯片卷到电网，只为压低每一个 Token 的成本
摘要：NVIDIA Vera Rubin NVL72 平台已进入全面量产，CoreWeave、Google Cloud、Azure 等云厂商的机架已实际运行。该平台采用从芯片到电网的全栈协同设计，核心目标是降低每个 Token 的推理成本。CoreWeave 实测显示，其运行 DeepSeek-R1 时每兆瓦 Token 吞吐量较上一代 Grace Blackwell NVL72 提升 10 倍。
从“算力峰值”到“每瓦产出”：AI 工厂的新竞赛
过去，衡量 AI 芯片好坏，大家习惯看峰值算力（FLOPS），也就是芯片每秒能做多少次运算。但在电力日益紧张的数据中心里，真正决定盈利能力的，是“一度电到底能产出多少 Token”。Vera Rubin NVL72 的发布，标志着竞争焦点正式转向“每兆瓦 Token 吞吐量”——简单说，就是同样的电力预算下，谁能生成更多内容，谁就更有成本优势。
这正是 NVIDIA 推动 Vera Rubin 全栈设计的核心逻辑：不只在芯片层面堆性能，而是从 CPU、GPU、内存、网络到冷却、供电，全程协同优化，让每一度电都花在“出活”上。
芯片层面：Vera CPU 与第六代 NVLink
Vera Rubin 的第一层优势来自自研 Vera CPU。相比上一代，Vera CPU 的单线程性能提升 2 倍，核间带宽提升 3 倍，内存延迟降低 40%。对于大模型推理这类对内存访问极其敏感的工作负载，这些数字直接决定了 Token 生成速度的上限。
与此同时，第六代 NVLink 和 Spectrum-X 以太网在吞吐、延迟、RDMA 带宽等关键指标上，都明显优于通用以太网方案。换句话说，数据在芯片之间的搬运速度更快，GPU 等待数据的时间更短，整体利用率自然更高。
系统级工程：1 分钟组装与免冷水机组
除了芯片，NVIDIA 在系统集成上也下了不少功夫。Vera Rubin NVL72 的机架采用了托盘化设计，不需要电缆、风扇和液冷软管，组装时间压缩到了 1 分钟。这意味着大规模部署时的运维成本大幅降低，故障替换也更快。
散热方面，45°C 液冷方案允许数据中心免装冷水机组，仅这一项就能让每兆瓦年节水数百万加仑。在越来越多地区面临用水和用电双重限制的背景下，这种“省水省电”的系统设计，实际上比芯片本身更具现实意义。
光电一体化与开放生态：首次量产，也留了一手
Vera Rubin 首次量产了 CPO（光电一体化封装）技术。简单讲，就是把光模块直接封装到芯片附近，替代传统的可插拔光模块，从而减少信号损耗和功耗。官方数据显示，CPO 能效提升 5 倍，平均无故障时间（MTBI）提升 10 倍——对于超大规模集群来说，这直接降低了故障率和运维频率。
另一个值得关注的信号是，NVLink Fusion 开始向第三方 XPU 开放。过去 NVIDIA 的互联技术主要绑定自家 GPU，这次开放意味着它在尝试兼容更广泛的异构计算生态。一边通过深度协同设计锁定自家平台的性能优势，一边向外部芯片开放互联接口，这显然是 NVIDIA 在生态锁定与市场开放之间寻找的平衡点。
落地现状：多家客户已上车
目前，CoreWeave、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructure 等主要云厂商，以及 SpaceXAI、Tesla、Lambda 等 AI 基础设施玩家，都已采用 Vera Rubin 平台。其中 CoreWeave 率先公布了实测数据：运行 DeepSeek-R1 时，每兆瓦 Token 吞吐量比 Grace Blackwell NVL72 提升了 10 倍。这组数字意味着，同样的电费预算下，用户的推理成本可能只有原来的十分之一。
当然，这种大幅提升并非免费午餐——它同时也意味着传统通用以太网和可插拔光模块的生存空间将被进一步挤压。对于普通开发者和企业来说，未来的 AI 推理成本可能显著下降，但对数据中心硬件选型的判断标准，也需要从“看算力”转为“看全链路效率”。