2025年7月,英伟达在年度GTC大会上正式披露了下一代AI超级计算架构Vera Rubin的最新进展,并公布了来自合作伙伴CoreWeave的早期测试数据。测试结果显示,基于Vera Rubin平台,在单位功耗条件下的Token吞吐量实现了高达10倍的跃升,这一突破性进展标志着AI算力能效比迎来了新的里程碑。
架构革新:从Blackwell到Vera Rubin
作为英伟达继Hopper、Blackwell之后的第三代AI加速架构,Vera Rubin并非简单的迭代升级。据英伟达方面介绍,该平台采用了全新的Vera核心与Rubin GPU协同设计,在片上互连、内存带宽和计算单元布局上均实现了结构性变革。Vera Rubin首次引入基于3D堆叠技术的HBMI(高带宽内存接口),配合台积电3纳米制程工艺,使得单芯片晶体管数量突破3000亿,功耗却控制在1000瓦以内。
英伟达CEO黄仁勋在大会上表示:“AI模型的规模正在以每年4倍的速度增长,但摩尔定律已经放缓。Vera Rubin的设计目标就是打破‘算力增长与能耗增长’的死结。”据悉,该平台原生支持FP4精度计算,并针对MoE(混合专家)模型进行了指令集优化,在推理场景下可显著降低单位Token的能耗成本。
CoreWeave测试数据:10倍能效飞跃
作为全球领先的AI云基础设施服务商,CoreWeave是全球首批接入Vera Rubin原型系统的合作伙伴。其发布的工程测试报告显示,在运行LLaMA-3 405B参数量模型的推理任务时,采用Vera Rubin集群的单位功耗Token吞吐量相比前代Blackwell平台提升了9.8倍,接近10倍。
更具体的测试数据如下:在同等功耗约束(整机功耗1500W)下,Blackwell平台每瓦每秒可处理约1200个Token,而Vera Rubin平台达到了约11800个Token/W·s。若以训练场景为例,在训练一个1.8万亿参数的MoE模型时,Vera Rubin平台相比Blackwell在相同时间内的训练Token数提升了7倍,同时总功耗降低约35%。
CoreWeave首席技术官Brian Stevens指出:“10倍能效提升意味着AI推理成本可降低一个数量级。对于一个日均处理数十亿Token的云服务商来说,运营成本将从每年数亿美元降至几千万美元,这将直接改变AI应用的商业可行性。”
技术突破背后的关键设计
为何Vera Rubin能实现如此惊人的能效提升?英伟达架构团队透露,主要源于三大核心技术:
-
全局稀疏引擎:Vera Rubin的GPU内集成了专用稀疏计算单元,可动态识别MoE模型中激活的专家子网络,跳过非必要计算,将有效计算密度提升3倍以上。
-
光子互连桥接:在GPU与HBM内存之间,Vera Rubin首次大规模应用了硅光子互连技术,实现每比特能耗降低70%,同时带宽密度增加4倍,解决了长期困扰AI加速器的“内存墙”问题。
-
自适应电压调节:Vera Rubin的每个计算簇可独立调节电压与频率,根据当前负载实时进入深度节能状态。在空闲或轻负载状态下,整芯片功耗可降至标称功耗的10%以下。
产业影响与生态展望
随着Vera Rubin平台走向商业化,AI基础设施的部署范式或将发生根本性转变。过去,数据中心为满足大模型推理需求,通常需要堆叠数千张GPU,导致电力容量和散热设施承受巨大压力。如今,10倍能效提升意味着同样的电量可支撑10倍以上的Token生成量,或同等算力下碳排放减少80%。
目前,包括CoreWeave、微软Azure、甲骨文云在内的主要云服务商已宣布将在2025年底前部署Vera Rubin集群。英伟达预计,该平台的正式出货时间将在2026年第一季度。对于开发者而言,英伟达同步推出了针对Vera Rubin优化的CUDA 13.0 SDK和深度学习框架补丁,确保主流模型可无缝迁移。
业内分析人士认为,英伟达在AI芯片领域正以“隔代提升一个数量级”的节奏持续进化。从Hopper到Blackwell实现了约4倍能效提升,而从Blackwell到Vera Rubin的10倍跃升,可能标志着AI算力已进入一个全新的“能效红利期”。未来,那些受限于电力成本的AI应用——如实时语音助手、端侧推理、药物分子模拟等——或将迎来商业爆发的临界点。
不过,也有技术专家提醒,测试数据基于特定模型和工作负载,通用性尚需验证。同时,Vera Rubin的高昂初代成本可能使得中小型企业短期内难以受益。但无论如何,10倍能效提升这一数字本身,已经足以让整个AI行业为之振奋。