日前,芯片巨头高通公司正式发布其面向人工智能数据中心的HBC(High Bandwidth Computing,高带宽计算)架构,标志着这家以移动通信芯片闻名的企业正式向AI数据中心算力市场发起冲击。这一架构致力于解决大模型训练和推理中日益严峻的带宽瓶颈问题,有望重塑AI基础设施的技术格局。
破解“内存墙”难题
随着大语言模型参数规模突破千亿甚至万亿级别,传统计算架构中处理器与内存之间的数据传输速度已成为制约AI性能提升的关键瓶颈,业界称之为“内存墙”。高通的HBC架构正是针对这一痛点设计。该架构通过创新的封装和互连技术,实现了计算单元与高带宽内存之间的超低延迟、超高带宽直连,带宽密度较传统方案提升数倍。
据高通官方披露,HBC架构采用了先进的2.5D/3D集成技术,将高带宽内存(HBM)与定制化的AI计算芯片进行紧密耦合,同时在芯片间互连上引入了自研的物理层协议。这使得数据在计算单元与内存之间的移动延迟降低至纳秒级,有效缓解了“内存墙”对算力利用率的拖累。
架构核心:计算与内存的深度融合
不同于此前业界在服务器内部通过PCIe或以太网连接GPU和内存的做法,高通的HBC架构将计算与内存视为一个整体进行设计。其核心思想是“让数据靠近计算”,通过将高带宽内存直接堆叠在计算芯片上方或侧方,大幅缩短数据路径长度。同时,架构支持细粒度的数据调度,允许每个计算核心以超高带宽访问任意内存地址,从而适配注意力机制、矩阵乘法等AI工作负载的非规则访问模式。
高通技术公司高级副总裁在发布会上表示:“HBC架构不是简单的硬件堆叠,而是从系统层面重新定义了计算与存储的关系。它使AI模型能够在更大规模下保持高效运行,尤其适合需要频繁访问海量参数的推理场景。”
面向生态:兼容主流AI框架
为了让HBC架构快速落地,高通强调其与主流AI软件生态的兼容性。该架构支持PyTorch、TensorFlow等框架,并通过中间件层自动优化数据流。开发者无需对现有模型做大幅修改,即可利用HBC的高带宽特性获得性能提升。此外,高通还计划推出基于HBC架构的参考设计方案,帮助数据中心客户加速部署。
行业影响:打破英伟达一家独大?
当前AI数据中心市场高度依赖英伟达的GPU和NVLink互连技术。高通的HBC架构能否成为颠覆者?分析师认为,关键在于能否在性能、功耗和成本之间找到平衡。高通在移动端低功耗设计上的经验,或为数据中心带来更高能效比。但数据中心市场对生态成熟度要求极高,英伟达的CUDA生态壁垒短期内难以突破。
不过,HBC架构的出现至少为行业提供了新的选择。在生成式AI需求爆发式增长的背景下,云服务商和大型科技公司正在寻求多元化的算力方案。若高通的HBC架构在实际部署中展现出明显优势,很可能吸引一批希望降低对单一供应商依赖的客户。
未来展望
高通计划于2025年下半年向部分合作伙伴交付首批HBC架构测试芯片,2026年进入量产阶段。该公司还透露,正在与多家云服务商探讨联合优化方案。与此同时,AMD、英特尔等竞争对手也在推进类似的高带宽计算技术,AI计算架构的竞争正进入“带宽为王”的新阶段。高通的入场,无疑将加速这一进程。