随着AI智能体在千行百业加速渗透，大模型应用的Token调用量正以惊人速度增长。如何降低算力成本，已成为制约AI产业规模化落地的核心命题。业内最新消息显示，通过算力平台协调多模型使用、加快大规模算力集群建设、推动光电融合芯片等前沿技术落地，或将在未来三五年内让Token成本实现大幅下降，其中国产算力芯片支撑的超大规模集群被视作降本关键。
算力成本承压 业界探索多路径降本
“当前，Token的调用量一直保持着高速增长态势。”一位业内人士告诉记者，随着AI智能体在金融、医疗、制造、教育等领域的深入应用，企业对大模型推理能力的需求呈现爆发式增长。然而，高昂的算力成本成为制约应用普及的“拦路虎”。
据业内人士介绍，目前行业正通过算力平台来实现对多个主流大模型的协调使用。通过统一调度不同模型的任务特性，综合降低Token成本。例如，针对不同场景的需求，平台可以自动匹配性价比最高的模型，避免算力浪费。与此同时，在全国范围内加快大规模算力集群的建设，也成为行业共识。
国产算力集群：降本的核心引擎
值得注意的是，国产算力芯片支撑的超大规模算力集群，被业内视作下一步降本的关键所在。上述业内人士指出，国产芯片在性能、能效比和成本控制方面正逐步实现突破，能够支撑更大规模、更高效率的算力集群建设。
“相比依赖进口芯片，国产算力集群在供应链稳定性、定制化能力和综合成本方面具有显著优势。”一位AI基础设施领域的专家分析称，随着国产芯片生态的不断完善，大规模集群的运维成本、互联效率也在持续优化，这为Token成本的进一步下降提供了坚实基础。
事实上，近年来算力集群的规模化建设正在加速。据记者了解，多个头部云服务商和AI企业已在多地启动大规模算力中心建设，其中部分集群已实现基于国产芯片的部署。这些集群在支撑大模型训练和推理的同时，也在探索更高效的调度算法，以最大化单位算力的产出。
光电融合芯片：Token成本有望降50%
除了算力集群建设，更前沿的技术路线——光电融合芯片，被视作未来降本的又一重要方向。业内人士透露，未来三五年内，光芯片等技术有望实现落地应用，为算力成本的大幅下降提供可能。
“光电融合的芯片相比传统电芯片，核心在于它的计算延迟更低、功耗也更低。”上述业内人士指出，通过光电融合技术，芯片在处理大规模并行计算任务时，能显著降低能耗和单位时间内的资源消耗。据测算，每单位Token成本有望因此下降50%，甚至更多。
所谓光电融合芯片，是指在芯片设计和制造过程中引入光通信和光计算技术，实现电信号与光信号的高效协同。相比纯电芯片，光信号具有低损耗、高带宽、抗干扰等特性，尤其适合大模型训练和推理场景中大规模数据的传输与处理。业内人士分析，光电融合技术的突破，将为算力基础设施带来一场新的革命。
协同推进 降本已现曙光
综合来看，当前算力降本正呈现“多点开花”的态势。一方面，算力平台的优化和国产算力集群的规模化建设，正在短期内为Token成本带来实质性改善；另一方面，光电融合芯片等前沿技术的中长期潜力，也为行业注入新的期待。
“算力成本下降是大模型走向普及的必由之路。”多位行业人士表示，随着技术迭代和生态完善，未来Token成本还将持续走低。而国产算力集群与光电融合芯片的结合，或将成为算力降本的重要突破口。
可以预见，在产业各方协同推进下，一个更加高效、低成本的AI基础设施体系正在加速形成。Token成本的逐步下降，也将为AI应用的大规模落地打开新的空间。