随着大模型技术加速迭代，推理市场的商业化路径正在逐渐清晰。GPU厂商摩尔线程联合创始人、执行总裁王东近日在接受媒体采访时表示，大模型的发展在国内外都非常迅速，当前头部厂商平均每两个月完成一次前沿基础模型版本迭代。而在模型调用成本方面，中国前沿基础模型较国外同等智力水平模型具备显著成本优势，性价比更优，这恰恰说明模型公司在有限算力条件下，在提升模型效率、价格效率以及训练成本方面做了大量卓有成效的工作。
王东进一步指出，推理市场不存在所谓的“万能芯片”，而是“解决方案”的组合。推理市场的技术应用门槛相对较低，且场景高度碎片化，没有任何一家公司能够垄断所有细分应用场景。没有绝对完美的单一硬件，通过灵活的软硬协同，每个模型都能找到最适合它的硬件组合，实现成本与性能的最佳平衡。他预测，市场将涌现大量ISP公司，为MaaS提供商或终端客户提供更具性价比、更灵活的定制化推理服务。
推理市场：从“拼算力”到“拼组合”
在过去的两年里，大模型的训练阶段吸引了大量资本和算力投入，英伟达等GPU厂商也因此受益。然而，随着模型逐步进入落地应用阶段，推理市场的重要性愈发凸显。与训练阶段追求极致算力不同，推理阶段更加注重成本、延迟、功耗以及场景适配性。
王东认为，推理市场的高度碎片化决定了没有一种硬件可以通吃所有场景。例如，云端大模型推理需要高吞吐、高并发，而端侧推理则更关注低功耗、低延迟；图像生成类任务对显存和带宽要求高，文本生成类任务则更依赖计算核心的并行能力。因此，推理市场需要的是多种硬件组合和软件优化，而不是单一的“万能芯片”。
“推理市场的技术门槛相对较低，这并不意味着简单，而是指更多参与方可以基于现有硬件进行创新组合。通过灵活的软硬协同，每个模型都能找到最适合它的硬件组合，实现成本与性能的最佳平衡。”王东强调。
中国模型的性价比优势
在谈及国内大模型发展时，王东指出，中国前沿基础模型在同等智力水平下，调用成本明显低于国外模型。这一方面得益于国内模型公司在算法优化、模型压缩、训练效率提升等方面的持续投入，另一方面也源于国内厂商在有限算力条件下“精打细算”的能力。
“模型公司在有限算力的情况下，对如何提升模型效率、价格效率以及训练成本做了非常多的工作。这使得中国模型不仅具备竞争力，在某些场景下甚至更具性价比优势。”王东表示。
他同时指出，中国拥有全球最丰富的应用场景和最大的市场体量，这为大模型推理提供了广阔的商业土壤。从智能客服、内容生成到工业检测、自动驾驶，推理需求正在爆炸式增长。
ISP公司崛起：定制化推理服务将成新趋势
王东在采访中特别提到，市场将涌现大量ISP公司。这里的ISP并非传统的互联网服务提供商，而是指“推理服务提供商”（Inference Service Provider）。这类公司专门针对特定行业或细分场景，提供定制化的推理解决方案，包括硬件选型、模型优化、部署运维等一站式服务。
“随着MaaS（模型即服务）模式兴起，终端客户越来越希望获得开箱即用的推理能力，而不是自己从头搭建复杂的硬件和软件栈。ISP公司可以整合不同厂商的硬件，结合软件优化，提供更具性价比、更灵活的定制化推理服务。”王东解释道。
他认为，ISP模式的崛起将重塑整个推理产业链。传统上，硬件厂商直接面对客户，但未来可能会演变为“硬件厂商→ISP→MaaS提供商/终端客户”的多层架构。ISP公司将成为连接硬件与应用的桥梁，不仅降低客户使用门槛，还能根据不同场景动态调整资源配置，实现效率最大化。
摩尔线程的布局
作为国内GPU厂商的代表之一，摩尔线程近年来在GPU芯片、AI加速卡以及软件生态方面持续投入。王东表示，摩尔线程将坚持“软硬协同”策略，一方面持续提升硬件性能，另一方面通过软件栈优化，使得不同模型都能在摩尔线程的硬件上获得最佳表现。
“我们不会声称自己的芯片是‘万能’的，但我们会努力让摩尔线程的硬件成为最灵活、最易适配的选择之一。”王东说。
面对推理市场的碎片化需求，摩尔线程也在积极与ISP公司、模型厂商和云服务商合作，打造开放的生态体系。王东预测，未来两年将是推理市场格局初步成形的关键时期，而能够提供“最佳组合方案”的企业将占据主动权。
结语
推理市场的竞争已从单纯的算力比拼转向综合解决方案的较量。王东的观点揭示了一个趋势：在碎片化、多样化的推理场景中，没有任何单一硬件能独霸天下，只有通过灵活的软硬协同、开放的生态合作，才能真正实现成本与性能的最佳平衡。随着ISP公司的涌现，中国的推理服务市场有望迎来新一轮创新浪潮，为AI大模型的规模化落地提供坚实底座。