今日,国内大模型领域迎来重大突破。月之暗面正式开源了其最新的2.8万亿参数模型——Kimi K3,并同步发布了模型权重与技术报告。同日,摩尔线程宣布基于AI训推一体智算卡MTT S5000及MUSA软件栈,率先完成Kimi K3的极速适配与稳定拉起,成为首家支持该超大规模开源模型推理与微调的中国GPU厂商。
Kimi K3:国内开源大模型的里程碑
Kimi K3是月之暗面推出的第三代大规模语言模型,参数量达到惊人的2.8万亿,远超此前业界常见的千亿级甚至百亿级开源模型。据技术报告披露,Kimi K3在多项基准测试中表现优异,其推理能力、长文本理解与生成水平均达到国际领先水平。此次开源不仅包含模型权重,还附带详细的技术文档与训练细节,为学术界和工业界提供了宝贵的参考。
月之暗面方面表示,开源Kimi K3旨在推动大模型技术的普及与创新,降低行业门槛,让更多开发者能够基于这一强大基座进行二次开发和应用落地。该模型的发布也被视为国内AI生态建设的重要一步,有望加速千行百业的智能化转型。
摩尔线程率先适配,彰显国产算力实力
就在Kimi K3开源的同一时间,摩尔线程宣布其基于自研的AI训推一体智算卡MTT S5000及MUSA软件栈,已完成对Kimi K3的极速适配与稳定拉起。这意味着,国产GPU厂商首次能够支持2.8万亿参数级别的开源大模型在自有硬件上顺利运行,标志着国产AI算力生态迈入新阶段。
据了解,MTT S5000是摩尔线程面向训练与推理一体化场景的高性能GPU产品,配备了大容量显存与高带宽互联架构。此次适配过程中,摩尔线程团队针对Kimi K3的模型结构进行了深度优化,充分利用MUSA软件栈的算子库与内存管理能力,实现了模型的高效加载与推理加速。据测试,在MTT S5000上运行Kimi K3,不仅能够稳定拉启,推理延迟也达到了可商用水平。
技术突破背后的生态意义
此次摩尔线程率先完成Kimi K3适配,不仅仅是技术层面的突破,更有着深远的生态意义。长期以来,大规模AI模型的训练与推理高度依赖国际巨头提供的GPU硬件与软件生态,国产算力在超大规模模型支持上始终存在差距。Kimi K3作为国产自研的开源大模型,与同样国产自研的摩尔线程GPU完成适配,形成了从算法到硬件的完整国产化闭环。
这一组合为国内企业提供了“去依赖化”的可行路径:开发者可以在国产GPU上直接部署Kimi K3,享受开源模型的强大能力,同时规避外部技术封锁风险。对于金融、医疗、政务等对数据安全要求极高的行业,这一方案的吸引力尤为突出。
未来展望:AI基础设施国产化加速
随着Kimi K3开源以及摩尔线程等国产算力厂商的快速跟进,国内AI产业正迎来基础设施全面国产化的关键窗口期。月之暗面表示,未来将继续与摩尔线程等合作伙伴深化合作,优化模型在国产硬件上的运行效率,并计划推出更多适配方案。
摩尔线程方面也透露,公司将持续完善MUSA软件栈,提升对大模型的兼容性与性能表现,并计划在下一阶段推出针对Kimi K3的微调工具链,帮助行业用户快速定制专属模型。
可以预见,在开源大模型与国产算力的双向驱动下,中国人工智能产业将加速走向自主可控、高效协同的新格局。而Kimi K3与MTT S5000的这次“牵手”,无疑为这一进程写下了浓墨重彩的一笔。