阿里云灵骏真武M890超节点适配Qwen3.8 开启2.4万亿参数大模型高效推理新篇

阿里云近日宣布，其灵骏真武M890超节点实例已成功完成对Qwen3.8大模型的适配，并在阿里云百炼平台正式上线模型推理服务。这一突破标志着国内首次实现超2万亿参数大模型在超节点上的稳定运行，为AI算力领域树立了新的里程碑。

作为阿里最新推出的旗舰模型，Qwen3.8拥有高达2.4万亿的参数规模。要实现如此庞大模型的稳定运行，需要将参数分散至数十甚至上百张高速互联的GPU卡上。传统AI集群受限于通信带宽，难以满足高吞吐、低延迟、高并发的计算需求，而灵骏真武M890超节点实例通过技术创新突破了这一瓶颈。

真武M890是平头哥研发的新一代训推一体AI芯片，支持从FP32到FP4的多种数据精度，可覆盖高精度训练、低精度及超低精度推理的全场景应用。该超节点实例通过ICN Switch 1.0互联芯片，将64张真武M890芯片实现800GB/s的高速互联，显存规模达9TB，单实例即可支撑2万亿参数MoE模型的专家并行计算需求。

阿里云从芯片到云平台层面进行了全链路优化，使Qwen3.8在超节点实例上实现流畅运行的同时，显著提升了推理效率并降低了成本。实测数据显示，通过算子优化与软硬件架构协同，该实例在Agentic推理场景中可实现最高1.5倍的性能提升，为大规模AI模型的应用提供了更高效的解决方案。