在中国移动智算中心(呼和浩特)节点,占地1402亩的园区里没有机器轰鸣,却有数以万计的AI计算任务昼夜运转。这里部署了约2万张AI加速卡,为石油大模型、校园AI助手、牧草定级定价等模型训练提供底座。
万卡集群的难点不在卡多,而在协同:上万张芯片同时训练一个模型,任何一张卡故障、一次传输延迟都可能让任务报废。该节点通过万卡高速互联与软硬全链路监控等关键技术,把集群线性加速比提升到90%以上,意味着加卡即加算力;模型训练最长无中断时长达22天,处于业界先进水平。
异构算力管理是另一道坎:不同厂商芯片各有驱动与编程生态。该节点依托九天人工智能平台统一纳管底层异构集群,通过GPU池化、扣卡模组等技术,让不同品牌算力组成联合舰队协同作战。
业内认为,从千卡到万卡考验的是系统架构、网络互联与资源调度的综合工程能力,谁能把集群效率做实,谁就握住了大模型时代的入场券。
来源:中国产业经济信息网