10月16日,据报道,微软宣布已经完成新一代 SOTA 基础模型 MAI-Base-2 的预训练工作,该模型在性能上强于所有参测的开源权重模型。

MAI-Base-2 总参数规模达 2.8T,活跃参数规模 80B,在 6000 个 NVIDIA GB200 GPU 上历经 38 天训练而成。在整个训练过程中,该模型的平均浮点算力利用率为 21%,有效吞吐量为 89%。
微软表示,MAI-Base-2 的预训练算力效率是 DeepSeek-V4-Pro-Base 的 4 至 12 倍,并把成功归因于三项举措:科学规模化、模型与基础设施协同设计以及数据规模化。
在完善 MAI-Base-2 的同时,这家科技巨头已经启动下一代模型 MAI-Base-3 的准备工作。
原创文章,作者:好奇宝宝,如若转载,请注明出处:https://www.kejixun.co/article/764913.html