™微软 MAI-Base-2 完成预训练：2 万亿参数全 MoE 架构，1.6 万张 GB200 训练 38 天
微软 AI 部门 10 月 15 日披露完成基座模型 MAI-Base-2 的预训练：2 万亿参数的混合专家架构，在 1.6 万张英伟达 GB200 上训练 38 天；微软自称其效率超过当前最强的开源基座模型。
发生了什么
据 SiliconANGLE 10 月 16 日报道，微软 AI 研究部门周四（10 月 15 日）披露了基座模型 MAI-Base-2。与上一代混合 MoE 与 FFN 层的设计不同，MAI-Base-2 全部采用 MoE 层：总参数 2 万亿，每次推理激活其中 800 亿。训练在 1.6 万张英伟达 GB200 上进行，耗时 38 天，训练数据达 50 万亿 token，其中约五分之一用于训练模型集成的视觉模块，使其更擅长理解科学图表。
微软称，MAI-Base-2 在包含科学、编程与数学题的内部基准上，超过了当前市面上最强的开源基座模型 DeepSeek-V4-Pro-Base，且在部分指标上硬件效率最高达 12 倍。以上均为微软自报数据，未经第三方独立验证。训练过程中，微软采用梯度裁剪防止训练中断，并使用开源优化器 Muon 加速训练流程。
MAI-Base-2 目前仍在后训练阶段。微软表示将通过 Azure 向「可信合作伙伴」授权模型权重，不公开发放；同时用它驱动新一系列模型，更多信息将在近期公布，MAI-Base-3 已在筹备中。
关键事实
- 2 万亿参数 MoE：全 MoE 层架构，总参数 2 万亿，每次推理激活 800 亿参数
- 1.6 万张 GB200 × 38 天：训练数据 50 万亿 token，约五分之一用于集成视觉模块
- 微软自称超最强开源基座：内部基准超过 DeepSeek-V4-Pro-Base，部分指标硬件效率最高达 12 倍（自报，未经第三方验证）
- 仍在后训练：权重不公开发放，通过 Azure 向「可信合作伙伴」授权
- MAI-Base-3 在筹备：微软将用 MAI-Base-2 驱动新一系列模型
为什么重要
微软首次公开万亿级自研基座模型的完整训练账本，把「训练效率」变成新的竞争维度；2 万亿参数自研路线意味着微软在前沿模型上不再只依赖 OpenAI。