微软宣布推出最新芯片Maia 200,这是一款专为扩展AI推理设计的硅基主力芯片。
作为2023年Maia 100的迭代产品,Maia 200在技术上进行了优化,能以更快速度、更高效率运行强大AI模型。该芯片配备超1000亿个晶体管,4位精度下性能超10 petaflops,8位精度下约5 petaflops,较前代显著提升。
推理指运行模型的计算过程(区别于训练)。随着AI公司日益成熟,推理成本在整体运营中占比攀升,业界正重新聚焦流程优化。
微软希望Maia 200助力这一优化进程,降低AI业务运行干扰与功耗。公司表示:“实际应用中,单个Maia 200节点可轻松运行当今最大模型,并为未来更大规模模型预留充足空间。”
Maia 200也是科技巨头自研芯片、减少对英伟达依赖趋势的一部分。例如,谷歌通过云服务提供TPU(张量处理单元)算力;亚马逊自有AI加速芯片Trainium已于去年12月推出最新版Trainium3。这些方案可分担原属英伟达GPU的计算任务,从而降低整体硬件成本。
微软正以Maia参与竞争。据周一新闻稿,Maia FP4性能是第三代Amazon Trainium芯片的三倍,FP8性能则超越Google第七代TPU。
目前,Maia已全力支撑微软Superintelligence团队的AI模型及Copilot聊天机器人运营。截至周一,公司已邀请开发者、学术界人士及前沿AI实验室等多方,在其工作负载中使用Maia 200软件开发工具包(SDK)。

