大数跨境

微软宣布推出用于AI推理的强大新芯片

微软宣布推出用于AI推理的强大新芯片 海外洞察
2026-01-26
2
导读:Maia 配备了超过 1000 亿个晶体管,在 4 位精度下可提供超过 10 Petaflops 的性能,在 8 位精度下可提供约 5 Petaflops 的性能——相较于其前代产品实现了显著提升。

微软宣布推出最新芯片Maia 200,这是一款专为扩展AI推理设计的硅基主力芯片。

作为2023年Maia 100的迭代产品,Maia 200在技术上进行了优化,能以更快速度、更高效率运行强大AI模型。该芯片配备超1000亿个晶体管,4位精度下性能超10 petaflops,8位精度下约5 petaflops,较前代显著提升。

推理指运行模型的计算过程(区别于训练)。随着AI公司日益成熟,推理成本在整体运营中占比攀升,业界正重新聚焦流程优化。

微软希望Maia 200助力这一优化进程,降低AI业务运行干扰与功耗。公司表示:“实际应用中,单个Maia 200节点可轻松运行当今最大模型,并为未来更大规模模型预留充足空间。”

Maia 200也是科技巨头自研芯片、减少对英伟达依赖趋势的一部分。例如,谷歌通过云服务提供TPU(张量处理单元)算力;亚马逊自有AI加速芯片Trainium已于去年12月推出最新版Trainium3。这些方案可分担原属英伟达GPU的计算任务,从而降低整体硬件成本。

微软正以Maia参与竞争。据周一新闻稿,Maia FP4性能是第三代Amazon Trainium芯片的三倍,FP8性能则超越Google第七代TPU。

目前,Maia已全力支撑微软Superintelligence团队的AI模型及Copilot聊天机器人运营。截至周一,公司已邀请开发者、学术界人士及前沿AI实验室等多方,在其工作负载中使用Maia 200软件开发工具包(SDK)。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k