大多数开发人工智能模型的公司，尤其是像ChatGPT、GPT-4 Turbo和Stable Diffusion这样的生成式AI模型，都严重依赖GPU。GPU能够并行执行大量计算，使其非常适合训练及运行当今最强大的人工智能。
但GPU的数量根本不够分配。
据报道，Nvidia性能最好的人工智能芯片已售罄至2024年。芯片制造商台积电（TSMC）的首席执行官最近对此持更悲观态度，他表示Nvidia的AI GPU短缺——以及Nvidia竞争对手的芯片短缺——可能会持续到2025年。
因此，微软正走自己的路。
在今天的2023 Ignite大会上，微软发布了两款定制设计的、内部研发且面向数据中心的AI芯片：Azure Maia 100 AI加速器和Azure Cobalt 100 CPU。Maia 100可用于训练和运行AI模型，而Cobalt 100则旨在运行通用工作负载。
“微软正在构建支持AI创新的基础设施，我们正在重新构想数据中心的各个方面以满足客户需求。”微软云和AI集团执行副总裁Scott Guthrie在本周早些时候提供给TechCrunch的新闻稿中表示，“以我们运营的规模，优化和整合基础设施堆栈的每一层对于最大化性能、多样化供应链以及为客户提供基础设施选择至关重要。”
微软表示，Maia 100和Cobalt 100将于明年年初开始在Azure数据中心部署——最初将用于支持Microsoft AI服务，例如Copilot（微软的生成式AI产品系列）以及Azure OpenAI Service（该公司为OpenAI模型提供的完全托管服务）。虽然目前还只是起步阶段，但微软保证这些芯片并非一次性产品，第二代Maia和Cobalt硬件已经在开发中。
从头构建
微软创建定制AI芯片并不令人意外，这一进程早已启动并公开报道。
今年四月，《The Information》报道称，微软自2019年以来一直在秘密研发AI芯片，该项目代号为“雅典娜”（Athena）。更早之前，在2020年，《Bloomberg》披露微软已设计了一系列基于ARM架构的芯片，用于数据中心和其他设备，包括消费级硬件（例如Surface Pro）。
但此次在Ignite大会上发布的消息，让人们得以最全面地了解微软的半导体业务。
首先登场的是Maia 100。
微软表示，Maia 100是一款采用5纳米工艺制造、包含1050亿个晶体管的芯片，专为“Azure硬件堆栈”设计，旨在“实现硬件利用率的绝对最大化”。该公司承诺，Maia 100将为运行在Microsoft Azure上的一些最大规模的内部AI（以及生成式AI）工作负载提供动力，包括Bing、Microsoft 365和Azure OpenAI Service的工作负载（但目前尚不包括公共云客户）。
不过，这里有很多专业术语。它们究竟意味着什么？坦白说，从微软在其新闻材料中提供的细节来看，这并不完全清楚。事实上，甚至不清楚Maia 100属于哪种类型的芯片；微软选择暂时对架构保密。
在另一项令人失望的消息中，微软没有将Maia 100提交给MLCommons等公开基准测试套件进行测试，因此无法将该芯片的性能与其他现有的AI训练芯片（如Google的TPU、Amazon的Tranium和Meta的MTIA）进行比较。如今木已成舟，希望这一情况能很快得到改变。
微软愿意披露的一个有趣事实是，其亲密的AI合作伙伴兼投资对象OpenAI曾透露，对Maia 100的设计提供了反馈。
这是两家公司在计算基础设施合作上的演进。
2020年，OpenAI与微软合作共同设计了一款托管在Azure上的“AI超级计算机”——一个包含超过28.5万个处理器核心和1万块显卡的集群。此后，OpenAI和微软构建了多个由Azure驱动的多台超级计算机系统，专用于其研究、API和产品，以训练OpenAI的模型。
“自与微软首次合作以来，我们一直在各个层面协作设计Azure的AI基础设施，以满足我们的模型和前所未有的训练需求，”Altman在一篇预设声明中表示。“当微软首次分享他们的Maia芯片设计时，我们感到非常兴奋，并且我们一起用我们的模型对其进行了完善和测试。Azure端到端的AI架构，现在通过Maia优化到了硅片级别，为训练更强大的模型并使这些模型对客户来说更便宜铺平了道路。”
我要求微软澄清，一位发言人表示：“作为OpenAI的独家云提供商，我们密切合作以确保我们的基础设施满足他们当前和未来的需求。他们为Maia提供了宝贵的测试和反馈，我们将在开发我们微软第一方AI硅世代的过程中继续咨询他们的路线图。”
我们还知道Maia 100的物理封装比典型的GPU要大。
微软表示，他们必须从头开始构建容纳Maia 100芯片的数据中心服务器机架，目标是同时容纳芯片以及必要的电源和网络电缆。Maia 100还需要一种独特的基于液体的冷却解决方案，因为这些芯片消耗的功率高于平均水平，而微软的数据中心并未为大液体冷水机组进行设计。
“冷液体从[‘副手’]流向附着在Maia 100芯片表面的冷板，”一篇由微软撰写的文章解释道。“每个板都有通道，液体在其中循环以吸收和传输热量。然后流回副手，副手从液体中去除热量并将其送回机架以吸收更多热量，如此循环。”
与Maia 100类似，微软在Ignite发布会上对Cobalt 100的大多数技术细节讳莫如深，仅透露Cobalt 100是一款基于Arm Neoverse CSS架构打造的节能型128核芯片，“旨在为云原生应用提供更高的效率和性能。”
基于Arm的AI推理芯片曾成为一种趋势，而微软如今正在延续这一趋势。亚马逊最新推出的用于推理的数据中心芯片Graviton3E（该公司另一款推理芯片为Inferentia）采用了Arm架构；与此同时，谷歌据称正在准备开发自己的定制Arm服务器芯片。
“架构和实施是以电力效率为设计目标的，”硬件产品开发高级副总裁Wes McCullough在一份声明中评论Cobalt时表示。“我们正在最大限度地利用硅片上的晶体管。将这些效率提升乘以所有数据中心中的服务器，加起来就是一个相当大的数字。”
微软的一位发言人表示，Cobalt 100将在未来一年为客户的新虚拟机提供动力。
但为什么呢？
所以微软制造了AI芯片。但为什么呢？动机是什么？
这里有公司的官方说法——“优化[Azure]技术栈的每一层”，微软今天发布的一篇博客文章写道。但言外之意是，微软正努力在激烈的AI主导权竞争中保持竞争力并注重成本效益。
GPU的稀缺性和不可或缺性使得包括微软在内的大大小小的AI公司都受制于芯片供应商。今年5月，英伟达达到了超过1万亿美元的市场价值，这主要得益于其AI芯片及相关收入（在其最近一个财季中，该收入为135亿美元），使其成为历史上第六家达成此成就的科技巨头。即使只拥有部分安装基础，英伟达的主要竞争对手AMD预计，仅其GPU数据中心收入在2024年就将突破20亿美元。
微软无疑对这种安排感到不满。OpenAI肯定也是如此——而正是OpenAI的技术驱动着微软如今许多旗舰级AI产品、应用和服务。
今年夏天在一次与开发者的闭门会议上，奥特曼承认GPU短缺和成本高昂阻碍了OpenAI的进展；该公司本周刚因容量问题被迫暂停ChatGPT的注册。为了强调这一点，奥特曼在本周接受《金融时报》采访时表示，他“希望”在过去四年中已向OpenAI投资超过100亿美元的微软增加投资，以帮助支付即将到来的“巨额”模型训练成本。
微软今年早些时候已警告股东，如果无法为其数据中心获得足够的芯片，Azure AI服务可能会中断。在此期间，该公司被迫采取激进措施，例如通过退款激励Azure客户放弃未使用的GPU预留资源，并承诺向CoreWeave等第三方云GPU提供商投入数十亿美元。
如果OpenAI如传闻那样设计自己的AI芯片，可能会导致双方产生矛盾。但微软可能认为，内部硬件带来的潜在成本节约以及在云市场的竞争力足以抵消提前防范盟友所带来的风险。
微软的一款旗舰AI产品、代码生成工具GitHub Copilot据报道每月每位用户成本高达80美元，部分原因在于模型推理成本。如果情况没有好转，投资公司瑞银认为微软明年将在生成AI收入流方面面临困难。
当然，硬件研发充满挑战，微软能否成功推出AI芯片，在其他厂商失败的地方取得成功，目前尚无保证。
Meta早期的定制AI芯片努力饱受问题困扰，导致该公司放弃了一些实验性硬件。与此同时，谷歌未能跟上对其TPU的需求，《连线》报道指出，并且在其最新一代芯片的设计上遇到了问题。
不过，微软正在全力以赴地尝试，而且它充满了信心。
“微软通过这项芯片工作，将创新进一步深入到底层，以确保客户在Azure上的工作负载拥有光明的未来，并优先考虑性能、能效和成本。”微软Azure硬件系统和基础设施团队的合作伙伴项目经理帕特·斯特门（Pat Stemen）在今天的一篇博客文章中写道。“我们有意选择这一创新路径，以便我们的客户能够在今天和未来获得他们在Azure上所能拥有的最佳体验……我们正努力为客户提供最全面的选项组合，无论是出于性能、成本还是他们关心的其他维度考虑。”