大数跨境

随着企业寻求更便宜的GPU访问途径,替代性云服务正蓬勃发展

随着企业寻求更便宜的GPU访问途径,替代性云服务正蓬勃发展 海外洞察
2024-05-05
0
导读:对替代性云的需求从未如此旺盛。典型案例就是CoreWeave,这家GPU基础设施提供商最初是一家加密货币公司

对替代云的需求从未如此强烈。

融资热潮背后的算力争夺

以CoreWeave为例,这家GPU基础设施提供商最初从事加密货币挖矿业务,本周从Coatue、Fidelity和Altimeter Capital等投资者处获得11亿美元新融资。此轮投后估值达190亿美元,累计债务和股权融资总额达50亿美元——对于一家成立不足十年的公司而言,成绩惊人。

不仅是CoreWeave。Lambda Labs提供云端托管GPU实例,4月初获5亿美元“特殊目的融资工具”支持,此前刚完成3.2亿美元C轮融资;由Jed McCaleb支持的非营利组织Voltage Park去年10月宣布投资5亿美元建设GPU数据中心;Together AI作为兼具生成式AI研究的云端GPU服务商,3月完成Salesforce领投的1.06亿美元融资。

为何资本涌入替代云?

答案正是生成式AI。随着热潮持续,大规模运行和训练模型的硬件需求激增。GPU凭借数千核心并行处理线性代数方程的能力,成为训练、微调及推理模型的自然选择。

但自购GPU成本高昂,多数开发者转向云服务。AWS、Google Cloud和Microsoft Azure虽提供优化实例,但在特定场景下,替代云更具性价比与可用性优势。

例如,CoreWeave上Nvidia A100 40GB显卡租金为每小时2.39美元(月均1,200美元);Azure同规格为每小时3.40美元(月均2,482美元);Google Cloud则为每小时3.67美元(月均2,682美元)。鉴于生成式AI工作负载常在GPU集群执行,成本差异会迅速扩大。

巨头入局与市场格局重塑

Gartner副总裁Sid Nag指出,CoreWeave等公司属于“GPU即服务”专业云市场,为超大规模厂商提供了Nvidia GPU的另一渠道。大型科技公司亦因算力挑战转向替代云:微软去年6月与CoreWeave签署数十亿美元协议,保障OpenAI训练算力;Nvidia视此为理想趋势,并向部分替代云提供GPU优先访问权。

Forrester分析师Lee Sustar认为,替代云成功在于无传统基础设施“包袱”。相比超大规模厂商需巨额投资非创收服务,挑战者可专注高端AI服务,规避总体投资负担。

增长可持续性与未来挑战

Sustar对持续性持审慎态度,认为扩张取决于能否持续高容量上线低价GPU。随着Google(TPU)、Microsoft(Maia/Cobalt)和AWS(Trainium/Inferentia/Graviton)加大定制硬件投入,价格竞争将更激烈。

此外,并非所有工作负载都需GPU,时间不敏感任务可用CPU替代,尽管速度较慢。若生成式AI泡沫破裂,可能导致GPU积压与需求萎缩。但短期内前景乐观,新兴云服务商将持续涌入。

Sustar强调:“GPU云初创企业将为多云架构客户带来充分竞争。只要具备可信团队、财务支持及即时可用资源,这类客户乐于尝试新平台。”

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k