AI推理初创企业转向自购GPU应对算力紧缺
据《信息报》报道,因租赁算力资源日益紧张,部分依靠转售云资源起家的AI推理初创企业正转向自行采购英伟达GPU。Fal、Together及Baseten等企业均在采购之列。
当前,部分云服务商更倾向于服务拥有自有终端用户的客户,而非转售商。有消息称CoreWeave在推出自有推理服务后停止向Baseten供应算力,但Baseten方面对此予以否认。
在资金与硬件策略上,各企业呈现分化态势。Fal本月完成16.5亿美元融资,计划将部分资金用于购置数据中心芯片,并有意进一步借款以扩充硬件储备。相比之下,估值高达175亿美元的Fireworks则明确表示,持有硬件属于商品化业务,目前暂无自购芯片计划。

