AI推理云初创公司General Compute获4亿美元贷款，首笔专用推理芯片抵押交易落地
AI推理云初创公司General Compute从科技投资公司Upper90获得了一笔4亿美元的贷款。这可能是第一笔以专用推理芯片作为抵押品的交易——这些芯片专为快速高效地运行已训练好的AI模型而设计，而非用于最初构建模型的更昂贵的芯片。
这笔融资是市场最新发出的信号，表明投资者正对AI工具和代币的价格担忧做出反应，转而投资能够以更低成本运行开源模型的基础设施，而非前沿实验室推出的最新大型语言模型（LLM）。
由首席执行官芬恩·普克洛夫斯基和首席技术官杰森·古迪森创立的General Compute在5月完成了1500万美元的种子轮融资，旨在围绕SambaNova（一家由英特尔支持的芯片制造商）的硅片构建推理新云。（新云专为AI工作负载而设计，不同于AWS或Azure等传统超大规模厂商提供的通用基础设施。）
该公司的SN50芯片专为推理任务设计。它们功耗低，无需昂贵的液冷系统，因此比GPU能更快部署到更多样化的数据中心中。General Compute表示，新芯片的推理速度将比基于GPU的云快16倍。
挑战在于获取大量这类芯片，尤其是当你是一家全新的公司时。
Upper90联合创始人兼首席执行官Billy Libby是一位前高盛量化交易员，他为此准备了一套策略：2021年，他的公司为能源导向型数据中心初创公司Crusoe的GPU采购提供了融资，他认为这是首笔以先进芯片价值为抵押的贷款。
当时，传统银行因GPU折旧的风险和不确定性而回避此类交易。但随着CoreWeave将芯片抵押贷款发展为一种商业模式，并以此为基础实现轰动一时的IPO，这类融资已变得普遍。
Libby告诉TechCrunch：“当我们作为首批机构为Nvidia GPU提供融资时，市场效率低下。我们可以作为早期参与者整合资源，并获得相应的风险补偿。”
如今，GPU已得到相对充分的理解且或许被过度购买，Upper90正转向像General Compute这样的公司，以搭乘AI繁荣的下一波浪潮。Libby表示：“我们认为开源模型将至关重要，因此我们在去年寻找了一家专注于推理领域的参与者。”“并非每个人都需要超级计算机，但他们确实需要推理和AI。”
这一论点日益增强，为OpenRouter和Fireworks等提供开源模型访问权限的公司以巨大估值完成了新一轮融资。Kimi的K3等新模型已在编码基准测试中证明能够与Anthropic和OpenAI的最新发布版本相媲美。Groq和Cerebras等新芯片制造商也同时吸引了收购方和公开市场的关注。
General Compute能够绕过Nvidia生态系统获取芯片，其重要性与此类似。另一家AI基础设施公司TensorWave也在押注与AMD的合作。随着Nvidia替代方案的增多，未绑定Nvidia合约的计算提供商在提供高性价比推理服务方面可能占据优势。
Puklowski表示：“目前有一些芯片开始规模化应用，它们拥有惊人的总拥有成本（TCO），或者运行速度远超Nvidia，但买家并不多。”“通过与Upper90合作，这不仅仅是‘一家酷酷的初创公司拿到钱去买算力’这么简单。这是资本开始自我组织、以及Nvidia垄断地位逐渐碎片化的首个信号。”