AI基础设施领域正浮现出一种趋势：流行的开源工具正在转变为获得风险投资支持、估值达数亿美元的初创公司。
最新的例子是RadixArk，它是SGLang背后的商业公司；SGLang是一款日益流行的工具，可帮助AI模型运行得更快且成本更低。据两位知情人士透露，RadixArk在由Accel领投的一轮融资中估值约为4亿美元。对于一家去年8月才刚刚宣布成立的初创公司来说，这是一笔可观的金额。TechCrunch无法确认该轮融资的具体规模。
这一消息传来之际，负责维护SGLang的部分团队成员已转向这家新成立的商业初创公司。SGLang被xAI和Cursor等公司用于加速AI模型训练。RadixArk最初于2023年在Databricks联合创始人Ion Stoica所在的加州大学伯克利分校实验室以SGLang的形式诞生。知情人士称，该初创公司此前已从包括英特尔首席执行官Lip-Bu Tan在内的投资者那里获得了天使投资。
SGLang的关键贡献者、前xAI工程师Ying Sheng离开了埃隆·马斯克的AI初创公司，成为RadixArk的联合创始人兼首席执行官。Sheng此前曾在Databricks担任研究科学家。RadixArk的Ying Sheng、Accel以及Lip-Bu Tan均未回应置评请求。
SGLang和RadixArk都专注于优化推理处理——本质上是在相同硬件上让模型运行得更快、更高效。与模型训练一起，推理构成了AI服务相关服务器成本的大部分。因此，能够优化这一流程的工具几乎可以立即带来巨大的节省。
从开源项目转型为资金充裕的初创公司并非RadixArk独有的做法。另一个更成熟的推理优化项目vLLM也实现了这一跨越。据Forbes上个月报道，这家新成立的公司已就融资展开讨论，计划筹集高达1.6亿美元的资金，估值约为10亿美元。三位熟悉该交易的知情人士告诉TechCrunch，Andreessen Horowitz正在主导对vLLM的投资，尽管该轮投资的最终金额仍有待观察。Andreessen Horowitz拒绝发表评论。vLLM联合创始人Simon Mo向TechCrunch发表声明称，关于此轮融资的信息“事实不准确”，但他拒绝具体说明哪些细节有误。
与SGLang类似，vLLM也是在Ion Stoica位于加州大学伯克利分校的实验室中孵化出来的。Stoica是加州大学伯克利分校的教授，也是Databricks以及其他多家知名初创公司的联合创始人。CRV的普通合伙人Brittany Walker告诉TechCrunch，几家大型科技公司已经使用vLLM运行其推理工作负载，而SGLang在过去六个月中也获得了显著的人气。她的公司并未投资这两家企业中的任何一家。
RadixArk继续将SGLang开发为开源AI模型引擎。该公司还在构建Miles，这是一个专为强化学习设计的框架，允许企业训练AI模型，使其随时间推移变得更加智能。一位熟悉该公司的知情人士告诉TechCrunch，虽然其大部分工具仍然免费，但RadixArk已开始对托管服务收取费用。
近期，为开发者提供推理基础设施的初创公司融资激增，凸显了推理层对AI持续的重要性。《华尔街日报》周二报道称，Baseten最近以50亿美元的估值获得了3亿美元融资。此举紧随竞争对手Fireworks AI的步伐，后者去年10月以40亿美元的估值筹集了2.5亿美元。