像 GPT 这样的大型语言模型的成功，激发了开发者们竞相开发 AI 驱动应用的热情。然而，构建 AI 服务颇具挑战，尤其是由于目前熟练开发者短缺，难以满足日益增长的需求。
这正是 Chaoyu Yang，这位数据巨头 Databricks 的早期软件工程师，所扮演的角色。他与联合创始人共同构建了 AI 开发框架 BentoML，该框架刚刚宣布完成种子轮融资。
AI 应用开发面临基础设施瓶颈
Yang 在接受 TechCrunch 采访时解释说，当今的 AI 服务通常建立在多个机器学习模型之上，这使得它们的管理和运营变得复杂。许多进入这一领域的程序员来自全栈或应用开发背景，这意味着他们往往缺乏构建所需 AI 基础设施的技能，从而导致开发周期延长。
Yang 表示，例如微软的 Visual ChatGPT 这样的演示 AI 应用——这是对该聊天机器人的升级，使其能够根据文本和图片提示生成响应——至少需要三到六个月才能准备好投入生产环境。
虽然像微软这样的科技巨头拥有雄厚的财力和人力来训练 AI 模型并将其应用于现实世界，但在 Yang 看来，小型企业正在收集“能从 AI 中极大受益的宝贵数据”，却“缺乏构建开发基础设施的资源”。
BentoML：打造 AI 领域的 Vercel
BentoML 提供高级 API，抽象化了在云端运行 AI 模型所需的底层基础设施细节。它属于像 SageMaker 这样的工具阵营，旨在为开发 AI 服务铺平道路；作为一种所谓的 AI 应用框架，它是一套让构建、部署和扩展 AI 应用变得更简单的工具集，就像人们用来建造房屋的施工工具箱。
具体而言，BentoML 的目标用户包括训练 AI 模型的数据科学家、管理其生命周期的 DevOps 工程师，以及基于这些模型实际构建应用程序的开发者。
Yang 表示，借助 BentoML，开发者可以在短短两天内使 Visual ChatGPT 具备可扩展性和成本效益，从而用于生产环境。用户还使用该框架在云端运行艺术生成器 Stable Diffusion 和开源 LLMs。
Yang 将他的公司与 Vercel 进行比较，后者专注于服务前端开发者，估值曾超过 10 亿美元。他表示，BentoML 旨在成为 AI 领域的 Vercel。
从模型训练转向产品工程
尽管杨预测人工智能最终会变得更加适合生产环境，但他承认自己没想到 AI 应用浪潮会来得这么快。这位创始人预计，未来 AI 应用开发者将占该平台用户的 90% 以上。
“如果一年前你问我，我可能会说大约 90% 的公司都会训练自己的模型，但最近出现的基础模型非常强大，即使面对从未见过的数据集，它们也能表现出色，”他说。
“开发人员现在无需专注于模型训练，只需进行微调（finetuning）和产品工程开发，但由于缺乏专注于 AI 的开发者，这本身就成了一个瓶颈。”
社区增长与融资进展
BentoML 于 2019 年开源，随后向企业客户推出了自托管 SaaS 版本。它通过其开源社区有机地获取用户，过去一年中会员数量翻了两番，超过 3,000 人，日本 messaging 巨头 Line 和韩国互联网 conglomerate Naver 都是其早期采用者。
杨拒绝透露公司的营收规模。
投资者正在关注 BentoML 在开发者社区中的发展势头。这家初创公司最近完成了由 DCM Ventures 领投的种子轮融资，Bow Capital 也参与了投资。DCM 的普通合伙人 Hurst Lin 在融资完成后加入了 BentoML 的董事会。
杨承认，虽然火爆的 AI 市场为 BentoML 带来了利好，但快速变化的行业也让团队在平衡短期和长期目标方面变得棘手。
“你可能需要构建一些顺应当前趋势的产品，但从长远来看，我们当然希望建立自己的护城河。问题在于我们如何在两者之间合理分配时间和人力资源。”
更新（2023年6月28日）：本文此前称 Line 是一家韩国公司。实际上，Line 总部位于日本，是日本软银与韩国 Naver 合资成立的 Z Holdings 的子公司。
Vercel 完成 1.5 亿美元 D 轮融资，致力于打造端到端的前端开发平台