TrueFoundry，这是一家由一群前Meta工程师创办的初创公司，旨在帮助企业大规模部署AI系统，近日在英特尔资本（Intel Capital）领投下获得了1900万美元的新融资。
随着2022年11月ChatGPT的发布以及生成式人工智能（GenAI）的兴起，各种规模的企业都在探索拥抱AI的方式。然而，GenAI依赖大型语言模型来提供智能（即效率），这需要大量的计算能力。并非所有企业都能享有访问数百或数千个GPU的优势，因此GPU优化至关重要。此外，企业需要尝试多种模型，以找到最适合其用例的方案，并对现有模型进行微调，使AI系统与其业务运营相关联。
TrueFoundry通过其以平台即服务（PaaS）模式提供的软件解决了上述所有问题，目标用户是全栈数据科学家。它提供了自动扩展、主动维护、集中式访问控制和实时监控等功能，以简化端到端的AI部署流程。
TrueFoundry由前Meta工程师Nikunj Bajaj和Abhishek Choudhary，以及他们的印度理工学院哈格普尔分校（IIT Kharagpur）同届同学Anuraag Gutgutia于2021年6月创立。该公司最初提供跨云原生软件，以加速机器学习部署。然而，随着2023年生成式AI成为主流，该初创公司对系统进行了修改，以支持生成式AI功能。
“以前，数据科学家只负责处理模型并进行实验，而大量的部署工作则交给机器学习工程师。通过我们的系统，我们赋能数据科学家亲自构建整个复杂的系统，并在将其移交给平台团队进行最终部署之前，对其进行规模化测试，”Gutgutia在一次独家采访中说道。
这家初创公司提供一种称为自动驾驶系统的软件解决方案，该系统利用AI分析日志和指标，通过调整GPU使用量和修复内存需求来帮助扩展AI应用。
Gutgutia告诉TechCrunch，在使用自动驾驶系统的过程中，TrueFoundry的一家客户仅凭借两人小团队，便实现了每秒处理1000万次请求的能力。
目前，TrueFoundry在全球拥有30家付费客户，同时还有“大量”用户访问其开源RAG框架进行实验。在这些客户中，GPU巨头英伟达（Nvidia）使用该软件开发和优化其GPU集群的智能体。医疗科技公司ResMed也使用TrueFoundry的产品来开发内部AI平台。同样，西门子医疗（Siemens Healthineers）、Automation Anywhere、Games24x7和Whatfix也是其客户。
该初创公司使用Kubernetes架构了其软件，使其具备多云就绪能力，并与所有主要云平台兼容，包括AWS、Google Cloud Platform和Azure等。此外，企业还可以将平台本地化部署在自有数据中心。
Bajaj表示，使用TrueFoundry的企业在两个月内构建并推出了内部AI平台，并在四个月内实现了投资回报，而行业平均时间为14个月。Gutgutia补充称，该初创企业为客户降低了约40-50%的基础设施支出成本，同时将部署速度提升了10倍，无论客户是在开发智能体（agent）、RAG、复杂的深度学习模型还是微调模型。
云厂商已开始提供自己的软件以简化AI模型的构建和部署，例如Amazon的SageMaker和Google Cloud的Vertex。尽管如此，Gutgutia告诉TechCrunch，TrueFoundry的解决方案仍然具有相关性，因为它有助于云提供商“加速计算资源的使用”，加快AI应用的市场投放时间，并降低其总体成本。
这轮全股权A轮融资得到了Eniac Ventures、Peak XV Partners和Jump Capital的参与，以及包括Gokul Rajaram、Mohit Aron和Cyan Banister在内的天使投资者的支持。
该初创企业将利用这笔资金，将其团队从印度的45人扩展到在美国开展市场拓展工作，包括销售、客户成功和产品营销等职位。它还计划投资于合作伙伴关系，尤其是与云厂商的合作，并正在进入主要云市场，首先入驻AWS Marketplace。
此外，TrueFoundry还计划推出其AI智能体，以帮助推荐合适的资源并实现自动扩缩容及故障排查。
随着这笔新资金的注入，TrueFoundry累计融资额已超过2100万美元，其中包括2022年9月在Peak XV（当时名为Sequoia India）旗下Surge基金领投的种子轮中获得的230万美元。
该初创企业去年将其客户基础扩大了四倍，并为ML工作负载在客户处部署了超过1,000个集群。Gutgutia还告诉TechCrunch，其年度经常性收入（ARR）已超过150万美元，并计划在今年加倍投入。