Modular是一家致力于创建AI系统开发与优化平台的公司，在由General Catalyst领投、GV（Google Ventures）、SV Angel、Greylock和Factory参与的融资轮次中，获得1亿美元资金。
CEO Chris Lattner表示，此轮融资使Modular总融资金额达1.3亿美元。所得资金将用于产品扩展、硬件支持以及拓展编程语言Mojo。
Lattner在接受TechCrunch邮件采访时表示：“由于我们处于需要高度专业化知识的深技术领域，计划利用这笔资金支持团队增长。”“资金不会主要用于AI计算资源，而是用于改进核心产品并扩大规模，以满足惊人的客户需求。”
前谷歌员工Lattner于2022年与谷歌大脑研究部门前同事Tim Davis共同创立了总部位于帕洛阿尔托的Modular。两人认为，过于复杂且碎片化的技术基础设施阻碍了AI发展，因此创立Modular专注于消除大规模构建和维护AI系统的复杂性。
Modular提供了一款旨在提升AI模型在CPU上（及今年晚些时候在GPU上）推理性能并实现成本节约的引擎。该引擎目前处于封闭预览阶段，兼容现有云环境、Google TensorFlow和Meta PyTorch等机器学习框架及其他AI加速器引擎。据Lattner称，它允许开发者导入训练好的模型，使其运行速度比原生框架快多达7.5倍。
Modular另一款旗舰产品Mojo是一门编程语言，旨在结合Python的易用性与缓存、自适应编译技术和元编程等功能。目前Mojo已向“数百名”早期采用者开放预览，Modular计划于下月初正式发布通用版本。
Lattner表示：“我们的开发者平台使客户及全球开发者能够整合AI技术栈，更快将创新投入生产，并从AI投资中实现更大价值。”“我们通过解决困扰AI技术栈的碎片化问题来应对当前阻碍AI发展的复杂性，从AI软件与AI硬件交汇之处着手。”
野心很大吗？也许吧。但拥有约70名员工的Modular所提出的任何计划都在可能性范围之内。
Deci获得Intel支持，是提供技术以使训练好的AI模型更高效且更具性能的初创公司之一；该类别中的另一家公司是OctoML，它会自动为各种不同硬件优化、基准测试和打包模型。
无论如何，正如Lattner所指出的，AI需求正迅速逼近可持续性极限，这使得任何能减少计算需求的科技都极具吸引力。如今流行的生成式AI模型比旧版大10到100倍，正如《华尔街日报》最近一篇文章指出，目前大部分公共云基础设施并非为运行这些系统而构建，至少不是在这个规模下。
这已经产生了影响。微软在其财报中警告称，由于缺乏运行AI所需的服务器硬件，公司正面临严重短缺，可能导致服务中断。与此同时，对AI推理硬件（主要是GPU）的巨大需求已推动Nvidia市值达到1万亿美元。但Nvidia已成为自身成功的受害者；据报道，该公司表现最佳的AI芯片已售罄直至2024年。
出于这些原因，根据S&P Global 2023年的一项调查，顶级公司中超过一半的AI决策者表示在部署最新AI工具时面临障碍。
Lattner表示：“当今AI程序所需的计算能力巨大，在当前模式下不可持续。”“我们已经看到算力不足以满足需求的案例。成本正在飙升，只有大型强大的科技公司才有资源构建这类解决方案。Modular解决了这个问题，将使AI产品和服务以更低廉、更可持续且更易获取的方式为企业提供服务。”
这是合理的。但我对Modular能够推动其新编程语言Mojo广泛采用持保留态度，因为Python在机器学习社区中根深蒂固。根据一项调查，截至2020年，87%的数据科学家定期使用Python。
但Lattner认为，Mojo的优势将推动其增长。
他说：“人们对AI应用的一个常见误解是，它们不仅仅是一个高性能加速问题。”“今天的AI是一个端到端的数据问题，涉及数据的加载和转换、预处理、后处理以及网络通信。这些辅助任务通常由Python和C++完成，而只有Modular采用Mojo的方法才能将所有这些组件整合到一个统一的技术基础中，同时不牺牲性能和可扩展性。”
他可能说得对。Lattner声称，自今年5月初Modular发布产品主题演讲以来，社区在四个月内已发展到超过12万名开发者，且“领先科技公司”已经开始使用该初创公司的基础设施，等待名单上已有30,000人。
他表示：“Modular最重要的敌人是复杂性：即仅在特殊情况下才有效的软件层复杂性、与特定硬件绑定的软件复杂性，以及由高性能加速器底层特性所驱动的复杂性。”“正是使AI成为如此强大且具有变革性技术的原因，导致其规模化需要付出巨大努力，需要大量人才投入构建定制解决方案，并需要强大的计算能力来提供一致的结果。Modular引擎和Mojo共同实现了公平竞争，而这仅仅是个开始。”
而至少在融资方面，这是一个多么令人鼓舞的开端。