随着私营公司违约率攀升至9.2%以上,创多年新高,风险投资公司Lux Capital近日建议依赖AI的企业以书面形式确认算力容量承诺。Lux警告称,在金融不稳定性蔓延至AI供应链的背景下,仅靠口头协议已不足以规避风险。
然而,另一种选择正逐渐显现:完全摆脱对外部算力基础设施的依赖。直接在用户终端设备上运行的小型AI模型——无需数据中心、云服务商及交易对手风险——性能已提升至值得考量的水平。Multiverse Computing正是这一趋势的积极推动者。
这家西班牙初创公司此前相对低调,但随着市场对AI效率需求的激增,其关注度显著提升。在对OpenAI、Meta、DeepSeek和Mistral AI等主流实验室模型进行压缩后,Multiverse推出了展示其压缩技术能力的应用程序及API门户,为开发者提供了访问和使用这些高效模型的便捷网关。
CompactifAI:边缘AI的实践与局限
CompactifAI应用程序与其量子启发式压缩技术同名,是一款类似ChatGPT或Mistral Le Chat的AI聊天工具。其核心差异在于嵌入了名为Gilda的超小模型,支持本地离线运行。
对终端用户而言,这代表了边缘AI的典型应用:数据不出设备,无需联网。但前提是移动设备需具备充足的RAM和存储空间;若硬件不足(如部分旧款iPhone),应用将通过API自动切换至云端模型。该路由系统由Multiverse命名为Ash Nazg(致敬《指环王》魔戒铭文)自动管理。值得注意的是,一旦路由至云端,应用便失去了核心的隐私优势。
受限于上述条件,CompactifAI目前尚未达到大规模C端采用标准,过去一个月下载量不足5,000次(Sensor Tower数据)。但这或许并非其初衷。
面向企业的自助式API门户
Multiverse的真正目标客户是企业级用户。公司新推出的自助式API门户,允许开发者和企业直接访问压缩模型,无需经由AWS Marketplace中转。
首席执行官Enrique Lizaso表示:“CompactifAI API门户让开发者能够直接获取压缩模型,并拥有在生产环境中运行所需的透明度与控制权。”实时使用监控是该API的关键功能之一。除边缘部署优势外,降低计算成本也是企业将小型模型作为大型语言模型(LLM)替代方案的核心驱动力。
小型模型性能持续突破
小型模型的能力限制正在不断缩小。Mistral近期发布了Mistral Small 4,针对通用聊天、编码、智能体任务及推理进行了优化;同时推出Forge系统,支持企业根据用例容忍度构建包含小型模型在内的自定义模型。
Multiverse的最新成果也印证了这一趋势。其基于OpenAI开源模型gpt-oss-120b构建的压缩模型HyperNova 60B 2602,据称在响应速度和成本上均优于原始衍生模型。这一优势对于AI自主完成复杂多步骤编程任务的智能体编码工作流尤为关键。
将模型压缩至移动端可运行且保持实用性极具挑战。Apple Intelligence通过“端侧+云端”混合模式应对此问题,Multiverse虽也保留了云端路由选项,但其核心目标是证明Gilda等本地模型具备超越单纯节省成本的独特价值。
对于关键领域从业者,本地运行模型意味着更高的隐私性与韧性。更大的商业价值则在于解锁了无人机、卫星等无法稳定依赖网络连接场景下的AI嵌入应用。
目前,Multiverse已服务包括加拿大银行、博世(Bosch)和伊维尔德罗拉(Iberdrola)在内的全球100多家客户。在完成去年2.15亿美元B轮融资后,市场传闻该公司正寻求新一轮5亿欧元融资,估值有望超过15亿欧元,扩大客户群将是推动这一进程的关键助力。

