
由麻省理工学院(MIT)CSAIL前研究人员创立的Liquid AI,正式发布首款多模态人工智能模型——Liquid Foundation Models(LFMs),为AI领域注入新动力。
LFM 核心规格与架构创新
LFM系列提供三种尺寸:LFM 1.3B、LFM 3B及LFM 40B MoE。其中最大的LFM 40B MoE采用混合专家(MoE)架构。与传统生成式AI不同,LFM摒弃Transformer架构,旨在从第一性原理出发构建超越GPT的基础模型。
性能表现与内存效率优势
在性能上,LFM优于Meta Llama 3.1-8B和Microsoft Phi-3.5 3.8B等Transformer模型。数据显示,LFM 1.3B在包括STEM领域在内的57项MMLU基准测试中,显著超越Llama 3.2-1.2B和Phi-1.5,成为首个非GPT架构性能大幅领先Transformer模型的案例。
所有LFM均针对内存效率优化。例如,LFM-3B仅需16GB内存即可达到SOTA性能,而同类Llama-3.2-3B需超48GB。
技术原理与应用场景
LFM基于动态系统与信号处理理论构建计算单元,可对视频、音频、文本及时间序列等顺序数据建模。其核心沿用CSAIL研发的Liquid Neural Networks(LNNs),通过创新数学公式使神经元更高效自适应,推理时支持实时调整并高效处理多达100万token,且无传统模型的计算开销。
图表显示,随着上下文长度增加,LFM-3B在推理内存占用上显著优于Gemma-2、Phi-3及Llama-3.2,特别适合文档分析与聊天机器人应用。凭借多模态能力,LFM可服务于金融、生物技术及消费电子等行业。
目前,LFM已适配NVIDIA、AMD、Apple、Qualcomm及Cerebras硬件。预览版暂未开源,用户可通过Liquid推理游乐场、Lambda Chat或Perplexity AI体验。

