自去年底OpenAI发布ChatGPT以来,生成式AI和大语言模型成为热议话题。然而,大语言模型的运行通常依赖大量昂贵的GPU芯片。SambaNova今日推出新一代芯片SN40L,据称可大幅降低成本,并支持处理拥有5万亿参数的模型。
SambaNova虽不如Google、Microsoft或Amazon知名,但多年来一直深耕全栈AI解决方案(涵盖硬件与软件),累计融资超10亿美元,投资方包括Intel Capital、BlackRock及SoftBank Vision Fund等。此次发布的SN40L是其第四代自研定制AI芯片。
自研芯片:追求极致效率
公司创始人兼CEO Rodrigo Liang表示,自研芯片旨在掌控底层硬件以实现最大效率。随着全球转向资源密集型的大语言模型,这一策略愈发必要。“我们需要摒弃单纯堆砌芯片数量的蛮力模式,”Liang向TechCrunch透露,“SN40L专为超大型语言模型优化,致力于为企业赋能AI。”
性能跃升:30倍效率提升
Liang指出,新芯片通过减少所需数量,将运行效率提升了30倍。相比竞品需50-200块芯片才能运行万亿参数模型,SambaNova仅需8块即可完成。“以GPT-4级别的万亿参数模型为例,我们可在8个插槽内实现本地部署与完全优化,达到业界领先的准确率,”他强调。
全栈方案与数据主权
作为大胆主张的支撑,SambaNova提供构建AI应用的全栈软硬件解决方案。“我们的核心是创建AI资产,助您基于私有数据快速训练专属模型,”Liang解释道。他明确承诺,尽管SambaNova协助训练,但模型所有权归客户所有:“这是您的数据和模型。训练完成后,我们将永久所有权移交贵公司。”此外,通过多年订阅制提供软硬件服务,客户可获得更高的成本确定性。
据悉,全新SN40L芯片即日起可用,且与上一代产品保持完全向后兼容。

