SambaNova是一家AI芯片初创公司,迄今已筹集超11亿美元VC资金。该公司正瞄准OpenAI及其竞争对手,推出面向企业客户的新生成式AI产品。
Samba-1:模块化“专家组合”架构
SambaNova今日发布Samba-1,这是一个由AI驱动的系统,旨在处理文本重写、编码及语言翻译等任务。该架构被称为“专家组合”,即一组共计56个生成式开源AI模型。
SambaNova联合创始人兼CEO Rodrigo Liang表示,Samba-1允许企业对多种AI用例进行微调并加以解决,同时避免以临时方式实施AI系统带来的挑战。
Liang在接受TechCrunch采访时指出:“Samba-1完全模块化,使公司能够异步添加新模型,而无需放弃之前的投资。它具备迭代性、可扩展性和易于更新的特点,为客户在新模型集成时提供了调整空间。”
多模型路由与成本优势
Liang的表述颇具前景,但Samba-1是否真的优于市面上众多商业AI系统(包括OpenAI模型)?这取决于具体用例。
Samba-1的核心优势在于其由多个独立训练模型组成,而非单个大模型。因此,客户可控制提示和请求的路由规则:对GPT-4的请求仅有一条路径,而对Samba-1的请求则根据指定策略在56条路径中选择其一。
Liang声称,这种多模型策略能降低基于客户数据微调的成本,因为只需关注少数模型而非整个庞大模型。理论上,通过比较不同模型的回答,还能产生更可靠(更少幻觉)的响应,尽管这可能增加计算成本。
“通过这种架构,你不必将大型任务分解为小型任务,因此可以训练许多小型模型。”Liang补充道,根据客户需求,Samba-1可部署在本地或托管环境中。“使用单一大型模型时,每次请求计算量更高,训练成本也更高。Samba-1的架构有效降低了训练成本。”
全栈解决方案与私有化定制
尽管OpenAI等供应商为大模型微调提供优惠定价,且Martian、Credal等初创公司也提供第三方模型路由工具,但SambaNova销售的并非新奇概念,而是一套“设置即忘”的全栈解决方案,包含AI芯片及应用构建能力。这对部分企业而言可能更具吸引力。
Liang强调:“Samba-1为每个企业提供基于自身数据‘私有化’处理的定制GPT模型。这些模型在客户私有数据上训练,托管于单个服务器机架中,成本仅为替代方案的十分之一。”

