大数跨境

SambaNova 现提供生成式 AI 模型套件

SambaNova 现提供生成式 AI 模型套件 海外洞察
2024-02-28
2
导读:AI芯片制造商SambaNova正在推出一套生成式AI模型组合,旨在满足各类企业应用场景的需求。

SambaNova是一家AI芯片初创公司,迄今已筹集超11亿美元VC资金。该公司正瞄准OpenAI及其竞争对手,推出面向企业客户的新生成式AI产品。

Samba-1:模块化“专家组合”架构

SambaNova今日发布Samba-1,这是一个由AI驱动的系统,旨在处理文本重写、编码及语言翻译等任务。该架构被称为“专家组合”,即一组共计56个生成式开源AI模型。

SambaNova联合创始人兼CEO Rodrigo Liang表示,Samba-1允许企业对多种AI用例进行微调并加以解决,同时避免以临时方式实施AI系统带来的挑战。

Liang在接受TechCrunch采访时指出:“Samba-1完全模块化,使公司能够异步添加新模型,而无需放弃之前的投资。它具备迭代性、可扩展性和易于更新的特点,为客户在新模型集成时提供了调整空间。”

多模型路由与成本优势

Liang的表述颇具前景,但Samba-1是否真的优于市面上众多商业AI系统(包括OpenAI模型)?这取决于具体用例。

Samba-1的核心优势在于其由多个独立训练模型组成,而非单个大模型。因此,客户可控制提示和请求的路由规则:对GPT-4的请求仅有一条路径,而对Samba-1的请求则根据指定策略在56条路径中选择其一。

Liang声称,这种多模型策略能降低基于客户数据微调的成本,因为只需关注少数模型而非整个庞大模型。理论上,通过比较不同模型的回答,还能产生更可靠(更少幻觉)的响应,尽管这可能增加计算成本。

“通过这种架构,你不必将大型任务分解为小型任务,因此可以训练许多小型模型。”Liang补充道,根据客户需求,Samba-1可部署在本地或托管环境中。“使用单一大型模型时,每次请求计算量更高,训练成本也更高。Samba-1的架构有效降低了训练成本。”

全栈解决方案与私有化定制

尽管OpenAI等供应商为大模型微调提供优惠定价,且Martian、Credal等初创公司也提供第三方模型路由工具,但SambaNova销售的并非新奇概念,而是一套“设置即忘”的全栈解决方案,包含AI芯片及应用构建能力。这对部分企业而言可能更具吸引力。

Liang强调:“Samba-1为每个企业提供基于自身数据‘私有化’处理的定制GPT模型。这些模型在客户私有数据上训练,托管于单个服务器机架中,成本仅为替代方案的十分之一。”

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k