大数跨境

Giga ML 旨在帮助企业离线部署大语言模型

Giga ML 旨在帮助企业离线部署大语言模型 海外洞察
2023-12-28
0
导读:由Y Combinator支持的初创公司Giga ML正在开发用于离线和本地部署场景的生成式AI模型,以及用于微调这些模型的工具。

人工智能正风靡一时,尤其是文本生成式人工智能(大语言模型)。在最近一项针对约1,000家企业组织的调查中,67.2%的受访者表示,到2024年初之前,他们将采用大语言模型(LLMs)视为首要任务。

但障碍依然存在。根据同一项调查,缺乏定制化和灵活性,以及无法保留公司知识和知识产权,是阻碍许多企业将大语言模型投入生产的主要原因。

Giga ML应运而生。Varun Vummadi和Esha Manideep Dinne创立了这家致力于构建平台的初创公司,使企业能够在本地部署LLMs,从而降低成本并保护隐私。Vummadi在采访中表示:“数据隐私和定制大语言模型是企业面临的最大挑战之一,Giga ML同时解决了这两大问题。”

X1系列模型与性能表现。Giga ML提供自有“X1系列”LLMs,用于代码生成和客户问答等任务。该系列基于Meta Llama 2构建,声称在某些基准测试(如MT-Bench)中优于流行模型。不过,在线演示曾出现技术问题,定性比较仍有待验证。

核心使命:本地化微调工具。Giga ML并非旨在打造性能最卓越的模型,而是致力于构建工具,使企业能在本地对大语言模型进行微调,无需依赖第三方平台。Vummadi强调:“我们的使命是帮助企业在其自有基础设施或VPC上安全、高效地部署LLM,通过易用API简化训练、微调和运行流程。”

离线运行的隐私优势。Vummadi指出,离线运行模型的隐私优势对部分企业极具说服力。低代码AI开发平台Predibase发现,因担心共享敏感数据,不到四分之一企业对商业LLM感到安心;近77%的受访者不在生产环境使用商业LLM,原因涉及隐私、成本及定制化不足。

客户价值与市场反馈。Vummadi表示,C级IT经理认可Giga ML的价值,因为安全本地部署、特定用例定制及快速推理能力,确保了数据合规性和最大效率。

融资进展与未来规划。截至目前,Giga ML已从Nexus Venture Partners、Y Combinator、Liquid 2 Ventures、8vdx等机构筹集约374万美元风险投资。公司计划近期扩大团队并加强研发,资金也将用于支持金融和医疗行业的现有企业客户。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k