大数跨境

Nvidia的AI Workbench将模型微调功能引入工作站

Nvidia的AI Workbench将模型微调功能引入工作站 海外洞察
2023-08-08
2
导读:英伟达推出了AI Workbench,这是一款旨在让开发者在将AI模型扩展至云端或数据中心之前,能够在本地工作站上进行微调与测试的工具。

英伟达推出AI Workbench:助力生成式AI模型本地化开发与测试

恰逢年度AI学术会议SIGGRAPH之际,英伟达(Nvidia)今晨宣布推出一款新平台,旨在让用户在将生成式AI模型扩展至数据中心和公共云之前,能够在个人电脑或工作站上创建、测试并定制这些模型。

“为了普及这种能力,我们必须使其能够在几乎任何地方运行,”英伟达创始人兼首席执行官黄仁勋在活动中发表主题演讲时表示。

该服务名为AI Workbench,可通过本地工作站上运行的基本界面访问。使用它,开发人员可以利用专有数据对来自Hugging Face和GitHub等流行存储库的模型进行微调与测试,并在需要扩展时访问云计算资源。

英伟达企业计算副总裁Manuvir Das表示,推出AI Workbench的初衷在于应对定制化大型AI模型所面临的挑战——这一过程耗时且繁琐。企业级AI项目往往需要在多个存储库中搜寻合适的框架和工具,而当项目需从一个基础设施迁移到另一个时,流程会变得更加复杂。

当然,将企业级模型投入生产的成功率很低。根据数据科学与商业分析平台KDnuggets的一项调查,大多数受访的数据科学家表示,他们80%或更多的项目在部署机器学习模型之前就会停滞不前。Gartner的另一项估算表明,由于部分基础设施障碍,近85%的大数据项目以失败告终。

“全球各地的企业都在竞相寻找合适的基础设施,以构建生成式AI模型和应用,”Das在一则预先准备的声明中表示。“Nvidia AI Workbench为跨组织团队提供了一条简化的路径,用于创建日益成为现代商业关键组成部分的基于AI的应用程序。”

至于这条路径究竟有多“简化”,目前尚难定论。但正如Das所指出的,AI Workbench允许开发人员从开源资源中整合模型、框架、SDK和库,包括用于数据预处理和数据可视化的库,从而形成一个统一的工作空间。

随着对人工智能——尤其是生成式人工智能——需求的不断增长,专注于微调大型通用模型以适应特定用例的工具大量涌现。Fixie、Reka和Together等初创公司旨在让企业和个人开发者更容易地根据需要定制模型,而无需支付昂贵的云计算费用。

借助AI Workbench,英伟达正在推广一种更为去中心化的微调方式——即在本地机器上进行,而非依赖云服务。这合情合理,因为英伟达及其加速AI的GPU产品组合将从中受益;在宣布此消息的新闻稿中,英伟达对其RTX系列进行了不无暗示的提及。抛开英伟达的商业动机不谈,这一方案也可能吸引那些不希望因AI模型实验而受制于单一云服务商或平台的开发人员。

由AI驱动的GPU需求推动英伟达的业绩创下新高。5月,该公司市值短暂触及1万亿美元,此前英伟达报告营收为71.9亿美元,较上一财季增长19%。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k