大数跨境

Hugging Face 让开发者更轻松地运行第三方云上的 AI 模型

Hugging Face 让开发者更轻松地运行第三方云上的 AI 模型 海外洞察
2025-01-28
1
导读:Hugging Face 新推出的 Inference Providers 功能旨在让开发者更轻松地使用自己选择的硬件来运行 AI 模型。

AI 开发平台 Hugging Face 已与 SambaNova、Fal、Replicate 及 Together AI 等第三方云供应商合作,推出 Inference Providers(推理提供商)功能。该功能旨在让开发者更便捷地利用自选基础设施运行 AI 模型。

Hugging Face 合作伙伴已将其数据中心接入平台。现在,开发者只需在项目页面简单点击,即可在 SambaNova 服务器上启动 DeepSeek 等模型。

在Hugging Face项目页面上显示的推理提供商选项。图片来源:Hugging Face

尽管 Hugging Face 长期提供内部模型运行方案,但其战略重心已转向协作、存储和模型分发。公司表示:“Serverless 提供商蓬勃发展,与下一代专注于模型的 Serverless 推理提供商合作是自然而然的选择。”通过此功能,用户可获得轻松统一的 Serverless 推理访问体验。

Serverless 推理允许开发者无需配置或管理底层硬件即可部署和扩展 AI 模型。SambaNova 等提供商会自动启动计算资源并按需弹性伸缩。

目前,通过平台使用第三方服务的开发者需支付标准 API 费率(未来可能建立收入分成协议)。所有用户均获少量免费推理积分,Hugging Face Pro 订阅者每月额外获得 2 美元积分。

推理提供商的设置菜单。图片来源:Hugging Face

Hugging Face 成立于 2016 年,现已成为全球最大的 AI 模型托管与开发平台之一。公司累计融资近 4 亿美元,投资方包括 Salesforce、Google、Amazon 和 Nvidia,并已实现盈利。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k