大数跨境

AWS 推出新服务,让客户可租用 Nvidia GPU 以快速开展 AI 项目

AWS 推出新服务,让客户可租用 Nvidia GPU 以快速开展 AI 项目 海外洞察
2023-11-01
1
导读:亚马逊今天推出了一项新的云服务,允许用户按天租用英伟达(Nvidia)GPU,租期最长可达14天,并采用动态定价机制。

随着大型语言模型的普及,GPU 需求激增。Nvidia GPU 因价格昂贵且供不应求,使得按需租用长期云实例用于单次任务往往不够经济。

为此,AWS 今日推出 Amazon EC2 Capacity Blocks for ML,允许客户按需购买特定时段的 GPU 访问权限,专用于 AI 训练或模型实验等任务。

AWS 副总裁 Channy Yun 在博客中介绍:“这是一种创新的 GPU 调度方式,用户可预订未来特定日期的所需实例数量,并仅为实际使用时段付费。”

该产品提供 Nvidia H100 Tensor Core GPU 实例,集群规模为 1 至 64 个实例(每实例含 8 个 GPU)。用户可按天预留,最长 14 天,最多提前 8 周预订;时段结束后实例将自动关闭。

该服务类似“酒店房间”预订模式,为定义的时间块锁定资源。客户可明确知晓任务时长、GPU 用量及 upfront 成本,从而实现成本确定性。

对 AWS 而言,此举可在类拍卖环境中优化热门资源配置以保障收入。资源定价采用动态机制,随市场供需实时调整。

注册时系统会显示总成本,用户在确认购买前可根据预算和需求灵活调整资源数量。

目前,该功能已在 AWS US East (Ohio) 区域全面上线。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14179
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读975
粉丝0
内容14.2k