随着大型语言模型的普及,GPU 需求激增。Nvidia GPU 因价格昂贵且供不应求,使得按需租用长期云实例用于单次任务往往不够经济。
为此,AWS 今日推出 Amazon EC2 Capacity Blocks for ML,允许客户按需购买特定时段的 GPU 访问权限,专用于 AI 训练或模型实验等任务。
AWS 副总裁 Channy Yun 在博客中介绍:“这是一种创新的 GPU 调度方式,用户可预订未来特定日期的所需实例数量,并仅为实际使用时段付费。”
该产品提供 Nvidia H100 Tensor Core GPU 实例,集群规模为 1 至 64 个实例(每实例含 8 个 GPU)。用户可按天预留,最长 14 天,最多提前 8 周预订;时段结束后实例将自动关闭。
该服务类似“酒店房间”预订模式,为定义的时间块锁定资源。客户可明确知晓任务时长、GPU 用量及 upfront 成本,从而实现成本确定性。
对 AWS 而言,此举可在类拍卖环境中优化热门资源配置以保障收入。资源定价采用动态机制,随市场供需实时调整。
注册时系统会显示总成本,用户在确认购买前可根据预算和需求灵活调整资源数量。
目前,该功能已在 AWS US East (Ohio) 区域全面上线。

