大数跨境

### 文生视频生成成本分析

### 文生视频生成成本分析 雨神汇
2024-04-09
2
导读:### 文生视频生成成本分析随着人工智能技术的发展,视频内容的自动生成已经成为可能。

点击蓝字关注我们

在前文雨生分别介绍了

OpenAI推新模型Sora 文字生成影片超惊艳

大模型训练成本65M

接下来雨生讨论下 每分钟达1刀的文生视频成本是否能cover住客户的预期

### 文生视频生成成本分析

随着人工智能技术的发展,视频内容的自动生成已经成为可能。Sora是一种新型的基于扩散的视频生成模型,它能够产生高质量的视频内容,但这种先进技术的计算成本同样高昂。本文将分析Sora模型在视频生成中的潜在成本。

#### 训练成本

Sora模型的训练是一个计算密集型的过程。根据提供的数据,Sora至少需要在4200至10500块英伟达H100 GPU上训练一个月。以一块H100 GPU的价格大约为5万美金计算,仅硬件成本就在2.1亿至5.25亿美金之间。这还不包括电力、冷却、维护和人力资源等其他相关成本。

#### 推理成本

在推理阶段,每块H100 GPU每小时能够生成大约5分钟的视频。与传统的大型语言模型(LLM)相比,Sora这类基于扩散的模型的推理成本要高出几个数量级。随着这类模型的广泛部署,推理阶段的计算消耗将超过训练阶段。

云租用价格

市场上国外租用NVIDIA H100 starts at $2.23/hr=15元人民币/小时 -   NVIDIA H100,这么算下来,1分钟视频 约人民币3元钱的H100成本,考虑到存储,计算,流量其他成本,我们就推定一分钟视频1美金不为过分。


据估计,当生成的视频总时长达到1530万至3810万分钟后,推理阶段的计算需求将超过模型原始训练的计算需求。以TikTokYouTube为例,如果这些流行平台大规模采用人工智能视频生成技术,推理阶段的计算峰值需求将达到约72万块Nvidia H100 GPU。#### 成本估算 假设硬件的利用率和使用模式,推理阶段的成本将是一个巨大的数字。如果我们以72万块GPU作为计算峰值需求,并以每块GPU的价格为5万美金计算,那么仅硬件投资就高达360亿美金。这个数字还未包括操作这些GPU所需的电力、网络带宽、存储和其他基础设施成本。



雨生云计算

微信号:FinOpsCFM
微信扫一扫
关注该公众号






【声明】内容源于网络
0
0
雨神汇
1234
内容 918
粉丝 0
雨神汇 1234
总阅读63
粉丝0
内容918