大数跨境

专注于视频生成的开源人工智能模型:Pyramid Flow

专注于视频生成的开源人工智能模型:Pyramid Flow 土耳其小莫
2024-10-11
2
导读:Pyramid Flow 在开源数据集上训练,能够生成时长为5到10秒、分辨率为768p、帧率为每秒24帧的视频。

由快手科技、北京大学及北京邮电大学联合打造的Kling AI平台孕育了专注于视频生成的AI模型Pyramid Flow,该模型可提供长达10秒的高质量视频片段。

模型细节 

基于金字塔流匹配概念,Pyramid Flow利用新技术通过单个AI模型逐步生成视频。尽管大多数生成视频分辨率较低,但模型仅在最后阶段保存全分辨率版本。该技术将标记数量减少四倍,显著提升训练效率;同时具备分阶段压缩优化能力,实现更快的收敛速度,并能在每个批次中生成更多样本。关于“金字塔流匹配”的详细内容,可参阅文章《Pyramidal Flow Matching for Efficient Video Generative Modeling》。

训练数据 

使用开源数据集训练后,该模型能以768p分辨率和每秒24帧的速度生成5至10秒视频。其训练集涵盖多模态研究数据集LAION-5B、图像文本对数据集CC-12M、高质量无模糊图像集SA-1B,以及文生视频常用数据集WebVid-10M和OpenVid-1M等。

研究人员共策展约1000万个单镜头视频。需注意,数据集的开源性质可能引发版权侵权及非法内容生成等风险。

推理方面,模型仅需56秒即可生成5秒长的384p视频,性能媲美或优于其他扩散模型。相比之下,Runway Gen 3-Alpha Turbo测试用时不到一分钟,多数情况10到20秒内即可完成,树立了极高的速度标杆。总体而言,开源的Pyramid Flow正有力挑战Runway(Gen-3 Alpha)、Luma(Dream Machine)、Kling及Haulio等订阅制竞品。

不过,Pyramid Flow仍存在局限,缺乏如Runway Gen-3 Alpha般的高级微调能力,难以对镜头角度、关键帧及人物动作等电影元素进行精细控制。 

目前,模型源代码已在Hugging Face和Github开放下载,支持在本地推理shell中运行。项目采用MIT许可证发布,保留版权声明即可用于商业应用、修改及再分发。所有代码和模型权重均通过官方项目页面免费提供。

【声明】内容源于网络
0
0
土耳其小莫
小莫带你了解土耳其电商,探索AI应用
内容 26498
粉丝 0
土耳其小莫 小莫带你了解土耳其电商,探索AI应用
总阅读242
粉丝0
内容26.5k