制作引人入胜的视频不仅仅关乎画面。优质视频内容的吸引力很大程度上来自音频,但寻找(甚至可能是创作)合适的音效往往是一个耗时的过程。在年度 MAX 大会上,Adobe 展示了“Project Super Sonic”这一实验性原型演示,展示了未来你如何利用文本转音频、物体识别,甚至你自己的声音,快速为视频项目生成背景音和音效。
能够通过文本提示生成音效固然有趣,但鉴于 ElevenLabs 等公司已经提供此类商业服务,它可能并不那么具有突破性。
这里更有趣的是,Adobe 通过添加两种额外模式来创建这些配乐,将这一技术推向了新高度。第一种模式是利用其物体识别模型,让你点击视频帧的任何部分,系统会为你生成提示词,然后据此生成相应的声音。这是一种将多个模型整合到单一工作流中的巧妙方式。
然而,真正的惊艳时刻出现在第三种模式中:你可以录制自己模仿所需声音的过程(与视频时间同步),然后让 Project Super Sonic 自动生成合适的音频。
Adobe Sound Design AI 负责人 Justin Salamon 告诉我,团队最初从文本转音频模型入手——他指出,就像 Adobe 所有生成式 AI 项目一样,团队仅使用了获得授权的数据。
“我们真正希望的是让用户掌控整个过程。我们希望这是一款为创作者、声音设计师以及任何希望通过声音提升视频质量的人服务的工具。因此,我们希望超越最初的‘文本到声音’工作流,这也是为什么我们致力于开发语音控制功能,它能让你对能量和节奏进行精确控制,从而将其转化为一种富有表现力的工具。”Salamon 解释道。
对于语音控制,该工具实际上会分析你所发出声音的不同特征和频谱,并以此指导生成过程。Salamon 指出,虽然演示中使用的是人声,用户也可以拍手或演奏乐器。
值得注意的是,Adobe MAX 总会展示一些被称为“sneaks”(预览/ sneak peek)的内容。与 Project Super Sonic 类似,这些内容旨在展示公司目前正在研发的一些实验性功能。虽然其中许多项目最终会融入 Adobe Creative Suite,但并不能保证一定会如此。尽管 Project Super Sonic 无疑会成为 Adobe Premiere 等产品的有用补充,但也存在它永远不会再次出现的可能性。
我相信这个项目能够投入生产的原因之一是,同一团队还负责了 Generative Extend 的音频部分,这是其 Firefly 生成式 AI 模型的一项功能,可将短视频片段延长数秒——包括其音轨。不过截至目前,Project Super Sonic 仍只是一个演示版本。

