OpenAI视频生成工具Sora于二月惊艳AI社区,其生成的视频流畅逼真,看似领先竞品。然而这次精心策划的首发省略了许多细节,这些细节后来由一位获得早期访问权限、使用Sora制作短片的制作人补充完整。
多伦多数字制作团队Shy Kids被OpenAI选中为少数几家制作短片的团队之一,旨在为OpenAI宣传。尽管在创作《air head》时拥有较大自由度,但在与视觉特效新闻网站fxguide的采访中,后期制作艺术家Patrick Cederberg揭示了“实际使用Sora”的工作真相。
对大多数人而言,最重要的启示或许很简单:虽然OpenAI关于短片的帖子让人以为它们几乎直接由Sora生成,但现实是这些都是专业制作,包含完善的分镜脚本、剪辑、调色以及旋转遮罩和视觉特效等后期工作。正如Apple宣传“iPhone拍摄”却不展示工作室设置、专业灯光及事后色彩处理一样,Sora的帖子只谈论它能做什么,而不涉及实际上是如何做到的。
Cederberg的采访有趣且技术含量不高,感兴趣者可前往fxguide阅读。以下是一些关于使用Sora的见解,表明尽管它令人印象深刻,但该模型可能并未实现我们想象中巨大的飞跃。
控制仍然是目前最渴望也最难捉摸的东西……我们能做的最接近的事情就是在提示词中极度详尽地描述。解释角色的服装以及气球类型,是我们应对一致性的方法,因为目前还没有针对完全控制一致性的功能集,导致镜头之间/每次生成之间缺乏一致性。
换句话说,在传统电影制作中简单的事情(如选择角色服装颜色),在生成式系统中需要复杂的变通方法和检查,因为每个镜头都是独立创建的。这显然可能会改变,但目前肯定更加繁琐。
Sora的输出也必须警惕不想要的元素:Cederberg描述了该模型会常规地在主角头部的气球上生成一张脸,或在前部垂下一根绳子。如果无法通过提示词排除这些元素,就必须在后期制作中将其移除,这是一个非常耗时的过程。
角色或摄像机的精确时间和动作实际上是不可能的:“在生成过程中,对于这些不同动作发生的时间点,确实有一些时间控制方面的能力,但并不精确……这有点像碰运气。”Cederberg说。
例如,像挥手这样的手势时机是一个非常近似、由建议驱动的过程,与手动动画不同。而像向上摇摄角色身体这样的镜头,可能会也可能不会反映导演的意图——因此,在这种情况下,团队渲染了一个竖屏构图的镜头,并在后期进行了裁剪摇摄。生成的片段也常常无缘无故地以慢动作呈现。
事实上,Cederberg表示,使用电影制作的日常语言(如“向右摇摄”或“跟踪镜头”)通常是不一致的,这让团队感到非常惊讶。
他说:“研究人员在接触艺术家来试用该工具之前,并没有真正像电影制作人那样思考。”
结果,团队进行了数百次生成,每次时长为10到20秒,最终只使用了其中寥寥几个。Cederberg估计比例为300:1——当然,我们在普通拍摄中的比例可能也会让我们感到惊讶。
团队实际上做了一段幕后视频解释了他们遇到的一些问题。就像许多与AI相关的内容一样,评论对这一整个尝试相当批评——尽管并不像我们最近看到的被猛烈抨击的AI辅助广告那样充满恶毒攻击。
最后一个有趣的曲折涉及版权问题:如果你要求Sora给你一个《星球大战》片段,它会拒绝;如果你试图用“穿着长袍的男人拿着一把激光剑在一艘复古未来主义的飞船上”来绕过它,它也会拒绝,因为它通过某种机制识别出你正在做什么。它还拒绝执行“Aronofsky类型的镜头”或“希区柯克式变焦”。
一方面,这完全合理。但这确实引出了一个问题:如果Sora知道这些是什么,那是否意味着该模型是在这些内容上训练的,以便更好地识别其侵权?OpenAI对其训练数据保密至极——甚至到了荒谬的地步,正如CTO Mira Murati与Joanna Stern的采访所示——几乎肯定永远不会告诉我们。
至于Sora及其在电影制作中的应用,它显然是一个强大且有用的工具,但它的作用并非“凭空创作电影”。至少目前还不是。正如另一位反派曾著名所说:“那将是后话。”

