大数跨境

Netflix 的 AI 辅助绿幕让演员沐浴在刺眼的玫红色光芒中

Netflix 的 AI 辅助绿幕让演员沐浴在刺眼的玫红色光芒中 海外洞察
2023-07-10
2
导读:Netflix 推出了一种新的合成方法,依赖机器学习来完成部分繁重工作,但该方法要求演员在刺眼的品红色灯光下拍摄。

合成技术自电影诞生之初便已存在,即把演员置于虚拟背景前,但这一过程向来令人头疼。Netflix 近期推出一种新技术,利用机器学习简化部分繁重工作,不过该方法要求对演员施加刺眼的紫红色灯光照明。

传统色键抠像的局限

几十年来,最基础的合成方式是色键抠像(chroma keying)。演员站在色彩鲜艳的背景前(早期为蓝色,后演变为绿色),该背景易于识别并可替换为任意画面。前景被称为“遮罩”(matted),背景则是透明的“Alpha”通道,与红、绿、蓝通道一同处理。

这种方法简单且成本低廉,但也存在明显短板:透明物体、头发等精细细节难以完美处理,且任何与背景颜色相似的物体会产生干扰。尽管如此,其效果通常已足够好,导致光场相机等更复杂昂贵的替代方案一直未能普及。

Netflix“紫红色绿幕”技术原理

Netflix 研究人员尝试结合新旧技术,以实现简单且完美的合成,代价是片场需配置特殊的灯光系统。据最新论文所述,“紫红色绿幕”(Magenta Green Screen)通过将演员置于“灯光三明治”中取得显著效果:身后是明亮的主动绿色照明,面前则是红蓝混合光,形成鲜明对比。

在绿幕前以品红色照明的演员。图片来源:Netflix

这种片场外观可能令资深后期人员望而却步。常规拍摄使用相对自然的强光,演员仅需局部补光,镜头中的形象便较为正常。但若仅用红光和蓝光照明,因缺失光谱大部分区域,演员外观会被完全扭曲。

然而该技术的巧妙之处在于:前景仅设红/蓝色,背景仅设绿色,极大简化了分离流程。普通相机原本捕捉全色,现在则专门捕捉红色、蓝色和 Alpha 通道。这使得生成的遮罩极其精准,避免了从全光谱输入中分离关键背景时产生的伪影。

AI辅助色彩还原

当然,这似乎是用一种困难替代另一种:合成变容易了,但恢复被紫红色光照亮主体的绿色通道却变得棘手。

由于主体和构图各异,必须系统且自适应地处理。若采用“天真”的线性方法注入绿色,画面会显得苍白偏黄。为此,团队引入人工智能解决自动化难题。

团队使用自有训练数据对机器学习模型进行训练,这些数据本质上是类似场景的正常照明“排练”片段。卷积神经网络接收全光谱图像的局部区域,与紫红色光照下的图像对比,从而发展出比简单算法更智能的方式,快速恢复缺失的绿色通道。

简单的算法导致效果较差(上图),而更复杂的机器学习模型产生的颜色与真实情况非常接近。图片来源:Netflix

因此,后期处理能相当出色地还原色彩(与相机内原始真实色彩“几乎无法区分”),但仍存问题:演员和布景必须以这种不适的方式进行照明。许多演员已抱怨绿幕前工作不自然,想象一下在刺眼、非人般的光线下工作的体验。

未来展望:时间复用照明

论文提出通过“时间复用”照明来解决这一问题,即每秒多次切换紫红色/绿色照明开关。以每秒24次(多数影视拍摄帧率)切换会令人分心甚至危险,但若将频率提高至每秒144次,视觉上则“近乎恒定”。

但这需要与摄像机进行复杂同步,摄像机只能在场景呈现紫红色的短暂时刻捕捉光线,同时还须考虑运动导致的帧丢失问题。

显然,该技术仍处于高度实验阶段。但它提供了一种有趣的新思路,用新颖的高技术手段应对媒体制作中长期存在的难题。尽管五年前还不可能实现,且未必能在片场广泛采纳,但其探索价值不言而喻。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k