Google正在测试一种新型视频翻译服务，可将视频重新配音为目标语言，并同步调整说话者口型。该功能虽具实用价值，但公司也坦诚指出了潜在的滥用风险及相应的防护措施。
“通用翻译器”亮相Google I/O
在Google I/O大会上，负责“技术与社会”部门的James Manyika演示了这款“通用翻译器”。该项目被视为AI技术进步的成果，同时也带来了必须正视的严重风险。
这项实验性服务通过转录语音、翻译文本、生成匹配风格的语音，并编辑视频使口型与新音频同步，实现跨语言内容重构。
深度伪造技术的双刃剑效应
本质上这属于深度伪造技术，但在媒体后期制作中具有真实应用价值。目前已有专业公司在严格工作流中使用类似工具重新配音。尽管演示效果令人印象深刻，但该技术仍有待完善。
与专业工具不同，“通用翻译器”若未来开放给大众使用，Google需正视其被用于制造虚假信息或其他危害的可能性。
安全护栏与访问限制
Manyika称这是“大胆与安全之间的张力”。虽然让在线课程无需字幕或重录即可提供20种语言版本的好处不容否认，但不能毫无限制地向所有人开放。
这对学习理解能力是巨大进步，课程完成率呈现积极结果。但基础技术可能被滥用以创建深度伪造内容。因此我们在构建服务时设置了防滥用护栏，仅向授权合作伙伴开放访问权限。很快将集成最新水印创新到生成模型中，以应对虚假信息挑战。
然而，不良行为者在规避障碍方面同样能力出众。“护栏”机制尚显模糊，且仅与合作伙伴共享模型的做法依赖于模型不泄露——而现实中模型泄露问题时有发生。此外，大多数水印方法易被裁剪、调整大小等简单编辑操作破解。
谷歌展示了大量AI新能力，但其实际效用与安全性仍是未知数。不过，像Manyika这样的研究人员能在重要活动中坦言技术风险及应对措施的不确定性，至少体现了一种坦诚应对问题的态度。
