大数跨境

由一位将视频初创公司出售给苹果的创始人领衔,Panjaya 利用深度伪造技术切入视频配音领域

由一位将视频初创公司出售给苹果的创始人领衔,Panjaya 利用深度伪造技术切入视频配音领域 海外洞察
2024-11-08
2
导读:生成式人工智能在翻译领域蕴藏着巨大的机遇,而一家名为Panjaya的初创公司正将该概念推向新的高度:一款

生成式AI在翻译领域蕴含巨大机遇,Panjaya公司正将该概念推向新高度。其推出的超逼真生成式AI视频配音工具BodyTalk,不仅能重现说话者用新语言表述时的原始声音,还能自动调整视频画面与肢体动作,使其自然匹配新的语音模式。

经过三年低调研发,该初创公司发布了首个版本BodyTalk,并获得950万美元首笔外部融资。

核心团队与融资背景

Panjaya由深度学习专家Hilik Shani和Ariel Shalom创立,两人曾长期为以色列政府从事相关技术研究,现分别担任总经理和首席技术官。他们于2021年转型创业;一年半前,Guy Piekarz作为首席执行官加入团队。

Piekarz虽非创始人,却是行业重量级人物。他创办的Matcha(流媒体视频发现与推荐平台)早在2013年Apple TV战略萌芽期便被收购,交易额为1000万至1500万美元。随后他在Apple任职近十年,负责构建Apple TV及体育垂直频道。经投资方Viola Ventures引荐,他结识了Panjaya团队(其他投资方包括R-Squared Ventures、JFrog联合创始人兼CEO Shlomi Ben Haim、Chris Rice、Guy Schory、Storm Ventures的Ryan Floyd、Riviera Partners的Ali Behnam及Oded Vardi)。

“离开Apple后我本打算尝试全新领域,但看到这项技术的演示后深受震撼,后续发展便顺理成章。”Piekarz表示。

技术亮点:多模态整合与自研引擎

BodyTalk的核心优势在于将合成媒体的多项技术整合至同一框架。该技术基于音频进行翻译(目前支持29种语言),以模仿原声的方式播放译文,并同步修改唇部及肢体动作以适配新词汇。用户上传视频后,平台可自动完成处理并提供编辑仪表板。未来计划推出API并实现更接近实时的处理速度(目前处理耗时约数分钟)。

“我们在有成熟方案的环节采用行业最佳实践,而在市场空白领域则自研AI模型。”Piekarz指出,公司的唇形同步引擎完全由内部团队自主研发,因为现有产品尚无法在多说话人、多角度及复杂商业场景中达到同等质量。

目前BodyTalk聚焦B2B市场,客户包括JFrog和TED等机构,未来将拓展至体育、教育、营销及医疗等领域。

定位“深度真实”与安全护栏

尽管生成的翻译视频逼真度接近深度伪造(deepfakes),但Piekarz强调应避免使用该术语,因其带有负面含义。他将Panjaya定位为“深度真实(deep real)”类别。

为防止滥用,公司通过专注B2B市场和访问控制建立“护栏”。Piekarz认为,长远来看应开发水印等技术以检测合成媒体,无论是合法还是恶意用途。“我们致力于防止虚假信息传播。”他说。

市场竞争与母语内容价值

在AI视频翻译赛道,Panjaya面临Vimeo、ElevenLabs等巨头及Speechify、Synthesis等中小企业的竞争。尽管字幕已成为视频消费标配(CBS调查显示超半数美国观众常开字幕,TikTok也已默认开启),但国际配音市场空间依然广阔。

CSA等研究机构表明,母语内容能显著提升参与度,尤其在B2B领域。Panjaya的客户数据印证了这一观点:TED使用其工具配音的视频观看量增长115%,完播率翻倍。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14239
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读46.0k
粉丝0
内容14.2k