构建生成式AI工具的广泛可得性引发了该领域初创企业的寒武纪大爆发，充裕的资金也起到了推波助澜的作用——同时所需技术基础设施成本的下降也未尝不是一种助力。
事实上，生成式AI最引人注目的应用之一——生成式视频——正面临过度饱和的风险。Genmo、Haiper和Rhymes AI等实验室正在快速发布模型，在某些情况下，它们与之前的最先进水平产品之间鲜有区别。
Naeem Talukdar认为，信任（而非模型的能力本身）才是让某些生成式视频企业脱颖而出的关键，因此他创立了位于洛杉矶的初创公司Moonvalley，致力于开发更“透明”的生成式视频工具。
Talukdar曾在Zapier负责产品增长，之后创立了由Y Combinator支持的公司Draft，该公司为企业AI内容提供了一个市场平台。他招募了前DeepMind科学家Mateusz Malinowski和Mik Binkowski共同创立Moonvalley——两人此前在DeepMind研究视频生成技术。
Talukdar告诉TechCrunch：“我们坚信视频生成将彻底改变媒体和娱乐行业，但我们看到的在该领域运营的初创公司并不具备成功的必要特质。”“现有公司对艺术家、创作者以及更广泛的行业持敌对态度。”
正如Talukdar所指出的，大多数生成式AI公司在公开数据上训练模型，其中不可避免地包含受版权保护的内容；这些公司辩称合理使用原则为这种做法提供了庇护，例如OpenAI坚持认为没有版权材料就无法正确训练模型，而Suno则辩称，无差别训练无异于“孩子在听遍该流派后创作自己的摇滚歌曲”。
但这并未阻止权利所有者提出投诉或发送停止侵权通知。
尽管针对他们的诉讼不断累积，供应商们变得相当大胆。今年早些时候，前OpenAI CTO Mira Murati并未明确否认OpenAI的视频模型Sora是使用YouTube片段进行训练的——这似乎违反了YouTube的使用政策。此外，据404 Media报道，生成式视频初创公司Runway未经许可抓取了属于迪士尼以及MKBHD等创作者频道的YouTube视频素材。
加拿大AI初创公司Viggle公然承认使用YouTube视频来驱动其视频模型，并且像大多数竞争对手一样，它未能为其作品中可能被纳入训练数据的创作者提供任何救济途径。
Talukdar表示：“生成式模型需要尊重版权、商标权和肖像权。”“这就是为什么我们要与创作者紧密合作开发我们的模型。”
Moonvalley目前尚未拥有完全训练好的视频模型，但声称自己是少数几家仅使用来自“自愿加入”的内容所有者的授权数据的公司之一；为了规避风险，Moonvalley计划允许创作者要求从其模型中删除其内容，允许客户随时删除其数据，并提供一项赔偿政策以保护用户免受版权挑战。
这与Moonvalley最初的定位略有不同，最初它是一个用于制作动漫和奇幻风格片段的相当通用的视频生成器；在决定转向之前，Moonvalley发布了两个面向其超过十万名用户的Discord社区的Beta版视频生成模型。
这种新方法与Adobe的做法类似，后者正在利用其Adobe Stock贡献者平台上的授权内容来训练其Firefly视频模型。Talukdar不愿透露Moonvalley为获取片段向创作者支付了多少费用，但这可能是一笔不小的数目。Bloomberg报道称，Adobe每40至45分钟的视频提供约120美元的费用。
需要澄清的是，Moonvalley本身并不直接获取内容。它与一些未具名的合作伙伴合作，由这些合作伙伴处理许可安排，并将视频打包成Moonvalley购买的数据集。
这些合作伙伴——所谓的“数据经纪人”——如今备受追捧，这得益于生成式AI的繁荣。AI训练数据市场预计将从目前的约25亿美元增长到十年内的近300亿美元。
Talukdar补充道：“我们从多个来源授权高质量数据，这些来源直接与创作者合作，并为其内容的使用提供合理的补偿。”“我们确保使用的是高质量且多样化的数据集。”
与一些轻易将人物肖像插入视频的“无过滤”视频模型不同，Moonvalley还承诺为其创意工具构建护栏机制。与OpenAI的Sora类似，Moonvalley的模型将屏蔽某些内容（如NSFW短语），并且不允许用户通过提示词生成特定人物或名人的视频。
当然，没有任何滤镜是完美的，但Talukdar表示，这种“红队测试”将成为Moonvalley发布策略的核心部分。
他说：“随着媒体与人工智能之间的关系不断快速演变，且伴随着一定的怀疑态度，Moonvalley旨在成为媒体机构最值得信赖的合作伙伴。”
但Moonvalley真的能竞争吗？
如前所述，Google、Meta以及无数其他公司都在推进生成式视频技术，尽管它们在伦理考量上程度不一。科技巨头们正在修改其使用条款以获取数据优势：Google正利用YouTube视频来训练其Veo视频模型，而Meta则利用Instagram和Facebook的内容来训练其模型。
Moonvalley希望吸引品牌和创意工作室，但一些供应商已经在此领域取得了实质性进展。Runway最近与Lionsgate签署了一项协议，以便在电影公司的电影目录上训练定制模型；Stability AI聘请了《阿凡达》导演詹姆斯·卡梅隆加入其董事会；OpenAI则与品牌方和独立导演合作，展示Sora的潜力。
还有Adobe，它正瞄准Moonvalley的目标市场：那些希望获得更“安全”（至少从法律角度来看）生成式视频工具的艺术家和内容创作者。
Moonvalley面临三重挑战。它必须说服客户其工具与现有产品具有竞争力；它需要积累足够的资源以训练和部署后续模型；它还必须赢得一批忠诚的客户群，防止他们随时转向其他提供商。
许多艺术家和创作者对生成式AI持谨慎态度是可以理解的，因为它可能会颠覆影视行业。由代表好莱坞动画师和漫画家的工会Animation Guild委托进行的一项2024年研究估计，到2026年，美国超过10万个电影、电视和动画工作岗位将受到AI的冲击。
当我问及生成式AI可能导致创意人员失业的风险时，Talukdar说：“我们的重点是构建帮助创作者创作更加宏大和沉浸式内容的工具。”
在资金方面，Moonvalley已取得一些进展：该公司最近由General Catalyst和Khosla Ventures联合领投，Bessemer Ventures参与投资，完成了7000万美元的种子轮融资。这笔资金将用于Moonvalley的研发和招聘。
Talukdar表示，目前该公司约有30名员工，他们此前曾在DeepMind、Meta、Microsoft和TikTok工作。
他补充道：“我们与其他公司的不同之处在于对产品的专注。虽然公司的核心在于训练最先进的生成式模型，但我们的重点是将这些模型打造为专业创作者、工作室和品牌使用的强大创意工具。”
Talukdar表示，计划是在今年晚些时候发布Moonvalley的第一个模型。如果公司希望击败即将发布的来自Black Forest Labs、Luma Labs、Midjourney以及那个房间里的大象，这将至关重要。