OpenAI 于周一推出了其视频生成工具 Sora。但该公司决定暂不向大多数用户发布一项关键功能，需等待进一步测试。
该功能使用上传的真实人物照片或视频片段作为参考来生成视频。OpenAI 表示，它将向“部分”Sora 用户提供访问权限，但在有机会微调其“安全方法”之前，不会广泛推出此能力。
“利用上传的真实人物照片或视频作为‘种子’来生成视频的能力，是一个潜在的滥用途径，我们正采取特别渐进的方法来处理，以便从早期使用模式中吸取教训，”OpenAI 在一份博客文章中写道。“来自艺术家的早期反馈表明，这是一个他们珍视的强大创意工具，但鉴于潜在的滥用风险，我们最初并未向所有用户开放。”
OpenAI 还不允许用户将包含真实人物片段或图像的生成视频分享到 Sora 的主页发现流中。
“作为 OpenAI，我们显然背负着巨大的目标，因此我们希望阻止 Sora 被用于非法活动，但同时也希望平衡创意表达。”Sora 产品负责人 Rohan Sahai 在今天早些时候的直播演示中表示。“我们知道这将是一个持续的挑战——我们可能无法在第一天就做到完美。我们初期会采取较为保守的策略，如果我们的审核机制未能完全准确，请向我们提供反馈。”
生成式视频是一种强大的工具，同时也颇具争议性，因为深度伪造和虚假信息是令人担忧的主要问题。根据身份验证服务 Sumsub 的数据，2022年至2023年间，全球深度伪造欺诈事件增加了10倍以上。
OpenAI 表示，为防止滥用，其采取的其他措施包括：Sora 内置了过滤器，用于检测生成的视频是否包含未满18岁的人物。若检测到此类内容，OpenAI 会对涉及性、暴力或自残的内容应用“更严格的审核标准”，该公司称。
所有由 Sora 生成的视频都包含用于显示其来源元数据——具体而言是符合 C2PA 技术标准的元数据。诚然，元数据可以被移除。但 OpenAI 将其宣传为一种方式，让支持 C2PA 的平台能够快速检测视频是否源自 Sora。
为了抵御版权投诉，OpenAI 还表示，它正在使用“提示词重写”技术，以防止 Sora 生成模仿在世创作者风格的视频。
该公司写道：“我们添加了提示词重写功能，旨在当用户尝试生成模仿在世艺术家风格的视频时触发。在了解创意社区如何使用 Sora 的过程中，我们对这一版本的 Sora 采取了保守的方法……在创造力领域，借鉴其他艺术家的风格有着悠久的传统，但我们理解一些创作者可能会对此表示担忧。”
多位艺术家已起诉包括 OpenAI 在内的 AI 公司，指控其在未经许可的情况下利用其作品进行训练，以创建能够以其独特风格复现内容的 AI 工具。对于这些公司而言，它们声称合理使用原则保护它们免受版权侵权指控，并且实际上 AI 模型并不会复现内容。
关于训练数据，OpenAI 仅表示 Sora 是使用混合的“多样化数据集”开发的，包括公开可用的数据、通过与合作伙伴的数据供应商合作获取的专有数据，以及内部开发的一组定制数据集。今年早些时候，前 OpenAI 首席技术官 Mira Murati 并未完全否认 Sora 是在 YouTube 片段上进行训练的，这似乎违反了这家由 Google 拥有的流媒体平台的使用政策。
据视频博主 Marques Brownlee 介绍，该系统能够根据文本提示或图像创建多个视频片段变体，并通过 Re-mix 工具编辑现有视频。Storyboard 界面允许用户创建视频序列；Blend 工具可将两个视频合并为一个新视频，同时保留两者的元素；Loop 和 Re-cut 选项则允许创作者进一步调整和编辑他们的视频及场景。
OpenAI 的 ChatGPT Pro 和 Plus 计划的用户今天即可访问 Sora，即 OpenAI 的视频生成器——但前提是这些用户居住在特定国家。