大数跨境

微软在Ignite 2023大会上推出深度伪造内容生成工具

微软在Ignite 2023大会上推出深度伪造内容生成工具 海外洞察
2023-11-15
0
导读:在2023年微软Ignite大会上,该公司推出了基于人工智能的工具,能够创建逼真的数字人形象并生成模仿个人语音的声音。

在微软Ignite 2023大会推出的众多产品中,一款名为Azure AI Speech文本转语音头像的工具尤为引人注目。该功能自今日起以公开预览版形式提供,允许用户上传照片并编写脚本,生成逼真的人物说话视频。

核心功能与应用场景

微软通过训练模型驱动动画,并结合预建或定制的文本转语音模型“朗读”脚本。用户仅需文本输入即可高效制作培训视频、产品介绍及客户证言等,还可用于构建对话代理、虚拟助手和聊天机器人。此外,头像支持多语言,并在聊天场景中可结合GPT-3.5回应超出脚本的问题。

伦理争议与安全护栏

鉴于类似技术曾被滥用于制造虚假内容,微软对自定义头像实施了严格的访问限制:目前仅限注册用户使用,且仅适用于特定用例。针对近期SAG-AFTRA罢工中关于AI数字形象的争议,微软发言人澄清称,定制虚拟形象必须获得表演者“明确的书面许可”,协议需涵盖持续时间、用途及内容限制,并强制要求添加AI生成披露信息。

个人声音(Personal Voice)

作为自定义神经语音服务的新功能,“Personal Voice”仅需一分钟语音样本即可快速复制用户声音,适用于个性化助手、多语言配音及有声书旁白等场景。

为规避法律风险,微软设置了多重防护:

  • 禁止使用预录语音,要求用户提供录制形式的“明确同意”声明;
  • 验证声明与训练数据匹配后方可合成新语音;
  • 访问权限受限,仅限娱乐场景中的影视、音频配音,且输出不得从应用程序发布或共享。

关于水印问题,微软表示将自动在个人声音中添加水印以便识别合成语音及其来源。但需注意,第三方应用或平台若要检测该水印,必须获得微软批准并使用其专用检测服务。

更多 Microsoft Ignite 2023 报道:
  • 微软宣布推出新款 AI 芯片
  • 微软推出的三款全新 Copilot 产品
  • Bing Chat 更名为 Copilot
  • 微软推出深度伪造内容创建工具
  • Microsoft Teams 新增 AI 驱动的家庭装饰功能
  • Microsoft To Do、Planner 和 Project 在 Teams 中整合

本文最初于 11 月 15 日太平洋时间上午 8 点发布,并于下午 3:30 更新。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k