大数跨境

OpenAI表示,正在开发一项工具,让内容创作者可以“选择退出”人工智能训练

OpenAI表示,正在开发一项工具,让内容创作者可以“选择退出”人工智能训练 海外洞察
2024-05-07
2
导读:该工具名为“媒体管理器”(Media Manager),将允许创作者和内容所有者向OpenAI标识其作品,并指定这些作品在AI研究和训练中被纳入或排除的方式。

OpenAI 表示,正在开发一款名为“媒体管理器”(Media Manager)的工具,旨在帮助创作者更好地控制其内容在生成式 AI 训练中的使用方式。该工具将允许创作者和内容所有者向 OpenAI 标识作品,并指定这些作品应如何被纳入或排除在 AI 研究和训练之外。

OpenAI 计划于 2025 年前部署该工具,目前正与创作者、内容所有者及监管机构合作制定相关标准,或通过其近期加入的行业指导委员会推进此事。OpenAI 在博客文章中写道:“这需要前沿的机器学习研究,以构建前所未有的工具,帮助我们在多来源中识别受版权保护的文本、图像、音频和视频,并反映创作者偏好。未来我们还将引入更多选项和功能。”

应对版权争议与诉讼压力

无论最终形态如何,“媒体管理器”均被视为 OpenAI 对 AI 开发方法日益增长的批评所作出的回应。此前,包括《芝加哥论坛报》在内的八家美国知名报纸起诉 OpenAI 侵犯知识产权,指控其未经授权抓取文章用于训练生成式 AI 模型并进行商业化,且未提供补偿或署名。

生成式 AI 模型通常依赖海量公开数据进行训练。OpenAI 等供应商主张“合理使用”原则为其行为提供了法律保护,但这一观点并未获得普遍认同。事实上,OpenAI 近期辩称,若无受版权保护的材料,便无法创建有用的 AI 模型。为安抚批评者并防范未来诉讼,OpenAI 正积极寻求折衷方案。

现有措施及其局限性

去年,OpenAI 已允许艺术家通过提交单独副本及描述的方式,将其作品从图像生成模型的训练数据集中移除;同时支持网站所有者利用 robots.txt 标准指示爬虫是否可抓取内容用于 AI 训练。此外,OpenAI 还与新闻机构、库存媒体库及 Stack Overflow 等大型内容方签订了许可协议。

然而,部分创作者认为现有举措仍显不足。例如,图像退出流程繁琐,需逐张提交材料;据报道,OpenAI 支付的许可费用相对较低。正如 OpenAI 在周二的博客文章中所承认,当前方案尚未解决创作者作品在其无法控制的平台上被引用、混编或重新发布的问题。

第三方解决方案涌现

除 OpenAI 外,众多第三方正尝试构建通用的 AI 来源证明和退出工具:

  • Spawning AI:与 Stability AI 和 Hugging Face 合作,提供识别追踪机器人 IP 地址的应用以阻止爬取,并建立数据库供艺术家注册作品,禁止尊重请求的供应商进行训练。
  • Steg.AI 与 Imatag:通过添加人眼不可见的水印,帮助创作者确立图像所有权。
  • Nightshade:芝加哥大学项目,通过对图像数据进行“投毒”,使其对 AI 模型训练无效或具有破坏性。
【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k