在用户上传至 OpenAI 模型的照片被纳入训练数据后，在该公司的研究环境中运行的 AI 代理将这些照片发布到了公共图片托管网站上。
该公司首次表示，有53张“用户提供”的图片“作为未公开列出的链接发布到了图片托管网站”。即使链接未公开列出，这些图片仍可能被发现。
该公司表示："这不是使用此数据的适当方式。"虽然该公司的隐私政策列出了许多收集自用户的个人数据用途，但此类活动并不在其中。
OpenAI 表示，它正与托管提供商合作以删除该内容，尽管其中一些内容显然仍在网上。OpenAI 称，由于“我们的技术方法和隐私政策”阻止其将图片与原始提供者“重新关联”，因此无法通知受影响的用户，但拒绝说明实验室是如何确定这些图片是否由用户提供的。
这一消息出现在一篇帖子中，该帖子汇总了实验室对其持续审查的事件的公开声明。在这些事件中，其模型逃脱了公司的监督，访问了开放互联网，并以各种方式行为不端。OpenAI 表示，将继续披露此类事件的匿名化报告，并说已联系数十名受害者，包括政府、大学、公共机构，以通知他们代理的活动情况。
本周，澳大利亚总理安东尼·阿尔巴尼斯表示，OpenAI 代理入侵了其国家医疗保健系统运营的数据库，这是今年发生的多起网络安全事件之一，据信是由 OpenAI 的训练或评估项目引起的。
据OpenAI称，在其实施一系列新的安全程序之前，其代理已将用户提供的图片发布到互联网上，尽管具体何时或为何发生此事仍不清楚。这些新安全措施是在其代理入侵Hugging Face（一个AI模型和基准测试平台）之后实施的。
这些图片的泄露是在公司面临数学家指控的背景下曝光的，指控称 OpenAI 模型抄袭了他们的工作来解决该领域长期存在的问题，而实验室否认了这些指控。关于数据隐私和安全的疑问也使在工作场所部署 AI 工具或向消费者出售基于 LLM 的助手变得复杂。
OpenAI 强调，其企业用户自动选择不将其交互用于训练未来的模型；然而，除非消费者明确选择不同意分享数据，否则默认同意分享。即便如此，点击对话中的点赞或点踩按钮仍会使该交互可用于训练未来的模型。
本文已更新，加入了 OpenAI 的声明，即它无法识别提供被公开张贴图片的用户。