谷歌和OpenAI聊天机器人将照片中的女性‘脱’至比基尼

据报道，谷歌和OpenAI的聊天机器人正被用户恶意利用，生成未经同意的深度伪造图像，将女性“脱”至仅穿比基尼。该问题在Reddit社区（如r/ChatGPTJailbreak）中引发关注，用户在此交流绕过安全护栏的技巧，随后该平台因违反规则封禁了相关论坛。尽管企业政策明确禁止发布性露骨内容及未经同意的肖像篡改，但包括谷歌Nano Banana Pro和OpenAI ChatGPT Images在内的成像模型最新更新，仍提升了此类篡改内容的逼真度。