谷歌正针对可能存在问题的生成式AI应用推出新政策，该政策将于明年年初开始执行。新规要求在其Play商店发布的Android应用开发者必须提供举报或标记冒犯性AI生成内容的能力。谷歌强调，标记和举报功能必须在应用内完成，且开发者应利用这些报告来完善自身的过滤和审核策略。
这一政策变化紧随AI生成应用的爆发式增长而来。此前，部分应用诱导用户创建不适宜工作场所（NSFW）的图像；今年夏天病毒式传播的Remini因大幅增强女性胸部尺寸并使其变瘦而引发争议。此外，微软和Meta的AI工具也出现安全漏洞，被绕过护栏制作出如“刺猬索尼克怀孕”或虚构角色重现9/11事件等违规图像。
关于AI图像生成器的担忧更为严峻：一方面发现恋童癖者利用开源工具大规模创建儿童性虐待材料（CSAM）；另一方面，随着选举临近，利用AI深度伪造虚假图像误导选民的风险日益凸显。
新政策明确，受监管的AI生成内容包括“文本到文本的对话式生成式AI聊天机器人”（交互为核心功能，如ChatGPT），以及通过“基于文本、图像或语音提示由AI生成的图像”的应用。
Google提醒开发者，所有应用（含AI内容生成器）均须遵守现有开发者政策，严禁发布儿童性虐待材料及助长欺骗行为的内容。
除打击AI内容外，Google Play团队还将对部分应用权限进行额外审核，特别是请求广泛照片和视频权限的应用。新规要求应用仅在功能直接相关时才能访问媒体文件；若仅需一次性或不频繁访问（如上传自拍），必须使用系统选择器（如新的Android照片选择器）。
新政策还将限制干扰性的全屏通知，仅允许在真正高优先级场景（如接听电话或视频通话）下弹出，并要求获取特殊的“全屏意图权限”。该权限仅授予针对Android 14及以上版本且确有需求的应用，以遏制滥用该功能推销订阅的行为。
值得注意的是，Google此次率先出台针对AI应用和聊天机器人的政策。历史上通常是Apple先发布规则打击不良行为，Google随后效仿。但截至目前，Apple App Store指南中尚未制定正式的AI或聊天机器人政策，尽管其已在限制数据“指纹识别”及打击应用抄袭等方面收紧了规定。
Google Play的政策更新即日起实施，但AI应用开发者拥有过渡期，需在2024年初前完成应用内标记和举报功能的适配。