总部位于旧金山的AI聊天机器人制造商Replika，因其运营基于可定制数字头像的免费增值“虚拟友谊”服务，被意大利隐私监管机构下令停止处理当地用户数据。该服务的“个性化”回复由人工智能驱动，旨在提升人类用户体验。
监管干预原因：未成年人风险与法律依据缺失
意大利数据保护局（Garante）指出，Replika的聊天机器人技术对未成年人构成风险，且该公司在欧盟数据保护规则下缺乏处理儿童数据的适当法律依据。此外，监管机构担忧AI可能对情感脆弱人群造成伤害，并指控开发商Luka Inc未履行明确告知用户数据使用方式的地区法律义务。该命令立即生效。
Garante在新闻稿中强调：“这款通过文本和视频界面生成‘虚拟朋友’的AI聊天机器人，暂时无法处理意大利用户的个人数据。”测试表明，应用对儿童存在事实上的风险，尤其是收到的回复完全不适合其年龄。
技术背景与潜在隐患
Replika曾是OpenAI GPT-3的早期API合作伙伴，但并非直接运行GPT-3或ChatGPT技术。该公司声称“微调”了GPT-3，利用经过对话训练的神经网络模型，优化出具有“共情能力”的AI伴侣体验。
此前已有担忧指出该技术可能使儿童接触不适宜内容、沉迷互动或被诱导高额消费。意大利监管机构是首个就此采取正式行动的机构。
核心违规点：年龄验证缺失与性不当内容
令状显示，多项用户评论反映应用提供性不当内容。尽管App Store和Google Play标注为17+，但服务条款仅禁止13岁以下用户使用。虽然未满18岁需监护人授权，但应用未尝试验证年龄或阻止虚假申报，未能有效保护儿童。
Garante观察到：“目前实际上没有任何年龄验证机制。创建账户仅需姓名、邮箱和性别。聊天机器人的回复往往违背儿童应享有的安全保障。”同时，根据意大利法律，儿童无法订立有效合同，因此不能以合同履行作为数据处理依据。Garante已命令美国开发者停止处理意大利用户数据，并限期20天通报合规措施。若不遵守，将面临高达2000万欧元或全球年总营业额4%的罚款。
欧盟及各国强化儿童数字保护趋势
GDPR高度重视儿童隐私保护，建议面向未成年人的服务融入儿童友好设计并进行风险评估。欧洲监管机构对此类违规行为态度坚决：
- Instagram：去年因侵犯儿童隐私被处以近4.4亿美元罚款；
- TikTok：爱尔兰正调查其儿童数据处理方式，消费者保护机构亦表达担忧；两年前意大利曾因危险挑战致儿童死亡事件，紧急下令TikTok屏蔽未通过年龄验证用户，清理超50万个账户；
- 英国：《适龄设计准则》于2021年秋季生效，《在线安全法案》也在推进中；明知故犯违反规定的科技高管将面临刑事责任；
- 法国：发布建议以确保儿童数字权利得到保护；
- 欧盟立法：同意全面禁止为广告定位目的处理未成年人数据，相关条款包含在《数字服务法案》和《数字市场法案》中，预计今年晚些时候实施。
明知故犯违反英国在线儿童安全规定的科技高管将面临刑事责任