Snap的AI聊天机器人已引起英国数据保护监管机构的关注，该机构担心该工具可能危及儿童隐私。
信息专员办公室（ICO）今天宣布，已向Snap发出初步执行通知，原因是其称Snap“未能适当评估其生成式AI聊天机器人‘My AI’带来的隐私风险”。
ICO的行动并非违规认定。但该通知表明，英国监管机构担心Snap可能未采取措施确保其产品符合数据保护规则，而这些规则——自2021年以来——已加强至包括《儿童设计准则》。
“ICO的调查初步发现，Snap在推出‘My AI’之前进行的风险评估未能充分评估生成式AI技术带来的数据保护风险，尤其是对儿童的风险，”监管机构在一份新闻稿中写道。“在此背景下，涉及使用创新技术和处理13至17岁儿童的个人信息，数据保护风险评估尤为重要。”
现在，Snap将有机会回应监管机构的担忧，之后ICO才会就该公司是否违反规则做出最终决定。
信息专员约翰·爱德华兹（John Edwards）在声明中补充道：“我们调查的初步结果表明，Snap在推出‘My AI’之前，未能充分识别和评估对儿童及其他用户的隐私风险，这是一个令人担忧的失误。我们始终明确，组织必须考虑与AI相关的风险以及其带来的益处。今天的初步执行通知表明，我们将采取行动以保护英国消费者的隐私权。”
Snap早在二月就推出了这款生成式AI聊天机器人，尽管它直到四月才在英国上线——利用OpenAI的ChatGPT大型语言模型（LLM）技术，驱动一个被固定在用户信息流顶部的机器人，充当虚拟朋友，用户可以向其寻求建议或发送快照。
最初，该功能仅对Snapchat+订阅者开放，这是该即时通讯平台的付费版本。但很快Snap也向免费用户开放了“My AI”的访问权限——同时增加了让AI向与其互动的用户发送Snaps（这些Snaps由生成式AI创建）的功能。
该公司表示，该聊天机器人已开发额外的审核和安全保护功能，包括默认考虑年龄因素，旨在确保生成的内容适合用户。该机器人还被编程为避免提供暴力、仇恨、色情或具有其他冒犯性的回复。此外，Snap的家长监护工具通过其“家庭中心”（Family Center）功能让家长知道他们的孩子在过去七天内是否与机器人进行过交流。
但尽管有声称的安全护栏，仍有报道称该机器人失控。早在三月的一次评估中，《华盛顿邮报》报道称，当被告知用户为15岁时，该聊天机器人建议掩盖酒精气味的方法。在另一案例中，当被告知用户为13岁并询问如何准备第一次发生性行为时，机器人回应了通过点蜡烛和播放音乐来营造氛围以“使其特别”的建议。
据报道，Snapchat用户也在霸凌该机器人——其中一些人还对AI被注入他们的信息流感到沮丧。
家长担忧之际，青少年正在霸凌Snapchat AI
就ICO的通知寻求评论时，Snap的一位发言人告诉TechCrunch：
我们正在仔细审查ICO的临时决定。与ICO一样，我们致力于保护用户的隐私。按照我们产品开发的标准做法，My AI在公开可用之前经过了严格的法律和隐私审查流程。我们将继续与ICO建设性地合作，以确保他们对我们的风险评估程序感到放心。
这已经不是人工智能聊天机器人首次引起欧洲隐私监管机构的注意。在二月，意大利的Garante下令位于旧金山的“虚拟友谊服务”Replika的制造商停止处理当地用户的数据——同时也提及了对未成年人风险的担忧。
意大利当局随后也对OpenAI的ChatGPT工具发出了类似的停止处理令。该禁令随后在四月被解除，但前提是OpenAI增加了更详细的隐私披露和一些新的用户控制措施——包括允许用户要求不将其数据用于训练其人工智能模型和/或删除这些数据。
谷歌Bard聊天机器人的地区发布也因主要地区隐私监管机构爱尔兰数据保护委员会（Data Protection Commission）提出担忧而推迟。它随后在欧盟于七月发布，同样是在增加了更多披露和控制措施之后——但欧洲数据保护委员会（European Data Protection Board）内部设立的一个监管工作组仍专注于评估如何在包括ChatGPT和Bard在内的生成式AI聊天机器人上执行欧盟《通用数据保护条例》（GDPR）。
波兰的数据保护机构也在上个月确认正在调查一起针对ChatGPT的投诉。
在讨论隐私和数据保护监管机构如何对待生成式AI时，总部位于华盛顿的智库隐私未来论坛（Future of Privacy Forum，FPF）的全球隐私副总裁Gabriela Zanfir-Fortuna博士指出，一份声明今年夏天由七国集团（G7）数据保护监管机构（包括法国、德国、意大利和英国的监管机构）通过，其中列出了关键关注领域，例如这些工具处理个人数据（包括未成年人数据）的法律依据。
“开发者和服务提供商应基于‘设计即隐私’（Privacy by Design）理念，将隐私嵌入使用生成式人工智能（AI）技术的新产品和服务的设计、构思、运营和管理中，并在隐私影响评估中记录其选择和数据分析。”七国集团数据保护机构（G7 DPAs）还重申了这一点。
今年早些时候，英国信息专员办公室（ICO）还发布了针对寻求应用生成式AI的开发者的指南——列出了八个问题，建议他们在构建AI聊天机器人等产品时应提出这些问题。
在七月举行的G7研讨会上，爱德华兹重申了开发者需要保持关注的必要性。据FPF报道，他表示，专员们“热衷于确保”他们“不会以错过构建社交媒体和在线广告基础商业模式时那样的方式，错过这一新技术发展中的关键时刻”——英国信息专员也警告称：“我们在这里，并且正在密切关注。”
因此，虽然Zanfir-Fortuna认为看到英国监管机构像对Snap一样发布公开初步执行通知并不罕见，但她同意监管机构在针对生成式AI的行动上可能比平时更加公开——将他们的关注度转化为公开警告，尽管他们仍在考虑如何最好地执行现有的隐私规则于大型语言模型（LLMs）。
她告诉TechCrunch：“所有监管机构都一直相当谨慎行事，但始终公开透明，他们似乎希望说服公司在构建这些工具并向公众提供时，采取更谨慎的态度，并将数据保护置于优先事项的首位。”“现有监管行动的一个共同点是，我们看到的是初步决定、要求公司使其数据处理合规的截止日期、警告信、宣布调查开启的新闻稿，而不是实际的执行决定。”
本报告已补充评论进行更新
波兰因GDPR投诉启动对ChatGPT的隐私调查