英国数据保护监管机构向生成式AI开发者发出了迄今为止最明确的警告——表示期望他们解决隐私风险 在将产品推向市场之前 。
在一篇博客文章中，紧随信息专员办公室（ICO）监管风险执行总监斯蒂芬·奥蒙德稍后将在一次会议上发表的讲话之后，该监管机构警告称，开发人员不应在未对隐私和数据保护风险进行适当尽职调查的情况下匆忙采用强大的AI技术。
“我们将检查企业在推出生成式AI之前是否已解决隐私风险——并在存在因不当使用数据而对人们造成伤害的风险时采取行动。在部署前忽视人们对权利和自由的威胁是没有任何借口的，”奥蒙德预计将发出警告。
他还将指示在英国市场运营的企业，他们需要向ICO展示“他们如何在自身背景下解决了出现的风险——即使底层技术相同”。
这意味着ICO将考虑与生成式AI技术应用相关的背景，例如，对于使用生成式AI API的健康应用程序，其合规预期可能会高于面向零售的应用程序。（简而言之，这种尽职调查并非高深莫测，但不要指望用‘我们只是在使用OpenAI的API，所以认为在增强我们的性健康诊所查找器应用时添加AI聊天机器人无需考虑隐私’这类说辞来隐藏……）
企业正确看待生成式AI带来的机遇，无论是为客户创造更好的服务，还是降低服务成本。但绝不能忽视隐私风险。”Almond还将表示，并敦促开发者：“在初期投入时间了解AI如何使用个人信息，缓解已察觉的任何风险，然后自信地推出AI方案，确保不会引起客户或监管机构的反感。”
为了了解此类风险若管理不当可能带来的成本，英国数据保护立法规定了对违规行为的罚款，最高可达1750万英镑或上一年度全球总营业额的4%，以较高者为准。
零散的AI规则
作为既定的监管机构，ICO被赋予了根据政府在近期AI白皮书中提出的方法，制定人工智能使用隐私和数据保护指南的任务。
政府表示，它倾向于采用一套由专注于特定领域和跨领域的监管机构制定的“灵活”原则和情境-specific指导方针来监管人工智能——例如竞争监管机构、金融行为监管局（Financial Conduct Authority）、Ofcom以及信息专员办公室（ICO）——而不是引入专门的立法框架来引导人工智能的发展，就像欧盟海峡对岸正在讨论的那样。
这意味着随着英国监管机构在未来几周和几个月内制定并完善相关指导方针，将出现一套参差不齐的期望标准。（英国竞争与市场管理局上个月宣布对生成式AI进行审查；而本月早些时候，Ofcom就生成式AI可能对通信行业意味着什么提出了一些看法，其中包括其如何监测发展动态以评估潜在危害的细节。）
在英国白皮书发布后不久，信息专员办公室（ICO）的Almond公布了一份包含八个问题的清单，他表示，生成式AI开发者（和用户）应该问自己这些问题——包括核心问题，如处理个人数据的法律依据是什么；他们将如何履行透明度义务；以及是否已准备数据保护影响评估。
今天的警告更加明确。信息专员办公室（ICO）明确表示，它期望企业不仅要关注其建议，还要付诸行动。任何忽视该指导方针并试图匆忙将应用推向市场的企业，都将为自己带来更大的监管风险——包括可能面临巨额罚款。
这也建立在监管机构去年秋季发出的特定技术警告基础之上，当时，监管机构特别点名所谓的“情绪分析”AI，认为除了纯粹琐碎的使用场景（如儿童派对游戏）外，其他用途风险过大，并警告这种“不成熟”的生物识别技术带来的歧视风险大于潜在机会。
“我们尚未看到任何情绪AI技术的发展能够满足数据保护要求，并且对该领域的比例性、公平性和透明度仍有更多一般性问题，”信息专员办公室（ICO）当时写道。
虽然英国政府已表示，不需要专门的立法或exclusively AI-focused oversight body来监管该技术，但最近，它一直在强调AI开发者应以安全为核心。而本月早些时候，首相里希·苏纳克宣布计划今年秋季举办一场全球AI安全峰会，似乎旨在促进研究工作。这一想法迅速获得了多家AI巨头的支持。
英国反垄断监管机构宣布对生成式AI进行初步审查
英国将避免为AI制定固定规则，转而采用“基于具体情境的指导”