✦✦✦
全文共2696字
✦✦✦阅读约需8分钟
当地时间3月31日，意大利个人数据保护局宣布，从即日起禁止使用聊天机器人ChatGPT，并限制开发这一平台的OpenAI公司处理意大利用户信息。同时个人数据保护局开始立案调查。
在此之前，世界范围内已经有多所大学和机构宣布禁用ChatGPT，然而，意大利是首个举国封禁ChatGPT的西方国家。
为何最先进的AI系统会遭到如此多的抵制呢？
图源路透社
PART.01
意大利为什么对ChatGPT说“不”？
3月底，ChatGPT庞大的用户访问量导致该网站崩溃。在此期间，系统中的一个漏洞把一些用户的个人信息随机发送给了其他用户，包括用户姓名、他们与ChatGPT的私密聊天记录，甚至还有信用卡细节。
除了信息数据泄露问题，意大利的隐私监管机构Garante还质疑OpenAI用“大规模收集和处理个人数据”来训练平台算法的方式是否有法律依据。ChatGPT有时还会生成并存储虚假的个人信息。
Italy’s privacy watchdog, known as the Garante, also questioned whether OpenAI had legal justification for its “massive collection and processing of personal data” used to train the platform’s algorithms. And it said ChatGPT can sometimes generate — and store — false information about individuals.
同时，由于无法验证用户的年龄，ChatGPT会提供给未成年人完全不适合他们的发育和认知水平的回答。
一直以来，人们都很担心AI的潜在风险，包括取代就业岗位和传播错误信息和偏见的威胁。担心各大企业间争相开发此类系统的竞赛会逐渐失控，包括马斯克在内的一些科技行业的领袖们和科学家在3月31日发表了一封公开信，呼吁类似OpenAI的公司在今年秋季之前暂停开发更强大的人工智能模型，以便给社会权衡风险的时间。
意大利隐私监管机构的负责人斯坦齐奥尼表示，他也是签署公开信的人之一，因为他“不清楚”那些开发人工智能的人最终“追求的目标是什么”。
如果人工智能会去“侵害”一个人的“自我决定权”，那么“这是非常危险的”，斯坦齐奥尼说。他还认为，缺乏对于13岁以下用户的信息过滤的措施也会造成“相当严重的”后果。
If AI should “impinge” on a person’s “self-determination” then “this is very dangerous”, Stanzione said. He also described the absence of filters for users younger than 13 as ”rather grave.”
图源网络
PART.02
ChatGPT的监管将何去何从？
意大利数据保护机构表示，OpenAI需要在20天内制定相应措施来回应监管机构的担忧，否则将被处以2000万欧元(约1.5亿人民币)或最高达其年收入4%的罚款。
The Italian data-protection authority said OpenAI had 20 days to say how it would address the watchdog's concerns, under penalty of a fine of €20 million or up to 4% of annual revenues.
该机构的声明援引了欧盟的《通用数据保护条例》，同时也提及了最近涉及ChatGPT用户聊天对话和付款信息的数据泄露事件。
网络安全评级公司SecurityScorecard的丹·摩根表示，这项禁令表明了在欧洲运营的公司遵守监管规定的重要性，“企业必须优先保护个人数据，并严格遵守欧盟制定的数据保护法规——遵守法规不是可有可无的额外规定。”
消费者权益保护组织BEUC也呼吁欧盟和国家当局(包括数据保护监管机构)调查ChatGPT和与之类似的聊天机器人，此前该组织已在美国提起诉讼。
尽管欧盟目前正在制定世界上第一个关于人工智能的立法，但BEUC担心，人工智能法案需要数年时间才能生效，在这期间，监管不足的技术可能会使消费者面临受到伤害的风险。
BEUC副主任乌苏拉·帕切尔警告说，目前，社会尚未有足够的保护措施来使人们免受人工智能可能造成的危害。
“人们越来越担心类似ChatGPT的聊天机器人可能会欺骗和操纵我们。所以，这些人工智能系统需要更严格的公众监督，政府当局必须不断加强相关控制，”她说。
"There are serious concerns growing about how ChatGPT and similar chatbots might deceive and manipulate people. These AI systems need greater public scrutiny, and public authorities must reassert control over them," she said.
图源：盖蒂图片
PART.03
ChatGPT禁令，意大利不是独行者
早在1月初，美国纽约市教育部就宣布禁止公立学校学生在校内设备和网络上使用ChatGPT，以预防学生作弊的行为。
发言人珍娜·莱尔表示，教育部以“对学生学习的负面影响，以及对内容安全性和准确性的担忧”为由，禁止了该技术的使用。此举可能会在美国其他州产生连锁反应。
在欧洲，巴黎政治学院率先行动。在1月末发出通知，禁止各校区全体学生及教职工利用ChatGPT完成教学任务。如有发现违规，学生可能会被学校，甚至法国高等教育系统开除。
除了世界范围内的多所学校对ChatGPT发布了禁令，世界上最负盛名的机器学习会议的ICML（国际机器学习会议）也发布了禁令政策，称“除非生成的文本是论文实验分析的一部分，否则禁止论文中包含从ChatGPT等大规模语言模型（LLM）生成的文本。”
去年12月12日，知名的程序员问答网站Stack Overflow宣布，临时禁止在该网站发布ChatGPT生成的文本。违规者最多可被封禁30天。
注：Stack Overflow是一个与程序相关的IT技术问答网站 。网站允许注册用户提出或回答问题，还可对已有问题或答案加分、扣分或进行修改。
尽管世界范围有许多机构都对ChatGPT发布了禁令，监控全球网络接入的倡导组织NetBlocks的负责人表示，意大利的做法是“西方国家首次对主流AI平台进行的举国限制”。
Italy’s action is “the first nation-scale restriction of a mainstream AI platform by a democracy.” said Alp Toker, director of the advocacy group NetBlocks, which monitors internet access worldwide.
意大利暂时禁用ChatGPT的做法也促使了其他欧洲国家展开相关调查研究。德国数据保护专员向贸易期刊透露，德国可能跟随意大利的脚步，就数据安全问题禁用ChatGPT。法国和爱尔兰的隐私监管机构已与意大利隐私监管机构联系，以了解更多禁令的相关依据。
PART.04
Open AI 对禁令的回应
ChatGPT母公司OpenAI回应禁令称，在训练如ChatGPT的AI系统时，他们会努力减少个人数据的投喂，因为“我们想让AI学习了解世界，而非窥探个体隐私”。
OpenAI said in response that it works “to reduce personal data in training our AI systems like ChatGPT because we want our AI to learn about the world, not about private individuals.”
在BBC的采访中，OpenAI表示，应意大利数据保护局Garante的要求，该公司已禁止向意大利用户提供ChatGPT服务。但他们希望，不久后ChatGPT可以恢复在意大利的运行。
“我们致力于保护个人隐私，自认为是遵守了GDPR（《通用数据保护条例》）和其他相关隐私法律。我们同样坚信管控AI是有必要的，因此我们期望与Garante展开更紧密的合作，让其了解OpenAI系统的构建和运作方式。”
"We are committed to protecting people's privacy and we believe we comply with GDPR and other privacy laws. We also believe that AI regulation is necessary — so we look forward to working closely with the Garante and educating them on how our systems are built and used.”
该公司CEO萨姆·奥特曼（Sam Altman)于上周宣布，他将在今年五月前往六大洲与用户和开发者们就该项技术开展讨论。行程地包括布鲁塞尔，该地的欧盟议员们一直在就限制高风险AI的全新规定进行协商谈判，以及马德里、慕尼黑、伦敦和巴黎。
重点词汇
1.Impinge v. 对……有明显作用（或影响）；妨碍；侵犯
Mass media are likely to impinge on public opinions.
大众媒体有可能影响公众舆论。
2.Coordinate vt. 使协调；adj. 同等的
The evacuation is being coordinated by the UN and the Red Cross.
联合国和红十字会正在协调疏散工作。
原文链接：
https://www.bbc.com/news/technology-65047304
https://www.reuters.com/technology/germany-principle-could-block-chat-gpt-if-needed-data-protection-chief-2023-04-03/
https://www.bbc.com/news/technology-65139406
https://apnews.com/article/chatgpt-ai-data-privacy-italy-66634e4d9ade3c0eb63edab62915066f
https://globalnews.ca/news/9593526/italy-blocks-chatgpt-temporarily-over-privacy-concerns/
编译｜邱伊娜 吴奕辰 马宇欣
排版｜郑佳诺
