人工智能在日常用户生活和各类企业中正变得如此重要，以至于欧盟有必要更深入地研究其可能带来的正面和负面影响。为此，已批准了《人工智能法案》的谈判，这是全球首部综合性人工智能法律。
欧盟在一份声明中表示：“作为其数字战略的一部分，欧盟希望规范人工智能，以确保这项创新技术的开发和使用条件更优”。
欧洲议会在获得499票赞成、28票反对和93票弃权后，确定了该法案的谈判立场。现在，将与欧盟成员国就法案的最终文本展开对话，预计年底前将达成最终协议。
早在2021年4月，欧盟委员会就提出了关于欧盟人工智能监管框架的建议，其中提议对所有在不同应用中使用的AI系统进行分析并根据其对用户可能构成的风险进行分类。不同的危险等级意味着对技术实施不同程度的监管。
欧盟方面表示：“议会的首要任务是确保在欧盟使用的AI系统安全、透明、可追溯、非歧视且环保。AI系统应由人类监督，而非自动化，以避免有害结果。”
存在不可接受风险的AI系统
这部新法律旨在禁止在公共场所使用实时生物识别监控系统，尽管他们表示，在法官事先授权的情况下，这类系统在非常特定的案例中将被允许。
其他被禁止的AI系统将包括那些操纵个人或弱势群体行为的系统，例如通过语音激活并鼓励儿童采取危险行为的玩具，以及促进社会评分或根据人们的行为、身体特征或社会经济地位对其进行分类的系统。
高风险系统
《人工智能法案》将具有特定用途的系统归类为高风险系统，这些系统只有在符合安全要求、尊重基本权利和欧盟价值观的情况下才能投放市场。所有高风险系统在商业化之前及其整个生命周期内都必须进行评估。
欧盟已将八类特定领域的高风险系统列入数据库，这预示着一个未来可能出现通用人工智能的时代：
- 生物识别与自然人分类。
- 关键基础设施的管理与运营。
- 教育与职业培训。
- 就业、员工管理及自主创业准入。
- 获取和使用基本私人服务以及公共服务和福利。
- 执法。
- 移民、庇护及边境管控管理。
- 法律解释协助与执法支持。
有限风险系统
这些系统将必须满足最低限度的透明度要求，使用户在做出决策时能够获得充分信息，从而能够自由且知情地做出决定。例如，这里将包括生成式AI或处理图像、音频或视频的系统。旨在解决诸如深度伪造（deepfakes）等严重问题。
ChatGPT的监管
在ChatGPT在欧洲一些国家引发诸多争议甚至导致其被禁之后，《人工智能法案》提出，生成式人工智能工具（如ChatGPT）必须满足特定的透明度要求方可获准使用。
因此，有必要对模型进行训练，以避免其生成非法内容；并且当用户使用ChatGPT生成虚假图像（深度伪造）时，应有提示表明该内容由人工智能操纵。同样，开发者必须详细解释用于人工智能训练的受版权保护的数据。