欧盟的新《人工智能法案》可禁止存在“不可接受风险”的人工智能系统

自周日起，欧盟正式禁止使用被认定存在“不可接受风险或危害”的人工智能系统。2月2日是欧盟《人工智能法案》首个合规截止日期。该法案由欧洲议会于去年3月批准，是一项全面的人工智能监管框架，旨在覆盖从消费者应用到物理环境等各类人机交互场景。

四大风险等级界定监管强度

该法案将人工智能应用划分为四个风险等级：

1. 最低风险：如电子邮件垃圾邮件过滤器，不受监管监督。
2. 有限风险：如客户服务聊天机器人，接受轻度监管。
3. 高风险：如医疗建议类AI，面临严格监管。
4. 不可接受风险：如社会评分系统，将被完全禁止。

七类不可接受风险应用遭禁

除社会评分外，以下应用同样属于禁令范畴：

• 以潜意识或欺骗方式操纵个人决策的AI。
• 利用年龄、残疾或社会经济地位等脆弱性的AI。
• 基于外貌预测犯罪倾向的AI。
• 通过生物特征推断性取向等个人特征的AI。
• 在公共场所为执法目的实时收集生物数据的AI。
• 在工作场所或学校推断人员情绪的AI。
• 通过网络抓取或监控影像创建人脸识别数据库的AI。

特定豁免条件与违规处罚

部分禁令设有例外条款。例如，经相关管理机构授权，执法部门可在特定情况下使用公共场所生物数据收集系统，用于对被绑架者进行“定向搜索”，或应对“具体、重大且紧迫”的生命威胁。但此类豁免必须获得官方批准，且后续数据处理需符合规定。

对于违规企业，无论其总部位于何处，只要在欧盟境内被发现使用上述禁用AI应用，将面临最高3500万欧元或全球年营业额7%的罚款（以较高者为准）。