截至周日，欧盟监管机构有权禁止使用其认定构成“不可接受风险”或造成危害的人工智能系统。
2月2日是首个合规截止日期，针对的是欧盟《人工智能法案》。该法案是一项全面的人工智能监管框架，经欧洲议会多年审议后于去年3月最终批准，并于8月1日正式生效。
具体规定详见法案第5条。广义上，该法案旨在涵盖人工智能与个人互动的各类应用场景，从消费者应用延伸至物理环境。
根据欧盟的分级监管方法，风险等级分为四类：
- 极小风险（如电子邮件垃圾邮件过滤器）：不受监管监督；
- 有限风险（如客户服务聊天机器人）：受轻度监管监督；
- 高风险（如用于医疗建议的AI）：面临严格监管监督；
- 不可接受风险：本月合规要求的重点，将被完全禁止。
被禁止的活动包括：
- 用于社会评分的AI（如基于个人行为建立风险档案）；
- 以潜意识或欺骗方式操纵个人决策的AI；
- 利用年龄、残疾或社会经济地位等脆弱性的AI；
- 试图根据外貌预测犯罪倾向的AI；
- 利用生物特征推断个人特征（如性取向）的AI；
- 在公共场所收集“实时”生物特征数据用于执法目的的AI；
- 试图推断人们在工作或学校中情绪的AI；
- 通过抓取在线图片或监控画面创建/扩充人脸识别数据库的AI。
在欧盟被发现使用上述任何AI应用的公司，无论总部所在地，均将面临罚款。罚款金额最高可达3500万欧元（约3600万美元）或上一年度全球年营业额的7%，以较高者为准。
英国律师事务所Slaughter and May技术主管Rob Sumroy在接受TechCrunch采访时指出，这些罚款不会立即生效。
Sumroy表示：“预计机构将在2月2日前实现完全合规，但公司需关注的下一个重要截止日期是8月。届时，主管当局将明确，罚款和执行条款也将正式生效。”
初步承诺
2月2日的截止日期在某些方面具有形式意义。
去年9月，超过100家公司签署了《欧盟AI公约》（EU AI Pact）。这是一项自愿承诺，旨在法案正式实施前提前应用其原则。签署方（包括Amazon、Google和OpenAI）承诺识别可能被归类为高风险的AI系统。
部分科技巨头（ notably Meta和Apple）未加入该协议。法国AI初创公司Mistral作为法案最严厉的批评者之一，也选择不签署。
这并不意味着未签约公司将免除义务——包括禁止使用不可接受的高风险系统。Sumroy指出，鉴于被禁用例的性质，大多数公司本身就不会从事此类行为。
Sumroy表示：“对企业而言，围绕《欧盟人工智能法案》的关键担忧在于：清晰的指南、标准和行为准则能否及时出台并提供明确合规指引。目前，各工作组正按时推进开发者行为准则的制定工作。”
可能的豁免情形
《人工智能法案》中的多项禁令设有例外条款。
例如，若有助于对绑架受害者开展“定向搜索”，或防范对生命构成“具体、重大且紧迫”的威胁，执法部门可在公共场所使用特定生物识别信息收集系统。此类豁免需经主管机构授权，且执法部门不得仅基于系统输出作出对个人产生“不利法律效果”的决定。
此外，出于“医疗或安全”正当理由（如治疗用途），允许在工作场所和学校中使用情绪推断系统。
欧盟委员会表示将于“2025年初”发布更多指南，此前已于11月与利益相关方进行磋商，但目前尚未公布。
Sumroy表示，尚不清楚其他现行法律将与法案禁令及条款产生何种互动。随着执法窗口期临近，明确指引可能要等到今年晚些时候才会出现。
“企业需牢记，AI监管并非孤立存在，”Sumroy强调，“GDPR、NIS2和DORA等其他法律框架将与《人工智能法案》相互作用，尤其在事件通知要求重叠方面带来潜在挑战。理解这些法律的衔接关系，其重要性不亚于理解法案本身。”