最近几周，在法国人工智能初创公司 Mistral 的带领下，各方齐心协力推动对基础模型/GPAI 的全面监管。但欧盟立法者似乎抵制了行业游说者全力推动，让市场引导他们走上正确的道路，因为该提案保留了议会今年早些时候提出的监管这些先进人工智能的分层方法的要素。
也就是说，根据免费和开源许可证提供的 GPAI 系统的一些义务被部分免除（这意味着 它们的权重、模型架构信息和模型使用信息公开） ——其中一些例外情况，包括“高风险”模型。
路透社还报道了开源高级人工智能的部分例外情况。
根据我们的消息来源，开源例外进一步受到商业部署的限制——因此，如果/当这样的开源模型在市场上可用或以其他方式投入使用时，这种划分将不再有效。“因此，该法律有可能适用于米斯特拉尔，具体取决于如何解释‘投放市场’或‘投入使用’，”我们的消息人士表示。
我们看到的初步协议保留了 GPAI 的分类，即所谓的“系统风险”——获得此称号的模型的标准是它具有“高影响能力”，包括何时测量用于其训练的累积计算量浮点运算 (FLOP) 大于 10^25。
在这个水平上，目前很少有模型能够满足系统性风险阈值——这表明很少有前沿的 GPAI 必须履行预先义务来主动评估和减轻系统性风险。因此，米斯特拉尔的游说似乎缓解了监管打击。
由于 GPAI 在欧盟互联网市场的影响力和可扩展性，系统性风险在拟议文本中被描述为针对 GPAI 的高影响力能力的特定风险；对公共卫生、安全、公共安全、基本权利或整个社会造成实际或“合理可预见”的负面影响。
根据初步协议，具有系统性风险的 GPAI 提供商的其他义务包括使用标准化协议和最先进的工具进行评估；“毫不拖延地”记录和报告严重事件；进行并记录对抗性测试；确保足够的网络安全水平；并报告模型的实际或估计能耗。
具有系统性风险的 GPAI 的分类将基于 AI 办公室单独做出的决定或遵循科学小组的“合格警报”。符合标准的 GPAI 模型制作者需要“立即”和/或在两周内通知委员会。
该提案还允许委员会采取授权行动来调整系统性风险分类的阈值。
在其他地方，GPAI 的提供者也有一些一般义务（即具有显着通用性和广泛任务能力的人工智能模型，这些模型已经使用自我监督的大量数据进行了训练，并且可以集成到各种下游应用程序中，但是不符合系统性风险的条件），包括模型的测试和评估以及起草和保留技术文件，这些文件需要根据要求提供给监管机构和监督机构。
他们还需要向模型的下游部署者（又称人工智能应用程序制造商）提供模型功能和限制的概述，以支持他们遵守人工智能法案的能力。
该提案的文本还要求基础模型制定者制定尊重欧盟版权法的政策，包括版权所有者对文本和数据挖掘的限制。此外，他们还必须提供用于构建模型的训练数据的“足够详细”的摘要并将其公开——并由人工智能办公室（该法规提议设立的人工智能治理机构）提供披露模板。
我们知道这份版权披露摘要仍然适用于开源模型——作为其从规则中剔除的另一个例外情况。
我们看到的文本包含对实践守则的引用，提案称 GPAI 以及具有系统性风险的 GPAI 可以依赖该守则来证明合规性，直到发布“统一标准”。
它设想人工智能办公室参与起草此类准则。虽然委员会预计从该法规对 GPAI 生效后六个月开始发布标准化请求，例如要求提供有关改善人工智能系统能源和资源使用方法的报告和文件的可交付成果，并定期报告其进展情况还包括制定这些标准化要素（申请日期后两年；然后每四年）。
今天关于《人工智能法案》的三部曲实际上是在昨天下午开始的，但欧盟委员会似乎已经确定，这将是欧洲理事会、议会及其工作人员就这一有争议的文件进行最后的协商。（如果没有，正如我们之前报道的那样，随着明年欧盟选举和新的委员会任命的临近，该法规有可能被重新搁置。）
在撰写本文时，解决文件中其他几个有争议部分的谈判仍在进行中，并且仍然存在许多极其敏感的问题（例如用于执法目的的生物识别监视）。因此，该文件是否越线仍不清楚。
如果不能就所有组成部分达成一致，就不可能达成确保法律安全的协议，因此《人工智能法案》的命运仍然悬而未决。但对于那些热衷于了解联合立法者在高级人工智能模型（例如支持病毒式人工智能聊天机器人 ChatGPT 的大型语言模型）责任方面的立场的人来说，初步协议为欧盟可能的发展方向提供了一些指导。
在过去的几分钟里，欧盟内部市场专员蒂埃里·布雷顿(Thierry Breton)发推文确认谈判最终破裂——但只能等到明天。
这场史诗般的三部曲定于布鲁塞尔时间上午 9 点恢复，因此委员会看起来仍决心在本周让其于 2021 年 4 月提出的基于风险的人工智能规则手册顺利通过。当然，这将取决于找到其他共同立法者、理事会和议会可以接受的妥协方案。由于风险如此之高，文件又如此高度敏感，成功绝非必然。