欧盟立法者上周五敲定的政治协议已获确认，赋予委员会调整泛欧人工智能规则的权力，以适应前沿领域发展。
在监管生成式AI工具热潮背后的强大模型时，立法者着眼于为即将出台的法律提供前瞻性保障。欧盟《人工智能法案》将这些模型和系统称为“通用目的”AI模型，而非业界偏好的“基础模型”或“前沿模型”。据欧盟委员会称，此举旨在避免将分类与特定技术（如基于Transformer的机器学习）绑定，共同立法者更倾向于使用通用术语。
一位欧盟委员会官员表示：“未来可能会有不同的技术路径，因此我们正在寻找一个更通用的术语。”他补充道：“基础模型属于通用目的AI模型的一部分。这些模型可用于广泛任务，也可集成到系统中。例如：GPT-4是通用目的AI模型，而ChatGPT是通用目的AI系统——其中GPT-4被集成在ChatGPT中。”
正如此前报道，该协议包括为监管所谓通用目的人工智能（GPAI）设立低风险层级和高风险层级。适用于生成式AI技术的高风险规则触发点由法律规定的初始阈值决定。
欧盟就AI规则进行‘最终’谈判进入第二天——但关于基础模型的协议已在桌上
此外，经同意的欧盟《人工智能法案》草案引用了训练模型的算力规模，即浮点运算次数（FLOPs），设定通用目的AI（GPAI）被视为具有“高影响力能力”的门槛为10^25 FLOPs。
但在今天的技术简报会上，欧盟委员会确认这只是一个“初始阈值”，并重申有权通过实施/授权法案随时间推移更新该阈值。委员会还表示，未来计划将该FLOPs阈值与“其他基准”结合使用，这些基准将由欧盟委员会内新设立的专家监管机构——AI办公室（AI Office）制定。
为何选择25 FLOPs作为GPAI的高风险阈值？
欧盟委员会表示，选定该数字的目的是为了涵盖当前的前沿模型。然而，委员会声称，在三方会谈中，立法者并未讨论甚至未考虑过该阈值是否适用于目前存在的任何模型，例如OpenAI的GPT-4或Google的Gemini。
一位欧盟委员会官员补充说，GPAI制造商需自行评估其模型是否符合FLOPs阈值，从而判断其是否属于受“系统性风险”规则约束的GPAI。
一位官员在新闻发布会上表示：“目前没有任何官方来源明确指出ChatGPT、Gemini或中国模型已达到这一级别的FLOPs水平。基于我们所掌握的信息及选定的10^25数值，我们选择了一个能大致反映当前前沿模型的数字。至于是否涵盖GPT-4、Gemini或其他模型，我们不予断言——因为在设定框架下，应由各公司自行评估实际使用的FLOPs或计算能力。科学文献指出这些数字代表了当前最先进的模型水平，我们将拭目以待各公司的自我评估结果。”
他们补充道：“这些规则并非针对特定公司，而是旨在界定一个可能变化的阈值。我们有权根据技术演进调整该阈值，还可能开发其他基准指标，以便在未来更恰当地对不同阶段进行评估。”
GPAI的风险分级与合规要求
落入《人工智能法案》高风险层级的通用目的人工智能系统（GPAIs）将面临事前监管要求，需评估并缓解系统性风险。这意味着必须主动测试模型输出，以缩小对公共健康、安全、公共安全、基本权利或整个社会造成实际（或“可合理预见”）负面影响的潜在风险。
处于“低层级”的GPAIs仅面临较轻的透明度要求，包括对生成式AI输出内容施加水印义务。
针对GPAI的水印要求最初出现在2021年4月提出的基于风险框架版本中，侧重于人工智能聊天机器人和深度伪造等技术的透明度，现在也将普遍适用于通用目的人工智能系统。
委员会官员详细说明一致水印义务时指出：“有义务基于当前可用的最新技术水平，尝试对[由生成式AI生成的]文本添加水印。”他进一步解释：“目前技术在为视频和音频添加水印方面远比文本成熟。但我们要求水印操作应基于现有技术的最先进水平，同时期望随着时间推移该技术不断成熟并达到最佳效果。”
GPAI模型制造商还必须承诺遵守欧盟版权规则，包括遵守欧盟版权指令中包含的现有机器可读文本和数据挖掘退出选项。对开源GPAI免除该法案的透明度要求并不意味着将其从版权义务中解脱出来，委员会确认版权指令仍适用于开源GPAI。
AI办公室的资源配置与职能
关于将在设定GPAIs风险分类阈值方面发挥关键作用的AI办公室，欧盟委员会确认目前尚未确定预算和人员编制。（尽管欧盟内部市场专员蒂埃里·布雷顿暗示，随着该机构逐步组建，欧盟即将迎来“大量”新同事。）
在问及资源配置问题时，欧盟委员会官员表示这将由执行机构在未来作出“适当且正式的决策”。该官员补充道：“想法是为该办公室设立专门的预算科目，除了合同制人员和固定编制人员外，还能从成员国招募国家专家。此外，部分工作人员也将被部署到欧盟委员会内部。”
人工智能办公室将与法律设立的新科学咨询小组协同工作，以帮助理解先进人工智能模型的能力，从而监管系统性风险。该官员指出：“我们确定设立一个科学小组，有效帮助AI办公室了解是否存在尚未识别的新风险。”他举例说：“例如，还可以就某些未达到FLOP阈值但由于某些原因实际上可能引发重要风险的模型发出警报。”
实施时间表与过渡期安排
尽管尚无最终文本，欧盟执行机构似乎急于公布即将出台法律的关键细节。接下来几周，欧盟面临整合马拉松式38小时谈判达成协议内容的任务，但细节中仍可能隐藏陷阱，值得对可能在1月或2月出现的文本进行仔细审查。
虽然全面监管条例将在几年内才能正式实施，但欧盟将在此期间推动通用目的人工智能（GPAI）遵守行为准则。因此，人工智能巨头将面临压力，需通过欧盟的《AI公约》尽可能贴近即将出台的硬性法规。
欧盟《人工智能法案》本身可能要等到2026年的某个时候才会全面生效。一旦汇编完成并翻译成各成员国语言，必须经过议会和理事会的最终投票确认，之后还有一个短暂时期用于在欧盟官方公报上公布法律文本，然后再过一段时间才会正式生效。
欧盟议员还同意对《人工智能法案》的合规要求采取分阶段方法，允许在通用目的人工智能（GPAI）适用高风险规则前有24个月的宽限期。
严格禁止的人工智能用例列表将在法律生效后仅六个月适用。这有可能意味着在2024年下半年开始实施对某些“不可接受风险”使用人工智能的禁令，例如社会评分或类似Clearview AI风格的自拍抓取用于面部识别数据库（假设理事会或议会内没有最后时刻反对该监管）。
欧盟议员在深夜达成‘全球首个’人工智能规则协议
谷歌将与欧洲合作推出过渡性‘AI公约’