A 初稿适用于欧盟《人工智能法案》下通用人工智能模型提供者的行为准则初稿已发布，同时征求反馈意见——截止日期为11月28日。起草工作将持续到明年，正式合规期限将在未来几年内陆续生效。
这项全欧盟范围内的法律于今年夏天生效，根据基于风险的框架监管人工智能应用，同时也针对更强大的基础或通用AI模型（GPAIs）采取了一些措施。这正是本行为准则发挥作用的地方。
很可能被列入监管范围的包括OpenAI（即支撑AI聊天机器人ChatGPT的GPT模型制造商）、Google及其Gemini GPAIs、Meta及其Llama、Anthropic及其Claude，以及法国Mistral等其他公司。如果他们希望确保遵守《人工智能法案》，从而避免不合规执法的风险，就必须遵守《通用人工智能行为准则》。
需要澄清的是，该准则旨在为履行欧盟《人工智能法案》的义务提供指导。GPAI提供商如果认为可以通过其他措施证明其合规性，可以选择偏离最佳实践建议。
该准则的首个草案长达36页，但可能会变得更长甚至大幅延长。起草者警告称，由于它“是一份概述准则指导原则和目标的高层级起草计划”，因此细节尚不充分。
草案中穿插着多个框图，提出了工作组尚未解决的“开放性问题”。来自行业和民间社会的反馈征集显然将在塑造尚未包含的具体子措施和关键绩效指标（KPIs）的内容方面发挥关键作用。
但该文件让GPAI制造商对合规期限适用后即将面临的期望有了大致了解。
GPAI制造商的透明度要求定于2025年8月1日生效。
但对于最强大的GPAI——即法律定义为具有“系统性风险”的那些——预期它们必须在生效后的36个月内（即2027年8月1日）遵守风险评估和缓解要求。
此外还有一个前提条件，即该草案是基于只有“少数”GPAI制造商和具有系统性风险的GPAI这一假设制定的。起草者警告称：“如果该假设被证明是错误的，未来的草案可能需要大幅修改，例如引入更详细的分层措施体系，主要侧重于那些带来最大系统性风险的模型。”
版权
在透明度方面，该准则将规定GPAI如何遵守信息提供规定，包括在版权材料领域。
这里的一个例子是“子措施5.2”，目前承诺签署方提供用于开发GPAI的所有网络爬虫的名称及其相关的robots.txt功能“包括在抓取时”。
GPAI模型制造商继续面临关于他们如何获取数据来训练其模型的问题，多家权利持有人提起的多起诉讼指控AI公司非法处理受版权保护的信息。
草案《行为准则》中的另一项承诺要求通用人工智能（GPAI）提供商设立单一联系点和投诉处理机制，以便权利持有人能够“直接且迅速”地沟通不满。
其他与版权相关的拟议措施涵盖文档记录，预计通用人工智能（GPAI）将需提供关于用于“训练、测试和验证的数据来源”以及“获取和使用受保护内容以开发通用人工智能的授权”的相关信息。
系统性风险
最强大的通用人工智能（GPAI）还受到欧盟《人工智能法案》中旨在缓解所谓“系统性风险”的规则约束。目前，这些人工智能系统被定义为使用总计算能力超过10^25 FLOPs进行训练的模型。
该《行为准则》列出了一系列签署方应视为系统性风险的风险类型，其中包括：
- 进攻性网络安全风险（例如漏洞发现）。
- 化学、生物、放射性和核风险。
- “失控”（此处指无法控制“强大的自主通用人工智能”）以及自动化使用模型进行人工智能研发。
- 说服与操纵，包括可能危及民主进程或导致对媒体信任丧失的大规模虚假/错误信息。
- 大规模歧视。
这一版本的《行为准则》还建议，通用人工智能（GPAI）制造商也可能识别出未明确列出的其他类型的系统性风险，例如“大规模”隐私侵权和监视，或可能对公共健康构成风险的用途。此外，该文件在此提出的一个开放性问题是何种风险应优先添加到主要分类体系中；另一个问题是系统性风险分类应如何处理深度伪造风险（涉及人工智能生成的儿童性虐待材料和非自愿亲密图像）。
该《行为准则》还寻求提供有关识别可能导致模型产生系统性风险的关键属性的指导，例如“危险模型能力”（如网络攻击或“武器获取或扩散能力”），以及“危险模型倾向”（例如与人类意图和/或价值观不一致；具有欺骗倾向；偏见；捏造事实；缺乏可靠性和安全性；以及对目标修改的抵制）。
尽管随着起草工作的继续，许多细节仍需补充，但《行为准则》的作者指出，其措施、子措施和关键绩效指标（KPIs）应保持“相称性”，特别关注“根据特定提供商的规模和能力进行调整，尤其是那些资金资源少于人工智能发展前沿企业的中小企业和初创企业”。他们补充道，还应适当关注“不同的分发策略（例如开源），以体现相称性原则，并兼顾收益和风险。”
草案提出的许多未决问题涉及如何将具体措施应用于开源模型。
框架内的安全与保障
代码中的另一项措施涉及“安全与保障框架”（SSF）。通用人工智能（GPAI）制造商将被要求详细说明其风险管理政策，并“持续且彻底地”识别可能由其通用人工智能引发的系统性风险。
此处有一项关于“风险预测”的有趣子措施。这将使签署方承诺在其安全与保障框架中包含“尽最大努力估算”的时间表，以预期何时开发出会触发系统性风险指标的模型——例如前述的危险模型能力和倾向。这可能意味着，从2027年开始，我们将看到前沿AI开发者公布其预期模型开发跨越某些风险阈值的时间框架。
此外，草案代码重点关注具有系统性风险的通用人工智能，通过对其模型能力和局限性进行“同类最佳评估”，并应用“一系列合适的方法论”来实现这一点。列出的示例包括：问答集、基准测试、红队演练及其他对抗性测试方法、人类提升研究、模型生物体、模拟以及对机密材料的代理评估。
另一项关于“重大系统性风险通知”的子措施将承诺签署方在“有充分理由相信重大系统性风险可能出现时”，向AI办公室报告。AI Office是根据该法案设立的监督和指导机构。
该代码还规定了“严重事件报告”的措施。
文件指出：“签署方承诺识别并跟踪严重事件，只要这些事件源于其具有系统性风险的通用人工智能模型，就应及时记录并向AI办公室以及酌情向国家主管当局报告任何相关信息和可能的纠正措施。”然而，一个相关的未决问题征求关于“严重事件包含哪些内容”的意见，看来在此处还需进一步工作以明确定义。
草案代码还包括关于针对严重事件可采取的“可能纠正措施”的更多问题。它还询问“对于开放权重或开源提供商而言，哪些严重事件响应流程是合适的？”，以及其他寻求反馈的表述。
起草者在结论中表示：“本代码初稿是四个专门工作组对现有最佳实践进行初步审查、近430份提交材料提供的利益相关者咨询意见、提供商研讨会的回应、国际方法（包括G7行为准则、前沿AI安全承诺、布莱切利宣言以及相关政府机构和标准制定机构的成果），以及最重要的是《人工智能法案》本身的结果。”
“我们强调，这仅是一份初稿，因此《准则》草案中的建议是临时性的，可能会发生变化。”他们补充道，“因此，在我们进一步完善和更新《准则》内容，并朝着2025年5月1日更细致的最终版本迈进的过程中，我们诚邀您提供建设性意见。”