Meta首席执行官马克·扎克伯格曾承诺，有朝一日将开放提供通用人工智能（AGI）——大致定义为能完成人类所能完成的任何任务的AI。但在一份新政策文件中，Meta表示在某些情况下，它可能不会发布其内部开发的高能力AI系统。
前沿人工智能框架：界定“高风险”与“极高风险”
该文件被称为“前沿人工智能框架”（Frontier AI Framework），其中确定了该公司认为过于危险而不宜发布的两类人工智能系统：“高风险”和“极高风险”系统。
根据Meta的定义，“高风险”和“极高风险”系统均有可能协助进行网络、化学和生物攻击，其区别在于：
- 极高风险系统：可能导致“在拟议部署环境中无法缓解的灾难性后果”。
- 高风险系统：可能使攻击更容易实施，但不如极高风险系统那样可靠或稳定。
风险场景与评估机制
这里指的是哪种类型的攻击？Meta举了一些例子，例如“对受最佳实践保护的企业级环境实现自动化端到端入侵”，以及“高影响力生物武器的扩散”。Meta承认，其文件中列出的潜在灾难清单远非详尽无遗，但包括了Meta认为“最紧迫”且作为发布强大人工智能系统直接结果而可能出现的情况。
令人稍感意外的是，根据该文件，Meta对系统风险的分类并非基于任何单一的实证测试，而是参考了内部和外部研究人员的意见，这些意见需经“高级决策者”审核。原因是Meta表示，它认为评估科学尚不足以提供决定系统风险程度的“足够稳健的定量指标”。
分级管控措施
如果Meta判定某系统为高风险，该公司表示将限制内部对该系统的访问，并在实施缓解措施以“将风险降低至中等水平”之前不会发布该系统。另一方面，如果某系统被认定为极高风险，Meta表示将实施未具体说明的安全保护措施，以防止系统数据被窃取，并停止开发，直到该系统能够变得不那么危险为止。
开放战略的演进与挑战
Meta的前沿人工智能框架称将随着不断变化的人工智能格局而演进，并且Meta此前承诺在本月法国人工智能行动峰会（France AI Action Summit）之前发布。这似乎是对该公司在系统开发方面采取“开放”方法所受到的批评的回应。Meta采用了一种策略，使其人工智能技术公开可用——尽管按照通常理解并非开源——这与OpenAI等公司将系统通过API进行封闭管理的做法形成对比。
对于Meta来说，这种公开发布的方法既带来了好处也带来了困扰。该公司的AI模型家族名为Llama，已积累了数亿次下载量。但据报道，Llama已被至少一家美国对手用于开发防御性聊天机器人。
在发布其“前沿AI框架”时，Meta可能还旨在将其开放的AI战略与中国AI公司DeepSeek进行对比。DeepSeek也使其系统公开可用，但该公司的AI缺乏安全措施，且容易被引导以生成有毒和有害的输出。
Meta在该文件中写道：“我们相信，通过在决定如何开发和部署先进人工智能时同时考虑收益和风险，有可能以这样一种方式将这项技术交付给社会：在保持该技术对社会有益的同时，也将风险维持在适当的水平。”