Meta宣布推出“前沿人工智能框架”，将停止开发并发布其认定具有极高风险的AI系统。该政策重点关注网络安全与生物安全领域的重大风险，并明确表示在特定情况下可能选择不公开自研AI模型。
风险分级与管控措施
新政策将AI系统划分为两级：
- 高风险系统：可能助长网络攻击或生物威胁，仅在落实既定安全措施的前提下有限度推进开发；
- 关键风险系统：被认为具有极高危险性且可能导致灾难性后果，Meta将彻底停止此类系统的开发，并确保其在采取充分安全措施前不会上线。
评估机制与决策流程
鉴于现有科学方法难以精准界定AI风险等级，Meta不采用固定测试标准，而是组建由内外部专家构成的团队进行评估，最终决策权归属高层管理人员。此举表明Meta在坚持开放AI开发战略的同时，正积极构建风险防控体系。