OpenAI已更新其准备框架——这是该公司用于评估AI模型安全性并在开发与部署期间确定必要安全措施的内部系统。在此次更新中，OpenAI表示，如果竞争对手的AI实验室发布了缺乏类似保护措施的“高风险”系统，它可能会“调整”其安全要求。
这一变化反映出商业AI开发者面临着加快部署模型的日益激烈的竞争压力。OpenAI一直被指责为了更快发布而降低安全标准，并且未能提供详细说明其安全测试情况的及时报告。上周，12名前OpenAI员工在埃隆·马斯克起诉OpenAI的案件中提交了一份简报，辩称如果该公司完成计划中的公司重组，将会被鼓励在安全方面进一步偷工减料。
或许是为了预见批评，OpenAI声称不会轻易做出这些政策调整，并会将安全措施保持在“更具保护性”的水平。
“如果另一家前沿AI开发者发布了缺乏可比保护措施的高风险系统，我们可能会调整我们的要求，”OpenAI在周二下午发布的博客文章中写道。“然而，我们将首先严格确认风险格局确实发生了变化，公开承认我们正在做出调整，评估该调整不会实质性地增加严重伤害的整体风险，并且仍将安全措施保持在更具保护性的水平。”
更新后的准备框架也明确指出，OpenAI更加依赖自动化评估以加快产品开发速度。该公司表示，虽然并未完全放弃人工测试，但已构建了一套“不断增长的自动化评估工具”，据称能够“跟上[更快速]的发布节奏”。
一些报道与此说法相矛盾。据《金融时报》报道，OpenAI为即将发布的一款重大模型的安全检查提供了不到一周的时间——与之前的发布相比，这是一个压缩的时间表。该出版物的消息来源还指控，OpenAI的许多安全测试现在是在模型的早期版本上进行的，而不是在面向公众发布的版本上进行的。
在声明中，OpenAI否认了其在安全方面做出妥协的说法。
OpenAI框架的其他变更涉及公司如何根据风险对模型进行分类，包括那些可能隐藏自身能力、规避安全措施、阻止被关闭甚至自我复制的模型。OpenAI表示，现在将重点关注模型是否达到两个阈值之一：“高”能力或“关键”能力。
根据该公司的定义，前者是指可能“放大现有导致严重危害的途径”的模型；后者则是“引入前所未有的新途径导致严重危害”的模型。
OpenAI在其博客文章中写道：“达到高能力的受管系统必须在部署前具备足够的安全措施，以充分降低相关的严重危害风险。”“达到关键能力的系统还需要在开发过程中具备足够的安全措施，以充分降低相关风险。”
此次更新是OpenAI自2023年以来对其准备框架所做的首次修改。