周二在OpenAI Dev Day活动上，CEO Sam Altman透露了公司新的“Decisions API”，引发广泛关注。
该API功能与TypeSafe AI本月早些时候发布的Jev模型类似。Jev是一种基于LLM构建的超级分类器，专为软件自动化设计，开发人员可向其提供一组选项，它能以低成本和高速度输出概率结果。OpenAI的Decisions API似乎属于同类产品，Altman将其描述为一种让实验室Luna模型在预定义选项（如图像分类类别或代理行为）中进行选择的方法。
“通过将模型专注于这些选择，我们可以在保持图像理解、广泛语言支持和安全保护等能力的同时，使其变得极快。”Altman表示。
TypeSafe未回应TechCrunch关于新产品的提问，但其CEO Diogo Almeida（前OpenAI工程师、强化学习共同发明人）在社交媒体上调侃称这像是“克隆战争的开端”。他补充道，OpenAI的兴趣可能标志着“以System One兼容方式构建是未来的一个标志”（注：“System One”指快速直觉思考，“System 2”指深思熟虑推理）。
潜台词在于，传统LLMs因相对较慢且昂贵，并非许多软件的合适解决方案。开发人员一直在使用Jev增强LLMs，并发现其更快、更便宜。
目前尚不清楚Decisions API与Jev的具体相似度，因为OpenAI仅发布了有限预览版，且尚未有开发者进行充分测试。不过，从社交媒体的讨论来看，市场对此存在明显兴趣。
Decisions API并非唯一的类Jev产品，其他初创公司及科技巨头也在推出类似模型。关键问题在于，这些决策模型的输出与现实生活的契合度如何。Almeida表示，其公司的护城河在于用于生成具有统计意义有用输出的合成数据。
“快速且便宜非常容易，”Almeida上周告诉TechCrunch，“如果你想要真正快速且便宜的方案，那就用骰子吧？智能才是难点，而我的北极星指标始终是不断推动每美元智能产出的帕累托前沿。”
几周后，这些模型广阔的未来前景已逐渐明朗，潜在应用包括监控和保护AI代理。针对此前AI代理在开放互联网上的不当行为，OpenAI采取的新安全措施是使用单独模型监测不良行为，但这需要巨大的计算成本。
长期网络安全专业人士、QueryStory负责人Shapor Naghibzadeh认为，像Jev这样的模型可以更低成本实现这一目标。他在上周末的黑客松活动中构建了一个演示：使用Jev将每个代理动作与其分配任务比对，阻止高度确信为不良的动作，标记其他动作以供审查，并允许其余动作通过。
理论上，此类监控本可阻止Hugging Face事件的发生。使用Jev进行这类监控的成本仅为2.94美元，而使用前沿大语言模型则需372美元。
关键观察点在于，Jev的成本足够低，足以在每一次智能体操作中运行，从而提供一层审查机制，有望全面提升智能体的可靠性。这正是TypeSafe期望实现的目标，如今OpenAI也看到了其价值所在。