ChatGPT 让 Diogo Almeida 心碎。
Almeida 曾是 OpenAI 研究员，他帮助构建了这款聊天机器人，并发明了基于人类反馈的强化学习（RLHF），这项模型训练技术可能是造就当前 AI 时代的最重要因素。但尽管其能力出众，他却感到失望。
“我们仿佛将闪电装进了瓶子里，但它却毫无用处。”Almeida 表示，“从那以后我一直在与这个问题斗争。我花了一段时间才得出结论：问题在于我们一直在优化人类语言……我们在人类语言方面已经做得非常出色四年了，但它对自动化并无助益，因为计算机使用的是另一种语言。”
两年前，Almeida 离开 OpenAI 创立了 TypeSafe AI，这是一家试图解决该问题的初创公司。本周，该公司发布了一款新的基于 Transformer 的模型 Jev，它不是大型语言模型（LLM）。它不输出文本，而是生成概率，或者用该公司的话说，是“校准后的决策”。
摒弃语言处理带来了几个好处：它使模型变得极其廉价和快速，而且由于用户预先定义了输出，因此它不会产生幻觉。它的输出 token 免费，而输入 token 以十亿计，而非百万计。
开发者对该产品表现出极大兴趣；由于需求过于旺盛，该公司曾短暂无法通过 API 为用户提供服务。Jev 似乎最适用于软件自动化。迄今为止，软件开发者将其视为一种更便宜、更稳健的方式，用于将智能集成到他们的代码中。
例如，Vercel 的软件工程师 Pranit Sharma 表示，其公司曾使用 OpenAI 的 ChatGPT Luna 5.6 运行分类器以审查命令的安全性。当 Vercel 用 Jev 替换 OpenAI 的 Luna 后，处理速度提高了五到十八倍，且准确性更高。
另一位开发者、Bryo AI 首席技术官 Nikhil Mudholkar 测试了 Jev 在分类商务邮件方面与 Gemini 的表现。在他的测试中，Gemini 的准确率略高，但成本高出十倍至二十倍。对 Mudholkar 而言，更有趣的是 Jev 的置信度分数——“它是唯一返回真实概率的工具，使其成为自动化工作流的理想选择！”
除了在某些用例中替代 LLM 外，新模型还可以增强它们，充当监控不当行为的智能检查器。使用代理来监控代理可能会迅速变得昂贵，但 Almeida 认为，使用 Jev 来实现这一点则更为合理。他看到用户部署 Jev 来追踪 LLM 代理的轨迹并防止越狱攻击。
“归根结底，它将幻觉问题部分委托给了用户。”Earendil 的首席技术官 Armin Ronacher 解释道，该公司构建了开源模型框架 Pi。“用户必须决定，比如，如果这个结果只有 50% 的概率返回，也许这只是个抛硬币式的猜测，我可以忽略它。但如果概率达到 95%，当然，我就可以利用它做些什么。”
Ronacher 表示，Jev 的另一个潜在用途是模型路由。预测特定工作负载是否需要某个特定模型会很有用，但为此使用 LLM 成本高昂。Jev 的低成本和高速使得这种实时分类成为可能。
这正是阿尔梅达的期望。该模型以 19 世纪经济学家威廉·斯坦利·杰文斯（William Stanley Jevons）命名，其同名悖论描述了商品成本的下降如何导致其被越来越多地使用。在这种情况下，智能成本的下降应促使其得到广泛部署。
阿尔梅达表示：“我们认为，智能软件将以一种涌现式且分布式的形式无处不在……这更像早期的互联网，而不是人们目前试图构建的那些巨型应用。”
Almeida 对模型的架构守口如瓶，外界观察人士怀疑其建立在开源权重大型语言模型之上。该公司将 Jev 称为“系统一模型”，侧重于直觉而非推理，并专门聚焦于正确的任务。Almeida 表示，Jev 仅使用合成数据进行训练，采用的技术是他所称的“基于校准决策的强化学习”。
他表示：“我们早期押注于我们将生成所有数据，这是我一生中做出的最佳赌注之一——在我看来，比我们的发布更好，甚至比 RLHF（基于人类反馈的强化学习）更好。”“我们公司的一半本质上是一个实验室，专门拥有整个统计上已充分理解的合成数据子领域，而这现在是我生活的乐趣所在。”
目前，Jev 作为此类模型独树一帜，但罗纳彻预计，随着其效用显现，竞争对手将会涌现。
他说：“我们在许多方面本应更早看到这一点，但由于大语言模型（LLMs）如此廉价且受到补贴，你通常还无需发挥创造力。”
TypeSafe 自身将构建该模型的更多版本，涵盖新的模态。当被问及 TypeSafe 是否是一家前沿实验室时，阿尔梅达表示：“前沿实验室的主要产品是恐惧或炒作。我希望我们的主要产品是智能……[但我们]并非那种意义上的实验室，比如押注无限财富、宗教，或在数据中心里建造上帝，或是当今流行的其他事物。”