要称ChatGPT为爆款，简直是轻描淡写。这款由旧金山初创公司OpenAI开发的免费文本生成AI，截至12月估计拥有超过1亿月活跃用户。
它吸引了主流媒体的广泛关注，并在社交媒体上引发了无数模因（meme）。它被用于在亚马逊Kindle商店撰写数百本电子书，还因共同撰写至少一篇科学论文而受到赞誉。
但OpenAI作为一家有限利润公司，必须以某种方式将ChatGPT货币化，以免投资者感到不安。今年2月，它通过推出高级服务ChatGPT Plus迈出了这一步。今天，它又采取了一个更大的举措：推出一项API，允许任何企业将ChatGPT技术集成到其应用、网站、产品和服务中。
API发布背后的考量
API一直是计划的一部分。OpenAI总裁兼董事长（联合创始人之一）格雷格·布罗克曼表示：“我们需要一段时间才能将这些API提升到一定的质量水平，我认为这就像是要能够满足需求和规模。”
ChatGPT API由广受欢迎的ChatGPT背后的同一款AI模型驱动，被称为“gpt-3.5-turbo”。GPT-3.5是OpenAI目前通过API套件提供的最强大的文本生成模型；“turbo”指经过优化、响应更快的版本，OpenAI一直在为ChatGPT悄悄测试该版本。
定价为每1,000个token 0.002美元，或约750个单词。布罗克曼声称，该API可以驱动一系列体验，包括“非聊天”类应用。Snap、Quizlet、Instacart和Shopify都是早期采用者。
开发gpt-3.5-turbo的最初动机可能是为了降低ChatGPT庞大的计算成本。OpenAI首席执行官萨姆·奥特曼曾称ChatGPT的费用“令人咋舌”，估计每次聊天的计算成本只需几分钱。（拥有超过一百万用户，这笔费用显然会迅速累积。）
但布罗克曼表示，gpt-3.5-turbo在其他方面也有所改进。“如果你正在构建一个AI驱动的导师系统，你永远不会希望导师只是给学生答案。你希望它总是解释并帮助他们学习——这就是你应该能够用[API]构建的系统类型的例子。我们认为这将使API变得更加可用和易于访问。”
ChatGPT API支撑着My AI（Snap最近为Snapchat+订阅者推出的聊天机器人），以及Quizlet新的Q-Chat虚拟导师功能。Shopify使用ChatGPT API构建了个性化的购物推荐助手，而Instacart则利用它创建了Ask Instacart。这是一个即将推出的工具，允许客户询问关于食品的问题，并获得基于公司零售合作伙伴产品数据的“可购买”答案。
Instacart首席架构师JJ Zhuang表示：“购物往往需要耗费大量脑力，涉及预算、健康与营养、个人口味、季节性、烹饪技巧、准备时间及食谱灵感等诸多因素。如果AI能够承担这种脑力负担，我们能否帮助通常负责购物、制定餐计划和为家庭提供食物的主要决策者，并让购物真正变得有趣？Instacart的AI系统与OpenAI的ChatGPT集成后，将使我们能够实现这一目标，我们对开始在Instacart应用中探索可能性感到兴奋。”
安全性与模型优化
然而，密切关注ChatGPT进展的人可能会怀疑它是否已准备好发布，这种担忧不无道理。起初，用户能够提示ChatGPT以种族主义和性别歧视的方式回答问题，这反映了其训练数据（包括广泛的互联网内容，主要是电子书、Reddit帖子和维基百科文章）存在的偏见。此外，ChatGPT还会编造事实而不披露，这种现象在人工智能中被称为“幻觉”。
ChatGPT及类似系统容易受到基于提示的攻击，即恶意的对抗性提示使其执行原本不在目标范围内的任务。Reddit上甚至形成了专门寻找“越狱”ChatGPT并绕过OpenAI安全措施方法的社区。在一个相对不那么冒犯的例子中，初创公司Scale AI的一名员工成功让ChatGPT透露了其内部技术运作的相关信息。
品牌无疑不愿成为众矢之的。布罗克曼坚称它们不会陷入这种境地。他表示，其中一个原因是后端持续改进，但他更强调一种新方法：Chat Markup Language（ChatML）。ChatML将文本连同元数据一起作为消息序列提供给ChatGPT API，这与标准ChatGPT将原始文本表示为一系列token进行消费不同。
例如，对于提示词“我30岁生日有哪些有趣的派对点子？”，开发者可以在提交给ChatGPT API处理之前附加额外指令，如“你是一个旨在帮助用户解答问题的有趣对话式聊天机器人，应该真实且有趣地回答问题！”据布罗克曼称，这些指令有助于更好地定制和过滤模型的响应。
“我们正在转向更高级别的API。如果你以更结构化的方式表示输入到系统的内容，比如指明‘这是来自开发者’或‘这是来自用户’……我认为作为开发者，你可以更稳健地使用[ChatML]来抵御这类提示攻击。”布罗克曼说。
另一项有望防止意外行为的改变是更频繁地更新模型。随着gpt-3.5-turbo的发布，开发人员将默认自动升级到OpenAI最新的稳定模型（从gpt-3.5-turbo-0301开始）。不过，开发人员也可以选择保留旧模型。
专用容量与上下文窗口扩展
无论是否选择更新到最新模型，一些拥有庞大预算的大型企业将通过引入专用容量计划，对系统性能拥有更深的控制权。本月早些时候泄露的消息显示，OpenAI的专用容量计划于今日推出，允许客户付费购买计算基础设施配额以运行OpenAI模型（后端使用的是Azure）。
除了对实例负载的“完全控制”外，专用容量还使客户能够启用更长上下文限制等功能。上下文限制是指模型在生成额外文本之前所考虑的文本；更长的上下文限制本质上允许模型“记住”更多文本。虽然更高的上下文限制可能无法解决所有偏见和毒性问题，但它们可能导致像gpt-3.5-turbo这样的模型减少幻觉。
布罗克曼表示，专用容量客户可以期待使用上下文窗口高达16k的gpt-3.5-turbo模型，这意味着它们能处理的token数量是标准ChatGPT模型的四倍。举例来说，这可能允许用户粘贴大量税法条款页面并获得合理回答，而这一功能目前尚不可实现。
布罗克曼暗示未来会有公开发布，但近期不会。“上下文窗口正在逐渐扩大，而我们目前仅限专用容量客户的原因之一是，我们在性能方面存在诸多权衡。我们最终或许能够提供相同功能的按需版本。”
鉴于OpenAI在获得微软数十亿美元投资后面临越来越大的盈利压力，这一点并不令人意外。