OpenAI升级文本生成模型并下调定价
随着生成式AI领域竞争日益激烈，OpenAI正在升级其文本生成模型，同时降低定价。
GPT-3.5-turbo与GPT-4新增函数调用功能
今天，OpenAI宣布发布新版GPT-3.5-turbo和GPT-4，后者是其最新的文本生成AI，具备名为“函数调用”的功能。正如OpenAI在博客文章中所解释的，函数调用允许开发者向GPT-3.5-turbo和GPT-4描述编程函数，并让模型创建执行这些函数的代码。
例如，函数调用可以帮助创建通过调用外部工具来回答问题的聊天机器人、将自然语言转换为数据库查询以及从文本中提取结构化数据。“这些模型经过微调，既能检测何时需要调用函数……又能以符合函数签名的JSON格式响应，”OpenAI写道，“函数调用使开发者能够更可靠地从模型获取结构化数据。”
扩展上下文窗口及定价调整
除了函数调用之外，OpenAI还推出了一种具有大幅扩展上下文窗口的GPT-3.5-turbo变体。上下文窗口以token（即原始文本片段）衡量，指的是模型在生成任何额外文本之前所考虑的文本内容。上下文窗口较小的模型往往会“忘记”甚至非常近期的对话内容，从而导致它们偏离主题——通常是以有问题的方式。
新版GPT-3.5-turbo提供的上下文长度是标准版的四倍（16,000个token），但价格翻倍：每1,000个输入token收费0.003美元，每1,000个输出token收费0.004美元。OpenAI表示，它可以一次性处理大约20页的文本；值得注意的是，这不及AI初创公司Anthropic旗舰模型能够处理的数百页。（OpenAI正在测试一个具有32,000个token上下文窗口的GPT-4版本，但仅在有限范围内发布。）
另一方面，OpenAI表示将GPT-3.5-turbo（原始版本，而非扩展上下文窗口版本）的定价下调25%。开发者现在可以以每1,000个输入token 0.0015美元、每1,000个输出token 0.002美元的价格使用该模型，相当于每美元可处理约700页内容。
嵌入模型降价与未来策略
OpenAI另一款较受欢迎的文本嵌入模型text-embedding-ada-002的定价也在下调。文本嵌入用于衡量文本字符串之间的相关性，通常应用于搜索（根据与查询字符串的相关性对结果进行排序）和推荐（推荐具有相关文本字符串的项目）。Text-embedding-ada-002现在每1,000个token收费0.0001美元，较此前价格降低了75%。OpenAI表示，这一降价得益于其系统效率的提升——毫无疑问，这是该初创公司的重点关注领域，因为它在研发和基础设施上花费了数亿美元。
OpenAI已表明，继今年3月初发布GPT-4之后，其策略是对现有模型进行增量更新，而非从头开发大规模的新模型。在最近由《经济时报》主办的会议上，CEO Sam Altman重申，OpenAI尚未开始训练GPT-4的继任者，并表示该公司在启动该模型之前“还有很多工作要做”。