今天，OpenAI 在其首届开发者大会上发布了 GPT-4 Turbo。作为旗舰文本生成 AI 模型 GPT-4 的改进版，该公司声称其“功能更强大”且成本更低。
GPT-4 Turbo 分为两个版本：一个专用于文本分析，另一个则能理解文本和图像的上下文。目前可通过 API 预览访问文本分析模型，OpenAI 计划在未来几周内全面开放这两个版本。
定价与性能优化
输入标记价格为每 1,000 个标记 0.01 美元（约 750 个单词），输出标记价格为每 1,000 个标记 0.03 美元。（注：“标记”代表原始文本片段，例如“fantastic”被拆分为“fan”、“tas”和“tic”；输入标记指输入到模型中的内容，输出标记指模型生成的内容。）图像处理的 GPT-4 Turbo 定价取决于图像大小，例如传递一张 1080×1080 像素的图像将花费 0.00765 美元。
OpenAI 在与 TechCrunch 共享的博客文章中表示：“我们优化了性能，因此能够以比 GPT-4 低 3 倍的价格提供输入标记，以及低 2 倍的价格提供输出标记。”
核心升级亮点
与 GPT-4 相比，GPT-4 Turbo 拥有多项改进：
- 知识库更新：GPT-4 训练数据截至 2021 年 9 月，而 GPT-4 Turbo 知识截止日期为 2023 年 4 月。这意味着对于近期事件的问题，它能提供更准确的答案。
- 上下文窗口扩大：GPT-4 Turbo 提供 128,000 个标记的上下文窗口，是 GPT-4 的四倍，也是目前商业可用模型中最大的（超越 Anthropic Claude 2 的 100,000 标记）。这大约相当于 100,000 个单词或 300 页文本，大致等同于《呼啸山庄》、《格列佛游记》和《哈利·波特与阿兹卡班的囚徒》的长度总和。更大的窗口有效减少了模型“忘记”近期对话内容导致偏离主题的问题。
- 新 JSON 模式：支持确保模型响应有效的 JSON 格式，这对数据传输应用（如服务器向客户端发送网页显示数据）非常有用。
- 指令遵循能力增强：在执行需仔细遵循指令的任务（如生成特定 XML 格式回复）方面表现优于前代模型，且更有可能返回正确的函数参数。其他新参数还支持让模型更频繁地返回一致的补全结果，并提供最可能输出标记的对数概率。
本质上，GPT-4 Turbo 仍是基于海量互联网示例学习词语出现概率的统计工具，但通过上述升级显著提升了实用性和准确性。
GPT-4 同步升级
在推出 GPT-4 Turbo 的同时，OpenAI 也对 GPT-4 进行了改进：
- 微调实验性访问：推出了针对 GPT-4 的微调计划。由于技术障碍，该计划涉及 OpenAI 团队更多监督和指导。初步结果显示，相比 GPT-3.5 微调带来的显著提升，GPT-4 微调需要更多工作才能实现相对于基础模型的有意义改进。
- 速率限制提升：所有付费 GPT-4 客户的每分钟 token 速率限制提高一倍，价格保持不变。具体为：8,000-token 上下文窗口模型输入 $0.03/千token、输出 $0.06/千token；32,000-token 上下文窗口模型输入 $0.06/千token、输出 $0.12/千token。