
在首届开发者大会上,OpenAI 正式发布了 GPT-4 的升级版——GPT-4 Turbo。该版本包含两个不同模型:一个专注于文本分析,另一个则能够理解文本和图像的上下文。
目前,文本分析模型已通过API以预览模式向用户开放,预计未来几周内两个版本将全面面向普通用户。
GPT-4 Turbo版本的定价
各版本计费标准为每千个输入token 0.01美元(约750个单词对应1,000个token)。Token可理解为单词片段或音节,AI在处理时会将单词拆分为更小单元。
图像处理功能费用与尺寸相关。据OpenAI信息,传输一张1080×1080像素图像需花费0.00765美元。
OpenAI表示,通过性能优化,GPT-4 Turbo输入token价格比GPT-4低3倍,输出token价格低2倍。
GPT-4 Turbo 的最新知识库
GPT-4 Turbo采用了更新的知识库。相较于GPT-4截至2021年9月的数据,新版本涵盖了截至2023年4月的网络数据。
此外,该模型能基于语义上下文预测单词出现概率,在撰写文本时可轻松补全惯用表达。
GPT-4 Turbo 的 128,000 token 上下文窗口
“上下文窗口”指模型生成文本前所关注的范围。窗口过小会导致模型难以记忆对话内容并偏离主题。
GPT-4 Turbo拥有12.8万token的上下文窗口,是GPT-4的四倍,也超越了Anthropic模型Claude 2的10万token窗口(注:Anthropic正开发20万token窗口)。
12.8万token约等于10万个单词或300页内容,表明其在长对话处理上具有广泛覆盖能力。
JSON 模式
GPT-4 Turbo新增JSON模式,能以JSON格式返回响应。这一特性对涉及数据传输的Web应用程序至关重要。
GPT-4 更新
OpenAI启动了允许对GPT-4进行微调的访问计划。目前该计划处于实验阶段,与GPT-3.5微调不同,此计划包含OpenAI团队的更多监督及更有效指导。
团队深度参与是因技术限制:相比GPT-3.5,GPT-4微调需在基础模型上投入更多工作才能实现有意义的改进。

