OpenAI客户现可将自定义数据引入轻量版GPT-3.5(即GPT-3.5 Turbo),在构建特定行为的同时,有效提升该文本生成AI模型的可靠性。
OpenAI声称,经微调的GPT-3.5版本在“某些狭窄任务”上,能力可匹配甚至超越其旗舰模型GPT-4的基础水平。
该公司在博客文章中表示:“自GPT-3.5 Turbo发布以来,开发者和企业一直希望具备自定义模型的能力,从而为用户打造独特且差异化的体验。此次更新赋予开发者自定义模型的能力,使其在特定用例中表现更佳,并能够大规模运行这些自定义模型。”
通过微调,使用OpenAI API的GPT-3.5 Turbo可让模型更好地遵循指令(如始终用指定语言回复);提升一致格式化响应(如补全代码片段)的能力;以及打磨输出内容的“感觉”(如语气),使其更符合品牌或声音风格。
此外,微调还能缩短文本提示,加快API调用速度并降低成本。OpenAI称:“早期测试者通过将指令微调至模型本身,将提示规模减少了高达90%。”
目前,微调需预处理数据、上传必要文件并通过OpenAI API创建微调作业。所有微调数据均须经“审核”API及基于GPT-4的审核系统检查,以确保符合安全标准。未来,OpenAI计划推出微调用户界面,提供仪表板用于监控微调工作负载状态。
微调成本如下:
- 训练:$0.008 / 1K tokens
- 输入使用量:$0.012 / 1K tokens
- 输出使用量:$0.016 / 1K tokens
“Tokens”代表原始文本单位——例如单词“fantastic”由“fan”、“tas”和“tic”组成。OpenAI表示,拥有10万tokens(约7.5万个单词)训练文件的GPT-3.5-turbo微调作业成本约为2.40美元。
在其他动态方面,OpenAI今日发布了两个更新的GPT-3基础模型(babbage-002和davinci-002),二者同样支持微调,并具备分页功能和“更强的可扩展性”。正如此前宣布,OpenAI计划于2024年1月4日停用原始GPT-3基础模型。
OpenAI表示,对GPT-4的微调支持(与GPT-3.5不同,GPT-4除文本外还能理解图像)将于今年秋季晚些时候推出,但未披露更多具体细节。

