大数跨境
0
0

OpenAI 重大更新!推出新一代嵌入模型、新的 GPT-4 Turbo 和审核模型!

OpenAI 重大更新!推出新一代嵌入模型、新的 GPT-4 Turbo 和审核模型! 软积木
2024-01-26
0
导读:今日凌晨,OpenAI 官方博客宣布正在推出新一代嵌入模型、新的 GPT-4 Turbo 和审核模型、新的 API 使用管理工具,以及即将推出更低定价的 GPT-3.5 Turbo 。


今日凌晨,OpenAI 官方博客宣布正在推出新一代嵌入模型、新的 GPT-4 Turbo 和审核模型、新的 API 使用管理工具,以及即将推出低定价的 GPT-3.5 Turbo 。

01

价格更低的新嵌入模型

OpenAI 将引入两个新的嵌入模型一个更小且高效的文本嵌入小模型,以及一个更大、更强大的文本嵌入大型模型。

嵌入使机器学习模型和其他算法能够轻松理解内容之间的关系,并执行聚类或检索等任务。

它们为 ChatGPT 和 Assistants API 中的知识检索等应用程序以及许多检索增强生成 (RAG) 开发人员工具提供支持。

text-embedding-3-small 嵌入模型


这是一种新的小文本嵌入模型,比其前身于 2022 年 12 月发布的 text-embedding-ada-002 模型进行了重大升级。

更强的性能:将 text-embedding-ada-002 与 text-embedding-3-small 进行比较,常用的多语言检索基准 (MIRACL) 的平均得分从 31.4% 增加到 44.0%。

而常用的英语任务基准 (MTEB) 的平均得分从 61.0% 增加到 62.3%。

更低的价格:text-embedding-3-small 也比上一代的 text-embedding-ada-002 模型效率高得多。

因此,与 text-embedding-ada-002 相比,text-embedding-3-small 的定价降低了 5 倍,从每 1k 个代币的 0.0001 美元降至 0.00002 美元。

OpenAI 表示不会弃用 text-embedding-ada-002,因此,虽然推荐较新的型号,但欢迎客户继续使用上一代型号。

text-embedding-3-large 嵌入模型


这是新的下一代大型嵌入模型,可创建多达 3072 个维度的嵌入。

更强的性能:text-embedding-3-large 是 OpenAI 新的性能最佳模型。

将 text-embedding-ada-002 与 text-embedding-3-large 进行比较:

在 MIRACL 上,平均分数从 31.4% 增加到 54.9%,而在 MTEB 上,平均分数从 61.0% 增加到 64.6%。


关于价格:text-embedding-3-large 的价格为 0.00013 美元/1k 代币。

02

对缩短嵌入的本机支持


与使用较小的嵌入相比,使用较大的嵌入模型通常成本更高,并且消耗更多的计算、内存和存储

OpenAI 两个新嵌入模型都是使用一种技术进行训练的,该技术允许开发人员在使用嵌入的性能和成本之间进行权衡。

具体来说,开发人员可以通过传入维度 API 参数来缩短嵌入(即从序列末尾删除一些数字),而不会丢失嵌入的概念表示属性。

例如,在 MTEB 基准测试中,文本嵌入 3-large 嵌入可以缩短到 256 的大小,同时仍然优于未缩短的 text-embedding-ada-002 嵌入(大小为 1536)。

这使得使用非常灵活。例如,当使用仅支持长达 1024 维的嵌入的矢量数据存储时,开发人员现在仍然可以使用其嵌入模型 text-embedding-3-large。

并为维度 API 参数指定值 1024,这将缩短嵌入时间,从 3072 维度缩短嵌入,以牺牲一些准确性以换取较小的向量大小。


03

更新 GPT-3.5 Turbo 型号


OpenAI 表示下周将推出新的 GPT-3.5 Turbo 型号 gpt-3.5-turbo-0125

更低的价格:在过去一年中, GPT-3.5 Turbo 已降价2次,新模型的输入价格降低了 50% 至 0.0005 美元/1K 代币,输出价格降低了 25% 至 0.0015 美元/1K 代币。

更高的性能:该模型还将进行各种改进,包括以请求的格式响应的更高准确性,以及修复导致非英语语言函数调用的文本编码问题的错误。

使用固定 gpt-3.5-turbo 模型别名的客户将在该模型发布两周后自动从 gpt-3.5-turbo-0613 升级到 gpt-3.5-turbo-0125。

04

更新了 GPT-4 Turbo 预览


今天,OpenAI 发布了更新的 GPT-4 Turbo 预览模型 gpt-4-0125-preview

与以前的预览模型相比,此模型更彻底地完成代码生成等任务,旨在减少模型未完成任务的“懒惰”情况。

新模型还包括对影响非英语 UTF-8 的错误的修复。

对于那些想要自动升级到新的 GPT-4 Turbo 预览版本的用户,OpenAI 还引入了一个新的 gpt-4-turbo-preview 模型名称别名。

OpenAI 计划在未来几个月内推出具有愿景的 GPT-4 Turbo。

05

更新的审核模型


OpenAI 将发布 text-moderation-007,这是其迄今为止最强大的审核模型。

OpenAI 的审核 API 是免费使用的,可以帮助减少完成过程中不安全内容的频率。详情:

https://platform.openai.com/docs/guides/safety-best-practices

06

API 使用情况和管理密钥新方法


OpenAI 正在推出两项平台改进,让开发人员能够更深入地了解他们的使用情况并控制 API 密钥。

首先,开发人员现在可以从 API 密钥页面为 API 密钥分配权限

例如,可以为密钥分配只读访问权限以支持内部跟踪仪表板,或者限制为仅访问某些端点。

其次,使用情况仪表板和使用情况导出功能现在在启用跟踪后在 API 密钥级别公开指标

这样一来,只需为每个功能、团队、产品或项目级别设置单独的 API 密钥,即可轻松查看每个功能、团队、产品或项目级别的使用情况。


OpenAI 表示,在接下来的几个月里,针对型公司和组织,计划进一步提高开发人员查看其 API 使用情况和管理 API 密钥的能力。
END
ChatU.AI可免费申请试用,支持企业私有部署,多引擎AIGC操作系统安全稳定,点击下方公众号一键试用!

【声明】内容源于网络
0
0
软积木
🤖专注AI前沿干货分享 🌎AI原生应用触手可及·开启企业无限智能 💻官网:https://www.CubixAI.com 📮商务合作:BD@cubixai.com
内容 157
粉丝 0
软积木 🤖专注AI前沿干货分享 🌎AI原生应用触手可及·开启企业无限智能 💻官网:https://www.CubixAI.com 📮商务合作:BD@cubixai.com
总阅读154
粉丝0
内容157