大数跨境
0
0

终于,OpenAI开放ChatGPT API,成本直降90%,百万token才2美元

终于,OpenAI开放ChatGPT API,成本直降90%,百万token才2美元 极市平台
2023-03-02
2
↑ 点击蓝字 关注极市平台
来源丨机器之心
编辑丨极市平台

极市导读

 

现在,第三方可以通过 API 将对话模型 ChatGPT 和语音转文本模型 Whisper 集成到自己的应用程序和服务中了。 >>加入极市CV技术交流群,走在计算机视觉的最前沿

2022 年 11 月,OpenAI 上线 ChatGPT,自此以后,这个对话模型一路开挂。毫不夸张的说,与 ChatGPT 相关的话题应该算是继 AlphaGo 以来,最出圈的人工智能热点了,推出仅仅两个月,月活用户就破亿,成为史上用户增长速度最快的消费级应用程序。


ChatGPT 的出现,让大家觉得,AI 似乎终于能够和人正常交流了,虽然有时候会出错,但在交流的过程中至少没有语言和逻辑上的障碍,它能「懂」你在说什么,并且按照人类的思维模式和语言规范给你反馈。


与此同时,各大科技公司、高校甚至是个人也都在紧锣密鼓的投入到类 ChatGPT 的研发中,势必要赶上这波浪潮。


OpenAI 这边也在不断进行模型的升级改造。3 月 1 日,OpenAI 官方宣布,开发者现在可以通过 API 将 ChatGPT 和 Whisper 模型集成到他们的应用程序和产品中。



具体来说,OpenAI 现在允许第三方开发人员通过 API 将 ChatGPT 集成到他们的应用程序和服务中,这样做比使用其现有语言模型要便宜得多。除此以外,OpenAI 还宣布了另一个新的 Whisper API,这是 OpenAI 去年 9 月推出的由人工智能驱动的语音转文本模型,可通过 API 使用。OpenAI 这次宣布的两项 API,可以说是相当炸裂了。


OpenAI 表示,其 ChatGPT API 可以用于创建人工智能驱动的聊天界面,该技术已经在科技公司 Snap 的 My AI 上集成。OpenAI 还表示,这次 ChatGPT API 接入的模型名为 gpt-3.5-turbo,这是许多非聊天用例的最佳模型。值得注意的是,该模型可能与 Bing 使用的模型不同,根据 OpenAI 的说法,它比 ChatGPT 、GPT- 3.5 更快、更准确、更强大。


OpenAI 前脚刚官宣,后脚就有人直呼被 ChatGPT 的表现惊呆了。表示自己正在寻找一种快速的方法来提取公司的 logos ,让 ChatGPT 帮忙构建一个工具,仅仅过了 15 分钟 ChatGPT 就给出解决方案,自己只需改变一行代码就能使用。



还有人使用该 API 在 Python 中构建命令行聊天机器人。ChatGPT 给出了 16 行实现代码。



下面我们来看看 ChatGPT API、Whisper API 具体内容有哪些。


ChatGPT API,使用成本降低 90%


OpenAI 表示,gpt-3.5-turbo 与 ChatGPT 产品中使用的是相同的模型。它的费用是 1000 tokens 只需要 0.002 美元,将此前 GPT-3.5 使用成本降低 90%。gpt-3.5-turbo 对于很多非聊天用例也是最佳模型,测试者只要将他们的 prompts 做少量调整,就能从 text-davinci-003 迁移到 gpt-3.5-turbo。


传统上,GPT 模型使用非结构化文本,这些文本在模型中表示为一系列 tokens。而 ChatGPT 模型改用具有元数据的消息序列。在后台,输入仍然作为 tokens 呈现给模型,模型使用的原始格式是一种被称为 Chat Markup Language(ChatML)的新格式。


OpenAI 创建了一个与 ChatGPT 模型交互的新端点。新 API 同样可以通过 Python 绑定的方式使用,只要「import openai」即可,具体代码如下所示。


import openai
cmpletion = openai.ChatCompletion.create ( model="gpt-3.5-turbo" messages=[{"role""user""content""Tell the world about the ChatGPT API in the style of a pirate."}])
print (completion)


ChatGPT 更新计划


OpenAI 不断改进其 ChatGPT 模型,并希望将这些增强的功能开放给开发人员。因此使用 gpt-3.5-turbo 模型的开发人员将始终获得 OpenAI 推荐的稳定模型,同时仍能灵活地选择特定模型版本。比如,OpenAI 今天发布了 gpt-3.5-turbo-0301,该版本将至少在 6 月 1 日之前得到支持。4 月将会更新 gpt-3.5-turbo 的稳定版本。


Whisper API,语音转录文本更便捷


作为 OpenAI 于 2022 年 9 月开源的语音到文本模型,Whisper 已经获得了开发者社区的盛誉,但运行起来却也很难。


如今,OpenAI 通过开放 APT 向外提供 large-v2 模型,包括方便的按需访问,价格也不贵(0.006 美元 / 分钟)。与其他同类服务相比,OpenAI 高度优化的服务堆栈保证了更快的输出速度。


具体地,Whisper API 通过 transcriptions(源语言转录)或 translations(翻译为英语)端点使用,允许 m4a、mp3、mp4、mpeg、mpga、wav、webm 等各种格式的输入。


Whisper API 同样可以通过 Python 绑定的方式使用,具体代码如下所示。

import openai
file = open ("/path/to/file/openai.mp3", "rb")
transcription = openai.Audio.transcribe ("whisper-1", f)
print (transcription)

ChatGPT 和 Whisper 开放 API,意味着第三方可以开始构建这两个模型赋能的下一代应用程序,并使更多人从中受益。


参考链接:


https://openai.com/blog/introducing-chatgpt-and-whisper-apis

https://www.theverge.com/2023/3/1/23620783/chatgpt-api-openai-pricing-whisper

https://twitter.com/search?q=%20ChatGPT%20API&src=typed_query

公众号后台回复“极市直播”获取100+期极市技术直播回放+PPT

极市干货
技术干货损失函数技术总结及Pytorch使用示例深度学习有哪些trick?目标检测正负样本区分策略和平衡策略总结
实操教程GPU多卡并行训练总结(以pytorch为例)CUDA WarpReduce 学习笔记卷积神经网络压缩方法总结

极市CVPR2023交流群已成立 #


△长按扫码进群
添加极市小助手微信(ID : cvmart4)

备注:姓名-学校/公司-研究方向-城市(如:小极-北大-目标检测-深圳)


即可申请加入极市目标检测/图像分割/工业检测/人脸/医学影像/3D/SLAM/自动驾驶/超分辨率/姿态估计/ReID/GAN/图像增强/OCR/视频理解等技术交流群


每月大咖直播分享、真实项目需求对接、求职内推、算法竞赛、干货资讯汇总、与 10000+来自港科大、北大、清华、中科院、CMU、腾讯、百度等名校名企视觉开发者互动交流~

△点击卡片关注极市平台,获取最新CV干货
点击阅读原文进入CV社区
收获更多技术干货

【声明】内容源于网络
0
0
极市平台
为计算机视觉开发者提供全流程算法开发训练平台,以及大咖技术分享、社区交流、竞赛实践等丰富的内容与服务。
内容 8155
粉丝 0
极市平台 为计算机视觉开发者提供全流程算法开发训练平台,以及大咖技术分享、社区交流、竞赛实践等丰富的内容与服务。
总阅读9.6k
粉丝0
内容8.2k