大数跨境

OpenAI 将其 o1 推理模型接入其 API——面向部分开发者

OpenAI 将其 o1 推理模型接入其 API——面向部分开发者 海外洞察
2024-12-17
2
导读:OpenAI 正将其 o1 模型引入其 API,并在其产品组合中推出其他面向开发者的相关改进。

OpenAI o1推理模型API逐步开放,多项开发者工具同步更新

OpenAI正将其“推理”AI模型o1引入API,目前仅面向部分开发者。自周二起,o1将在OpenAI“5级”使用类别中逐步推出。要获得该资格,开发者需在OpenAI累计消费至少1,000美元,且账户首次成功付款超过30天。此次更新后,o1将取代API中原有的o1-preview模型。

与大多数AI不同,以o1为代表的推理模型具备自我事实核查能力,能有效避免常见错误陷阱,但生成解决方案所需时间更长。由于计算资源消耗巨大,其费用也相对较高:输入约75万词收费15美元,输出约75万词收费60美元,成本是最新非推理模型GPT-4o的6倍。

相比o1-preview,新版o1在可定制性上显著提升,新增函数调用(连接外部数据)、开发者消息(设定语气风格)及图像分析等功能。此外,通过结构化输出和“reasoning_effort”参数,开发者可灵活控制模型回答前的思考时长。

OpenAI表示,此次API版及即将上线ChatGPT的o1为“新后训练”版本(命名为“o1-2024-12-17”)。相较两周前发布的旧版,新版本在“基于反馈的模型行为领域”有所改进。官方说明指出,新版o1能提供更全面、准确的响应,尤其在编程和商业问题上表现更佳,且误拒请求的概率降低。公司称:“我们正逐步扩大访问权限至更多使用层级,并提高速率限制。”

除o1外,OpenAI周二还更新了Realtime API相关模型。作为构建低延迟AI语音应用的核心接口,新版“gpt-4o-realtime-preview-2024-12-17”和“gpt-4o-mini-realtime-preview-2024-12-17”在数据效率、可靠性及使用成本方面均有优化。

尽管仍处于测试阶段,Realtime API已新增并发带外响应功能,支持内容审核等后台任务在不中断交互的情况下运行。同时,API现已支持WebRTC标准,便于为浏览器、智能手机及物联网设备开发实时语音应用。值得一提的是,OpenAI于12月初聘请了WebRTC创始人Justin Uberti。官方解释称:“我们的WebRTC集成旨在应对网络波动,实现平滑交互,涵盖音频编码、流媒体传输、噪声抑制及拥塞控制等处理能力。”

在本次更新的最后,OpenAI为微调API引入了偏好微调功能,即通过对比成对响应结果,“教导”模型区分问题的“首选”与“非首选”答案。此外,Go和Java官方SDK的“早期访问”测试版也已同步推出。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14239
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读46.0k
粉丝0
内容14.2k