大数跨境

OpenAI 推出了“Ultrafast”模式,可将 GPT-5.6 的推理速度提升多达14倍

OpenAI 推出了“Ultrafast”模式,可将 GPT-5.6 的推理速度提升多达14倍 土耳其小莫
2026-08-14
1
导读:OpenAI 利用 Cerebras 基础设施开发的 Ultrafast 模式,使 GPT-5.6 Sol 每秒可生成高达 750 个输出 token。

OpenAI GPT-5.6 Sol Ultrafast模式已开放预览,在标准处理速度下可实现高达14倍加速。该服务层最初通过OpenAI API提供,每秒可生成多达750个输出token。

Ultrafast旨在减少对小型或特定任务专用模型的依赖,让用户更快获得响应。公司表示,新模式在保持GPT-5.6 Sol能力不变的同时,显著降低了延迟。

新模式的底层架构由人工智能芯片开发商Cerebras提供支持,这也标志着OpenAI与Cerebras在以低延迟推理为重点的合作关系上进入新阶段。

OpenAI将Ultrafast定位为适用于对速度要求极高的领域,如事件响应、金融研究、安全、客户支持、语音AI应用和电子商务。例如,系统故障期间可实时审查应用程序日志和代码更改;电商场景中,库存检查、产品推荐及支付流程问题可在用户完成购物前得到解决。

该公司开发人员也在系统事件期间使用Ultrafast审查日志和跟踪记录。据称,部分此前需整夜进行的实验过程,现在可在同一天内多次重复。

目前,Ultrafast仅向有限用户群体开放,涵盖编码、金融研究、电商和客户支持等领域的公司。OpenAI计划随容量增加逐步扩大访问权限,尚未公布定价及全面开放的具体时间。

今年7月,OpenAI已通过ChatGPT、Codex和API向公众提供了GPT-5.6模型家族,包括Sol以及专为平衡使用开发的Terra和专注于速度的Luna。此次推出的Ultrafast则侧重于将Sol的能力应用于实时企业工作流。

图片:ChatGPT

【声明】内容源于网络
0
0
土耳其小莫
小莫带你了解土耳其电商,探索AI应用
内容 26498
粉丝 0
土耳其小莫 小莫带你了解土耳其电商,探索AI应用
总阅读242
粉丝0
内容26.5k