
OpenAI GPT-5.6 Sol Ultrafast模式已开放预览,在标准处理速度下可实现高达14倍加速。该服务层最初通过OpenAI API提供,每秒可生成多达750个输出token。
Ultrafast旨在减少对小型或特定任务专用模型的依赖,让用户更快获得响应。公司表示,新模式在保持GPT-5.6 Sol能力不变的同时,显著降低了延迟。
新模式的底层架构由人工智能芯片开发商Cerebras提供支持,这也标志着OpenAI与Cerebras在以低延迟推理为重点的合作关系上进入新阶段。
OpenAI将Ultrafast定位为适用于对速度要求极高的领域,如事件响应、金融研究、安全、客户支持、语音AI应用和电子商务。例如,系统故障期间可实时审查应用程序日志和代码更改;电商场景中,库存检查、产品推荐及支付流程问题可在用户完成购物前得到解决。
该公司开发人员也在系统事件期间使用Ultrafast审查日志和跟踪记录。据称,部分此前需整夜进行的实验过程,现在可在同一天内多次重复。
目前,Ultrafast仅向有限用户群体开放,涵盖编码、金融研究、电商和客户支持等领域的公司。OpenAI计划随容量增加逐步扩大访问权限,尚未公布定价及全面开放的具体时间。
今年7月,OpenAI已通过ChatGPT、Codex和API向公众提供了GPT-5.6模型家族,包括Sol以及专为平衡使用开发的Terra和专注于速度的Luna。此次推出的Ultrafast则侧重于将Sol的能力应用于实时企业工作流。
图片:ChatGPT

