OpenAI Ultrafast API或将扩容,高速推理能力面向更多开发者

爆料信息显示,OpenAI 正在推进 Ultrafast API 的扩容计划,这项高速推理接口有望面向更多开发者开放。

相关线索来自 OpenAI 平台与 API 文档的更新记录,平台内 Responses API Playground 新增速度选项配置,页面出现 Standard、Fast、Ultrafast 三档速度选择入口,相关功能代码处于隐藏状态。

Ultrafast 模式最早随 GPT-5.6 Sol 对外亮相,依托 Cerebras 硬件方案,最高输出速度可达每秒 750 Token,对比 Standard 标准模式,推理速度提升 14 倍。该接口此前仅采用受邀预览机制,只有少量客户能够调用。

实时语音交互、智能体工具调用、线上客服、金融信号分析等场景,对模型输出延迟有着严苛标准。Ultrafast API 可以在保留模型基础能力的前提下压缩响应耗时,开发者无需降级选用小模型换取更快输出。

市场猜测,扩容动作会安排在 OpenAI DevDay 活动期间落地。GPT-6 系列模型能否接入 Ultrafast 高速服务,暂未得到确认。

当前消息仅为外部文档挖掘得到的爆料内容,OpenAI 尚未发布正式公告,开放时间、准入规则与定价方案仍存在变动空间。

OpenAI Ultrafast API或将扩容,高速推理能力面向更多开发者
© 版权声明
为这篇文章评分
0.0/ 10
0 人评价
点击⭐️进行评分

相关文章

暂无评论

none
暂无评论...