OpenAI 广泛开放 Decisions API,正式入局决策模型赛道

2026 年 10 月 22 日,OpenAI 广泛开放 Decisions API,将响应时间缩短至百毫秒级。此举标志着大模型竞争向任务决策延伸,OpenAI 将凭借生态与多模态优势,与先行者 Jev 展开直接竞争。

朋克君
发布者朋克君
预计阅读 3 分钟
我要投稿
AI 摘要
约 1 分钟

快速了解本文

01

OpenAI 向所有客户广泛开放 Decisions API,正式入局决策模型赛道。

02

该 API 响应时间缩短至 100 到 180 毫秒,解决通用大模型过度服务问题。

03

早期客户测试显示动作间响应时间从 1.4 秒显著降至 0.13 秒。

本摘要由 AI 辅助整理,请以正文内容为准。

2026 年 10 月 22 日,OpenAI 正式向所有客户广泛开放 Decisions API(决策模型 API),标志着其正式入局决策模型赛道。此举直接对标由 TypeSafe 公司开创、估值已达 76 亿美元的先行者 Jev,表明大模型竞争的焦点正从“内容生成”向高频、低延迟的“任务决策”延伸。

01解决“过度服务”,聚焦低延迟任务决策

通用大模型在处理简单决策时往往存在“过度服务”的问题。Decisions API 的核心定位正是解决该痛点,专门用于处理分类、排序、路由和动作选择等短链路场景,而非生成长文本。

在技术实现上,OpenAI 并未从头专门训练一个决策模型,而是基于其 ChatGPT Luna 模型进行重新配置,通过工程优化加速推理。据 OpenAI API 产品负责人 Nikunj Handa 介绍,通过地理定位推理资源等手段,该 API 将响应时间从传统的 1 到 3 秒大幅缩短至 100 到 180 毫秒,使其能够直接嵌入实时请求链路。

02早期客户验证性能提升

在正式开放前,包括 Box、Datadog、Ramp 和 Speak 在内的早期客户已参与测试,并使用该 API 替代原有 LLM 以获得更高吞吐量。以 AI 语言辅导应用 Speak 为例,其 CTO Andrew Hsu 表示,接入 Decisions API 后,动作间的响应时间从 1.4 秒显著降至 0.13 秒,验证了该产品在真实企业级业务中的性能增益。

03对标 Jev,以多模态与生态优势破局

决策模型(System One 模型)能够根据给定选项快速做出选择并提供置信度评分,该品类由 TypeSafe 公司的 Jev 模型率先开创并验证。面对 Jev 等垂直决策模型初创公司,OpenAI 凭借庞大的开发者生态和极低的集成门槛发起反击。

从公共基准测试来看,OpenAI 当前基于 Luna 改造的决策模型在纯决策能力上尚未取得领先。在 AIM System One Index 和 Artificial Analysis Decision Index 中,OpenAI 分别排在第八和第十四位,落后于 Jev(第七和第三)以及 Liquid 的 D1 Ultra。不过,OpenAI 的差异化优势在于多模态能力。Luna 模型本身具备强大的视觉能力,OpenAI 在公共版本中加入了视觉模态,使其在图像分类等场景更具竞争力。此外,OpenAI 计划未来进一步将延迟降至 60 毫秒,以支持视频逐帧分析等更复杂的实时场景。

RELATED STORIES

继续阅读

围绕「OpenAI」,继续阅读相关内容。

ARTICLE RECORD

转载说明

转载请注明文章出处。

TOPICS · 05

文章标签