OpenAI推出类Jev的Decisions API:GPT-6 Luna实时分类与路由,官方演示快约10倍

OpenAI为应用增加一个专门做选择的API

OpenAI在DevDay 2026期间推出Decisions API。它由GPT-6 Luna驱动,面向需要实时判断的应用:开发者定义问题和允许的答案,API根据输入从候选项中作出选择。

官方列出的核心用途包括:

  • 对文本或内容进行分类
  • 把用户请求路由到不同团队或处理流程
  • 决定智能体下一步应该采取什么动作

Decisions API目前处于Limited Preview,即限量预览阶段,并未全面开放。OpenAI尚未公开完整接口文档、价格、速率限制、地区范围和服务等级承诺。

OpenAI Decisions API官方演示

它与普通大模型调用有什么区别

Responses API擅长生成开放式答案:写一段文字、解释问题、调用工具或完成多步骤任务。Decisions API则把问题收窄为“在这些选项中选哪个”。

例如客服系统可以定义:

  • 问题:这条客户请求应该交给哪个团队?
  • 候选答案:Billing、Technical、Sales

系统不需要模型生成一段解释,只需要返回一个可用于程序分支的决策结果。

这种模式更适合高频、短输入、固定答案集合的判断任务。它把自然语言理解与确定的业务选项结合起来,开发者不用每次让通用模型生成JSON,再自行解析、校验和处理格式错误。

不过,OpenAI尚未公布响应数据结构、置信度字段、批处理方式或是否支持多标签,因此这些细节不能根据演示自行推断。

官方演示:1万条请求,约150毫秒完成单条判断

OpenAI发布的28秒演示展示了一个客户请求分流任务。系统读取customer_requests.csv中的1万条请求,并在Billing、Technical和Sales三个选项中完成路由。

画面将Decisions API与Responses API并列比较:

  • Decisions API:约150毫秒/条请求
  • Responses API:约1.6秒/条请求
  • 官方结论:决策速度约快10倍

演示中,Decisions API处理完1万条请求时,Responses API仍在继续运行。

这组数据说明OpenAI正在为窄范围决策优化低延迟路径,但它只是官方演示,不是完整基准。演示没有公开网络环境、并发数、输入长度、Responses API所用模型与参数,也没有展示两种方式的分类准确率。因此不能据此断言所有任务都能稳定提速10倍。

OpenAI做出了类Jev产品,专用决策模型进入正面竞争

Decisions API的产品形态与TypeSafe AI推出的Jev高度相似:两者都不追求生成长文本,而是接收状态、问题和预定义候选项,快速返回可供程序使用的结构化判断。它们都瞄准Agent路由、动作选择、分类和线上评估等高频决策环节。

Jev此前已经展示了这条路线:官方定价为每百万输入Token 0.042美元、输出不单独计费,官方披露端到端延迟约70至500毫秒;在LangSmith的一项特定Agent评估中,Jev平均调用约0.44秒。它还返回类型化选择、评分、布尔概率和置信度,并支持对同一状态并行回答多个问题。

OpenAI现在把相似能力直接放进自己的API体系,并用低成本的GPT-6 Luna驱动。两项产品发布时间接近,不能据此证明OpenAI复制了Jev;但大厂如此快地推出同类接口,确实说明“只做快速结构化判断”更像通用模型能力被拆分、压缩和工程优化后的产品形态,而不是小厂能够长期独占的技术护城河。

Jev与Decisions API已确认差异

  • Jev已经公开价格并全面开放;Decisions API仍是限量预览,价格和接口文档尚未公布
  • Jev明确提供概率、置信度和多问题并行判断;OpenAI目前只确认预设答案选择,尚未公开是否提供对应字段
  • Jev披露过LangSmith评估与Minecraft Agent案例;OpenAI演示的是1万条客服请求三分类
  • OpenAI拥有GPT-6 Luna、Responses API、Agents API和庞大开发者渠道,产品整合与分发能力明显更强

对Jev而言,窗口期正在迅速缩短。如果其核心卖点只是比通用LLM更快、更便宜地返回有限选项,大厂可以通过专用推理路径、蒸馏、缓存和结构化接口迅速追上。Jev需要证明的将不再是“这种产品有没有价值”,而是自己的正确率、概率校准、延迟、价格、数据政策和企业服务能否持续优于平台原生方案。

目前没有公开数据能证明Jev已经获得足够多的企业付费核心客户,也没有可直接比较两者准确率的统一基准。下一阶段的竞争不会停留在“谁先提出System One模型”或“谁延迟更低”的宣传,而会进入同一真实数据集上的正确率、校准误差、吞吐、尾延迟、单次成本和稳定性对比。

GPT-6 Luna为什么适合实时决策

GPT-6 Luna是OpenAI面向低成本、高吞吐场景推出的推理模型。官方API定价为每百万Token 0.10美元输入、0.01美元缓存输入和0.50美元输出。它支持文本与图像输入,并通过Responses API和Chat Completions API提供服务。

Decisions API选择Luna作为底层模型,透露出明确的产品定位:

  • 决策请求通常数量大,需要控制单次成本
  • 用户界面和实时路由对延迟敏感
  • 候选答案有限,不一定需要Astra级别的长时间深度推理
  • 输出短而结构化,可减少生成开销

但Decisions API是否直接按照Luna标准Token价格计费,目前没有官方说明。限量预览期间可能采用独立计价或准入规则,不能把模型API价格直接当成该产品报价。

哪些产品场景最适合使用

客服工单路由

根据客户描述,把请求分配给账单、技术支持、销售、退款或安全团队。相比关键词规则,它能理解更自然、更多样的表达。

内容分类与审核前置分流

把文章、评论、商品信息或用户反馈归入预设类别,再送入对应审核流程。需要注意,通用分类不等于内容安全审核,高风险场景仍应使用专门审核系统和人工复核。

智能体动作选择

Agent完成一个步骤后,可在“继续搜索、调用工具、请求用户确认、转交人工、结束任务”等允许动作中选择下一步。

销售线索分配

根据行业、需求、预算和地区,将潜在客户路由到不同团队或跟进节奏。涉及资格拒绝时,应保留可解释规则和申诉渠道。

消息优先级判断

将邮件、告警或内部请求划分为紧急、正常、可延后,帮助团队控制处理顺序。

对开发者最大的变化:减少“让模型假装成分类器”的胶水代码

过去,开发者常通过通用生成API实现分类:在提示词中列出选项,要求只输出JSON,再处理模型输出多余文本、字段缺失和枚举值拼写错误。

Decisions API如果能稳定返回受约束的候选答案,将减少三类工程负担:

  • 输出格式校验与重试
  • 提示词中反复强调“只能选择这些值”
  • 为简单分类任务承担不必要的生成延迟

更重要的是,它可能让Agent的决策点变得显式。开发者可以把每一步允许的动作列出来,而不是给模型无限自由,让系统更容易测试、监控和审计。

它不会取代规则引擎

Decisions API适合语言含义复杂、传统关键词难覆盖的判断,但确定性业务规则仍应优先由代码执行。

例如:

  • 订单金额超过阈值必须人工审批
  • 未成年人账户禁止使用特定功能
  • 某些国家和地区不能提供服务
  • 支付失败超过三次必须锁定流程

这些规则不应交给概率模型自由判断。更稳妥的架构是:代码先执行硬规则,Decisions API处理语义分类,关键结果再进入验证或人工审批。

实时不等于永远正确

速度只是决策系统的一项指标。业务上线前还需要评估:

  • 分类准确率和不同类别的召回率
  • 边界样本与模糊表达的表现
  • 不同语言、方言和错别字影响
  • 类别分布变化后的稳定性
  • 对恶意提示和输入操纵的抵抗力
  • 错误路由造成的业务成本

如果候选答案设计不完整,模型即使“正确选择”也可能只能在几个错误选项中挑一个。生产系统最好提供Other、Unknown或Escalate to human等兜底选项,并设置低置信度人工处理流程。

OpenAI目前没有公开Decisions API是否返回置信度,也没有承诺可配置拒答阈值,因此开发者需要等待正式文档再设计具体机制。

与Agent浪潮的关系

OpenAI近期连续推出常驻智能体Dot、Agents API、Computer Use和多智能体能力。Agent要长期稳定运行,不只需要会推理和操作,还需要频繁做出小决策:

  • 当前任务交给哪个子Agent
  • 下一步调用哪个工具
  • 是否已有足够信息继续
  • 是否需要用户批准
  • 失败后应该重试、回退还是转人工

如果每个决策都调用高成本通用模型,延迟和费用会迅速累积。Decisions API试图成为这类Agent工作流中的轻量决策层,把大量窄选择交给更快、更便宜的Luna处理,把复杂推理留给Sol或Astra。

这可能推动Agent架构进一步分层:高端模型负责规划和难题,低成本决策模型负责路由与状态转换,代码负责硬约束和执行。

目前有哪些未知信息

截至发布时,官方只确认了产品定位、GPT-6 Luna驱动和限量预览状态。以下信息尚未公开:

  • 申请入口与开放对象
  • API端点和请求响应格式
  • 具体价格与免费额度
  • 并发、速率和批处理限制
  • 支持文本之外的输入类型
  • 最大候选答案数量
  • 是否返回置信度或解释
  • 数据保留与区域处理选项
  • 延迟和可用性SLA

开发者不应根据28秒演示直接规划生产上线。参与预览前,应先确认数据处理、稳定性、错误处理和计费规则。

总结

OpenAI Decisions API把大模型能力压缩成一个清晰动作:开发者给出问题与候选答案,GPT-6 Luna实时作出选择。它适合内容分类、请求路由和Agent下一步动作判断。

官方演示中,处理客户请求的单条延迟约150毫秒,对比Responses API约1.6秒,显示约10倍速度优势。但该结果只代表特定演示,没有公开准确率、并发和完整测试条件。

对用户和开发者而言,真正的价值不是让AI替代所有规则,而是把过去用通用模型勉强实现的高频语义判断,变成更快、更受约束的基础能力。它可能成为Agent系统的重要路由层,但在价格、文档和可靠性数据公开前,仍应把它视为早期预览,而不是成熟的生产标准。

关联文章推荐

关联问答推荐

文章评论

登录后才能发布评论哦
立即登录/注册
还没有评论,快来抢沙发吧~
消息提醒
Hello, world! This is a toast message.