OpenAI推出类Jev的Decisions API:GPT-6 Luna实时分类与路由,官方演示快约10倍
OpenAI为应用增加一个专门做选择的API
OpenAI在DevDay 2026期间推出Decisions API。它由GPT-6 Luna驱动,面向需要实时判断的应用:开发者定义问题和允许的答案,API根据输入从候选项中作出选择。
官方列出的核心用途包括:
- 对文本或内容进行分类
- 把用户请求路由到不同团队或处理流程
- 决定智能体下一步应该采取什么动作
Decisions API目前处于Limited Preview,即限量预览阶段,并未全面开放。OpenAI尚未公开完整接口文档、价格、速率限制、地区范围和服务等级承诺。

它与普通大模型调用有什么区别
Responses API擅长生成开放式答案:写一段文字、解释问题、调用工具或完成多步骤任务。Decisions API则把问题收窄为“在这些选项中选哪个”。
例如客服系统可以定义:
- 问题:这条客户请求应该交给哪个团队?
- 候选答案:Billing、Technical、Sales
系统不需要模型生成一段解释,只需要返回一个可用于程序分支的决策结果。
这种模式更适合高频、短输入、固定答案集合的判断任务。它把自然语言理解与确定的业务选项结合起来,开发者不用每次让通用模型生成JSON,再自行解析、校验和处理格式错误。
不过,OpenAI尚未公布响应数据结构、置信度字段、批处理方式或是否支持多标签,因此这些细节不能根据演示自行推断。
官方演示:1万条请求,约150毫秒完成单条判断
OpenAI发布的28秒演示展示了一个客户请求分流任务。系统读取customer_requests.csv中的1万条请求,并在Billing、Technical和Sales三个选项中完成路由。
画面将Decisions API与Responses API并列比较:
- Decisions API:约150毫秒/条请求
- Responses API:约1.6秒/条请求
- 官方结论:决策速度约快10倍
演示中,Decisions API处理完1万条请求时,Responses API仍在继续运行。
这组数据说明OpenAI正在为窄范围决策优化低延迟路径,但它只是官方演示,不是完整基准。演示没有公开网络环境、并发数、输入长度、Responses API所用模型与参数,也没有展示两种方式的分类准确率。因此不能据此断言所有任务都能稳定提速10倍。
OpenAI做出了类Jev产品,专用决策模型进入正面竞争
Decisions API的产品形态与TypeSafe AI推出的Jev高度相似:两者都不追求生成长文本,而是接收状态、问题和预定义候选项,快速返回可供程序使用的结构化判断。它们都瞄准Agent路由、动作选择、分类和线上评估等高频决策环节。
Jev此前已经展示了这条路线:官方定价为每百万输入Token 0.042美元、输出不单独计费,官方披露端到端延迟约70至500毫秒;在LangSmith的一项特定Agent评估中,Jev平均调用约0.44秒。它还返回类型化选择、评分、布尔概率和置信度,并支持对同一状态并行回答多个问题。
OpenAI现在把相似能力直接放进自己的API体系,并用低成本的GPT-6 Luna驱动。两项产品发布时间接近,不能据此证明OpenAI复制了Jev;但大厂如此快地推出同类接口,确实说明“只做快速结构化判断”更像通用模型能力被拆分、压缩和工程优化后的产品形态,而不是小厂能够长期独占的技术护城河。
Jev与Decisions API已确认差异
- Jev已经公开价格并全面开放;Decisions API仍是限量预览,价格和接口文档尚未公布
- Jev明确提供概率、置信度和多问题并行判断;OpenAI目前只确认预设答案选择,尚未公开是否提供对应字段
- Jev披露过LangSmith评估与Minecraft Agent案例;OpenAI演示的是1万条客服请求三分类
- OpenAI拥有GPT-6 Luna、Responses API、Agents API和庞大开发者渠道,产品整合与分发能力明显更强
对Jev而言,窗口期正在迅速缩短。如果其核心卖点只是比通用LLM更快、更便宜地返回有限选项,大厂可以通过专用推理路径、蒸馏、缓存和结构化接口迅速追上。Jev需要证明的将不再是“这种产品有没有价值”,而是自己的正确率、概率校准、延迟、价格、数据政策和企业服务能否持续优于平台原生方案。
目前没有公开数据能证明Jev已经获得足够多的企业付费核心客户,也没有可直接比较两者准确率的统一基准。下一阶段的竞争不会停留在“谁先提出System One模型”或“谁延迟更低”的宣传,而会进入同一真实数据集上的正确率、校准误差、吞吐、尾延迟、单次成本和稳定性对比。
GPT-6 Luna为什么适合实时决策
GPT-6 Luna是OpenAI面向低成本、高吞吐场景推出的推理模型。官方API定价为每百万Token 0.10美元输入、0.01美元缓存输入和0.50美元输出。它支持文本与图像输入,并通过Responses API和Chat Completions API提供服务。
Decisions API选择Luna作为底层模型,透露出明确的产品定位:
- 决策请求通常数量大,需要控制单次成本
- 用户界面和实时路由对延迟敏感
- 候选答案有限,不一定需要Astra级别的长时间深度推理
- 输出短而结构化,可减少生成开销
但Decisions API是否直接按照Luna标准Token价格计费,目前没有官方说明。限量预览期间可能采用独立计价或准入规则,不能把模型API价格直接当成该产品报价。
哪些产品场景最适合使用
客服工单路由
根据客户描述,把请求分配给账单、技术支持、销售、退款或安全团队。相比关键词规则,它能理解更自然、更多样的表达。
内容分类与审核前置分流
把文章、评论、商品信息或用户反馈归入预设类别,再送入对应审核流程。需要注意,通用分类不等于内容安全审核,高风险场景仍应使用专门审核系统和人工复核。
智能体动作选择
Agent完成一个步骤后,可在“继续搜索、调用工具、请求用户确认、转交人工、结束任务”等允许动作中选择下一步。
销售线索分配
根据行业、需求、预算和地区,将潜在客户路由到不同团队或跟进节奏。涉及资格拒绝时,应保留可解释规则和申诉渠道。
消息优先级判断
将邮件、告警或内部请求划分为紧急、正常、可延后,帮助团队控制处理顺序。
对开发者最大的变化:减少“让模型假装成分类器”的胶水代码
过去,开发者常通过通用生成API实现分类:在提示词中列出选项,要求只输出JSON,再处理模型输出多余文本、字段缺失和枚举值拼写错误。
Decisions API如果能稳定返回受约束的候选答案,将减少三类工程负担:
- 输出格式校验与重试
- 提示词中反复强调“只能选择这些值”
- 为简单分类任务承担不必要的生成延迟
更重要的是,它可能让Agent的决策点变得显式。开发者可以把每一步允许的动作列出来,而不是给模型无限自由,让系统更容易测试、监控和审计。
它不会取代规则引擎
Decisions API适合语言含义复杂、传统关键词难覆盖的判断,但确定性业务规则仍应优先由代码执行。
例如:
- 订单金额超过阈值必须人工审批
- 未成年人账户禁止使用特定功能
- 某些国家和地区不能提供服务
- 支付失败超过三次必须锁定流程
这些规则不应交给概率模型自由判断。更稳妥的架构是:代码先执行硬规则,Decisions API处理语义分类,关键结果再进入验证或人工审批。
实时不等于永远正确
速度只是决策系统的一项指标。业务上线前还需要评估:
- 分类准确率和不同类别的召回率
- 边界样本与模糊表达的表现
- 不同语言、方言和错别字影响
- 类别分布变化后的稳定性
- 对恶意提示和输入操纵的抵抗力
- 错误路由造成的业务成本
如果候选答案设计不完整,模型即使“正确选择”也可能只能在几个错误选项中挑一个。生产系统最好提供Other、Unknown或Escalate to human等兜底选项,并设置低置信度人工处理流程。
OpenAI目前没有公开Decisions API是否返回置信度,也没有承诺可配置拒答阈值,因此开发者需要等待正式文档再设计具体机制。
与Agent浪潮的关系
OpenAI近期连续推出常驻智能体Dot、Agents API、Computer Use和多智能体能力。Agent要长期稳定运行,不只需要会推理和操作,还需要频繁做出小决策:
- 当前任务交给哪个子Agent
- 下一步调用哪个工具
- 是否已有足够信息继续
- 是否需要用户批准
- 失败后应该重试、回退还是转人工
如果每个决策都调用高成本通用模型,延迟和费用会迅速累积。Decisions API试图成为这类Agent工作流中的轻量决策层,把大量窄选择交给更快、更便宜的Luna处理,把复杂推理留给Sol或Astra。
这可能推动Agent架构进一步分层:高端模型负责规划和难题,低成本决策模型负责路由与状态转换,代码负责硬约束和执行。
目前有哪些未知信息
截至发布时,官方只确认了产品定位、GPT-6 Luna驱动和限量预览状态。以下信息尚未公开:
- 申请入口与开放对象
- API端点和请求响应格式
- 具体价格与免费额度
- 并发、速率和批处理限制
- 支持文本之外的输入类型
- 最大候选答案数量
- 是否返回置信度或解释
- 数据保留与区域处理选项
- 延迟和可用性SLA
开发者不应根据28秒演示直接规划生产上线。参与预览前,应先确认数据处理、稳定性、错误处理和计费规则。
总结
OpenAI Decisions API把大模型能力压缩成一个清晰动作:开发者给出问题与候选答案,GPT-6 Luna实时作出选择。它适合内容分类、请求路由和Agent下一步动作判断。
官方演示中,处理客户请求的单条延迟约150毫秒,对比Responses API约1.6秒,显示约10倍速度优势。但该结果只代表特定演示,没有公开准确率、并发和完整测试条件。
对用户和开发者而言,真正的价值不是让AI替代所有规则,而是把过去用通用模型勉强实现的高频语义判断,变成更快、更受约束的基础能力。它可能成为Agent系统的重要路由层,但在价格、文档和可靠性数据公开前,仍应把它视为早期预览,而不是成熟的生产标准。
创建: 2026-09-30 更新: 2026-09-30
关联文章推荐
- 26日凌晨 OpenAI Codex 崩了!Codex 服务全面中断,官方已恢复
- Muse AI Agent 新手教程:从登录配置到完成第一个自动化任务
- OpenAI神秘助理“o”要来了?DevDay前夕,可信消息只有这些
- OpenAI修复GPT-6 Sol与Luna图像编码缺陷:视觉定位成绩从28.8%升至60%
- Meta推出Enterprise Platform:扎克伯格正式进军企业级AI
- Manus 2.0发布:Cascade降低32%运行成本,Studio进军视频剪辑与游戏开发
- OpenAI将重开200美元Pro订阅:名义用量价值减半,取消5小时窗口并增加免计费权益
- OpenAI发布Dot常驻智能体:GPT-6 Astra驱动,连接4000多款应用并全天候工作
- OpenAI推出类Jev的Decisions API:GPT-6 Luna实时分类与路由,官方演示快约10倍
- OpenAI确认老Pro 200额度腰斩:10月30日起降至Plus 10倍,补偿2500美元额度
- OpenAI Bel 与 Fable 5.5 传闻升温:下一轮 AI 模型竞争看什么?
- Tibo推文下1354条评论告诉我们:OpenAI的产品价值合同被破坏了
- Google开放SynthID水印检测:能查AI图片视频,但查不到不等于真实
- 谷歌发布Gemini职场智能体:从回答问题到持续执行企业任务
- a16z报告深度解读:AI使用为何广而不深,重度用户如何拉开差距
- 比特商业 BitBiz AI Hub 网站上线:从 AI 回答走向专业工作交付
登录后才能发布评论哦
立即登录/注册