OpenAI Decisions API 正式发布:做判断快 10 倍,输入一百万 token 只要 0.1 美元

给每天调 OpenAI 接口的开发者看的一条消息:Decisions API 在 10 月 22 日结束了公测,正式可用。这是 OpenAI 专门为「做判断」类任务开的一个新接口,底层跑的是 GPT-6 Luna 模型。它 9 月 29 日才在开发者日上首次公布公测,不到一个月就转正,上线速度相当快。细节见官方发布公告。
它到底是干什么的
简单说,它回答的是「判断题」,而不是「作文题」。普通调用大模型 API,干的是生成:写文案、编代码、总结文档。Decisions API 不做这个——它只做三类判断:概率(probability,某个条件是否成立、给出 0 到 1 的概率,比如商品图有没有破损)、选项(choice,从固定选项里选一个,比如把一张投诉工单分到「账单」还是「物流」部门)、打分(score,按开发者定的量表打分,比如 bug 严重程度)。开发者一次请求里可以塞最多 400 个问题(公测时上限是 200),一次返回批量答案。
便宜在哪,快在哪
价格:每百万输入 tokens 收 0.10 美元,缓存命中的输入只收 0.01 美元,输出免费——只对输入收费。OpenAI 的说法是,做同样的判断任务,它比走 Responses API 调同一个模型快最多 10 倍,延迟从原来的 1 到 3 秒压到 100 到 180 毫秒量级。语言学习应用 Speak 实测把两次操作之间的间隔从 1.4 秒砍到了 0.13 秒。
正式版还加了几个新东西:原生 GPT-Live 实时语音集成(语音应用可以在用户还没说完时就做判断)、prompt caching、原生 JSON 输入和图片输入;推理支持美国和欧洲区域,符合条件的客户可以用零数据留存(zero data retention)。这个思路和用 DeepInfer 加速 DeepSeek 推理那类方案在方向上是相通的:都是让模型「只做最擅长的那一小步、做快做便宜」。
这一步棋还有一层背景:这类「快判断」接口的赛道是初创公司 TypeSafe 的 Jev 先打出来的,几家第三方基准测评里 Jev 和 OpenAI 的决策模型互有胜负,但 Jev 目前在 OpenRouter 上的调用量仍然领先。OpenAI 没有另起炉灶训练一个专用分类模型,而是直接把现有的 Luna 重新调教成更快更便宜的推理形态——用现有模型做「减法」,这招在成本上更划算,也让它上线更快。
站长点评
对谁有用:做 AI 客服、内容审核、工单分拣、风控打分的开发者——这类场景每天要做上万次「分类、打分、二选一」,以前只能调大模型当「阅读理解」用,又慢又贵。它和直接调大模型的区别在于:它只做判断不生成长文,干一件专事,省下的是生成长回复的那部分成本和时间。但普通读者有个门槛要说明:这是开发者 API,普通用户用不上,它惠及你的方式是——以后你用的 AI 应用,审核、客服、分流这些环节会更快更便宜。本站的判断是:大模型竞争的下半场,拼的不是「谁更聪明」,是「谁更快更便宜」。
相关阅读
Python 3.15:性能与类型系统双升级
Iggy 在线工具中心:43 个免费小工具
信息来源:OpenAI 开发者社区官方公告(2026-10-22);文中判断为本站观点。
发表评论