让模型只做决定,而不是写一段话
解读 Decisions API 对智能体工作流的意义
文章讨论的问题
来源文章认为,智能体不只是生成内容,还要在流程中不断判断:该用哪个模型、问题是否紧急、输出是否达标、是否需要人工介入。这类决策在一个工作流里可能出现成百上千次,每一次都走完整的生成式推理,延迟和成本会叠加。
接口提供了什么
据文章介绍,微软已在 Foundry 中提供 OpenAI Decisions API。开发者针对输入提出自己定义的问题,每个问题对应三种结果之一:条件为真的概率与置信度、从预设选项中选一个、按给定量表打分。输入可以是文本、图片或结构化数据。
我的理解是,它的价值在于输出本身就是程序可直接消费的值。不必再从一段自然语言里解析“模型到底想说什么”,控制流会更稳定,也更容易测试。
适用场景
文章给出的使用时点有三个:任务开始前做请求路由,执行中选择下一步动作,任务结束后依据标准评估输出,再决定继续、重试、换路径或交给人。
- 客服场景:先判断紧急程度,再决定由哪个模型或工具处理。
- 多模型系统:把简单请求分给更轻的模型,不必默认使用更大的模型。
- 质量门禁:用量表给智能体输出打分,低于阈值就转人工。

接入方式与价格
文章说明,接口位于 Azure OpenAI 资源的 /openai/v1/decisions 端点,目前支持 GPT-6 Luna。调用可使用 OpenAI SDK 或 REST,在 model 字段填写部署名,认证支持 API Key 或 Microsoft Entra ID。文中价格表列出该模型每百万 token 输入 0.10 美元、缓存输入 0.01 美元、30 分钟缓存写入 0.125 美元,输出为 N/A。
对开发者的影响
以下是我的分析。如果决策点被单独抽出,团队就可以分别优化路由、评估和生成,并为每类决策设定独立的指标与预算。这也让“人工介入”的触发条件更明确,因为概率和分数可以直接设阈值。
仍待观察
- 推测:专用决策接口在准确率和延迟上相对通用模型的优势,文章没有给出基准数据,需要自行实测。
- 目前仅支持一个模型,可选范围和区域可用性尚不清楚。
- 量表打分的一致性与可复现性,如何校准置信度,文章未展开。
来源:Microsoft Foundry Blog 原文(见来源清单)。
- 作者:月明
- 链接:https://lunalight.top//article/azure-foundry-2026-10-24-4567265
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议,转载请注明出处。
