Lazy loaded image
Decisions API 进入 Foundry:把「下一步怎么走」交给专用模型
字数 782阅读时长≈ 2 分钟
2026-10-24
2026-10-24

让模型只做决定,而不是写一段话

解读 Decisions API 对智能体工作流的意义

文章讨论的问题

来源文章认为,智能体不只是生成内容,还要在流程中不断判断:该用哪个模型、问题是否紧急、输出是否达标、是否需要人工介入。这类决策在一个工作流里可能出现成百上千次,每一次都走完整的生成式推理,延迟和成本会叠加。

接口提供了什么

据文章介绍,微软已在 Foundry 中提供 OpenAI Decisions API。开发者针对输入提出自己定义的问题,每个问题对应三种结果之一:条件为真的概率与置信度、从预设选项中选一个、按给定量表打分。输入可以是文本、图片或结构化数据。
我的理解是,它的价值在于输出本身就是程序可直接消费的值。不必再从一段自然语言里解析“模型到底想说什么”,控制流会更稳定,也更容易测试。

适用场景

文章给出的使用时点有三个:任务开始前做请求路由,执行中选择下一步动作,任务结束后依据标准评估输出,再决定继续、重试、换路径或交给人。
  • 客服场景:先判断紧急程度,再决定由哪个模型或工具处理。
  • 多模型系统:把简单请求分给更轻的模型,不必默认使用更大的模型。
  • 质量门禁:用量表给智能体输出打分,低于阈值就转人工。
图片来源:Microsoft Foundry Blog原文链接
图片来源:Microsoft Foundry Blog原文链接

接入方式与价格

文章说明,接口位于 Azure OpenAI 资源的 /openai/v1/decisions 端点,目前支持 GPT-6 Luna。调用可使用 OpenAI SDK 或 REST,在 model 字段填写部署名,认证支持 API Key 或 Microsoft Entra ID。文中价格表列出该模型每百万 token 输入 0.10 美元、缓存输入 0.01 美元、30 分钟缓存写入 0.125 美元,输出为 N/A。

对开发者的影响

以下是我的分析。如果决策点被单独抽出,团队就可以分别优化路由、评估和生成,并为每类决策设定独立的指标与预算。这也让“人工介入”的触发条件更明确,因为概率和分数可以直接设阈值。

仍待观察

  • 推测:专用决策接口在准确率和延迟上相对通用模型的优势,文章没有给出基准数据,需要自行实测。
  • 目前仅支持一个模型,可选范围和区域可用性尚不清楚。
  • 量表打分的一致性与可复现性,如何校准置信度,文章未展开。
来源:Microsoft Foundry Blog 原文(见来源清单)。
上一篇
从用户规模到本地微调:今天 AI 开发侧的几个信号
下一篇
安全与长上下文模型:10 月 24 日 AI 动态三则