Lazy loaded image
三款开源权重大模型上架 Foundry:部署配置比跑分更值得看
字数 1010阅读时长≈ 3 分钟
2026-10-20
2026-10-20

开放权重模型进入 Foundry

选型的关键在部署模板,不只是基准分数

文章讲了什么

Microsoft Foundry 博客在 10 月 19 日的 Model Mondays 中介绍了三款来自 Hugging Face 的模型:Meta 的 Muse Spark Open、NVIDIA 的 Nemotron 3.5 Super VL,以及 Reflection 的 Beam 1.0。三款模型都面向编码、推理和智能体任务,并给出了在 Foundry 上的部署模板。
我的看法是,这篇文章更像一份选型清单。每个模型都附带了硬件、精度、上下文窗口和超时设置,这些信息比单个跑分更接近实际落地时要做的决定。

Muse Spark Open:多模态加长上下文

文章称该模型采用混合专家结构,总参数 816B,激活参数 42B,权重为 NVFP4。Foundry 部署提供约 100 万 token 的上下文,每个实例使用 8 张 H200。它支持文本、图像、音频和视频输入,输出为文本,并可按请求设置 low 到 xhigh 的推理强度。
文中引用了 Meta 发布的智能体评测成绩。需要注意,这些成绩对应 xhigh 推理强度,文章也说明基准表并未标明是 NVFP4 版本的测量结果。因此不宜直接用它预估这一量化部署的表现。

Nemotron 3.5 Super VL:文档与图表理解

该模型总参数 120B,激活参数 12B,权重为 BF16,主打视觉语言推理、文档与视频理解。Foundry 预设的上下文为 524,288 token,提供 A100 和 H100 两种模板,各用 4 张 GPU。
两个模板的差别主要在注意力缓存精度:A100 保持 BF16,H100 使用 FP8。上下文窗口和并发序列上限相同,所以选择依据是缓存精度与响应速度,而不是容量。对要处理版面复杂的文档或应用截图的团队,这是一个明确的取舍点。文中的评测数字由 NVIDIA 自行报告,我会当作参考而非独立结论。

Beam 1.0:面向软件工程的文本模型

Beam 总参数约 501B,激活约 23B,仅支持文本,提供 BF16、FP8、NVFP4 三种权重精度。精度越低,所需 GPU 越少,因此可以部署在 A100 或 H100 上;代价是 Foundry 预设的上下文从 512K 降到 256K。
对开发者而言,这意味着同一个模型可以按预算和现有配额选择档位。文章还提到五个模板都使用 FP8 注意力缓存,并设置 90 秒请求超时。长时间运行的智能体任务需要考虑这个超时是否够用。
选型时先确定输入类型、所需上下文和可用 GPU 配额,再看基准成绩。
图片来源:Microsoft Foundry Blog原文链接
图片来源:Microsoft Foundry Blog原文链接

适用场景与影响

  • 需要处理截图、文档或视频的支持类智能体:优先看 Muse Spark Open 和 Nemotron。
  • 以代码仓库和终端任务为主的编码智能体:Beam 的多档精度更便于控制成本。
  • 对延迟敏感的场景:需要自行压测,文章只给出模板定位,没有给出实测延迟。

仍待观察

1. 基准成绩均由发布方报告,缺少在 Foundry 部署上的独立复测。 2. 文章没有给出价格和吞吐数据,实际成本难以判断。 3. 90 秒、5 分钟这类超时设置,对长任务的影响要在真实负载下验证。 4. 推测:随着更多开放权重模型提供多档精度模板,托管平台的竞争点会转向部署配置的易用性。

来源

原文:Microsoft Foundry Blog, Now in Foundry(见来源链接)。
上一篇
一天四条消息,看 AI 的算力、端侧与评测走向
下一篇
让元数据参与检索:Foundry IQ 与自建 Azure AI Search 索引的 RAG 实践