开放权重模型进入 Foundry
选型的关键在部署模板,不只是基准分数
文章讲了什么
Microsoft Foundry 博客在 10 月 19 日的 Model Mondays 中介绍了三款来自 Hugging Face 的模型:Meta 的 Muse Spark Open、NVIDIA 的 Nemotron 3.5 Super VL,以及 Reflection 的 Beam 1.0。三款模型都面向编码、推理和智能体任务,并给出了在 Foundry 上的部署模板。
我的看法是,这篇文章更像一份选型清单。每个模型都附带了硬件、精度、上下文窗口和超时设置,这些信息比单个跑分更接近实际落地时要做的决定。
Muse Spark Open:多模态加长上下文
文章称该模型采用混合专家结构,总参数 816B,激活参数 42B,权重为 NVFP4。Foundry 部署提供约 100 万 token 的上下文,每个实例使用 8 张 H200。它支持文本、图像、音频和视频输入,输出为文本,并可按请求设置 low 到 xhigh 的推理强度。
文中引用了 Meta 发布的智能体评测成绩。需要注意,这些成绩对应 xhigh 推理强度,文章也说明基准表并未标明是 NVFP4 版本的测量结果。因此不宜直接用它预估这一量化部署的表现。
Nemotron 3.5 Super VL:文档与图表理解
该模型总参数 120B,激活参数 12B,权重为 BF16,主打视觉语言推理、文档与视频理解。Foundry 预设的上下文为 524,288 token,提供 A100 和 H100 两种模板,各用 4 张 GPU。
两个模板的差别主要在注意力缓存精度:A100 保持 BF16,H100 使用 FP8。上下文窗口和并发序列上限相同,所以选择依据是缓存精度与响应速度,而不是容量。对要处理版面复杂的文档或应用截图的团队,这是一个明确的取舍点。文中的评测数字由 NVIDIA 自行报告,我会当作参考而非独立结论。
Beam 1.0:面向软件工程的文本模型
Beam 总参数约 501B,激活约 23B,仅支持文本,提供 BF16、FP8、NVFP4 三种权重精度。精度越低,所需 GPU 越少,因此可以部署在 A100 或 H100 上;代价是 Foundry 预设的上下文从 512K 降到 256K。
对开发者而言,这意味着同一个模型可以按预算和现有配额选择档位。文章还提到五个模板都使用 FP8 注意力缓存,并设置 90 秒请求超时。长时间运行的智能体任务需要考虑这个超时是否够用。
选型时先确定输入类型、所需上下文和可用 GPU 配额,再看基准成绩。

适用场景与影响
- 需要处理截图、文档或视频的支持类智能体:优先看 Muse Spark Open 和 Nemotron。
- 以代码仓库和终端任务为主的编码智能体:Beam 的多档精度更便于控制成本。
- 对延迟敏感的场景:需要自行压测,文章只给出模板定位,没有给出实测延迟。
仍待观察
1. 基准成绩均由发布方报告,缺少在 Foundry 部署上的独立复测。 2. 文章没有给出价格和吞吐数据,实际成本难以判断。 3. 90 秒、5 分钟这类超时设置,对长任务的影响要在真实负载下验证。 4. 推测:随着更多开放权重模型提供多档精度模板,托管平台的竞争点会转向部署配置的易用性。
来源
原文:Microsoft Foundry Blog, Now in Foundry(见来源链接)。
- 作者:月明
- 链接:https://lunalight.top//article/azure-foundry-2026-10-20-4565899
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议,转载请注明出处。
