AMD 新增对 Meta Muse Spark Open 的 day-0 支持

AMD周四表示，已在Instinct MI350X和MI355X GPU上增加了day-0对Meta Muse Spark Open的支持， GPU采用ROCm软件和vLLM，使该技术栈为一个面向编码和长期推理任务的大型开放权重模型奠定了基础。

证据与背景

在2026年10月15日发表的技术文章中，AMD将Muse Spark Open描述为Muse Spark家族中的首个开放权重模型，并表示它是一个原生多模态的专家混合模型，拥有816亿个总参数，每个令牌42个活跃参数，以及一个1百万令牌的上下文窗口。AMD表示该模型包含可配置的推理和原生工具调用，并且可在Hugging Face、Muse Code、Meta Model API和OpenRouter上使用。

AMD表示，该模型可在八 Instinct MI350X或MI355X GPU的单节点上运行，每块GPU拥有288 GB的HBM3E和8 TB/s的内存带宽，采用跨八GPU的张量并行处理。公司表示，该软件栈采用ROCm 7.2，配合vLLM，同时采用AMD AITER内核库用于注意力、MoE和通信，以及CUDA图捕获作为译码步骤。

文章列出的vLLM支持检查点三：BF16开放版本、MXFP4 AMD Quark导出和FP8 AMD Quark通过PTPC导出。AMD表示，BF16检查点还可以通过选择加入模式提供，在加载时将路由专家轮流到MXFP4，从而获得MXFP4内存和吞吐量配置，无需单独检查点。

AMD还公布了测试中的性能数据。他们表示，解码步骤优化将MXFP4检查点从206个提升到350个输出令牌每秒，32四个并发请求时从719个提升到1,180个。公司表示，专家并行技术为MXFP4 128并发请求32 20%吞吐量增加了7%，并将第一个令牌的时间缩短约24%，128时达到2,197个令牌每秒。AMD表示，其调优的AITER融合MoE表将单次请求解码吞吐量从98提升到TP8 114个令牌，而DSpark的推测解码则在单一流中达到199个令牌每秒。

AMD表示GSM8K精度在其MXFP4配置中保持在94.4%到95.5%范围内。公司建议根据负载不同采用不同的服务设置，包括针对约64个并发请求使用TP8加EP8加DSpark，以及用于较高负载的TP8加EP8。AMD还表示，day-0配方可在vLLM-recipe中获得，其ROCm vLLM的Docker镜像为vllm/vllm-openai-rocm：muse-spark-open。

文章未提供支持的商业条款，报告的吞吐量和延迟数据是AMD对其描述配置的测试结果。