新闻
Blackfuel在巴塞罗那推出AMD动力的AI推理云
Blackfuel在巴塞罗那的部署结合了AMD GPU和开放软件,提供可预订的AI推理能力,标志着AI基础设施的转变。
Blackfuel正式推出其在巴塞罗那的首个仅推理部署,利用AMD Instinct™ MI355X GPU和AMD ROCm™开放软件。这标志着公司在建立全球推理原生云基础设施方面迈出了重要一步,旨在提供可衡量和可预订的AI输出。
巴塞罗那部署:AI基础设施的新模型
巴塞罗那的部署由Digital Realty托管,配备了液冷的Dell PowerRack系统和搭载AMD Instinct MI355X加速器的Dell PowerEdge XE9785L服务器。部署和集成支持由Dell和NTT DATA提供。Blackfuel的方法将计算、数据中心容量、存储和软件整合成一个统一的系统,为客户提供更大的控制权,能够选择部署地点、模型和操作环境。
Blackfuel的基础设施旨在优化多个加速器架构和硬件代际间的推理。基于CDNA 4架构的AMD Instinct MI355X GPU包含288 GB的HBM3E内存和高达8 TB/s的内存带宽,提供了该平台的硬件支撑。
AI令牌网格:向输出驱动的基础设施转变
Blackfuel战略的核心是其AI令牌网格,一个通过共同软件和商业层连接的特定架构的加速器集群网络。该平台使客户能够预订与特定吞吐量、延迟和数据位置要求相符的推理容量,而无需管理底层基础设施。
Blackfuel还引入了逻辑GPU,这是一种合同服务单元,允许客户以固定月费预订模型服务能力的一部分。该模型确保了一致的服务水平,同时允许底层硬件和配置不断演进。
开放软件作为战略基础
Blackfuel的软件堆栈建立在AMD ROCm™和vLLM、SGLang等开放服务技术之上。通过将开放软件与专有路由、分配和计量工具结合起来,公司旨在降低服务成本并提高每兆瓦的有用令牌数量。该平台旨在支持多种模型,包括Meta、OpenAI、NVIDIA和Google等公司的模型。
开放软件为开发者和运营商提供灵活性,以适应快速发展的AI模型和框架,确保Blackfuel的基础设施保持未来-proof。
对AI生态系统的影响
Blackfuel在巴塞罗那的部署突显了AI基础设施从以容量为中心向以输出为中心模型的广泛转变。通过提供本地操作的、可预订的AI容量,公司为企业、模型开发者和AI原生企业提供了传统云提供商的替代方案。这种方法将基础设施能力与客户特定的性能和服务承诺对齐,为大规模AI推理设定了新的标准。