Blackfuel запускает облако ИИ на основе AMD в Барселоне

Blackfuel официально запустила свое первое развертывание только для инференса в Барселоне, используя графические процессоры AMD Instinct™ MI355X и открытое ПО AMD ROCm™. Это знаменует собой значительный шаг в миссии компании по созданию глобальной облачной инфраструктуры, ориентированной на инференс, с целью предоставления измеримого и резервируемого вывода ИИ.

Развертывание в Барселоне: новая модель для инфраструктуры ИИ

Развертывание в Барселоне размещается компанией Digital Realty и включает в себя системы Dell PowerRack с жидкостным охлаждением, оснащенные серверами Dell PowerEdge XE9785L, работающими на акцелераторах AMD Instinct MI355X. Поддержка развертывания и интеграции предоставляется компаниями Dell и NTT DATA. Подход Blackfuel интегрирует вычисления, возможности дата-центра, хранилище и программное обеспечение в единую систему, предоставляя клиентам больший контроль над местом развертывания, моделями и операционными средами.

Инфраструктура Blackfuel разработана для оптимизации инференса на различных архитектурах акселераторов и поколениях аппаратного обеспечения. Графические процессоры AMD Instinct MI355X, основанные на архитектуре CDNA 4, имеют 288 ГБ памяти HBM3E и до 8 ТБ/с пропускной способности памяти, обеспечивая аппаратную основу для платформы.

Сеть токенов ИИ: переход к инфраструктуре, ориентированной на результат

В центре стратегии Blackfuel находится сеть токенов ИИ, сеть специфических для архитектуры кластеров акселераторов, соединенных через общий программный и коммерческий слой. Эта платформа позволяет клиентам резервировать мощность инференса в соответствии с конкретными требованиями по пропускной способности, задержке и размещению данных, не управляя при этом базовой инфраструктурой.

Blackfuel также вводит Логические графические процессоры, контрактные единицы сервиса, которые позволяют клиентам резервировать долю мощности службы модели за фиксированную ежемесячную плату. Эта модель обеспечивает стабильные уровни обслуживания, позволяя при этом базовому оборудованию и конфигурациям развиваться.

Открытое ПО как стратегическая основа

Программный стек Blackfuel основан на AMD ROCm™ и открытых технологиях обслуживания, таких как vLLM и SGLang. Сочетая открытое ПО с собственными инструментами маршрутизации, распределения и измерения, компания стремится снизить затраты на обслуживание и увеличить количество полезных токенов на мегаватт. Платформа разработана для поддержки широкого спектра моделей, включая модели от Meta, OpenAI, NVIDIA и Google, среди прочих.

Открытое ПО предоставляет разработчикам и операторам гибкость для адаптации к быстро меняющимся моделям и структурам ИИ, гарантируя, что инфраструктура Blackfuel останется устойчивой к будущим вызовам.

Последствия для экосистемы ИИ

Развертывание Blackfuel в Барселоне подчеркивает более широким сдвиг в инфраструктуре ИИ от модели, ориентированной на размеры, к производственной модели. Предлагая локально управляемую резервируемую мощность ИИ, компания предоставляет предприятиям, разработчикам моделей и бизнесам, работающим в сфере ИИ, альтернативу традиционным облачным провайдерам. Этот подход согласовывает возможности инфраструктуры с конкретными обязательствами по производительности и обслуживанию клиентов, устанавливая новый стандарт для масштабируемого инференса ИИ.