NVIDIA DSX OS Улучшает Эффективность Кластера GPU Kubernetes

NVIDIA представила комплексное решение для повышения эффективности и надежности кластеров GPU Kubernetes с помощью своей платформы DSX OS. Это программное обеспечение с открытым исходным кодом, являющееся частью более широкой платформы NVIDIA DSX AI Factory, интегрирует инструменты для настройки, сертификации и мониторинга инфраструктуры с ускорением GPU, решая ключевые проблемы в распределенных рабочих нагрузках ИИ.

Решение проблем неэффективности кластера GPU

Недостаточно производительные GPU могут затруднить выполнение распределенных учебных заданий, даже когда базовые проверки состояния показывают нормальную загрузку. NVIDIA подчеркивает, что такие проблемы могут возникать на протяжении всего жизненного цикла кластера, от первоначальной конфигурации до текущих операций. Традиционные метрики вроде загрузки часто не в состоянии обнаружить неэффективность, что требует более надежных методов валидации. DSX OS вводит метрику "goodput", измеряющую объем успешно выполненной работы, чтобы предоставить более четкую картину производительности кластера.

Ключевые компоненты DSX OS

Платформа DSX OS включает три инструмента с открытым исходным кодом, каждый из которых решает определенную фазу жизненного цикла кластера:

• Настроить: NVIDIA AI Cluster Runtime (AICR) устанавливает воспроизводимую базу для инфраструктуры Kubernetes, оптимизированной для GPU. Он определяет фиксированные версии конфигурационных рецептов для компонентов, таких как сеть, хранилище и драйверы. Эти рецепты преобразуются в артефакты развертывания, совместимые с существующими инструментами, такими как Helm и Argo CD.
• Сертифицировать: NVIDIA Cluster Readiness Engine (NVCRE) валидирует готовность кластера к рабочим нагрузкам в производстве. Он выполняет рабочие нагрузки ИИ и диагностику, включая тесты NVIDIA Collective Communication Library (NCCL), чтобы выявлять неисправные узлы и обеспечивать надежность рабочих нагрузок.
• Эксплуатировать: NVSentinel контролирует состояние кластера, управляет устранением неисправностей и координирует повторную валидацию. Он может автоматически изолировать или повреждать неполноценные узлы, приостанавливать рабочие нагрузки и инициировать повторную валидацию с NVCRE перед тем, как узлы вернутся в эксплуатацию.

Все три инструмента лицензированы под Apache 2.0 и открыты для внешних вкладов.

Управление жизненным циклом на практике

Рабочий процесс DSX OS следует структурированному жизненному циклу: настройка, сертификация, мониторинг и повторная сертификация. Например, AICR генерирует рецепты, которые определяют фиксированные версии, графики зависимостей и утверждения о состоянии для каждого компонента. Эти рецепты преобразуются в артефакты развертывания, обеспечивая консистентность и позволяя обнаружение отклонений. NVCRE затем сертифицирует готовность кластера, выполняя распределенные рабочие нагрузки ИИ, в то время как NVSentinel непрерывно контролирует и управляет здоровьем узлов в процессе работы.

Стратегические последствия

DSX OS от NVIDIA направлен на снижение неэффективности и операционных рисков в инфраструктуре ИИ. Интегрируя настройку, сертификацию и мониторинг в единую платформу, он устраняет пробелы в видимости, которые могут привести к потере вычислительных ресурсов и простаивающим узлам. Инструменты разработаны для работы с существующими пайплайнами развертывания, минимизируя нарушение работы операторов.

Хотя NVIDIA не предоставила конкретных данных о производительности или снижении общей частоты отказов, акцент платформы на воспроизводимости и обнаружении неисправностей соответствует растущему спросу на надежную инфраструктуру ИИ. Презентация DSX OS, опубликованная на 2026-11-05, подчеркивает приверженность NVIDIA к повышению эффективности фабрики ИИ посредством открытых инноваций.