Новости
NVIDIA Запускает NVKE и NVKR для Управления Kubernetes на GPU
NVIDIA представляет NVKE и NVKR — инструменты с открытым исходным кодом для управления кластерами Kubernetes на инфраструктуре GPU, доступные в публичном предварительном просмотре.
Перевод статьи. Читать оригинальную статью.
NVIDIA объявила о запуске двух проектов с открытым исходным кодом: NVIDIA Kubernetes Engine (NVKE) и NVIDIA Kubernetes Recipes (NVKR), направленных на упрощение управления кластерами Kubernetes на инфраструктуре GPU. Оба проекта сейчас доступны в публичном предварительном просмотре и являются частью платформы NVIDIA DSX AI Factory, которая поддерживает фабрики ИИ в проектировании, строительстве и эксплуатации инфраструктуры GPU.
Ключевые особенности NVKE и NVKR
NVKE предоставляет программное обеспечение, необходимое для работы управляемого сервиса Kubernetes на инфраструктуре фабрики ИИ. Он включает API для развертывания и управления кластерами, что позволяет фабрикам ИИ сохранить контроль над своим программным обеспечением, операциями и обслуживанием клиентов. NVKR дополняет NVKE, создавая воспроизводимые образы операционных систем, образы контейнеров и пакеты программного обеспечения, адаптированные под конкретные поколения GPU и версии Kubernetes.
Эти инструменты можно использовать вместе или независимо. NVKE не имеет зависимостей во время выполнения от NVKR, а NVKR может создавать артефакты для других систем управления Kubernetes. Оба проекта лицензированы под Apache 2.0 и доступны на GitHub, что позволяет командам просматривать, разрабатывать и вносить вклад в кодовую базу.
Операционный поток и технические детали
NVKR создает образы узлов, компилируя программные конфигурации, проверенные NVIDIA. Эти образы включают пакеты Kubernetes 1.36 с фиксированной контрольной суммой и специфические для GPU компоненты времени выполнения. Процесс сборки также фиксирует все входные данные для возможности воспроизведения. NVKE же управляет кластерами Kubernetes, разворачивая управляющую плоскость, которая создает рабочие кластеры для клиентов. Управляющая плоскость использует контроллер инфраструктуры NVIDIA (NICo) для управления жизненным циклом на «голом» железе и интегрирует телеметрические каналы на основе OpenTelemetry для мониторинга.
Для развертывания NVKE команды используют инструмент nvkectl для запуска управляющего кластера и создания рабочих кластеров. Каждый рабочий кластер включает собственную управляющую плоскость Kubernetes, etcd и пулы узлов. Дополнительные компоненты, такие как AI Cluster Runtime (AICR) и NVSentinel, улучшают время выполнения с ускорением GPU и автоматизацию в кластерах.
Публичный предварительный просмотр и ограничения
Во время фазы публичного предварительного просмотра API, конфигурации и поведение могут изменяться между выпусками. NVIDIA предупреждала о том, что в данный момент не стоит использовать NVKE и NVKR для производственных нагрузок. Доступна подробная документация, включая предварительные условия и шаги установки, чтобы направить команды в создании образов узлов, развертывании управляющей плоскости и создании кластеров.
С помощью NVKE и NVKR NVIDIA стремится упростить управление инфраструктурой GPU на основе Kubernetes, удовлетворяя растущий спрос на масштабируемые и эффективные операции фабрик ИИ.
Другие статьи на русском · Финансовые сравнения и источники SEC (на английском)