NVIDIA DSX OS, Kubernetes GPU 클러스터 효율성 향상

NVIDIA는 DSX OS 플랫폼을 통해 Kubernetes GPU 클러스터의 효율성과 신뢰성을 향상시키기 위한 종합 솔루션을 발표했습니다. 이 오픈 소스 소프트웨어는 NVIDIA의 더 넓은 DSX AI 팩토리 플랫폼의 일부로, GPU 가속 인프라를 구성, 인증 및 모니터링하기 위한 도구를 통합하여 분산 AI 작업에서의 주요 과제에 대처합니다.

GPU 클러스터 비효율성 해결

성능이 저조한 GPU는 기본적인 헬스 체크가 정상적인 사용을 나타내더라도 분산 훈련 작업을 방해할 수 있습니다. NVIDIA는 이러한 문제가 클러스터의 생애 주기 전반에 걸쳐, 초기 구성부터 지속적인 운영에 이르기까지 발생할 수 있다고 강조하고 있습니다. 전통적인 지표인 사용률은 비효율성을 포착하는 데 실패하기 쉬워, 더 견고한 검증 방법의 필요성이 대두됩니다. DSX OS는 성공적으로 완료된 작업의 양을 측정하는 "굿풋" 지표를 도입하여 클러스터 성능에 대한 더 명확한 그림을 제공합니다.

DSX OS의 주요 구성 요소

DSX OS 플랫폼에는 클러스터 생애 주기의 특정 단계를 다루는 세 가지 오픈 소스 도구가 포함되어 있습니다:

• 구성: NVIDIA AI 클러스터 런타임(AICR)은 GPU 최적화된 Kubernetes 인프라의 재현 가능한 기준을 설정합니다. 네트워킹, 스토리지 및 드라이버와 같은 구성 요소에 대한 버전 고정 구성 레시피를 정의하여, 이러한 레시피는 Helm 및 Argo CD와 같은 기존 도구와 호환되는 배포 아티팩트로 변환됩니다.
• 인증: NVIDIA 클러스터 준비 엔진(NVCRE)은 프로덕션 작업에 대한 클러스터 준비 상태를 검증합니다. AI 작업 로드와 진단을 실행하며, NVIDIA 집합 통신 라이브러리(NCCL) 테스트를 포함하여 결함 노드를 식별하고 작업 신뢰성을 보장합니다.
• 운영: NVSentinel은 클러스터 건강을 모니터링하고, 결함 수정을 관리하며, 재검증을 조정합니다. 이를 통해, 건강하지 않은 노드를 자동으로 격리하거나 오염시키고, 작업을 배수하며, 노드가 서비스에 복귀하기 전에 NVCRE와 함께 재검증을 트리거합니다.

이 세 가지 도구는 모두 Apache 2.0 아래에서 라이센스되고 있으며, 외부 기여를 받습니다.

실습에서의 생애 주기 관리

DSX OS 워크플로우는 구성, 인증, 모니터링 및 재인증이라는 구조화된 생애 주기를 따릅니다. 예를 들어, AICR은 고정된 버전, 의존성 그래프, 각 구성 요소에 대한 건강 주장을 정의하는 레시피를 생성합니다. 이러한 레시피는 배포 아티팩트로 변환되어 일관성을 보장하고 드리프트 탐지를 가능하게 합니다. NVCRE는 분산 AI 작업을 실행하여 클러스터의 준비 상태를 인증하며 NVSentinel은 운영 중 노드 건강을 지속적으로 모니터링하고 관리합니다.

전략적 의미

NVIDIA의 DSX OS는 AI 인프라의 비효율성과 운영 위험을 줄이는 것을 목표로 합니다. 구성, 인증 및 모니터링을 통합 플랫폼으로 통합하여, 계산 리소스의 낭비와 유휴 노드로 이어질 수 있는 가시성의 격차를 해소합니다. 이 도구들은 기존의 배포 파이프라인과 함께 작동하도록 설계되어 있어 운영자에게 혼란을 최소화합니다.

NVIDIA는 특정 성능 벤치마크나 전체적인 고장률 감소를 제공하지 않았지만, 재현성과 결함 탐지에 중점을 둔 이 플랫폼은 강력한 AI 인프라에 대한 증가하는 수요와 일치합니다. 2026-11-05에 게시된 DSX OS 워크스루 는 오픈 소스 혁신을 통해 AI 팩토리 효율성을 향상시키려는 NVIDIA의 의지를 강조합니다.