뉴스
NVIDIA, GPU Kubernetes 관리를 위한 NVKE 및 NVKR 출시
NVIDIA가 GPU 인프라에서 Kubernetes 클러스터를 관리하기 위한 오픈 소스 도구인 NVKE 및 NVKR을 소개하며, 공개 미리보기로 제공됩니다.
번역 기사입니다. 원문 기사 읽기.
NVIDIA는 GPU 인프라에서 Kubernetes 클러스터 관리를 단순화하기 위한 두 가지 오픈 소스 프로젝트인 NVIDIA Kubernetes Engine (NVKE)와 NVIDIA Kubernetes Recipes (NVKR)를 발표했습니다. 두 프로젝트는 현재 공개 미리보기에 제공되고 있으며, AI 공장을 설계, 구축 및 운영하는 데 필요한 GPU 인프라를 지원하는 NVIDIA DSX AI Factory 플랫폼의 일부입니다.
NVKE 및 NVKR의 주요 기능
NVKE는 AI 공장 인프라에서 관리된 Kubernetes 서비스를 실행하는 데 필요한 소프트웨어를 제공합니다. 클러스터의 프로비저닝 및 관리를 위한 API를 포함하고 있어 AI 공장이 소프트웨어, 운영 및 고객 경험을 제어할 수 있도록 합니다. NVKR은 특정 GPU 세대 및 Kubernetes 버전에 맞게 재현 가능한 운영 체제 이미지, 컨테이너 이미지 및 소프트웨어 패키지를 빌드하여 NVKE를 보완합니다.
이 도구들은 함께 또는 독립적으로 사용할 수 있습니다. NVKE는 NVKR에 대한 런타임 의존성이 없으며, NVKR은 다른 Kubernetes 관리 시스템을 위한 아티팩트를 생성할 수 있습니다. 두 프로젝트는 Apache 2.0 라이센스로 제공되며, GitHub에서 사용할 수 있어 팀들이 코드베이스를 검사하고 개발하며 기여할 수 있습니다.
운영 워크플로우 및 기술 세부정보
NVKR은 NVIDIA가 검증한 소프트웨어 구성을 컴파일하여 노드 이미지를 구축합니다. 이러한 이미지는 체크섬이 고정된 Kubernetes 1.36 패키지와 GPU 전용 런타임 구성 요소를 포함합니다. 빌드 프로세스는 또한 재현성을 위해 모든 입력을 기록합니다. 반면, NVKE는 고객을 위해 워크로드 클러스터를 프로비저닝하는 관리 평면을 배포하여 Kubernetes 클러스터를 관리합니다. 관리 평면은 베어메탈 생애 주기 관리를 위해 NVIDIA Infra Controller (NICo)를 사용하며, 모니터링을 위해 OpenTelemetry 기반의 텔레메트리 파이프라인을 통합합니다.
NVKE를 배포하기 위해 팀은 nvkectl 도구를 사용하여 관리 클러스터를 부트스트랩하고 워크로드 클러스터를 프로비저닝합니다. 각 워크로드 클러스터에는 자체 Kubernetes 제어 평면, etcd 및 노드 풀을 포함합니다. AI Cluster Runtime (AICR) 및 NVSentinel과 같은 추가 구성 요소는 GPU 가속 런타임과 클러스터 내 자동화를 향상합니다.
공개 미리보기 및 제한 사항
공개 미리보기 단계에서 API, 구성 및 동작이 릴리스 간에 변경될 수 있습니다. NVIDIA는 이 단계에서 생산 작업에 NVKE 및 NVKR을 사용하지 않도록 권장했습니다. 노드 이미지 빌드, 관리 평면 배포 및 클러스터 프로비저닝을 안내하기 위한 자세한 문서가 제공됩니다.
NVKE와 NVKR을 통해 NVIDIA는 Kubernetes 기반 GPU 인프라 관리를 간소화하여 확장 가능하고 효율적인 AI 공장 작업에 대한 증가하는 수요에 대응하고자 합니다.