ニュース
NVIDIAがGPU Kubernetes管理のためにNVKEとNVKRを発表
NVIDIAがGPUインフラストラクチャ上のKubernetesクラスター管理のためのオープンソースツールNVKEとNVKRを紹介、公共プレビューで利用可能。
翻訳記事です。 元の記事を読む.
NVIDIAは、GPUインフラ上のKubernetesクラスター管理を簡素化することを目的としたオープンソースプロジェクト、NVIDIA Kubernetes Engine (NVKE)とNVIDIA Kubernetes Recipes (NVKR)を発表しました。両方のプロジェクトは現在公共プレビューで利用可能で、NVIDIA DSX AI Factoryプラットフォームの一部として、AI工場におけるGPUインフラの設計、構築、運用をサポートします。
NVKEとNVKRの主な機能
NVKEはAI工場インフラ上で管理されたKubernetesサービスを実行するために必要なソフトウェアを提供します。これはクラスターのプロビジョニングと管理のためのAPIを含んでおり、AI工場が自らのソフトウェア、運用、顧客体験を管理できるようにしています。NVKRは、特定のGPU世代とKubernetesバージョンに特化した再現可能なオペレーティングシステムイメージ、コンテナイメージ、およびソフトウェアパッケージを構築することでNVKEを補完します。
これらのツールは一緒に使用することも独立して使用することもできます。NVKEはNVKRに依存せず、NVKRは他のKubernetes管理システムのためのアーティファクトを生成できます。両方のプロジェクトはApache 2.0の下でライセンスされており、GitHubで利用可能で、チームはコードベースを検査、開発、貢献できます。
運用ワークフローと技術的詳細
NVKRは、NVIDIAによって検証されたソフトウェア構成をコンパイルすることによってノードイメージを構築します。これらのイメージには、チェックサムに固定されたKubernetes 1.36パッケージとGPU特有のランタイムコンポーネントが含まれています。ビルドプロセスは、再現性のためにすべての入力を記録します。一方、NVKEは、顧客のためにワークロードクラスターをプロビジョニングする管理プレーンを展開することでKubernetesクラスターを管理します。管理プレーンは、ベアメタルライフサイクル管理のためにNVIDIA Infra Controller (NICo)を使用し、モニタリングのためにOpenTelemetryベースのテレメトリパイプラインを統合します。
NVKEを展開するために、チームはnvkectlツールを使用して管理クラスターをブートストラップし、ワークロードクラスターをプロビジョニングします。各ワークロードクラスターには、自身のKubernetesコントロールプレーン、etcd、およびノードプールが含まれています。AI Cluster Runtime (AICR)やNVSentinelなどの追加コンポーネントは、GPU加速のランタイムとクラスター内での自動化を強化します。
公共プレビューと制限事項
公共プレビュー段階中は、API、構成、および動作がリリース間で変更される可能性があります。NVIDIAは、この段階では製品ワークロードにNVKEおよびNVKRを使用しないように勧めています。ノードイメージの構築、管理プレーンの展開、クラスターのプロビジョニングを通じてチームをガイドするための詳細な文書が利用可能です。
NVKEとNVKRを通じて、NVIDIAはKubernetesベースのGPUインフラ管理を簡素化し、拡張可能で効率的なAI工場の運営のための需要の高まりに応えようとしています。