ニュース
LambdaがNVIDIAフォトニクススイッチでAIファクトリーの効率を向上
Lambdaは、10,000のGPUを接続するためにNVIDIAフォトニクス同梱オプティカルスイッチを導入し、AIファクトリーの回復力と電力効率を向上させました。
翻訳記事です。 元の記事を読む.
Lambdaは、AIファクトリーインフラの効率と回復力を向上させるために、NVIDIAフォトニクス同梱オプティカル(CPO)スイッチの導入を発表しました。この導入により、10,000のNVIDIA GB300 NVL72 GPUsを接続し、大規模AIクラスターにおける重要なネットワーキングの課題を解決します。
効率と回復力の向上
144ポートを持つNVIDIAフォトニクススイッチは、800Gb/sで動作し、電力効率と信頼性において大幅な改善をもたらします。従来のプラグインオプティクスを同梱オプティカルエンジンに置き換えることで、スイッチは最大5xの電力効率と15xの高い信頼性を達成します。さらに、設計により、使用されるレーザーの数が4x削減され、故障のポイントを最小限に抑えます。
液体冷却技術はまた、36°Cの中央値の光学温度を維持することでシステムの性能をさらに向上させ、従来のオプティクスに対して51°Cになります。これは、より安定した信号の完全性と、AIトレーニングおよび推論操作の中断がないことにとって重要な要因である平均中断時間(MTBI)をもたらします。
レイテンシの低減と信号の完全性の向上
Lambdaのテストでは、導入によりラックスケールで約4%、ポッドスケールで最大10%のネットワークレイテンシが削減され、従来のプラグインオプティクスと同じスループットを維持しました。同梱設計は、電気的経路をインチからミリメートルに短縮し、信号損失を減少させ、リタイマーチップの必要性を排除します。この合理化されたアーキテクチャは、信号品質を改善するだけでなく、電力消費と部品の複雑さを削減します。
現場で交換可能な光源
スイッチには18の着脱可能な外部光源が組み込まれており、技術者はフルモジュールの交換を必要とせずに、現場で個々のモジュールを交換できます。この設計革新は、メンテナンス性を向上させ、ダウンタイムを短縮し、LambdaのAIインフラの回復力をさらに支援します。
戦略的な意味合い
「ネットワーキングは、ますます大規模なAIクラスターの要求に追いつかなければなりません」と、Lambdaのクラウドサービスの社長デイブ・ウォードは述べています。「このスケールの導入に同梱オプティクスを持ち込むことは、次世代のAIをサポートするために必要なインフラを構築するための重要なステップです。」
この導入により、LambdaはAIワークロードの増大する要求に応えるために最先端のネットワーキング技術を採用するリーダーとなります。NVIDIAフォトニクスを活用することで、同社はAIインフラの重要なボトルネックに対応し、より効率的でスケーラブルなAIファクトリーへの道を切り開いています。