뉴스
Lambda, NVIDIA 포토닉 스위치를 통해 AI 공장 효율성 강화
Lambda는 10,000 GPU를 연결하기 위해 NVIDIA 포토닉스 공동 포장 광 스위치를 배포하여 AI 공장의 회복력과 전력 효율성을 향상시킵니다.
번역 기사입니다. 원문 기사 읽기.
Lambda는 AI 공장 인프라의 효율성과 회복력을 향상시키기 위해 NVIDIA 포토닉스 공동 포장 광(CPO) 스위치의 배포를 발표했습니다. 이 배포는 10,000 NVIDIA GB300 NVL72 GPU를 연결하여 대규모 AI 클러스터의 중요한 네트워킹 문제를 해결합니다.
향상된 효율성과 회복력
144 포트를 갖춘 NVIDIA 포토닉 스위치는 800Gb/s에서 작동하여 전력 효율성과 신뢰성에 있어 상당한 개선을 제공합니다. 기존의 플러그형 광학 장치를 공동 포장된 광 엔진으로 교체함으로써 스위치는 최대 5x 더 나은 전력 효율성과 15x 높은 신뢰성을 달성합니다. 또한, 설계는 사용되는 레이저의 수를 4x 줄여서 잠재적인 고장의 지점을 최소화합니다.
액체 냉각 기술은 시스템의 성능을 further 향상시킵니다. 기존 광학의 51°C와 비교하여 36°C의 중간 광학 온도를 유지합니다. 이는 더욱 안정적인 신호 무결성과 중단 없이 AI 교육 및 추론 작동을 위한 중요한 요소인 평균 중단 시간(MTBI)을 지속적으로 유지하는 데 기여합니다.
지연 시간 감소 및 신호 무결성 향상
Lambda의 테스트에서는 배포로 인해 랙 스케일에서 약 4% , 포드 스케일에서 최대 10%의 네트워크 지연 시간이 감소했으며, 기존 플러그형 광학과 동일한 처리량을 유지했습니다. 공동 포장 설계는 전기 경로를 인치에서 밀리미터로 단축하여 신호 손실을 줄이고 리타이머 칩의 필요성을 제거합니다. 이 간소화된 아키텍처는 신호 품질을 개선할 뿐 아니라 전력 소비와 구성 요소의 복잡성을 줄입니다.
현장 교체 가능한 광원
스위치는 18의 분리 가능한 외부 광원을 통합하여 기술자가 전체 모듈 교체 없이 현장에서 개별 모듈을 교체할 수 있습니다. 이 설계 혁신은 유지 관리성을 향상시키고 다운타임을 줄이며 Lambda의 AI 인프라의 회복성을 더욱 지원합니다.
전략적 의미
"네트워킹은 점점 더 큰 AI 클러스터의 요구에 발맞춰 나가야 합니다,"라고 Lambda의 클라우드 서비스 사장인 데이브 워드가 말했습니다. "이런 규모의 배치에 공동 포장된 광학을 도입하는 것은 다음 세대의 AI를 지원하는 데 필요한 인프라를 구축하는 중요한 단계입니다."
이번 배치는 Lambda를 최첨단 네트워킹 기술을 채택하여 증가하는 AI 워크로드의 요구를 충족하는 리더로 자리매김하게 합니다. NVIDIA 포토닉스를 활용하여 회사는 AI 인프라의 중요한 병목 현상에 대응하고 더 효율적이고 확장 가능한 AI 공장을 위한 길을 열어갑니다.