NVIDIA Vera CPU가 AI 에이전트 워크로드의 새로운 기준을 세우다

NVIDIA의 Vera CPU는 AI 인프라를 위한 획기적인 솔루션으로 등장하여 높은 처리량과 뛰어난 에너지 효율성을 결합했습니다. 에이전트 AI 워크로드를 위해 설계된 Vera는 기업이 성능을 극대화하면서 전력 소비를 최소화할 수 있도록 하여 전력 제한이 있는 AI 공장에서 중요한 요소가 됩니다.

성능 및 효율성 벤치마크

100메가와트 데이터 센터 비교에서 NVIDIA는 Vera가 가장 빠른 x86 CPU에 비해 1.6배 더 많은 에이전트를 소비하고 가장 에너지 효율적인 x86 CPU의 두 배의 에이전트 속도에 도달한다고 보고했습니다. 이러한 결과는 Vera가 속도나 효율성을 저하시키지 않으면서 더 많은 동시 AI 에이전트를 지원할 수 있다는 것을 강조합니다.

초기 수용자들은 본격적인 테스트에서 이러한 주장들을 검증했습니다. 예를 들어, Daytona는 Vera를 사용하여 10.8초 만에 1,000 에이전트 샌드박스를 온라인으로 달성했으며, x86 CPU에서는 88.4초가 소요되었습니다. 또한, Daytona는 Vera로 2,000 동시 샌드박스에서 12.7개의 완료된 작업을 초당 기록하여 x86 대안보다 성능이 뛰어났습니다. DeepInfra는 주요 x86 프로세서와 비교하여 최대 2.2배 빠른 에이전트 오케스트레이션 속도를 보고했으며, ClickHouse는 Vera의 176 코어 전반에 걸쳐 거의 선형적인 스케일링을 관찰하여 ClickBench 하드웨어 리더보드에서 최상위에 위치하게 했습니다.

기술 사양

Vera는 88 맞춤형 올림포스 코어를 갖추고 있으며, NVIDIA Spatial Multithreading을 통해 176 스레드를 지원합니다. 각 코어당 2 MB의 L2 캐시, 164 MB의 통합 L3 캐시, 최대 1.5 TB의 LPDDR5X 메모리 및 최대 1.2 TB/s의 메모리 대역폭을 포함합니다. CPU는 250–450 와트의 조정 가능한 열 설계 전력 범위 내에서 작동하며, 전체 소켓 부하 하에서 지속적인 코어 실행을 강조합니다.

NVIDIA의 두 번째 세대 일관성 패브릭과 LPDDR5X 서브시스템은 최대 90%의 피크 메모리 대역폭 활용을 가능하게 하며, 메모리는 30와트 미만을 소모하여 DDR5 구성보다 상당히 낮습니다.

채택 및 실제 영향

여러 조직이 이미 Vera를 운영에 통합했습니다. Perplexity는 기존 CPU에 비해 1.5배 더 빠른 에이전트 코딩 작업을 수행했으며, 향후 생산 시스템에서 Vera를 배포할 계획입니다. Modal은 유사한 x86 하드웨어와 비교하여 코어당 최대 2배의 샌드박스 처리량을 보고했으며, 성능 향상이 무거운 작업 부하에서 증가했습니다. DuckLabs는 Intel Xeon 6 기준 대비 1.5배의 중앙값 TPC-H SF1000 성능을 관찰했습니다.

인프라 운영자에게 Vera의 효율성은 하드웨어 요구 사항을 줄이는 것으로 이어집니다. Daytona는 1,000 작업을 초당 유지하는 데 동일한 워크로드를 처리하기 위해 EPYC 9755 머신보다 약 15% 대, EPYC 9575F 머신보다 38% 대 더 적은 Vera 머신이 필요할 것이라고 추정했습니다.

전략적 함의

AI 공장이 계속 확장됨에 따라 속도, 용량 및 에너지 효율성을 균형 있게 처리할 수 있는 CPU에 대한 수요가 증가할 것입니다. NVIDIA의 Vera CPU는 이러한 진화하는 요구 사항에 부합하는 다재다능한 솔루션으로 자리 잡고 있으며, 혼합된 x86 구성 없이 다양한 에이전트 워크로드에 대한 통합 플랫폼을 제공합니다.