NVIDIA Mellanox 920-9B210-00FN-0D0 발표: 400Gb/s NDR로 울트라 스케일 AI 네트워크 기반을 재정립

NVIDIA Mellanox 920-9B210-00FN-0D0 발표: 400Gb/s NDR로 초규모 AI 네트워크 기반 재정의

대규모 언어 모델이 수천억 개에서 수조 개 매개변수로 확장됨에 따라 기존 200Gb/s HDR 네트워크는 GPU 활용도가 네트워크 혼잡으로 인해 종종 급감하는 올투올과 같은 밀집된 집단 통신 시나리오에서 한계를 드러내고 있습니다. NVIDIA는 공식적으로 NVIDIA Mellanox 920-9B210-00FN-0D0을 공개했습니다. 이 스위치는 가장 까다로운 AI 및 HPC 워크로드에 필요한 대역폭, 밀도 및 네트워크 내 인텔리전스를 제공하도록 설계된 400Gb/s NDR InfiniBand 스위치입니다.

과제: HDR이 병목 현상이 될 때

GPU 클러스터를 2,000개 노드 이상으로 확장하는 조직의 경우 200Gb/s HDR의 한계가 점점 더 분명해집니다. 분산 학습의 기본인 올리듀스 및 올투올 작업 중에 네트워크 혼잡은 GPU 활용도를 85%에서 50% 미만으로 감소시켜 컴퓨팅 투자 수백만 달러를 효과적으로 낭비할 수 있습니다. 네트워크 설계자는 수천 개의 엔드포인트에 걸쳐 무손실 성능을 유지하면서 결정론적 마이크로초 미만 지연 시간을 제공하는 이중 과제에 직면합니다.

920-9B210-00FN-0D0 InfiniBand 스위치 OPN (주문 부품 번호)은 64포트 OSFP 플랫폼에 400Gb/s NDR 성능을 제공하여 가장 까다로운 AI 학습 환경에서도 네트워크 유발 중단을 제거하는 데 필요한 헤드룸과 인텔리전스를 제공함으로써 이러한 과제를 정면으로 해결합니다.

주요 기술 기능

널리 채택된 MQM9790-NS2F와 동일한 실리콘을 기반으로 구축된 920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDR 플랫폼은 엑사스케일급 배포를 위해 설계된 포괄적인 기능 세트를 제공합니다. 920-9B210-00FN-0D0 데이터시트에 따르면 이 스위치는 다음을 제공합니다:

• 64개의 400Gb/s NDR 포트: 각 OSFP 포트는 순방향 오류 수정(FEC)을 통해 양방향 400Gb/s를 지원하여 총 51.2Tb/s의 스위칭 용량을 제공합니다.
• 초저지연 시간: 920-9B210-00FN-0D0 사양에 문서화된 100ns 미만의 컷스루 지연 시간은 RDMA 및 MPI 작업에 대한 오버헤드를 최소화합니다.
• 통합 SHARPv3: 집단 작업(올리듀스, 올투올, 브로드캐스트)을 스위치 패브릭으로 직접 오프로드하여 대규모 작업의 통신 지연 시간을 최대 40%까지 줄입니다.
• 적응형 라우팅 및 혼잡 제어: 핫스팟을 피하기 위해 트래픽을 동적으로 재라우팅하여 적대적인 트래픽 패턴에서도 예측 가능한 성능을 유지합니다.
• 고급 텔레메트리: 플로우별 및 포트별 카운터와 버퍼 점유율 모니터링을 통해 사전 예방적 관리를 위한 심층적인 가시성을 제공합니다.

920-9B210-00FN-0D0 호환 에코시스템에는 광범위한 NVIDIA 인증 OSFP 케이블, 광 트랜시버 및 소프트웨어 도구가 포함되어 기존 HDR 또는 신규 NDR 환경에 원활하게 통합됩니다. 차세대 인프라를 계획하는 조직의 경우 이 스위치는 혼합 HDR/NDR 패브릭을 지원하여 프로덕션 워크로드를 중단하지 않고 단계적 업그레이드를 가능하게 합니다.

실제 배포 요구 사항 해결

새로운 AI 학습 클러스터를 설계하거나 기존 HDR 패브릭을 업그레이드하는 네트워크 설계자의 경우 920-9B210-00FN-0D0 InfiniBand 스위치 OPN 솔루션은 몇 가지 매력적인 이점을 제공합니다. 64포트 밀도는 스위치당 최대 64개의 듀얼 포트 서버를 갖춘 탑오브랙 배포를 가능하게 하여 40포트 대안에 비해 필요한 스위치 및 케이블 수를 줄입니다. 리프-스파인 토폴로지에서 이는 더 적은 스파인 계층, 더 낮은 지연 시간 및 더 낮은 총 소유 비용으로 이어집니다.

이 스위치는 NVIDIA InfiniBand 포트폴리오의 강력한 관리 기능도 상속합니다. NVIDIA의 통합 패브릭 관리자(UFM)를 사용하면 관리자는 패브릭 상태에 대한 심층적인 가시성을 확보하고, 프로비저닝을 자동화하며, 프로덕션 워크로드에 영향을 미치기 전에 이상 징후를 사전에 감지할 수 있습니다. 스위치의 이중 중복 전원 공급 장치 및 핫스왑 가능한 팬 모듈은 미션 크리티컬 애플리케이션에 대해 99.999%의 가용성을 보장합니다.

920-9B210-00FN-0D0 가격 및 총 소유 비용을 평가할 때 이 스위치는 대규모 배포에 대해 매력적인 경제성을 제공합니다. 초기 비용은 HDR 대안보다 높지만, 대규모 클러스터에 상각될 때 포트당 비용 및 GPU당 네트워킹 비용은 훨씬 낮아 NDR은 엑사스케일 프로젝트에 점점 더 비용 효율적인 선택이 되고 있습니다. 판매용 920-9B210-00FN-0D0은 현재 NVIDIA의 채널 파트너를 통해 구매할 수 있으며, 초기 고객 배송이 이미 진행 중입니다.

요약: 차세대 AI를 위한 NDR 기반

NVIDIA Mellanox 920-9B210-00FN-0D0은 차세대 AI 및 HPC 클러스터에 필요한 대역폭, 밀도 및 인텔리전스를 제공하는 고성능 네트워킹의 중요한 발전을 나타냅니다. 400Gb/s NDR 속도와 64포트 OSFP 밀도 및 SHARPv3 네트워크 내 컴퓨팅을 결합함으로써 이 스위치는 설계자가 가장 까다로운 수조 개 매개변수 워크로드의 속도를 맞출 수 있는 확장 가능하고 결정론적인 패브릭을 구축할 수 있도록 합니다.

차세대 인프라를 계획하는 조직의 경우 920-9B210-00FN-0D0은 신규 배포 또는 기존 HDR 패브릭에서 전략적 업그레이드로 명확하고 고성능의 경로를 제공합니다. 강력한 기능 세트, 엔터프라이즈급 관리 용이성 및 광범위한 NVIDIA 에코시스템과의 원활한 호환성을 통해 이 스위치는 엑사스케일급 네트워킹의 초석이 될 것입니다.