기술 백서: NVIDIA Mellanox 920-9B210-00FN-0D0 인피니밴드 스위치 솔루션

엑사스케일 AI 훈련 및 고성능 HPC 시뮬레이션을 향한 컴퓨팅 워크로드의 발전은 성능 병목 현상을 컴퓨팅에서 상호 연결로 근본적으로 이동시켰습니다. 최신 RDMA 종속 클러스터는 높은 대역폭뿐만 아니라 결정적이고 초저 지연 시간, 최소 지터 및 원활한 확장성을 제공하는 패브릭을 요구합니다. 기존 네트워크는 종종 가변 지연 시간, 혼잡으로 인한 패킷 손실 및 관리 복잡성을 유발하여 솔루션 시간 증가, GPU/CPU 리소스 활용 저하 및 운영 오버헤드 증가로 직접적으로 이어집니다.

이 기술 솔루션은 차세대 데이터 센터 및 연구 시설의 핵심 요구 사항을 해결합니다. 즉, 기존 HPC(MPI 기반) 및 최신 AI(집단 통신) 워크로드를 통합할 수 있는 통합 고성능 패브릭을 구축하는 것입니다. 주요 기술 요구 사항에는 마이크로초 미만의 스위치 지연 시간, 모든 대 모든 통신 패턴에 대한 비차단 처리량, 지능형 혼잡 제어 및 심층적인 가시성과 자동화를 제공하는 관리 프레임워크가 포함됩니다. 920-9B210-00FN-0D0 InfiniBand 스위치 OPN 솔루션은 이러한 엄격한 표준을 충족하도록 설계되었습니다.

제안된 아키텍처는 최대 양방향 대역폭과 확장성을 위해 설계된 스파인-리프 패브릭으로, NDR 400Gb/s InfiniBand 기술을 기반으로 구축되었습니다. 스파인 계층은 전적으로 가치 차원 스위치로 구성되어 초고대역폭 코어를 형성합니다. 리프 계층은 컴퓨팅 노드(NVIDIA DGX 시스템과 같은 GPU 서버, CPU 클러스터), 고성능 병렬 스토리지(NVMe-oF) 및 관리 노드를 연결하는 NDR 또는 HDR 스위치의 혼합으로 구성될 수 있습니다.

이 분리된 설계는 예측 가능한 지연 시간을 보장하고 패브릭 내의 과도한 가입을 제거합니다. 주요 아키텍처 원칙은 다음과 같습니다.

• 통합 패브릭: 컴퓨팅(동-서) 및 스토리지 트래픽을 위한 단일 네트워크로 관리 단순화 및 CAPEX 감소.
• 무손실 작동: InfiniBand의 기본 혼잡 제어 및 트래픽 흐름 관리를 활용하여 RDMA 및 MPI 성능에 중요한 제로 패킷 손실을 보장합니다.
• 소프트웨어 정의 네트워킹: NVIDIA Cumulus Linux 및 UFM® 플랫폼과의 통합을 통해 프로그래밍 가능한 패브릭 자동화 및 정책 기반 관리가 가능합니다.

920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDR 스위치는 이 아키텍처의 전략적 초석으로, 고성능 스파인의 역할을 합니다. 단순한 스위칭을 넘어 최적의 데이터 이동을 보장하는 지능형 엔진입니다.공식

920-9B210-00FN-0D0 데이터시트에 자세히 설명된 주요 기술적 특징은 저지연 시간 최적화를 직접적으로 해결합니다.Cut-Through 스위칭 및 초저 지연 시간:

• 스위치는 고급 cut-through 스위칭 아키텍처를 활용하여 포트 간 지연 시간을 100나노초 미만으로 달성합니다. 이는 RDMA 작업의 전체 종단 간 지연 시간을 줄이는 데 매우 중요합니다.NDR 400Gb/s 대역폭:
• 각 포트는 400Gb/s를 제공하여 분산 AI 훈련 체크포인트 또는 대규모 MPI_allreduce 작업과 같은 피크 워크로드 중에 혼잡을 방지하는 데 필요한 헤드룸을 제공합니다.적응형 라우팅 및 혼잡 제어:
• 스위치에 내장된 NVIDIA의 SHARP(Scalable Hierarchical Aggregation and Reduction Protocol)™ v3 기술은 CPU에서 집단 작업을 오프로드하여 동기화 오버헤드를 대폭 줄입니다. 동적 적응형 라우팅과 결합하여 핫 스폿을 방지하고 균형 잡힌 패브릭 활용을 보장합니다.하위 호환성 및 상위 호환성:
• 스위치는 원활한 마이그레이션 전략에 필수적입니다. 기존 HDR(200Gb/s) 및 EDR(100Gb/s) 장비와 완벽하게 호환 특성은 이러한 이기종 환경을 지원합니다.920-9B210-00FN-0D0 사양은 정확한 데이터 센터 전원 및 냉각 설계를 위해 정확한 전력 소비 및 열 데이터를 제공합니다.4. 배포 및 확장 권장 사항(일반적인 토폴로지 설명 포함)

920-9B210-00FN-0D0최적의 성능을 위한 권장 토폴로지:

2계층 비차단 Clos(Fat-Tree) 토폴로지. 스파인 스위치(920-9B210-00FN-0D0 장치)의 수는 각 리프 스위치의 업링크 수와 원하는 과도 가입률(이상적으로 HPC/AI의 경우 1:1)에 의해 결정됩니다.확장:

• 클러스터를 확장하려면 더 많은 리프 스위치를 추가하고 비차단 비율을 유지하기 위해 비례적으로 더 많은 920-9B210-00FN-0D0확대:
• 개별 노드는 NDR NIC로 업그레이드하여 스파인에 대한 전체 400Gb/s 대역폭을 즉시 활용할 수 있습니다. 스위치의 호환 특성은 이러한 이기종 환경을 지원합니다.케이블 연결 및 전원:
• 배포 계획은 NDR 호환 광 케이블(예: OSFP)을 고려해야 합니다. 920-9B210-00FN-0D0 사양은 정확한 데이터 센터 전원 및 냉각 설계를 위해 정확한 전력 소비 및 열 데이터를 제공합니다.이 솔루션을

판매할 수 있게 되면 특정 확장 계획에 대한 올바른 920-9B210-00FN-0D0 가격 및 수량을 모델링하기 위해 인증된 파트너와 협력하는 것이 좋습니다.5. 운영, 모니터링, 문제 해결 및 최적화 권장 사항

920-9B210-00FN-0D0사전 예방적 모니터링:

• UFM®은 스위치 상태, 포트 사용률, 온도, 오류 카운터에 대한 실시간 원격 측정 및 MPI 및 RDMA 통신 매트릭스를 포함한 애플리케이션 수준 트래픽 패턴에 대한 심층 분석을 제공합니다.자동화된 패브릭 관리:
• 초기 프로비저닝 및 케이블 유효성 검사부터 펌웨어 업데이트 및 구성 백업에 이르기까지 UFM®은 일상적인 작업을 자동화하여 인적 오류와 운영 오버헤드를 줄입니다.문제 해결:
• 고급 도구는 성능 이상을 정확히 찾아내고, 혼잡을 유발하는 잘못된 흐름을 식별하고, 패브릭 토폴로지를 시각화하여 실패한 링크 또는 구성 요소를 신속하게 격리할 수 있습니다.지속적인 최적화:
• UFM® 통찰력을 활용하여 워크로드의 크기를 적절하게 조정하고, 성능이 데이터시트 기대치에 부합하는지 확인하고, 향후 용량 업그레이드를 계획합니다. 피크 패브릭 성능을 유지하려면 혼잡 및 지연 시간 메트릭을 정기적으로 검토하는 것이 중요합니다.6. 결론 및 가치 평가

InfiniBand 스위치를 중심으로 패브릭 아키텍처를 배포하면 고성능 컴퓨팅에 의존하는 조직에 기본적인 경쟁 우위를 제공합니다. 이 기술 솔루션은 여러 차원에서 정량화 가능한 가치를 제공합니다.가치 차원실현된 결과

는 단순한 구성 요소가 아니라 고성능, 융합 인프라를 가능하게 하는 요소입니다. 잠재적인 부채에서 최신 컴퓨팅 클러스터의 성능을 완전히 발휘하는 전략적 자산으로 네트워크를 변환합니다.