NVIDIA Mellanox MQM9790-NS2F InfiniBand 스위치 실전 활용｜RDMA, HPC를 위한 저지연 상호 연결 최적화

NVIDIA Mellanox MQM9790-NS2F InfiniBand 스위치 실제 적용 사례 | RDMA, HPC 및 AI 클러스터의 저지연 상호 연결 최적화

현대의 AI 학습, HPC 시뮬레이션 및 분산 스토리지 환경에서 실제 병목 현상은 거의 순수한 컴퓨팅 성능이 아니라 노드 간 상호 연결의 효율성입니다. 400Gb/s NDR InfiniBand 스위치인 NVIDIA Mellanox MQM9790-NS2F는 바로 이 계층의 스택을 해결하도록 설계되었습니다. 이 글은 MQM9790-NS2F가 저지연 패브릭 설계를 통해 RDMA, HPC 및 AI 클러스터 성능을 어떻게 향상시키는지 보여주는 대표적인 배포 시나리오를 살펴봅니다.

배경 및 과제

일반적인 연구 또는 엔터프라이즈 AI 클러스터는 수백 개의 GPU 서버, 병렬 파일 시스템 및 MPI 및 NCCL 워크로드를 분산하는 작업 스케줄러로 구성될 수 있습니다. GPU 세대가 발전함에 따라 각 노드는 200Gb/s HDR 패브릭이 편안하게 처리할 수 있는 것보다 훨씬 더 많은 동서 트래픽을 생성할 수 있습니다. 팀은 일반적으로 세 가지 문제점을 보고합니다. 집계 작업 중 테일 지연 시간 증가, 패브릭 계층 전반에 걸친 혼잡 확산, 홉 추가 없이 포트 수 확장 어려움

네트워크 설계자에게 과제는 단순히 링크 속도를 업그레이드하는 것이 아닙니다. 불필요한 지연 시간을 피하기 위해 패브릭을 충분히 평평하게 유지하면서 결정론적이고 무손실 전송을 보존하는 것입니다. 여기서 MQM9790-NS2F 사양을 실제 워크로드 프로필과 비교하여 평가하는 것이 필수적입니다.

솔루션 및 배포 접근 방식

이 시나리오에서는 MQM9790-NS2F InfiniBand 스위치를 중심으로 구축된 400Gb/s NDR 스파인-리프 패브릭으로 클러스터를 마이그레이션했습니다. MQM9790-NS2F 400Gb/s NDR 64포트 OSFP 플랫폼으로서 단일 스위치에서 높은 라딕스를 제공하여 패브릭 계층을 줄이면서 비차단 대역폭을 유지할 수 있습니다. 배포는 구조화된 접근 방식을 따랐습니다.

• 리프 계층: MQM9790-NS2F 스위치는 400Gb/s NDR 링크를 통해 GPU 노드 및 스토리지 대상을 연결합니다.
• 스파인 계층: 추가 MQM9790-NS2F 장치가 리프 간 연결 및 경로 다양성을 제공합니다.
• 집계 가속: NVIDIA SHARPv3는 MPI 및 NCCL 작업을 패브릭으로 오프로드합니다.
• 혼잡 제어: 적응형 라우팅 및 고급 QoS는 인캐스트 및 핫스팟으로부터 보호합니다.
• 관리: 패브릭 상태 모니터링을 위한 표준 InfiniBand 도구 및 원격 측정

MQM9790-NS2F InfiniBand 스위치는 Quantum-2 제품군의 일부이므로 기존 InfiniBand 관리 관행 및 어댑터 생태계와 상호 운용됩니다. MQM9790-NS2F 호환 하드웨어를 평가하는 팀은 호스트 채널 어댑터, OSFP 케이블 및 펌웨어 수준이 NDR 요구 사항과 일치하는지 확인해야 합니다. 이러한 종류의 MQM9790-NS2F InfiniBand 스위치 솔루션은 일반적으로 혼합 세대 병목 현상을 피하기 위해 GPU 새로 고침 주기와 함께 계획됩니다.

결과 및 이점

배포 후 가장 눈에 띄는 변화는 긴밀하게 결합된 워크로드의 작업 완료 시간이었습니다. 이전에 혼잡으로 인해 중단되었던 집계 작업이 이제 더 낮고 일관된 테일 지연 시간으로 완료됩니다. 64포트 OSFP 밀도는 케이블링을 단순화하고 두 엔드포인트 간의 스위칭 홉 수를 줄여 RDMA 성능에 직접적인 이점을 제공했습니다.

운영 관점에서 패브릭을 더 쉽게 이해할 수 있게 되었습니다. 계층이 적다는 것은 실패 도메인이 적고 문제 해결이 간단하다는 것을 의미합니다. NVMe over Fabrics를 포함한 스토리지 트래픽은 컴퓨팅 트래픽과 동일한 저지연 전송을 공유하여 전반적인 클러스터 활용도를 향상시킵니다. IT 관리자에게 핵심은 패브릭 계층에 투자하면 컴퓨팅 계층에서 이미 지불한 용량을 활용할 수 있다는 것입니다.

조달 및 계획 팀은 종종 MQM9790-NS2F 데이터시트를 검토하여 포트 수, 전력 및 냉각 봉투를 확인한 후 설계를 완료합니다. MQM9790-NS2F 가격 및 MQM9790-NS2F 판매 가능 여부에 대한 질문은 가격이 구성, 지원 및 지역에 따라 달라지므로 공인 유통업체 및 NVIDIA 엔터프라이즈 담당자에게 문의하는 것이 가장 좋습니다. 

요약 및 전망

NVIDIA Mellanox MQM9790-NS2F는 고성능 400Gb/s NDR 플랫폼이 패브릭 복잡성을 추가하지 않고 AI, HPC 및 RDMA 클러스터 성능을 재편할 수 있는 방법을 보여줍니다. 워크로드가 확장되고 GPU 밀도가 증가함에 따라 저지연 InfiniBand 스위칭은 계속해서 기본적인 투자가 될 것입니다. 다음 패브릭 새로 고침을 계획하는 설계자에게 MQM9790-NS2F는 결정론적이고 높은 처리량의 상호 연결을 위한 실용적인 빌딩 블록입니다.