멜라녹스 (NVIDIA Mellanox) 920-9B210-00FN-0D0 인피니밴드 스위치 생산 중

동아시아의 대표적인 인공지능 연구소는 공통적이지만 중요한 문제로 직면했습니다. 그들의 512GPU 클러스터는직장이 확장됨에 따라 심각한 성능 저하로 고통받았습니다.근본적인 원인은 TCP/IP 오버헤드와 인카스트 이벤트 중 패킷 손실이 GPU 무용 시간 35%까지로 이어진 기존 100Gb/s 이더넷 패브릭이었습니다.RDMA를 지원하고 결정적 성능에 타협하지 않고 수천 개의 노드로 확장 할 수있는 초저지연성 직물여러 가지 해결책을 평가한 후, 그들은멜라녹스 (NVIDIA 멜라녹스) 920-9B210-00FN-0D0InfiniBand 스위치는 새로운 척추 구조의 핵심입니다.

이 배포는920-9B210-00FN-0D032개의 잎 스위치로 구성되어 있으며, 각 스위치는 512개의 NVIDIA A100 GPU를 ConnectX-7 어댑터로 연결합니다.920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDR이 스위치는 포트당 400Gb/s를 제공하여 이전 HDR 솔루션의 대역폭을 두 배로 늘리고 마이크로 초 이하의 스위칭 지연 시간을 유지합니다.920-9B210-00FN-0D0 InfiniBand 스위치 OPN네트워크 엔지니어들은 상세한 정보들을 활용했습니다.920-9B210-00FN-0D0 데이터 시트그리고920-9B210-00FN-0D0 사양전력 및 열 요구 사항을 검증하여 기존 19 인치 랙에 원활한 통합을 가능하게합니다.920-9B210-00FN-0D0 호환기존 HDR 인프라와 새로운 NDR 엔드포인트를 모두 통해 단계적 마이그레이션을 가능하게 합니다.

• RDMA 효율성 향상:그리고NVIDIA 멜라노크스 920-9B210-00FN-0D0하드웨어 기반의 혼잡 제어를 가능하게 함으로써 RDMA 기록 지연시간은 12μs에서 1.2μs로 떨어졌다. GPU 직접 RDMA (GDR) 는 CPU 메모리 병목을 제거하여 완전히 효과적이 되었다.
• HPC 애플리케이션 스피드업주요 기상 모델링 코드 (MPI 기반) 는 스위치의 적응 라우팅 및 SHARP v2 집단 오프로드로 인해 2.7 배의 성능 향상을 보였다.
• 인공지능 교육 성과:175억 달러의 LLM 교육 작업에 대한 새로운 조직은 모든 줄일 시간을 68% 줄여 전체 GPU 활용도를 62%에서 91%로 향상 시켰습니다.
• 운영 단순성:의920-9B210-00FN-0D0 InfiniBand 스위치 OPN 솔루션NVIDIA의 UFM 플랫폼과 통합되어 실시간 텔레미터 및 예측 장애 알림을 제공합니다. IT 관리자는 네트워크 관련 문제 해결 시간이 50% 감소했다고보고했습니다.

프로젝트 평가에서 연구소는920-9B210-00FN-0D0 가격경쟁하는 이더넷 솔루션에 비해 높은 초기 비용에도 불구하고 전체 소유 비용 (TCO) 은 높은 GPU 활용량과 Gb / s 당 낮은 전력으로 인해 InfiniBand를 선호했습니다.단위는920-9B210-00FN-0D0 판매NVIDIA의 유통 채널을 통해, 다른 NDR 스위치보다 훨씬 짧은 납품 시간.920-9B210-00FN-0D0 사양또한 부재된 전원 공급 장치와 열 교환 팬에 대한 지원을 확인했으며, 24/7 인공지능 연구 운영에 대한 연구소의 신뢰성 요구 사항을 충족합니다.

인공지능 연구소는 이제920-9B210-00FN-0D0이 실제 사례는 클러스터의 모든 미래의 확장, 계획된 2,048-GPU NDR200 조직을 포함하여.NVIDIA 멜라노크스 920-9B210-00FN-0D0단순히 스위치가 아니라 AI와 HPC 환경에서 선형 성능 확장성을 달성하는 기본 구성 요소입니다.의920-9B210-00FN-0D0 InfiniBand 스위치 OPN 솔루션검증된, 생산 준비가 된 앞으로의 길을 제공합니다.