RDMA/RoCE 저연속 전송 및 서버 처리 돌파구

빠르게 성장하고 있는 인공지능 연구실에서는 익숙한 문제로 어려움을 겪었습니다. 100GbE 인프라가 유선 속도 대역폭을 제공했지만 애플리케이션의 지연시간은 고집적으로 높았습니다.분산된 교육 직업은 네트워크의 빈번한 불안감으로 고통받았습니다., 그리고 NVMe-over-Fabrics 저장소 접근은 예측할 수 없는 지연을 추가했습니다. 근본 원인은? 전통적인 TCP/IP 스택은 패킷 처리에만 CPU 코어의 거의 30%를 소비했습니다.실제 작업 부하에 대한 계산을 덜 남겨두고이 연구팀은 호스트 CPU를 부담하지 않고 데이터를 이동하는 근본적인 전환이 필요했습니다.멜라녹스 (NVIDIA 멜라녹스) MCX653105A-HDAT서버 NIC.

실험실에서는MCX653105A-HDAT24개의 컴퓨팅 노드에서, 각각은 듀얼 포트 100GbE 연결을 갖추고 있습니다.MCX653105A-HDAT ConnectX 어댑터 PCIe 네트워크 카드, 그것은 하드웨어-오프로드 된 RoCE (RDMA over Converged Ethernet) 를 지원하여 데이터가 커널을 우회하고 메모리 영역 사이에서 직접 이동할 수 있습니다. 구성 과정은 간단했습니다:확인 후MCX653105A-HDAT 호환성서버 (Supermicro 및 Dell PowerEdge), 엔지니어들은 최신 MLNX_OFED 드라이버를 설치하고 DCQCN 혼잡 제어로 RoCE를 활성화했습니다.MCX653105A-HDAT 이더넷 어댑터 카드즉시 CPU에서 네트워크 처리 업무를 제거하여 소프트웨어 오버헤드를 거의 0으로 줄였습니다.

저장 트래픽을 위해, 팀은 RDMA를 통해 NVMe 네임스페이스를 직접 매핑했습니다.NVIDIA 멜라녹스 MCX653105A-HDAT마이크로초 이하의 지연 시간으로 데이터 이동을 처리했으며 하드웨어 기반의 스티어링은 컴퓨팅과 스토리지 흐름 사이의 고립을 보장했습니다.MCX653105A-HDAT 데이터 시트, 어댑터는 최대 200Gb/s의 총 처리량을 지원하고 실제 실험실에서는 완전한 부하에서 하나의 패킷도 떨어지지 않고 포트당 100GbE의 라인 레이트를 달성했습니다.

• 끝에서 끝까지의 지연시간을 50% 줄이세요MPI 핑핑 테스트는 2.8μs (TCP) 에서 1.4μs (RoCE) 로 떨어졌습니다.
• CPU 사용량이 70% 줄었습니다.네트워크 스택 프로세싱은 완전히 하드웨어로 이동하여 모델 트레이닝을 위한 코어를 자유롭게 합니다.
• 저장 IOPS 두 배로 증가:RDMA를 통해 NVMe-oF는 소프트웨어 브릿지를 제거하여 소 블록 액세스에 대한 지연 시간을 10μs 이하로 밀었습니다.

연구팀은MCX653105A-HDAT 사양생산 환경: PCIe 4.0 x16 인터페이스, 듀얼 슬롯 열 설계 및 RoCE 혼잡 알림에 대한 완전한 지원MCX653105A-HDAT 가격전체 소유비용에 비해 3개월 이내에 서버 확장을 줄이고 작업량 밀도를 향상시킴으로써MCX653105A-HDAT 판매허가된 유통업체들을 통해 여러 가지 구성 옵션을 찾았습니다. 단일 포트, 듀얼 포트, 보안 부팅과 함께 또는 그렇지 않음.

이 배포는NVIDIA 멜라녹스 MCX653105A-HDAT고속 NIC보다 더 많은 것입니다. 그것은 완전한 데이터 가속 플랫폼입니다.조직은 포크리프트 업그레이드 없이 CPU와 연결된 네트워크에서 벗어날 수 있습니다.인공지능 교육, 분산 데이터베이스 또는 하이퍼 컨버전드 스토리지를 실행하든,MCX653105A-HDAT ConnectX 어댑터 PCIe 네트워크 카드다음 인프라 갱신을 계획하는 팀에게,MCX653105A-HDAT 데이터 시트그리고MCX653105A-HDAT 사양이 어댑터는MCX653105A-HDAT 판매전 세계 유통업체와 호환성 주요 서버 플랫폼을 통해 부드러운 마이그레이션 경로를 보장합니다. 한 엔지니어가 요약했듯이:MCX653105A-HDAT 이더넷 어댑터 카드우리의 100GbE 조직을 병목에서 성능 증폭기로 바꾸었습니다".