엔비디아, 800기가 지원 ‘X800’ 스위치로 AI 인프라 최적화
상태바
엔비디아, 800기가 지원 ‘X800’ 스위치로 AI 인프라 최적화
  • 강석오 기자
  • 승인 2024.03.19 10:16
  • 댓글 0
이 기사를 공유합니다

퀀텀 X-800 인피니밴드, 최고 성능 AI 인프라 지원
스펙트럼-X800 이더넷, 데이터센터 AI 최적화 네트워킹 구현
컴퓨팅과 AI 워크로드 위한 네트워킹 성능 극대화
스펙트럼-X800 이더넷(좌)과 퀀텀 X-800 인피니밴드 플랫폼(우)

[데이터넷] 엔비디아는 대규모 AI를 위해 설계된 새로운 네트워킹 스위치 ‘X800’ 시리즈를 발표했다.

엔비디아 퀀텀-X800 인피니밴드와 엔비디아 스펙트럼-X800 이더넷은 엔드투엔드 800Gb/s 처리량을 지원하는 세계 최초의 네트워킹 플랫폼으로, 컴퓨팅과 AI 워크로드를 위한 네트워킹 성능을 확장한다. 또한 새로 출시된 엔비디아 블랙웰(Blackwell) 아키텍처 기반 제품 라인업을 비롯해 모든 유형의 데이터센터에서 AI, 클라우드, 데이터 처리, HPC 애플리케이션 등을 가속화하는 소프트웨어가 탑재됐다.

길라드 샤이너(Gilad Shainer) 엔비디아 네트워킹 담당 수석 부사장은 “엔비디아 네트워킹은 AI 슈퍼컴퓨팅 인프라 확장의 핵심이다. X800 스위치는 엔드투엔드 네트워킹 플랫폼으로, 새로운 AI 인프라에 필수적인 조 단위 규모의 생성형 AI를 구현할 수 있게 한다”고 강조했다.

마이크로소프트 애저, 오라클 OCI(Oracle Cloud Infrastructure), 코어위브(Coreweave) 등은 퀀텀 인피니밴드와 스펙트럼-X 이더넷을 가장 먼저 도입했다.

고성능 보장 차세대 표준

퀀텀-X800 플랫폼은 AI 전용 인프라를 위해 최고의 성능을 제공하는 새로운 표준을 제시한다. 여기에는 업계 최고의 엔드투엔드 처리량인 800Gb/s를 달성하는 엔비디아 퀀텀 Q3400 스위치와 엔비디아 커넥트X-8 슈퍼NIC이 포함된다. 이는 이전 세대 대비 5배 높은 대역폭과 9배 향상된 14.4T플롭의 인네트워크 컴퓨팅을 제공하는 엔비디아의 확장 가능한 프로토콜인 SHARPv4를 통해 이뤄진다.

스펙트럼-X800 플랫폼은 AI 클라우드, 엔터프라이즈 인프라에 최적화된 네트워킹 성능을 제공한다. 이 플랫폼은 스펙트럼 SN5600 800Gb/s 스위치와 엔비디아 블루필드-3 슈퍼NIC을 활용하고 있다. 또한 멀티-테넌트 생성형 AI 클라우드와 엔터프라이즈에 필수인 고급 기능 세트를 제공한다.

스펙트럼-X800은 네트워크 성능을 최적화해 AI 워크로드를 빠르게 처리, 분석, 실행함으로써 AI 솔루션의 개발, 배포, 출시 시간을 단축한다. 멀티 테넌트 환경을 위해 특별히 설계된 스펙트럼-X800은 각 테넌트의 AI 워크로드에 대한 성능을 독립적으로 보장해 최적의 일관된 성능 수준을 유지하고 고객 만족도와 서비스 품질을 향상시킨다.

엔비디아 소프트웨어 지원

엔비디아는 수조 개의 파라미터를 가진 AI 모델의 성능을 최적화하기 위해 네트워크 가속화 라이브러리의 전체 패키지, 소프트웨어 개발 키트, 관리 소프트웨어 제품군을 제공한다.

여기에는 NCCL(NVIDIA Collective Communications Library)이 포함된다. 이는 GPU 병렬 컴퓨팅 작업을 퀀텀-X800 네트워크 패브릭으로 확장해 FP8을 지원하는 SHARPv4의 강력한 인네트워크 컴퓨팅 기능을 활용한다. 이를 통해 대규모 모델 훈련과 생성형 AI의 성능을 크게 향상시킬 수 있다.

엔비디아의 풀스택 소프트웨어 접근 방식은 고급 프로그래밍 기능을 제공한다. 이를 통해 데이터센터 네트워크를 더욱 유연하고 안정적이며 빠르게 만들어 궁극적으로 전반적인 운영 효율성을 높인다. 아울러 최신 애플리케이션과 서비스의 요구 사항도 지원한다.

한편 퀀텀-X800과 스펙트럼-X800은 에이브레스(Aivres), DDN, 델 테크놀로지스, 에비덴(Eviden), 히타치 밴타라, HPE, 레노버, 슈퍼마이크로, 바스트데이터 등 전 세계 주요 인프라, 시스템 공급업체를 통해 내년부터 공급될 예정이다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.