멜라녹스-DDN-엑셀레로-IBM-웨카IO 등 네트워킹·스토리지 선도기업과 협업
[데이터넷] 엔비디아는 데이터 처리 속도가 20배 향상된 ‘매그넘(Magnum) IO’를 발표했다. 매그넘 IO는 데이터 과학자 및 고성능컴퓨팅(HPC) 연구원들이 엄청난 양의 데이터를 단 몇 분 내에 처리할 수 있도록 지원하는 소프트웨어 제품군이다.
스토리지 및 IO 병목현상 제거에 최적화된 매그넘 IO는 복잡한 금융 분석, 기후 모델링 및 기타 HPC 워크로드를 수행하기 위해 엄청난 양의 데이터 세트로 작업할 시 멀티 서버, 멀티 GPU 컴퓨팅 노드의 데이터 처리 속도를 최대 20배까지 개선한다.
엔비디아는 멜라녹스(Mellanox), DDN(DataDirect Networks), 엑셀레로(Excelero), IBM, 웨카IO(WekaIO) 등을 비롯한 네트워킹 및 스토리지 분야의 선도기업들과 긴밀한 협업을 통해 매그넘 IO를 개발했다.
엔비디아 젠슨 황 CEO는 “대량의 수집된 데이터나 시뮬레이션된 데이터를 처리하는 것은 인공지능(AI)과 같은 데이터 중심 과학의 핵심이다. 데이터의 규모와 속도가 기하급수적으로 증가하면서, 데이터 처리는 데이터센터의 주요 도전과제이자 비용 문제 중 하나로 떠올랐다”고 설명했다.
이어 “초고성능의 컴퓨팅에는 마찬가지로 초고성능의 IO가 필요하다. 매그넘 IO는 컴퓨팅을 혁신한 엔비디아의 GPU 가속을 IO 및 스토리지에 제공함으로써 이를 구현해 AI 연구진 및 데이터 과학자들은 데이터를 기다릴 필요없이 본연의 핵심 업무에 집중할 수 있게 됐다”고 덧붙였다.
매그넘 IO의 핵심은 GPU다이렉트(GPUDirect)다. 이는 데이터가 CPU를 우회해 GPU, 스토리지 및 네트워킹 디바이스가 제공하는 개방형 고속도로로 이동할 수 있는 경로를 제공한다. 엔비디아 NV링크(NVLink) 및 NCCL은 물론 오픈MPI 및 UCX를 비롯한 다양한 통신 인터커넥트 및 API와 호환되는 GPU다이렉트는 P2P 및 RDMA(Remote Direct Memory Access) 등으로 구성된다.
가장 최근 추가된 GUP다이렉트 스토리지 요소를 통해 연구원들은 스토리지에 접근할 때 CPU를 우회하고 재빨리 데이터 파일에 접근해 시뮬레이션이나 분석 또는 시각화 작업을 수행할 수 있다.
드로어 골덴베르크(Dror Goldenberg) 멜라녹스 소프트웨어 아키텍처 담당 SVP는 “HPC 및 AI 연구원들은 엄청남 양의 데이터를 가능한 신속하고 효율적으로 이동하고 처리하기 위해 가장 발전된 기술을 확보하고자 멜라녹스를 선택한다”며 “매그넘 IO가 멜라녹스의 최신 인피니밴드 및 이더넷 인터커넥트 솔루션과 문제없이 호환되고, 양사 고객들이 데이터 병목현상을 완전히 없애고, 과학, 연구 및 제품 개발 활동을 추진해 나갈 수 있도록 엔비디아와 협력하고 있다”고 전했다.
한편 GPU다이렉트 스토리지를 제외하고, 엔비디아 매그넘 IO 소프트웨어는 현재 구매 가능하다. GPU다이렉트 스토리지는 얼리 액세스(early access) 대상 일부 고객들에게만 제공되고 있고, 일반 출시는 2020년 상반기 중으로 예정돼 있다.
