[데이터넷] 애널리틱스 분야는 오랫동안 기업들이 데이터에서 가치를 창출할 수 있도록 지원해 왔다. 그러나 경쟁력 강화를 요구하는 현대 디지털 경제 환경에서 기업들은 더 많은 작업을 처리하기를 원하고, 또 그래야 한다. 더 빠르고 예측적이며 세분화된 통찰력과 함께 더 높은 정확도를 추구하고자 하는 바람에 힘입어 기업들은 빠르게 발전하는 인공지능(AI) 분야로 눈을 돌리고 있다.
AI 이니셔티브는 일반적으로 경쟁 우위를 점하고자 하는 기대에서 출발한다. 데이터 기반 분석 정보에 입각하여 잠재 위험을 줄이는 동시에 새로운 기회를 발굴하고자 하는 것이다. 이를 위해 기업에서는 적합한 인력을 찾고, 소프트웨어 애플리케이션 및 툴 세트를 갖추고, 최적의 IT 인프라를 갖추기 위해 투자를 단행한다. 그러나 이러한 투자가 실질적으로 비즈니스 이점을 실현시키기 위해서는 전략적인 접근이 필요하다.
AI 성숙도, 효과적인 컴퓨팅 환경 요구
델 테크놀로지스가 ESG와 함께 실시한 연구 조사에 따르면 AI 성숙도가 높은 기업은 AI 이니셔티브와 전반적인 비즈니스 목표를 잘 연결시켜 상당히 효과적으로 가치를 창출할 가능성(63%)이 높은 것으로 나타났다.
AI 성숙도가 높은 기업들은 광범위한 자동화, GPU 또는 FPGA 등의 가속기, 컨버지드/하이퍼 컨버지드 인프라스트럭처 등 AI를 효과적으로 지원할 수 있는 컴퓨팅 환경을 갖추고 있었다. 성숙도가 가장 높은 3단계의 경우 절반 이상(58%)이 AI 관련 프로젝트를 통해 매출의 10% 이상을 달성했고, 이 수치는 1단계 조직의 2배에 달한다. 이 밖에도 AI에 최적화된 컴퓨팅 측면의 성숙도가 높을 때 다음과 같은 여러 가지 영향이 있는 것으로 분석됐다.
- 운영 환경에서 보다 광범위하고 풍부하게 AI 워크로드 도입 및 사용: 3단계 조직은 운영 환경에 AI가 광범위하게 구축돼 있다고 응답한 비율이 1단계 조직보다 4.5배 더 높았다.
- 우수한 비즈니스 성과와 더 강력하고 경쟁력 있는 비즈니스: 3단계 조직은 AI가 가치 창출 면에서 매우 효과적이었다고 응답한 비율이 1단계 조직보다 7.8배 더 높았다. 또한 3단계 조직은 AI에 대한 투자 회수 기간이 예상보다 짧았다고 응답한 비율이 1단계 조직보다 2배 더 높았다.
AI 유형별 적합한 서버는
AI의 하위 개념 중 널리 알려진 기술로 머신러닝이 있고, 머신러닝의 하위 개념 중 실무에 널리 폭넓게 활용되는 기술 중 하나로 딥러닝이 있다. 대량의 데이터로 수학적 모델을 훈련시킨 후 이 모델을 새로운 데이터에 적용해 새로운 정보를 획득하는 류의 작업이 여기에 해당된다.
최종 사용자의 구매 패턴 중에 이상 현상(Anomaly)을 실시간으로 탐지하는 모델을 통해 부정행위를 방지하거나, 웹사이트를 검색 중인 고객에게 최적의 제품을 추천해 잠재 고객의 관심을 유지하고 지속적인 만족감을 제공하는 것 등이 이에 해당한다.
이처럼 모델이 학습하고 정확도를 높이도록 가르치는 훈련, 혹은 애플리케이션에 있는 새로운 데이터를 토대로 모델을 실행하는 추론 등 AI 이니셔티브는 다양한 유형으로 나뉠 수 있는데 이 때 각각의 유형에 적합한 서버 기술, 즉 최적의 가속기를 통해 병렬 프로세싱 속도를 확보해야 한다.
금융서비스, 생명공학, 고성능 컴퓨팅(HPC)과 석유/가스 탐사와 같은 산업 분야를 위한 딥러닝 워크로드의 경우 가속기에 최적화된 고밀도 서버가 유리하다.
가장 까다로운 인지 및 기술적 컴퓨팅 워크로드를 처리하도록 설계된 가속 최적화 고밀도 서버 ‘델EMC 파워엣지(PowerEdge) C4140’은 GPU를 위한 특수 설계와 타협 없는 가속 기술로 스로틀(Throttle)이 없는 높은 성능을 제공한다. NV링크(NVlink) 기술을 지원할 수 있는 유일한 플랫폼으로 GPU와 CPU 모듈 간 전환 없이 GPU-CPU 통신을 처리할 수 있으며, 엔비디아(NVIDIA) GPU가 최대 25Gbps의 속도로 서로 직접 통신 가능하다.
머신러닝 및 딥러닝 애플리케이션을 위해 사전 구성된 레디(ready) 번들을 제공하며, 인지 또는 HPC 솔루션을 신속하게 배치할 수 있도록 지원한다.
아울러 일상적인 IT 작업을 지능적이고 자동화된 방식으로 관리할 수 있도록 ‘델EMC 오픈매니지’ 시스템 관리 소프트웨어를 통해 서버 효율성을 최고 수준으로 유지한다. 내장형 ‘아이디랙 위드 라이프사이클 컨트롤러(iDRAC9 with Lifecycle Controller)’의 고유한 에이전트 없는 관리 기능을 함께 사용하면 C4140을 쉽게 관리할 수 있으므로 중요한 프로젝트에 더 많은 작업 시간을 할애할 수 있다.
복잡한 머신러닝 학습을 위한 가속기의 경우 아파치 스파크(Apache Spark), H2O.ai 등 다양한 오픈소스 소프트웨어 프레임워크 지원이 요구된다. 높은 가속기 집적도, 빠른 설치를 위한 ML 스택, 학습 데이터에 빠르게 액세스할 수 있는 로컬 스토리지 지원 등이 필요하며, 가속기 용량이 증가할수록 와트당 성능 효율 비교 분석이 필수적이다.
‘델EMC DSS 8440’ 서버는 엔비디아 토폴로지 또는 그래프코어(Graphcore) IPU 토폴로지를 둘 다 지원해 사실상 모든 머신러닝 플랫폼에 활용할 수 있다. 높은 가속기 집적도로 머신러닝 트레이닝 작업에 이상적이며, 광범위한 오픈소스 소프트웨어 프레임워크에서 고성능을 제공하도록 설계됐다. 엔지니어링 및 과학 분야에서의 시뮬레이션, 모델링, 예측 분석과 같이 컴퓨팅 집약적인 워크로드에 탁월하다.
엔비디아 GPU 및 PCIe 패브릭 상호연결이 탑재된 DSS 8440은 텐서플로(TensorFlow)와 같이 가장 일반적인 머신러닝 프레임워크와 흔히 사용되는 컨볼루션 신경망(CNN)을 사용할 때 업계 최고의 DGX-1 서버(5% 이내)와 거의 동등한 성능과 확장 기능을 제공한다.
한편 그래프코어 IPU는 지능형 프로세싱 유닛(Intelligence Processing Unit) 약어로서, DSS 8440 1대에는 최고 8개까지 IPU 카드를 장착할 수 있다. 이를 통해 총 1.6페타플롭스의 연산 성능을 제공할 수 있으며, PCIe 버스 내 총 4개의 스위치로 대용량 데이터를 저지연(Low Latency)으로 CPU와 주고받을 수 있다.
AI 추론을 위해 텐서RT(TensorRT), 오닉스(ONNX) 등을 활용하고자 할 경우 CPU, FPGA, GPU 중심의 AI 워크로드 처리로 빠른 결과를 얻어낼 수 있도록 지원하는 AI 특화 서버가 유리하다. 가장 까다로운 인지 및 기술적 컴퓨팅 워크로드를 처리하도록 설계된 가속 최적화 고밀도 서버를 통해 높은 성능을 확보해야 한다.
‘델EMC 파워엣지 R740’ 서버는 가속기 카드, 스토리지, 컴퓨팅 성능 및 확장 가능한 메모리를 최적의 조합으로 제공해 복잡한 딥러닝 데이터 세트를 처리한다. 더블 와이드 및 싱글 와이드 GPU/FPGA 옵션을 통해 조직의 다양한 요구 사항에 따라 신속한 성과를 달성할 수 있으며, 벡터 신경망에서의 추론 수행을 위한 인텔 딥러닝 부스트 기능을 제공한다.
AI를 비롯해 데스크톱 가상화(VDI), 소프트웨어 정의 스토리지 등 워크로드 가속화가 요구되는 다양한 용도에 활용되는 모델로 최대 3개의 300W GPU, 최대 6개의 150W GPU, 최대 3개의 더블 와이드 FPGA 또는 최대 4개의 싱글 와이드 FPGA로 확장할 수 있다.
