AI/ML 소프트웨어, 하드웨어, 네트워킹, 서비스 통합 제공
[데이터넷] HPE는 생성형 AI에 최적화돼 프라이빗 데이터 세트를 활용해 AI 모델의 훈련과 조정을 효율적으로 가속화할 수 있는 슈퍼컴퓨팅 솔루션을 발표했다.
새로운 HPE 슈퍼컴퓨팅 솔루션은 소프트웨어 제품군을 통해 고객이 AI 모델을 훈련하고 조정하며 AI 애플리케이션을 개발하는 데 도움이 되는 기능을 한다. 더불어 수냉식 슈퍼컴퓨터, 가속 연산, 네트워킹, 스토리지, 서비스를 포함해 AI의 가치를 신속하게 실현할 수 있도록 종합적인 지원을 제공한다.
저스틴 호타드(Justin Hotard) HPE 수석 부사장은 “생성형 AI 활용을 위해 기업 및 기관들은 지속가능한 솔루션을 사용하고, 슈퍼컴퓨터에 최적화된 성능과 규모를 기반으로 AI 모델 훈련을 지원해야 한다. HPE는 엔비디아와의 협력을 확대해 AI 모델 훈련과 성과 달성을 더욱 가속화할 수 있도록 지원하는 턴키 AI 네이티브 솔루션을 제공한다”고 밝혔다.
생성형 AI용 슈퍼컴퓨팅 솔루션의 핵심 구성요소는 AI 애플리케이션을 개발하고, 사전 구성된 모델을 맞춤화하며, 코드를 개발하고 수정하는 데 필요한 소프트웨어 도구다. 이 소프트웨어는 HPE 크레이 슈퍼컴퓨팅 기술을 기반으로 하고 있다. HPE 크레이 슈퍼컴퓨팅 기술은 전 세계에서 가장 빠른 슈퍼컴퓨팅에도 사용되는 강력한 아키텍처를 기반으로 하고 있으며 엔비디아 그레이스 호퍼 GH200 슈퍼칩으로 구동된다.
기업 및 기관들은 거대언어모델(LLM) 및 딥러닝 추천 모델(DLRM) 훈련과 같이 거대한 AI 워크로드에 필요한 전례 없는 규모와 성능을 구축할 수 있다. 또한 해당 시스템에 포함된 HPE 머신러닝 개발환경(MLDE)을 사용해 오픈소스이자 700억개 매개 변수를 가진 라마2 모델을 3분 이내에 미세 조정할 수 있어 고객이 가치 창출에 이르는 시간을 바로 단축시켜준다. 이로써 엔비디아 기술과 함께 더욱 향상된 HPE 슈퍼컴퓨팅은 2~3배 향상된 성능을 제공한다.
이안 벅(Ian Buck) 엔비디아 하이퍼스케일 및 HPC 부문 부사장은 “엔비디아 GH200 그레이스 호퍼 슈퍼칩으로 구동되는 턴키 AI 훈련 및 시뮬레이션 솔루션을 위한 엔비디아와 HPE의 협력은 고객이 생성형 AI 이니셔티브의 돌파구를 마련하는데 필요한 성능을 제공할 것”이라고 말했다.
한 연구에 따르면, AI 워크로드의 성장에 따라 2028년에는 데이터센터 내에서 약 20기가 와트의 전력이 필요할 것으로 추정된다. 이에 새로운 수준의 에너지 효율을 제공하는 솔루션 활용이 불가피한 상황이다.
에너지 효율성은 HPE 컴퓨팅 이니셔티브의 핵심 요소로, HPE는 공랭식 솔루션에 비해 킬로와트 당 최대 20%까지 성능을 향상시켜줄 수 있고 전력 소비는 15% 감소시키는 수냉식 솔루션을 제공한다.
현재 HPE는 세계에서 가장 효율적인 10대 슈퍼컴퓨터 중 다수의 시스템에 직접 액체 냉각 (DLC) 기술을 지원한다. 직접 액체 냉각 기술은 생성형 AI용 슈퍼컴퓨팅 솔루션에 포함돼 연산 집약적인 애플리케이션의 에너지 소비를 줄이면서 효율적으로 시스템을 냉각한다.
해당 솔루션 등을 기반으로 현재 HPE는 기업 및 연구기관들이 가장 강력한 컴퓨팅 기술을 활용해 AI 활용 목표 달성과 에너지 사용 절감을 동시에 지원하는 독보적인 입지를 다지고 있다.
