[데이터넷] VM웨어가 데이터센터, 퍼블릭 클라우드, 엣지 환경 전반에서 고객의 AI 도입을 가속화하고 어디서든 프라이빗 AI를 구현할 수 있도록 지원하기 위해 인텔과 협업한다고 8일 밝혔다.

양사는 공동 검증한 AI 스택을 제공하며, 범용 VM웨어·인텔 인프라와 오픈소스 소프트웨어를 사용해 더 간편하게 AI 모델을 구축하고 배포할 수 있다. VM웨어 클라우드 파운데이션과 인텔의 AI 소프트웨어 제품군, AI 가속기가 내장된 인텔 제온 프로세서, 인텔 맥스 시리즈 GPU의 결합은 데이터 준비, 모델 학습, 미세 조정 및 추론을 위한 검증되고 벤치마크된 AI 스택을 제공하며, 과학적 발견을 가속화하고 비즈니스 및 소비자 서비스를 강화한다.

VM웨어 클라우드는 전 세계 30만 개 이상의 기업 고객을 보유하고 있으며, VM웨어 가상화 소프트웨어는 데이터가 생성, 처리, 소비되는 기업 환경 전반에 배포돼 있다. 따라서 VM웨어 클라우드를 활용하면 비즈니스 전반에서 AI 가속화 컴퓨팅과 모델을 빠르게 도입할 수 있다. 인텔 역시 수십만 고객에게 확장 가능하고 신뢰할 수 있는 개방형 솔루션을 제공하고 있다. 기업 내 VM웨어와 인텔 제품의 보편화는 데이터 과학에 대한 접근성을 개선하고, 전 세계 조직이 AI를 통한 비즈니스적 이점을 누리는 동시에 개인정보 보호 및 규정 준수 요구 사항을 충족하는 아키텍처 접근 방식인 프라이빗 AI를 도입할 수 있도록 지원한다.

VM웨어 AI 랩스 부사장인 크리스 울프(Chris Wolf)는 “프라이빗 AI는 AI에 대한 선택권, 개인 정보 보호, 제어 등 세 가지 요소를 모두 제공하기 때문에 고객은 AI 도입을 가속화하며 미래형 AI 인프라를 구축할 수 있다”며 “VM웨어 프라이빗 AI는 인텔과의 협력을 바탕으로 양사 고객이 직원 생산성을 획기적으로 개선하고, 주요 비즈니스 기능 전반에서 혁신을 일으키며, 경제적 효과를 창출하는 데 기여할 것”이라고 말했다.

인텔 데이터센터 및 AI 그룹 총괄 산드라 리베라(Sandra Rivera) 수석부사장은 “지난 수십 년간 인텔과 VM웨어는 고객이 더 빠르게 움직이고 혁신을 거듭하며 효율적인 운영을 할 수 있도록 차세대 데이터센터-투-클라우드(data center-to-cloud) 기능을 제공해 왔다”며 “AI는 새롭고 강력한 가능성을 열어주며 전 세계 모든 이들의 삶을 개선할 수 있는 잠재력을 가지고 있다. 인텔과 VM웨어는 실리콘과 소프트웨어 기반의 새로운 AI 시대로 기업을 이끌 준비가 돼 있다”고 전했다.

낮은 TCO를 갖춘 안전한 AI 인프라로 AI 성능 향상

VM웨어 프라이빗 AI는 기존 AI/ML 워크로드, 생성형 AI에 대한 지원을 바탕으로 퍼블릭 클라우드, 엔터프라이즈 데이터센터, 엣지 등 엔터프라이즈 데이터가 생성, 처리, 소비되는 모든 환경에 컴퓨팅 용량과 AI 모델을 제공한다. VM웨어와 인텔은 고객의 프라이빗 기업 데이터를 사용해 수 분에서 수 시간 내에 작업 특화 모델을 미세 조정하고, 대규모 언어 모델을 사람보다 빠르게 추론할 수 있다.

이번 협력 확장으로 양사는 공유 가상 시스템에서 업데이트, 유지관리가 용이한 작고 경제적인 최신 모델을 미세 조정할 수 있게 됐다. 배치(batch) AI 작업 후 IT 리소스 풀에 다시 제공할 수 있다. 또한 AI 지원 코드 생성, 경험 기반 고객 서비스 센터 추천 시스템, 전통적인 머신 통계 분석 등 사용 사례를 애플리케이션을 실행하는 동일 범용 서버에서 구동하는 것도 가능하다.

VM웨어와 인텔은 VM웨어 클라우드 파운데이션에 인텔의 AI 소프트웨어 제품군과 인텔 제온 프로세서, 데이터센터 GPU를 결합해 고객이 이미 보유하고 있는 인프라에 프라이빗 AI 모델을 구축 및 배포할 수 있게 함으로써 TCO를 줄이고 환경 지속 가능성 문제도 해결하는 레퍼런스 아키텍처를 설계하고 있다.

최대 10배 향상된 기본 성능 제공

인텔 AI가 적용되는 VM웨어 프라이빗 AI 레퍼런스 아키텍처는 다음을 포함한다.

• 인텔 어드밴스드 매트릭스 익스텐션(Intel AMX)이 내장된 4세대 인텔 제온 프로세서는 표준 산업 프레임워크 및 라이브러리, 엔드투엔드 데이터 과학 생산성 툴, 최적화된 AI 모델을 사용해 최대 10배 향상된 기본 성능을 제공한다.
• 최대 128개의 Xe 코어를 제공하는 인텔 데이터센터 GPU 맥스는 가장 까다로운 AI 워크로드를 다루는 인텔의 기본 GPU 컴퓨팅 빌딩 블록이다. 인텔 맥스 시리즈 GPU는 다양한 고객의 요구 사항을 충족하는 다양한 형태의 폼팩터로 제공될 예정이다.
• 인텔의 AI 소프트웨어 제품군은 엔드투엔드 오픈소스 소프트웨어와 선택적 라이선스 구성 요소로 패키징됐다. 이를 통해 개발자가 데이터 준비부터 미세 조정, 추론에 이르는 전체 AI 파이프라인 워크플로우를 실행하고, 멀티 노드 확장과 엔터프라이즈 IT 인프라 상의 AI 배포를 가속화할 수 있다. 인텔의 개방형 원API 프레임워크는 프로세서 및 하드웨어 가속기에 구애받지 않는 소프트웨어 개발을 지원해, 개발자는 여러 코드 기반이나 전문 언어가 없어도 한번 작성한 코드로 다양한 아키텍처에서 코드를 실행할 수 있다. 인텔의 트랜스포머 익스텐션(Transformer Extensions)과 파이토치 익스텐션(PyTorch Extension)은 개발자들이 선호하는 오픈소스인 허깅 페이스(Hugging Face) 라이브러리와 긴밀하게 통합돼, 효율적인 추론을 위한 최적의 모델 미세 조정 및 압축 방법을 제공한다.

주요 성능 30% 개선·오버헤드 최소화

VM웨어 클라우드 파운데이션은 일관성 있는 엔터프라이즈급 인프라와 운영 간소화, 향상된 보안을 제공하는 다음과 같은 기능을 통해 프라이빗 AI를 지원한다.

• VM웨어 브이샌 익스프레스 스토리지 아키텍처(vSAN Express Storage Architecture)는 IO 사용량이 많은 AI/ML 튜닝과 추론 워크로드를 위한 암호화 등 주요 기능에 대한 성능을 최대 30% 개선하고 오버헤드를 최소화한다.
• VM웨어 브이스피어 분산 리소스 스케줄러(vSphere Distributed Resources Scheduler)는 AI 모델 학습 및 추론에 타 AI 애플리케이션과 동일한 클러스터를 사용해 잔여 컴퓨팅 용량을 효율적으로 활용하도록 지원함으로써 용량을 극대화하고 TCO를 절감한다.
• VM웨어 NSX는 마이크로 세분화를 구현하고 고급 위협 보호 기능을 제공한다.
• 보안 부팅과 가상 TPM(Trusted Platform Module)은 모델과 데이터 기밀성을 지원한다.

VM웨어 프라이빗 AI는 인텔 AMX와 인텔 맥스 시리즈 GPU가 탑재된 4세대 제온 CPU를 실행하는 델 테크놀로지스, 휴렛패커드 엔터프라이즈, 레노버 서버에서 이용할 수 있다.

김선애 기자 다른기사 보기