클라우데라, 엔비디아 GTC 2024에서 새로운 데이터 AI 기능 공개
클라우데라 데이터 플랫폼으로 기업 소유 데이터 잠재력 제고 지원
[데이터넷] 기업용 AI를 위한 글로벌 데이터 기업 클라우데라(한국지사장 최승철)가 엔비디아와의 협력을 확장·강화한다고 20일 발표했다.
클라우데라는 엔비디아 기업용 AI 소프트웨어 플랫폼 가운데 엔비디아 NIM 마이크로서비스를 클라우데라 머신 러닝에 통합해 빠르고 안전하며 간소화된 종단간 생성형 AI 워크플로우를 제공한다.
기업 데이터는 대규모 언어 모델(LLM)에 최적화된 포괄적인 풀 스택 플랫폼과 결합돼 조직의 생성형 AI 애플리케이션을 개발하는 데 중요한 역할을 한다. 개발자는 엔비디아 NIM과 네모 리트리버 마이크로서비스를 통해 텍스트, 이미지, 막대 그래프, 라인 플롯, 파이 차트 등 시각화 데이터를 포함한 비즈니스 데이터에 AI 모델을 연결, 정확하고 맥락에 맞는 답변을 생성할 수 있다.
마이크로서비스를 사용하는 개발자는 엔비디아 AI 엔터프라이즈를 통해 애플리케이션을 배포할 수 있다. 이는 기업용 LLM 구축, 사용자 정의 및 배포하는 데 최적화된 실행시간을 제공한다.
클라우데라 머신 러닝은 엔비디아 마이크로서비스를 활용한다. 이로써 고객의 데이터의 위치에 상관없이 고성능 AI 워크플로우, AI 플랫폼 소프트웨어, 가속화된 컴퓨팅을 제공해 클라우데라 데이터 플랫폼(CDP) 기반의 기업 데이터를 최대한 활용할 수 있도록 지원한다.
클라우데라는 엔비디아 마이크로서비스와의 다양한 통합 서비스도 제공한다. 클라우데라 머신 러닝은 엔비디아 마이크로서비스 기반 모델과 모든 워크로드에서 모델의 추론 성능을 향상시키기 위한 애플리케이션 서비스를 통합한다. 이 새로운 AI 모델 서빙 기능을 통해 고객은 퍼블릭 클라우드와 프라이빗 클라우드 모두에서 장애 허용, 저지연 서빙, 자동 확장이 가능하다.
또한 클라우데라 머신 러닝은 사용자 정의 LLM과 기업 데이터의 연결을 간단하게 하기 위해 통합 엔비디아 네모 리트리버 마이크로서비스를 제공한다. 이 기능을 통해 사용자는 실사용을 위한 검색 증강 생성(RAG) 기반 애플리케이션을 구축할 수 있다.
클라우데라는 이전에도 엔비디아와 협력해 GPU에 최적화된 데이터 처리를 위해 아파치 스파크용 엔비디아 RAPIDS 가속기를 클라우데라 데이터 플랫폼(CDP)에 통합한 바 있다. 이제 엔비디아 마이크로서비스와 엔비디아 기업용 AI와의 추가 통합으로 CDP는 독특하게 간소화된 종단간 하이브리드 AI 파이프라인을 독자적인 방식으로 제공한다.
프리얀크 파텔(Priyank Patel) 클라우데라 AI/ML 제품 담당 부사장은 “클라우데라는 엔비디아 NIM과 쿠다-X 마이크로서비스를 통합해 클라우데라 머신 러닝을 강화함으로써 고객이 가진 AI에 대한 기대를 비즈니스에서 실현할 수 있도록 지원하고 있다”며 “이번 협력을 통해 고객에게 강력한 생성형 AI 기능과 성능을 제공할 뿐만 아니라 데이터 환경을 탐색하는 데 중요한 요소인 부정확성, 환각, 예측 오류를 줄이는 동시에 기업이 보다 정확하고 시기 적절한 의사결정을 내릴 수 있도록 지원할 것”이라고 말했다.
