[데이터넷] 엔비디아가 텐서 코어 GPU, LLM, RTX PC와 워크스테이션용 툴을 통해 수백만 명에 생성형 AI를 제공한다고 9일 밝혔다.
엔비디아는 초고성능 생성형 AI 성능을 위한 지포스 RTX 슈퍼 데스크톱 GPU, 주요 제조업체의 새로운 AI 노트북, 개발자와 소비자 모두를 위한 새로운 엔비디아 RTX로 가속화된 AI 소프트웨어와 툴을 발표했다.
엔비디아는 생성형 AI로 PC 경험을 향상시키는 도구를 제공한다. 여기에는 텍스트-이미지 워크플로우를 지원하는 인기 모델 ‘스테이블 디퓨전 XL’의 엔비디아 텐서 RT 가속, 생성형 AI 텍스처 툴이 포함된 엔비디아 RTX 리믹스, DLSS 3 프레임 제너레이션을 사용하는 게임과 엔비디아 ACE 마이크로서비스가 포함된다.
AI 개발자를 위한 사용하기 쉬운 통합 툴킷인 엔비디아 AI 워크벤치는 이달 말 베타버전으로 출시될 예정이다. 또한 최신 대규모언어모델(LLM)의 추론 성능을 가속화하고 최적화하는 오픈소스 라이브러리인 엔비디아 텐서RT-LLM은 이제 PC에 더 많은 사전 최적화된 모델을 지원한다. 이번 달에 출시되는 엔비디아의 기술 데모 챗 위드 RTX는 텐서RT-LLM의 가속화를 통해 AI 애호가들이 자신의 메모, 문서, 기타 콘텐츠와 상호 작용할 수 있도록 지원한다.
젠슨 황 엔비디아 창립자 겸 CEO는 “생성형 AI는 컴퓨팅 역사상 가장 중요한 플랫폼 전환이며, 게임을 포함한 모든 산업을 변화시킬 것이다. 1억대 이상의 RTX AI PC와 워크스테이션을 보유한 엔비디아는 개발자와 게이머가 생성형 AI의 마법을 즐길 수 있는 대규모 설치 기반을 갖추고 있다”고 말했다.
개인정보, 지연 시간, 비용에 민감한 애플리케이션의 경우 PC에서 로컬로 생성형 AI를 실행하는 것이 중요하다. 이를 위해 대규모 AI 지원 시스템 설치 기반은 물론 PC 플랫폼에 맞게 AI 모델을 조정하고 최적화하는 데 적합한 개발자 도구가 필요하다.
이 같은 요구를 충족하기 위해 엔비디아는 전체 기술 스택에 걸쳐 혁신을 구현하고, 새로운 경험을 주도하며, 이미 엔비디아 RTX 기술로 가속화된 500개 이상의 AI 지원 PC 애플리케이션과 게임을 제공하고 있다.
다양한 애플리케이션을 최고 성능으로 실행할 수 있는 엔비디아 RTX GPU는 PC에서 생성형 AI의 잠재력을 최대한 끌어올린다. 이 GPU의 텐서 코어는 가장 복잡한 업무용, 엔터테인먼트용 애플리케이션에서 AI 성능을 획기적으로 향상시킨다.
이번 CES에서 발표된 새로운 지포스 RTX 40 슈퍼 시리즈 그래픽 카드는 최고의 AI 성능을 위한 지포스 RTX 4080 슈퍼, 4070 Ti 슈퍼와 4070 슈퍼를 포함한다. 지포스 RTX 4080 슈퍼는 지포스 RTX 3080 Ti GPU보다 1.5배 빠른 AI 비디오와 1.7배 빠른 이미지를 생성한다. 슈퍼 GPU의 텐서 코어는 초당 최대 836조회의 연산을 수행해 게임, 크리에이티브는 물론 일상적인 생산성에 혁신적인 AI 기능을 제공한다.
에이서, 에이수스, 델 테크놀로지스, HP, 레노버, MSI, 레이저, 삼성 등 선도적인 제조업체들은 새로운 RTX AI 노트북을 출시해 바로 사용할 수 있는 생성형 AI 기능 풀세트를 사용자에게 제공한다. 신경망처리장치(NPU) 사용 대비 20배에서 60배까지 성능이 향상되는 새로운 시스템은 이번 달에 출하가 시작된다.
RTX GPU가 탑재된 모바일 워크스테이션은 간소화되고 안전한 생성형 AI와 데이터 사이언스 개발을 위해 텐서RT와 엔비디아 래피즈(RAPIDS)가 포함된 엔비디아 AI 엔터프라이즈(AI Enterprise) 소프트웨어를 실행할 수 있다. 모든 엔비디아 A800 40㎇ 액티브 GPU에는 엔비디아 AI 엔터프라이즈 3년 라이센스가 포함돼 AI와 데이터 사이언스를 위한 이상적인 워크스테이션 개발 플랫폼을 제공한다.
개발자가 PC급 성능과 메모리 공간을 사용해 사전 학습된 생성형 AI 모델과 LLM을 빠르게 생성, 테스트, 사용자 맞춤화할 수 있도록 지원하기 위해, 엔비디아는 최근 엔비디아 AI 워크벤치를 발표했다.
AI 워크벤치는 이달 말 베타 버전으로 출시된다. 허깅 페이스, 깃허브, 엔비디아 NGC와 같은 인기 리포지토리에 대한 간소화된 액세스를 제공할 계획이다. 또한 개발자가 프로젝트를 쉽게 재현, 협업, 마이그레이션할 수 있는 간소화된 사용자 인터페이스도 함께 제공한다.
프로젝트는 데이터센터, 퍼블릭 클라우드 또는 엔비디아 DGX 클라우드 등 거의 모든 곳으로 확장 가능하다. 추론과 가벼운 맞춤화를 위해 PC 또는 워크스테이션의 로컬 RTX 시스템으로 다시 가져올 수도 있다.
또한 엔비디아는 HP와 협력을 통해 AI 모델 개발을 간소화하고 있다. 이는 데이터 사이언스를 위한 중앙 집중식 플랫폼인 HP AI 스튜디오에 RTX 가속 AI 모델과 소프트웨어 개발 키트를 포함하는 엔비디아 AI 파운데이션 모델과 엔드포인트를 통합해 이뤄지고 있다. 이를 통해 사용자는 PC와 클라우드에서 최적화된 모델을 쉽게 검색, 가져오기, 배포 등을 수 있다.
개발자는 PC 사용 사례에 맞는 AI 모델을 구축한 후 엔비디아 텐서RT 로 최적화해 RTX GPU의 텐서 코어의 이점을 최대한 활용할 수 있다.
엔비디아는 최근 LLM 가속화를 위한 오픈소스 라이브러리인 윈도우용 텐서RT-LLM을 통해 텍스트 기반 애플리케이션으로 텐서RT를 확장했다. 현재 사용 가능한 텐서RT-LLM의 최신 업데이트를 통해 파이-2와 제퍼 7B가 PC용 사전 최적화 모델 목록에 추가됐다.
