엔비디아 A100 대비 가격은 1/5, 성능은 엇비슷
[데이터넷] 클라우드 서비스 전문 기업 스마일서브(대표 김병철)는 AMD 라데온 프로 W6800 GPU를 온디맨드 클라우드 서비스로 출시했다.
AMD 라데온 프로 W6800 GPU 클라우드 서비스의 가장 큰 특징은 호환성이다. NPU는 AI에 특화된 칩셋으로 엔비디아와 경쟁할 수 있는 잠재력이 있지만 쿠다(CUDA) 환경에서 작업된 소스코드나 오픈스택 클라우드 서비스에서 이식성이 높지 않다.
반면 AMD는 GPU 생산을 넘어 ROCm 소프트웨어 스택으로 통합하면서 호환성과 접근성을 높였다. 쿠다 툴 상에서 AI 프레임워크인 텐서플로우나 파이토치 등으로 개발된 파이썬 소스코드는 ROCm 소프트웨어 스택을 통해 100% 호환돼 AMD 라데온 시스템으로 코드변환 없이 이식이 가능하다. 또한 AMD의 오픈소스 소프트웨어 라이선스 정책도 접근성에 한몫한다.
현재 엔비디아의 AI용 GPU는 수요가 공급을 초과하고 있어 구매가 어렵다. AI 서비스 강화를 위해 GPU에 수요가 급증하면서 엔비디아 GPU 가격도 폭등하고 있다.
그래픽 전문가용 GPU인 AMD 라데온 프로 W6800은 엔비디아 A100 대비 가격은 1/5 수준이지만 성능은 가격에 비례하지 않는다. 각 제조사에서 밝힌 사양에 따르면 W6800은 딥러닝 모델의 학습 및 추론의 지표로 많이 쓰이는 단정밀도(Single-Precision)에서 엔비디아 A100의 19.5TFLOPS 대비 90%(17.83TFLOPS) 성능을 발휘한다.
가성비를 고민할 수밖에 없는 AI 스타트업이나 연구 개발 단계에 있는 기업뿐 아니라 GPU를 구할 수 없어 멈췄던 신규 프로젝트팀에게 충분한 결과를 제공할 것으로 기대된다.
AMD 라데온 프로 W6800 GPU를 온디맨드 클라우드 서비스하기 위해 파일럿 프로젝트에 참여한 AI 전문 기업 아토믹스 이규호 대표는 “라데온 W6800은 충분히 매력적인 가격과 성능을 갖췄다. 파이토치와의 높은 호환성으로 지원되는 AI 모델을 바로 사용할 수 있다”고 말했다.
스마일서브는 AMD 라데온 프로 W6800 환경에서 실행하는 AI를 고객이 직접 체험할 수 있도록 공개했다. 또한 RDNA3 아키텍처를 기반으로 한 AMD 라데온 프로 W7000 시리즈를 장착한 GPU 서버를 추가로 출시할 예정이다.
스마일서브 김병철 대표는 “스마일서브 클라우드는 하드웨어가 강한 서비스다. GPU 서버를 직접 설계, 개발해 높은 가성비로 갖췄다. 10만원 미만의 개발자용 사양부터 H100급의 하이엔드 라인업까지 제공할 예정이다”고 밝혔다.
