차세대 AI용 AMD 인스팅트 가속기 세부 정보 공개
[데이터넷] AMD는 데이터센터 및 AI 기술 발표 행사에서 컴퓨팅의 미래를 이끌 제품, 전략 및 생태계 파트너를 발표하며 데이터센터 혁신의 장을 열었다. AMD는 AWS, 시타델(Citadel), 허깅페이스, 메타, 마이크로소프트, 파이토치 등 업계 선도 기업들과 차세대 고성능 CPU 및 AI 가속기 솔루션 출시를 위한 기술 파트너십을 선보였다.
리사 수(Lisa Su) AMD CEO는 “AI는 차세대 컴퓨팅의 핵심 기술이자 AMD에게 가장 큰 전략적 성장 기회다”며 “올해 말 계획된 인스팅트 MI300 가속기 출시와 하드웨어에 최적화된 엔터프라이즈용 AI 소프트웨어의 생태계 성장을 발판 삼아 데이터센터에서 대규모 AMD AI 플랫폼 구축을 가속화하는 데 주력할 계획이다”고 밝혔다.
AMD는 4세대 에픽(EPYC) 프로세서를 통해 고객들에게 선도적인 성능과 에너지 효율성을 지속적으로 제공한다고 강조했다. AWS와 함께 4세대 에픽 프로세서(코드명 제노아) 탑재 차세대 아마존 엘라스틱 컴퓨트 클라우드(EC2) M7a 인스턴스를 공개했고, 오라클도 4세대 에픽 프로세서가 탑재된 새로운 오라클 컴퓨팅 인프라(OCI) E5 인스터스를 제공할 계획을 밝혔다.
뿐만 아니라 AMD는 4세대 에픽 97X4 프로세서(코드명 베르가모)를 출시했다. 소켓당 128개의 젠 4c 코어를 탑재한 에픽 97X4 프로세서는 클라우드에서 실행되는 애플리케이션에 최상급 vCPU 밀도와 선도적인 성능 및 에너지 효율성을 제공한다.
AMD는 3D V-캐시 기술이 적용된 4세대 에픽 프로세서를 선보이며 테크니컬 컴퓨팅 분야에서 세계 최고 수준의 x86 서버 솔루션을 지원한다. 마이크로소프트는 AMD 3D V-캐시 기술 기반 신규 에픽 프로세서가 탑재된 애저 HBv4 및 HX 인스턴스를 정식 출시했다.
AMD는 AI 플랫폼 전략을 소개하며 클라우드, 엣지, 하드웨어 포트폴리오, 소프트웨어 등 다양한 업계와 협업을 통한 스케일러블 및 퍼베이시브 AI 솔루션 개발 방안도 공개했다.
AMD는 생성형 AI를 위한 AMD 인스팅트 MI300 시리즈 가속기 포트폴리오를 발표했다. MI300X 가속기는 AMD CDNA 3 아키텍처 기반으로 최대 192GB의 HBM3 메모리를 지원해 거대 언어 모델(LLM) 훈련과 생성형 AI 워크로드에 필요한 컴퓨팅 및 메모리 효율성을 제공하고, 대용량 메모리를 지원해 단일 가속기에 매개변수가 400억 개인 팔콘-40과 같은 LLM 수용이 가능하다.
특히 AMD 인스팅트 플랫폼은 8개의 MI300X 가속기를 산업 표준 디자인으로 결합해 향상된 AI 추론 및 훈련을 위한 솔루션을 지원한다. AMD는 오는 3분기부터 주요 고객사에게 MI300X 가속기 시제품을 제공할 예정이다. 또한 AMD는 고성능 컴퓨팅 및 AI 워크로드를 지원하는 APU 가속기 AMD 인스팅트 MI300A도 공개했다.
AMD는 데이터센터 가속기를 위한 ROCm 소프트웨어 생태계를 선보이며, 개방형 AI 소프트웨어 생태계 구축을 위한 주요 협력사와의 협업도 강화한다.
파이토치는 AMD 인스팅트 가속기에서 ROCm 5.4.2 버전 출시와 동시에 파이토치 2.0을 지원하는 등 개발자들은 ROCm 소프트웨어 스택을 활용해 AMD 가속기에 파이토치 기반의 대규모 AI 모델을 즉시 활용할 수 있다. AI 구축 플랫폼 허깅페이스는 AMD 인스팅트 가속기, 라이젠, 에픽 프로세서, 라데온 그래픽, 버설, 알베오 등 AMD 플랫폼에 수천 개의 허깅페이스 모델을 최적화할 예정이다.
AMD는 펜산도 DPU, 초저지연 및 어댑티브 NIC를 공개하며 한층 강력한 네트워킹 포트폴리오를 선보였다. AMD 펜산도 DPU는 제로 트러스트 보안을 제공하는 소프트웨어 스택과 프로그래머블 패킷 프로세서의 결합으로 지능적이고 강력한 성능을 발휘한다.
펜산도 DPU는 IBM 클라우드, 마이크로소프트 애저, 오라클 OCI 등 주요 클라우드 파트너 전반에 탑재될 예정이다. 또한 HPE 아루바 CX 10000 스마트 스위치, VM웨어 v스피어 분산 서비스 엔진 등 엔터프라이즈 고객에게 가속화된 애플리케이션 성능을 지원한다.
한편 AMD는 차세대 DPU(코드명 질리오)의 로드맵도 공개하며 한층 향상된 성능과 효율성을 제공한다는 계획으로, 올해 말 출시할 예정이다.
