SK텔레콤의 데이터센터에 인공지능(AI) 가속기로 자일링스 FPGA를 배치했다고 양사가 공동 발표했다. SK텔레콤은 AI 서비스 처리 속도를 높이는 ‘AI 가속 솔루션(AIX: AI Inference Accelerator)’을 개발해 AI 서비스 ‘누구’에 적용, 국내 최초로 데이터센터 기반 AI 서비스에 해당 솔루션을 상용화했다.
자일링스의 킨텍스(Kintex) 울트라스케일(UltraScale) FPGA는 현재 SK텔레콤의 음성인식 플랫폼인 누구(NUGU)를 가속화하기 위해 SK텔레콤의 자동 음성 인식(ASR: Automatic Speech Recognition) 애플리케이션을 구동하고 있다.
SK텔레콤은 ASR 애플리케이션에서 GPU 대비 최대 5배 이상의 성능을 달성했으며, 특히 16배 향상된 와트당 성능을 달성했다. 이는 한국에서 대규모 데이터센터를 위해 AI 도메인에서 FPGA 가속기를 상용 채택한 최초의 사례다.
FPGA 기반 가속기는 기존 CPU 전용 서버에 효율적인 자일링스 FPGA 애드인(Add-In) 카드를 추가해 ASR 애플리케이션 서버의 총소유비용(TCO)을 낮춰 준다. ASR 서버는 빈 슬롯에 자일링스 FPGA 카드를 사용해 쉽고 간단하게 여러 음성 서비스 채널을 가속화한다. 하나의 FPGA 카드는 단일 서버의 성능보다 5배 이상 뛰어나 상당한 비용 절감 효과를 가능하게 한다.
이처럼 SK텔레콤이 개발한 AI 가속 솔루션을 활용하면 별도 서버 증설 없이 AI 전체 서비스 용량을 기존 대비 약 5배 늘리는 효과를 기대할 수 있다. 또한 GPU 방식 가속 솔루션 대비 전력 효율성이 16배 뛰어나 데이터센터 운용비 절감도 가능하다.
SK텔레콤 이강원 소프트웨어 기술원장은 “지난 몇 년간 이 산업이 성장하고 발전하는 것을 지켜봤으며, AI 가속기를 개발하는데 앞장서고 있다는 것에 자부심을 느낀다”며 “자일링스 KCU1500 보드와 SK텔레콤의 자체 비트스트림 이미지를 기반으로 한 솔루션을 설계함으로써 비용 효율적인 고성능 애플리케이션을 개발했다”고 말했다.
자일링스 FPGA의 적응형 특성은 급속도로 진화하는 AI 및 딥 러닝 분야에 맞춤형 하드웨어 가속기를 신속하게 배치할 수 있도록 한다. 또한 FPGA는 CPU 및 GPU에 비해 낮은 전력으로 더 높은 성능과 낮은 대기 시간을 제공한다. SK텔레콤은 컴퓨팅 가속을 위해 FPGA를 배치한 유수의 상용 데이터센터 기업에 이름을 올리게 됐으며, 이러한 기업들은 빠르게 증가하고 있다.
자일링스 데이터센터 마케팅 부사장 매니시 뮤탈(Manish Muthal)은 “한국에서 최초로 SK텔레콤의 AI 데이터센터에 자일링스의 FPGA를 공급할 수 있는 기회를 갖게 돼 기쁘다”며 “자일링스의 킨텍스 울트라스케일 KCU1500 FPGA는 애플리케이션에서 자일링스가 경쟁력을 갖고 있음을 보여준다. 자일링스는 데이터센터 가속화에 기술 역량과 혁신을 집중해 나갈 것”이라고 말했다.
한편 SK텔레콤의 FPGA 기반 AI 솔루션은 오는 10월 1~2일 미국 실리콘 밸리와 10월 16일 중국 베이징에서 개최되는 자일링스 개발자 포럼(XDF)에서 시연될 예정이다.
