[데이터넷] 적응형 및 지능형 컴퓨팅 선두주자 자일링스의 ‘알비오(Alveo)’는 업계 최초의 적응형 컴퓨팅, 네트워크, 스토리지 가속기 카드로 클라우드 및 온프레미스 전반에 걸쳐 산업 표준 서버의 성능을 폭발적으로 향상시켜 애플리케이션 실행 시 짧은 지연 시간에 획기적인 성능 향상을 거둘 수 있다. 최근 SK텔레콤은 AI 기반 물리적 무단 침입 탐지 및 도난 감지 서비스를 강화하기 위해 자일링스 알비오 데이터센터 가속기 카드를 채택하는 등 가시적인 성과를 거두기 시작했다. <편집자>
자일링스의 비전은 ‘적응형 및 지능형 세계’를 구현하는 것으로, FPGA를 뛰어넘는 유연하고 적응력이 뛰어난 새로운 프로세스와 플랫폼을 통해 엔드포인트에서 엣지, 클라우드에 이르기까지 다양한 영역에서 혁신을 이뤄낸다는 계획이다. 이를 위해 자일링스는 데이터센터 고객, 에코시스템 파트너, 소프트웨어 개발자들과 협력을 통해 고성능 연산, 연산 스토리지, 네트워크 등의 가속화 분야의 차세대화를 이끌고 있다.
특히 다양한 애플리케이션과 작업량 요구에 적응하기 위해 밀리세컨드(ms) 단위의 동적으로 수행되는 고집적 멀티코어 이기종 컴퓨팅 플랫폼인 ‘ACAP(Adaptive Compute Acceleration Platform)’의 뛰어난 적응성은 CPU나 GPU로는 따라 올 수 없는 수준의 성능을 제공한다. 자일링스는 혁신적인 ACAP 기술과 관련된 데이터센터 등에 더 많은 가치를 제공할 수 있는 새로운 도약을 준비 중으로 SK텔레콤과의 협력도 이러한 전략의 연장선에 있다.
SK텔레콤, 자일링스 ‘알비오’ 선택
SK텔레콤은 지난해 AI 스피커 누구(NUGU)의 ASR(Automated Speech-Recognition)에 자일링스의 FPGA 기반의 AI 추론 가속기(AIX: AI Inference Accelerator)를 상용화 한데 이어 영상인식 분야의 AI 서비스를 위한 데이터센터에 자일링스 알비오 카드를 상용 구축했다.
SK텔레콤은 실시간 AI 기반 물리적 무단 침입 탐지 및 도난 감지 서비스인 ‘티뷰(T view)’에 자일링스의 ‘알비오’ 데이터센터 가속기 카드를 다시 한 번 채택했다. 자일링스 알비오를 기반으로 구현된 SK텔레콤의 AIX는 DNN(Deep Neural Network)을 이용해 정확하고 효율적으로 물리적 무단 침입을 감지할 수 있도록 한다. 이 무단침입 감지 서비스는 보안 전문 기업인 ADT캡스와 라이선스 계약을 통해 상용화된다.
SK텔레콤의 티뷰는 수많은 고객의 상업용 및 가정용 카메라 시스템을 실시간으로 모니터링하고, 물리적 무단침입 상황이 발생하면 보안 요원을 현장에 파견한다. 이러한 일련의 과정에서 DNN을 이용해 수천 대의 카메라에서 전송되는 대량의 데이터를 효율적으로 처리하기 위해서는 충분한 데이터 처리량과 정확도를 제공하는 강력한 AI 가속기가 필요하고, 자일링스 알비오가 핵심 역할을 수행하게 된다.
티뷰는 자일링스의 알비오 U250 카드를 기반으로 구현된 SK텔레콤의 AI 추론 가속기를 이용한다. SK텔레콤의 데이터센터 서버 상에서 실행되는 알비오 U250 카드는 도난 감지 서비스 데모에서 뛰어난 처리량과 높은 정확도를 제공하는 것으로 나타났다.
U250 카드는 감지 지연 시간이 짧고, 업계 선도적인 GPU 대비 탁월한 연산속도(초당 프레임)를 제공하며, 비용 측면에서도 효과적인 것으로 입증됐다. 알비오 카드를 이용해 처리량과 정확도가 향상됨에 따라 많은 고객들이 실시간 AI 기반 보안 서비스에 접속하고, 급증하는 보안 위협에 대처해 보다 신속하고 안전하게 보호받을 수 있게 될 전망이다.
박진효 SK텔레콤 ICT기술센터장은 “AI 시대가 도래하면서 전례 없는 속도로 새로운 서비스가 빠르게 구축되고 있으며, 클라우드 시스템 혁신을 통해 다양한 부문의 안정적이고 효율적인 서비스를 개발해 고객에게 더 많은 가치를 제공하기 위해 노력하고 있다”며 “AIX는 고품질 고성능 클라우드 기반 AI 서비스를 위한 노력의 하나로, 자일링스와 긴밀한 협력을 이어나가고 있다”고 밝혔다.
자일링스의 선도적인 실시간 컴퓨팅 및 분석 기술은 국내 시장에서 AI 기반 서비스가 확장되는데 큰 도움이 될 전망으로, 알비오 U250을 기반으로 구현된 SK텔레콤의 AIX 가속기 및 티뷰 서비스는 국내를 넘어 내년 하반기에는 전 세계로 공급이 확대될 예정이다.
변화하는 알고리즘·가속 적응 … 작업부하 따라 성능 최적화
자일링스 알비오 가속기 카드는 광범위한 애플리케이션에서 중요한 성능상 이점을 제공한다. 특히 데이터센터 AI 작업부하에서 요구되는 성능 및 유연성을 충족시킬 수 있도록 설계됐다.
자일링스의 16nm 울트라스케일+(UltraScale+) 아키텍처를 기반으로 구현된 알비오는 변화하는 알고리즘 및 가속 요건에 적응이 가능하며, 하드웨어를 변경하지 않고도 다양한 작업부하에 따라 성능을 최적화한다. 또한 총소유비용을 절감할 수 있는 도메인 특화 아키텍처도 제공한다.
머신러닝 분석의 경우 알비오 U250은 고성능 CPU 대비 실시간 추론 처리량을 20배까지 증가시키고, 0.002초(2ms) 이하의 짧은 지연 시간을 갖는 애플리케이션의 경우에는 고성능 GPU와 같은 고정 기능 가속기 대비 4배 이상 증가시킨다.
뿐만 아니라 알비오 U50은 엔비디아 테슬라(Tesla) T4 GPU 대비 AI 기반 음성 변환의 경우 10배 더 높은 성능을 발휘하는 것으로 벤치마크 결과 증명됐다. 알비오 U200 역시 엔비디아 테슬라 T4와 1080p60 비디오 스트림 비교 결과 비디오 분석 파이프라인은 3배 더 뛰어난 처리량을 제공 했다.
자일링스 알비오는 AI/머신러닝, 비디오 트랜스코딩, 데이터 분석, 재무 위험 모델링, 보안 및 유전체학 분야에서 주요 애플리케이션을 개발하고, 인증을 획득한 파트너 및 OEM 기업들로 구성된 에코시스템에 의해 지원된다. 주요 OEM 기업들은 자일링스와 협력으로 알비오 가속기 카드를 통해 다중 서버 SKU를 인증하고 있으며, OEM 기업들은 계속 늘어날 전망이다.
도나 야사이(Donna Yasay) 자일링스 데이터센터그룹 부사장은 “도난 감지 및 예방 서비스를 개선하기 위해 SK텔레콤과 자일링스의 긴밀한 협업은 상용 AI 서비스 분야의 중대한 성과다”며 “알비오는 적응성, 짧은 지연 시간, 높은 처리량을 제공하기 때문에 티뷰 서비스의 시각적 AI 추론 작업부하에 매우 적합하다”고 강조했다.
