스마트 커넥티드 디바이스용 시그널 프로세싱 플랫폼 및 AI 프로세서 선두 라이선스 기업 CEVA는 엣지단에서의 딥러닝 추론을 위한 강력하고 전문화된 인공지능(AI) 프로세서 제품군인 ‘뉴프로(NeuPro)’를 공개했다.
뉴프로 프로세서 제품군은 심층 신경망 기술이 제공하는 정보를 처리해 능률적으로 활용하고자 하는 스마트 및 커넥티드 엣지 디바이스를 생산하는 고객들을 위해 설계됐다.
CEVA는 컴퓨터 비전 애플리케이션용 심층 신경망 분야에서의 업계 선도의 경험을 토대로 뉴프로를 제작했다. 이미 수십 명의 고객들이 CEVA-XM4 및 CEVA-XM6 비전 플랫폼과 CDNN 신경망 소프트웨어 프레임워크을 이용해 가전, 감시 및 ADAS 제품에 도입해 사용 중에 있다. 이 새로운 AI 전용 프로세서 제품군은 엔트리 레벨 프로세서의 경우 초당 2TOPS(2Tera Ops), 최고 성능으로 구성할 경우 12.5TOPS까지 향상된 성능을 제공한다.
뉴프로 프로세서 라인은 기존의 머신 비전은 물론 엣지단에서 AI 이용을 확장해 자연어 처리, 실시간 번역, 인증, 워크플로우 관리 및 기타 여러 가지 학습 기반 애플리케이션을 통해 디바이스를 보다 지능적으로 만들고 사람의 개입을 줄여준다.
CEVA 비전 사업부 총괄 일란 요나(Ilan Yona) 부사장은 “AI 애플리케이션은 클라우드 서비스에 의존하기보다 엣지단에서 처리하는 경향이 뚜렷하다. 엣지단 처리를 위한 저전력 제약 조건과 함께 요구되는 연산 능력은 CPU, GPU 또는 DSP를 사용하는 대신 특수 프로세서를 필요로 한다”며 “CEVA는 뉴프로 프로세서를 설계해 아키텍처와 소프트웨어 측면에서 AI 공간으로의 진입 장벽을 낮춰 고객들은 AI 기반의 워크로드와 애플리케이션에 활용할 수 있는 비용 효율적이며 최적화된 표준 AI 플랫폼을 갖게 됐다”고 말했다.
뉴프로 아키텍처는 완벽하고 확장 가능한 AI 솔루션을 위해 결합된 하드웨어 및 소프트웨어 기반 엔진의 조합으로 구성됐다. 전력, 성능 및 칩면적(PPA)에 대한 최적화는 최종 애플리케이션의 요구 사항에 따라 하드웨어/소프트웨어와 조정이 가능한 여러 가지 옵션의 정밀한 조합을 통해 수행된다.
뉴프로 제품군은 서로 다른 레벨의 병렬 처리를 제공하는 4개의 AI 프로세서로 구성된다. NP500은 512 MAC 유닛을 포함한 가장 작은 프로세서로 IoT, 웨어러블 및 카메라에 적용 가능하고, NP1000은 1024개의 MAC 유닛을 포함하며, 스마트폰, ADAS, 산업용 애플리케이션 및 AR/VR 헤드셋에 적용할 수 있다.
2048개의 MAC 유닛을 포함하는 NP2000은 고성능 스마트폰, 감시, 로봇 및 드론에 적용 가능하고, NP4000은 엔터프라이즈 감시 및 자율 주행시 필요한 고성능 엣지 처리를 위한 4096개의 MAC 장치를 포함한다.
각 프로세서는 뉴프로 엔진과 뉴프로 VPU로 구성돼 있다. 뉴프로 엔진은 신경망중에서 컨볼루션(Convolution), 완전 연결(fully-connected), 통합(pooling) 그리고 활성(activation) 계층을 지원하기 위해 하드와이어된 구현을 포함한다.
뉴프로 VPU는 CDNN 소프트웨어부분을 담당해 AI 작업 부하 중 새로운 요구사항을 소프트웨어 기반으로 지원하는 프로그래머블 벡터 DSP다. 뉴프로는 8비트와 16비트 신경망을 모두 지원하며, 실시간으로 최적화된 의사 결정을 통해 정밀도와 성능간 최상의 절충점을 제공한다. MAC 유닛은 실행 시 90 % 이상의 활용도를 달성함으로써 고도로 최적화된 신경망 성능을 보장한다. 전반적인 프로세서 디자인은 DDR 메모리 대역폭을 상당히 줄여 모든 AI 애플리케이션의 전력 소비 수준을 향상시켰다.
뉴프로 제품군은 CEVA의 신경망 소프트웨어 프레임워크인 CDNN과 함께 개발자가 최종 신경망을 쉽고 효율적으로 생성해 프로세서에 포팅 할 수 있도록 딥러닝 솔루션을 제공한다. CDNN은 모든 종류의 레이어 유형 및 네트워크 토폴로지를 지원함으로써 시장 출시 기간을 단축시켰다.
한편 CEVA는 뉴프로 프로세서 라인과 함께 CNN(Convolutional Neural Network) 가속기로 뉴프로 하드웨어 엔진을 제공한다. 특히 CEVA-XM4 또는 CEVA-XM6 비전 플랫폼과 결합하면 이미징, 컴퓨터 비전 및 신경망 처리를 위한 단일 통합 플랫폼을 찾는 고객에게 유연한 옵션이 될 수 있다.
