리벨리온 NPU, 삼성전자 PIM·PNM 활용해 한국형 AI 풀스택 강화
[데이터넷] KT, KT클라우드, 삼성전자가 ‘한국형 AI 풀스택 구현을 위한 차세대 메모리 기술협력’ MOU를 체결했다고 29일 밝혔다.
28일 오후 서울 강남구에 위치한 KT클라우드 본사에서 열린 3사 협약식에는 송재호 KT 부사장, 윤동식 KT클라우드 사장, 삼성전자의 김재준, 심은수 부사장 등 주요 관계자들이 참석했다.
3사는 이번 협약을 통해 삼성전자의 PIM과 PNM 환경에서 KT 초거대 AI ‘믿음’을 통한 ▲초거대 AI 모델의 메모리 영향성 분석 ▲AI 반도체 플랫폼 연구 ▲차세대 클라우드 솔루션 등 AI 풀스택 역량 강화를 위해 협력할 예정이다.
한국형 AI 풀스택이란 국산 AI 반도체와 소프트웨어, 클라우드 등의 인프라부터 AI 응용 서비스까지 모두 아우르는 제품과 서비스를 의미한다.
PIM(Processing-in-Memory)이란, 저장 작업을 하는 메모리 반도체에 연산 작업을 하는 프로세서 기능을 더한 지능형 반도체다. 메모리 안에서 간단한 연산을 수행할 수 있어 데이터 이동 횟수가 줄어들고 병목 현상이 줄어든다는 장점이 있다. PNM(Processing-near-Memory)이란, 메모리 가까운 위치에 연산 기능을 배치해 CPU와의 데이터 전송 시간을 최소화하는 기술이다.
AI 서비스를 개발하는 과정에서 기존의 AI 인프라를 사용할 경우, 연산 속도와 전력 소비 등에서 비효율이 발생하는 문제가 있었다. KT와 KT클라우드는 이를 해결하기 위해 AI 연산에 최적화된 AI 반도체인 NPU(Neural Processing Unit)를 반도체 설계 기업인 리벨리온과 함께 지난 5월 KT클라우드에서 상용화했다.
나아가 KT와 KT클라우드는 한국형 AI 풀스택 완성을 위해 KT의 초거대 AI 모델 ‘믿음’을 활용해 삼성전자의 PIM·PNM 인프라 실증 연구와 기술 협력에 나선다. AI 서비스를 사용할 때 답변이 뚝뚝 끊기는 것과 같은 ‘메모리 병목 현상’을 해결하기 위해 삼성전자의 스마트 인프라 기술을 도입해 한국형 AI 풀스택을 한층 더 강화한다는 계획이다.
KT AI/DX융합사업부문장인 송재호 부사장은 “초거대 AI 개발을 위한 삼성전자와의 차세대 메모리 기술 개발 협력을 통해 경쟁력 있는 인프라 기반을 구축하겠다”며 “이렇게 완성한 AI 풀스택(Full Stack)으로 산업 전반에서 AI 생태계를 확장하고 대한민국 인공지능 경쟁력 강화에 기여할 것”이라고 말했다.
KT클라우드 윤동식 사장은 “HAC, NPU 등 KT클라우드의 초거대 AI 인프라와 삼성전자의 차세대 반도체 기술, KT의 AI 솔루션 및 기술 공동 협력으로 AI 반도체 고도화를 지속 추진하고 한국형 AI 풀스택을 완성해 나갈 것”이라고 말했다.
삼성전자 메모리사업부 전략마케팅실장 김재준 부사장은 “KT, KT클라우드와의 기술 협력으로 대규모 데이터 처리가 필요한 초거대 AI 모델의 메모리 병목현상을 해소해 나갈 것”이라며 “클라우드와 AI 기업의 시장 니즈를 반영한 PIM, PNM 등 스마트 기술을 통해 차세대 메모리 기술을 확대해 나가겠다”고 밝혔다.
