무중단 운영과 강력한 보안으로 금융사 '미션 크리티컬' 환경 충족
기존 데이터센터와 지연 최소화하는 지리적 장점과 망중립 연결성 제공
[데이터넷] 카카오뱅크의 ‘AI센터’가 클라우드·망중립 데이터센터와 코로케이션·상호 연결 솔루션 글로벌 리더인 디지털리얼티(Digital Realty)의 국내 데이터센터인 ‘ICN10’에 둥지를 틀었다.
카카오뱅크 AI센터는 AI를 기반으로 서비스 고도화, 맞춤형 콘텐츠 생산뿐 아니라 금융과 연계한 다양한 서비스 개발 등 금융 혁신을 지원할 예정으로, 고성능 컴퓨팅(HPC), 고집적 워크로드에 최적화된 인프라와 연결성을 제공하는 디지털리얼티 ICN10을 낙점했다.
전 산업에 걸쳐 생성형 AI 활용이 시작되면서 글로벌 금융 기관도 챗GPT와 같은 생성형 AI 기술 확보와 사용을 위해 막대한 비용을 투입해 대규모언어모델(LLM)과 같은 원천 기술 내재화와 적용에 힘쓰고 있다. 이에 데이터센터 업계 역시 디지털 금융은 물론 다양한 수요 지원을 위해 AI 인프라 확충을 본격화하고 있다.
특히 데이터센터가 생성형 AI와 같이 최신 워크로드를 지원하기 위해서는 충분한 전력 공급량과 서버 냉각 기술이 필수다. AI 서비스는 많은 전력을 소비하는 고성능 컴퓨팅이 기본으로, 전력을 많이 소비할수록 랙에 수용 가능한 서버 수가 줄고 높은 발열량은 서버 수명을 단축하기 때문이다.
디지털리얼티의 데이터센터는 AI 워크로드 지원을 위한 유연한 모듈식 서비스로 고객의 요구에 맞춤형의 고성능, 냉각, 레이아웃, 연결성 등을 제공한다.
지난해 8월에는 랙당 최대 70킬로와트(kW)의 워크로드를 지원하기 위해 고밀도 코로케이션 서비스도 출시했다. 또한 국내 첫 데이터센터인 ICN10은 혁신적인 공기 보조 액체 냉각(AALC) 기술로 업계 최고 수준의 GPU 서버를 수용할 수 있다는 인증을 받기도 했다.
디지털리얼티는 금융사가 요구하는 미션 크리티컬 환경 충족을 위해 인프라와 솔루션을 지속 강화해 나가고 있다. 특히 16년 연속 99.999%를 달성한 노하우를 바탕으로 고가용성을 보장하는 데이터센터 서비스를 제공 중으로, 업타임인스티튜드(Uptime Institute)에서 무중단 유지보수가 가능한 티어 3등급을 받아 어떤 재난/재해 상황에서도 운영이 가능해 안정성과 신뢰성이 최우선인 금융권에 강점을 갖추고 있다.
뿐만 아니라 데이터는 AI 애플리케이션에서 매우 중요하다. AI는 전체 데이터 세트에서 학습이 이뤄질 때 더욱 강력해지기 때문이다.
디지털리얼티의 글로벌 데이터센터 플랫폼인 ‘플랫폼디지털(PlatformDIGITAL)’은 서비스패브릭 커넥트(ServiceFabric Connect)를 통해 기업 에코시스템 전반의 데이터 세트에 대한 안전하고 뛰어난 성능의 액세스를 뒷받침해 프라이빗 클라우드 사용을 지원한다.
특히 고객이 단일 교차 연결을 통해 AWS 서비스에 액세스할 수 있도록 ICN10에 ‘AWS 다이렉트 커넥트 온램프(On-Ramp)’를 지원한다. 이를 통해 고객은 프라이빗 인프라를 AWS에 연결해 프라이빗 인프라를 구축해 하이브리드 아키텍처를 최적화하고, AWS에 대한 저지연 및 고성능의 안전하고 비용 효율적인 연결을 구현할 수 있다.
또한 ICN10는 서울 디지털 미디어 시티 중심부에 위치한 지리적 이점과 네트워크 중립 환경은 지연 시간 최소화는 물론 금융기관의 기존 데이터센터에 다양한 연결 옵션을 제공해 경쟁력을 높일 수 있다. 실제로 카카오뱅크의 ICN10 선택에는 다양한 기술 장점과 함께 지리적인 이점도 중요한 역할을 했다.
안현철 카카오뱅크 최고연구개발책임자는 “AI센터 개소를 통해 카카오 공동체 그리고 외부 학계 및 기업과 협력을 강화할 수 있는 환경을 갖춤에 따라 생성형AI, 언어모델 등 복잡한 연산이 필요한 다양한 AI 기반 사업과 연구에 속도를 낼 것”이라며 “더 많은 고객에게 선택받고 지속적으로 성장하기 위해 기술 역량을 고도화할 계획이다”고 밝혔다.
한성민 디지털리얼티코리아 대표는 “한국은 아시아태평양 지역에서 빠르게 성장하는 AI 시장중 하나로 주목하고 있다”며 “글로벌 AI 기업의 ‘요람’으로 많은 경험을 보유하고 있는 디지털리얼티는 카카오뱅크의 금융분야 AI 혁신을 위해 지원을 아끼지 않을 것”이라고 강조했다.
