[데이터넷] 지난해 AI와 생성형 AI는 업계의 폭발적인 관심과 함께 기업의 AI 솔루션 채택 속도를 급격히 높였다. 하지만 단순히 기술 도입만으로는 성공적인 AI 여정을 보장할 수 없다.
AI 프로젝트는 방대한 양의 데이터를 처리하며, 이들 데이터는 AI가 활용하기 적합한 상태가 되기까지 매우 복잡한 여정을 거치기 때문이다. AI 이니셔티브에서 최대한의 가치를 얻기 위해서는 데이터 처리, 도구 및 프로세스, 사용 편의성, 가치 창출, 지속가능성 등 다양한 영역에서 전략적인 접근이 필요하다.
유연성 고려한 설계
빠르게 변화하는 AI 환경에서 유연성은 성공 전략의 핵심이다. 오늘날 요구사항에 최적화된 솔루션을 구축하는 것보다 미래의 변화에 대비해 유연하게 확장하고 조정 가능한 솔루션을 설계해야 한다. 시대가 급변하고 있는 만큼 현재 필요하다고 생각한 것이 미래에는 불필요할 수도 있다. 예기치 못한 상황에 대응할 수 있도록 유연한 솔루션 도입 계획을 수립하는 것이 필요하다.
유연한 과금 모델 도입
기술의 급속한 변화는 대규모 투자의 위험성을 높인다. 시장은 기존 구매 주기보다 훨씬 빠르게 움직이기에 기술을 소비하는 방식도 유연해져야 한다. 막대한 초기 투자를 요하는 설비투자(CapEx) 방식에서 벗어나 운영비용(OpEx) 기반의 유연한 과금 모델을 채택하면, 필요에 따라 확장하거나 축소함으로써 비용 효율성을 극대화할 수 있다. 자원 활용도를 높이고 프로젝트 진행 상황에 따라 요구 사항을 변경하는 것은 물론, 서비스 수준 계약(SLA)을 통해 공급업체의 지원을 확보할 수 있다.
전력 효율성 높여 지속가능성 제고
AI 프로젝트는 막대한 전력을 소비해 기업의 지속가능성 목표를 위협한다. 용량, 성능, 비용에 이어 AI 스토리지 도입 과정에서 전력 효율성의 중요도가 높아지고 있는 이유다. 친환경 에너지를 사용하는 것도 좋지만, 절대적인 에너지 소비를 줄이는 것이 중요하다. 저전력 설계는 데이터센터의 전력 비용은 물론, 탄소발자국 저감 압박을 해소해 주고 기업의 지속가능성 목표에도 기여할 수 있다.
특히 데이터센터 운영에 필요한 전력 및 냉각 비용 상승, 새로운 데이터센터 건설 제한 등의 현안을 고려해 최소한의 공간에서 최대 전력 효율을 제공하는 기술을 도입할 필요가 한다. 일례로, 글로벌 기업 ‘메타(Meta)’는 AI 데이터센터인 리서치슈퍼클러스터(RSC) 구축 과정에서 AI 모델의 속도를 높이는 GPU에 더 많은 전력을 투입할 수 있도록, 낮은 전력 소비로도 페타바이트급 데이터 처리가 가능한 퓨어스토리지의 솔루션을 도입한 바 있다. 이를 통해 메타의 RSC는 높은 성능을 유지하면서도 전력 효율성을 높여 지속가능성을 확보한 선도적인 모델이 됐다.
데이터 전문가 생산성 향상
데이터 전문가들은 AI 모델 훈련과 평가보다는 데이터 로드, 정리, 실험에 더 많은 시간을 쏟고 있다. 이러한 비효율성을 해결하고 데이터 전문가의 생산성을 극대화하기 위한 핵심 전략은 바로 서비스형 AI 툴링 플랫폼 구축이다. 데이터 전문가는 이를 통해 즉각적인 리소스 접근, 신속한 결과 제공, 셀프 서비스 기능을 지원받을 수 있다. 고가의 GPU 리소스 최적화에만 집중하기보다 데이터 전문가의 생산성을 높여 AI 프로젝트 전반의 효율성을 제고해야 한다.
ROI 모델 구축
AI 프로젝트의 성공을 위해서는 성과 지표와 투자 수익률(ROI)을 포함한 확실한 비즈니스 케이스 구축이 필수다. 기업 내부 및 고객에게 중요한 요소를 재정의하고, 이를 바탕으로 AI 프로젝트 목표와 방향을 설정해야 한다. 다른 비즈니스 문제를 해결하는 것처럼, 매개변수와 성공 요인을 정의하여 명확한 지표를 마련해야 한다.
AI 환경은 빠르게 변화하며, 미래의 요구사항을 예측하는 것은 불가능에 가깝다. 빠른 변화 속도, 기술 인력 부족, 복잡한 환경 등으로 인해 오늘 유효한 방식도 내일에는 그 가치가 달라질 가능성이 크다. 그러므로 기업들은 변화하는 요구 사항에 대응하기 위한 유연성을 확보한 상황에서 미래를 위한 계획을 세워야 한다.
사용 편의성, 지속가능성, ROI 입증 등 기업의 핵심 요구사항을 충족하는 기술을 계획하고 도입한다면 AI 프로젝트의 성공 가능성을 획기적으로 높일 수 있다. 변화와 불확실성 속에서도 굳건하게 버틸 수 있도록 기업은 유연한 AI 전략을 적극 추진해야 한다.
