[데이터넷] 생성형AI가 전 세계 IT 시장 트렌드를 좌우하고 있지만, AI에 대한 투자자본수익률(ROI)은 10% 수준, AI 성숙도가 높은 기업도 13%에 불과하다. 그럼에도 불구하고 많은 IT 기업들이 과감하게 AI에 투자하고 있는데, 혁신을 통한 성장을 위해서는 AI가 반드시 필요하기 때문이다.

김현정 한국IBM 컨설팅 대표는 “AI 프로젝트에 대한 ROI는 2020년 1%에서 2022년 8.3%로 크게 올랐다. AI 투자수익률은 앞으로 더 가파르게 올라갈 것이라고 기대한다. 내년부터는 멀티모달 AI를 활용한 다양한 모델이 나올 것”이라며 “AI를 이용한 혁신에 성공하기 위해서는 AI의 리스크를 해결할 방법을 마련해야 한다”고 말했다.

AI 리스크는 ▲AI 학습에 사용되는 데이터의 양과 품질, 유출과 오남용 우려 ▲AI 모델에 대한 투명성·신뢰성 확보와 편향성·환각 현상 해결 ▲AI에 대한 세계 각국의 규제 등으로, 이를 해결하지 않는 한 AI를 중요한 서비스나 의사결정에 사용할 수 없다.

향후 제·개정되는 규제까지 준수 지원

IBM은 올해 초 기업이 AI를 활용할 수 있도록 돕는 플랫폼 ‘왓슨X’ 플랫폼을 공개한 후 AI 데이터의 문제를 해결할 수 있는 ‘왓슨X.데이터’, AI 알고리즘의 신뢰성을 확보할 수 있도록 돕는 ‘왓슨X.AI’를 순차적으로 공개했으며, 최근 컴플라이언스 문제를 해결할 수 있는 ‘왓슨X.거버넌스’를 공개했다. 새로운 솔루션은 AI 도구와 시스템이 안전하게 윤리적으로 유지되도록 보장하는 도구로, AI를 안전하게 개발, 적용할 수 있도록 돕는 프레임워크와 규칙, 표준을 지원한다.

왓슨X.거버넌스에는 AI 생애주기 거버넌스 기술이 포함돼 있으며, IBM, 오픈소스 커뮤니티, 기타 모델 제공업체의 AI 모델을 관리하고 모니터링, 통제할 수 있게 한다. 기업 활용사례의 모든 단계를 투명하게 관리할 수 있으며, 설명가능한 AI로 AI 모델의 신뢰성을 높인다.

AI 위험 요소 관리기능도 포함돼 있어 공정성, 편향성, 오류, 새로운 LLM 매트릭스를 모니터링하고, 위험을 사전에 감지하고 완화할 수 있게 한다. 더불어 규제준수 기능을 통해 전 세계에서 시행중인 규제와 향후 재·개정되는 규제 및 정책에도 대응할 수 있게 한다.

IBM은 지난 5일 메타, AMD, 델 테크놀로지스 등과 함께 책임감있는 AI 발전을 위해 협력하는 ‘AI 얼라이언스’를 출범하고 사회의 요구와 복잡성을 효과적으로 반영하도록 AI를 발전시킬 수 있는 방법을 모색하고 있다.

‘AI 얼라이언스’는 개발자와 연구자가 과학적 엄격성, 신뢰, 안전, 보안, 다양성, 경제적인 경쟁력을 확보하면서 책임감 있게 AI를 혁신할 수 있도록 지원하고 개방형 커뮤니티를 육성하는 데 중점을 두고 있다.

선도적인 개발자, 과학자, 학술 기관, 기업들을 한데 모아 자원과 지식을 공유하며, 안전성 문제를 해결하고, 전 세계 연구자, 개발자, AI 도입자의 요구에 맞는 솔루션을 공유하고 개발할 수 있는 플랫폼을 제공하는 것을 목표로 한다.

한국IBM CTO인 이지은 전무는 “왓슨X 플랫폼은 기업 고객이 AI 리스크에서 벗어나 최적의 AI 모델을 활용할 수 있도록 돕는다. 온프레미스와 모든 종류의 클라우드를 지원해 어떤 환경에서도 쉽고 안전하게 AI 모델을 활용할 수 있게 한다”며 “IBM은 업계에서 가장 먼저 AI에 투자했으며, 성숙도 높은 AI 기술과 서비스를 제공해왔다. 다양한 성공사례와 성숙도 높은 AI 기술을 이용해 고객의 AI 혁신을 도울 것”이라고 말했다.

김선애 기자 다른기사 보기