IBM, AI 모델 모니터링 플랫폼 ‘AI 오픈스케일’ 출시
상태바
IBM, AI 모델 모니터링 플랫폼 ‘AI 오픈스케일’ 출시
  • 윤현기 기자
  • 승인 2018.10.19 10:20
  • 댓글 0
이 기사를 공유합니다

AI 모델 모든 페이로드 로깅 통해 정확도 지속 유지 가능…기업 AI 도입 촉진 역할 기대

한국IBM은 현재 기업에서 사용하고 있는 인공지능(AI) 모델이 일부 편향된 데이터에 근거해 치우친 결과를 도출한 것을 사용 고객이 직접 검증할 수 있는 개방형 기술 플랫폼 ‘AI 오픈스케일(AI OpenScale)’을 출시했다고 18일 밝혔다.

기업들은 그동안 다양한 종류의 머신러닝 프레임워크에서 AI 애플리케이션들을 개발 및 관리함에 있어 내부 전문 인력 부족으로 어려움을 겪었다. 또한 업계에서는 AI가 인사이트를 도출하는 의사결정 과정을 투명하게 확인할 수 없는 ‘깜깜이’ 방식이기 때문에, AI 모델을 신뢰할 수 있는지 알 수 없다며 보다 근본적인 해결이 필요하다는 우려를 제기해 왔다.

실제로 마이크로소프트(MS), 아마존 등은 AI 챗봇을 선보인 바 있었지만, 해당 AI가 인종차별적인 성향을 띄고 있는 것으로 나타나 논란이 발생한 적도 있었다. 이는 결과적으로 기업들이 AI 모델의 신뢰성에 강한 의구심을 품게 만드는 계기로 작용했다.

이번에 IBM이 출시한 ‘AI 오픈스케일’은 AI가 가지고 있는 블랙박스 같은 불확실성을 제거함으로써 결과적으로 기업의 AI 도입을 촉진하기 위해 고안됐다. 앞서 MS나 아마존과 같은 문제가 발생하지 않도록 AI 모델이 적용된 시스템이나 운용 환경에 관계없이 AI가 도출해 낸 의사결정 과정을 정확하게 이해하고, 투명하게 관리하며, AI의 편향성(Bias)을 탐지함으로써 신속하게 대응할 수 있도록 하는 것이 목표다.

IBM ‘AI 오픈스케일’은 AI 모델의 모든 데이터(payload)를 로깅(logging)해 추적할 수 있도록 모니터링을 한다. 이를 토대로 AI 정확도를 지속적으로 유지하고 재훈련시켜 사용할 수 있는 환경을 제공한다.

만약 AI 모델에서 편향성이 발견됐을 경우 이를 사용자에게 알려주며, 추가적으로 해당 편향성을 해결할 수 있는 권장사항도 제안한다.

뿐만 아니라 텐서플로우(Tensorflow), 사이킷런(Scikitlearn), 케라스(Keras), 스파크ML(SparkML) 등의 오픈소스 머신러닝 혹은 딥 러닝 모델과 병용이 가능하다. 또 IBM 왓슨(IBM Watson), IBM 파워AI(IBM PowerAI), 셀던(Seldon), AWS 세이지메이커(AWS SageMaker), 애저ML(AzureML) 및 비 IBM 엔진에서 트레이닝과 호스팅이 진행되는 애플리케이션과 모델을 처리할 수 있다.

한편 IBM은 AI 설계에 사용되는 복잡한 심층신경망을 자동으로 구축하는 ‘뉴넷S(NeuNetS)’ 신경망 합성 엔진을 연내에 AI 오픈스케일 내에 제공할 계획이다. ‘AI를 구축하는 AI’로 불리는 ‘뉴넷S’는 AI 개발을 자동화하는 핵심 기술로, 기업은 특정 데이터세트에 대한 맞춤형 AI 모델을 데이터 과학자보다 짧은 시간에 자동으로 설계하고, 이를 트레이닝 시킬 수 있다. 결과적으로 기업은 자체 기술이 없어도 보다 신속하게 AI를 도입하고 간편하게 운용할 수 있다.

현재 ‘AI 오픈스케일’은 베타버전으로 IBM 클라우드와 IBM 클라우드 프라이빗을 통해 이용할 수 있으며, 향후 다양한 기능들이 점진적으로 추가될 예정이다.

최안나 한국IBM 왓슨 기술 영업실장은 “IBM의 ‘AI 오픈스케일’은 다양한 머신러닝에서 개발된 AI 애플리케이션을 운용할 수 있도록 지원하는 동시에 투명하게 손쉽게 관리할 수 있도록 한다”며 “AI가 가진 블랙박스 같은 불확실성을 제거해 결과적으로 기업의 AI 도입을 촉진하게 될 것”이라고 말했다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.