[데이터넷] LG CNS기 AI의 자연어 이해를 위한 한국어 표준데이터 10만여 개를 제작해 국내 AI 업계에 무료로 개방한다.
5일 LG CNS는 인공지능을 활용한 스피커와 챗봇을 개발하는데 필수적인 AI 학습용 표준데이터 ‘코쿼드 2.0(KorQuAD 2.0)’을 공개했다.
언어 AI 개발을 위해서는 학생들이 공부하는 교과서와 유사한 개념인 AI 학습용 표준 데이터가 필요하다. 해외에서는 미국 스탠포드대학, 마이크로소프트 등이 제작한 영문 표준데이터가 존재해 AI 개발에 활용되고 있으나 국내는 한국어 표준데이터가 없어 영문을 번역하거나 자체적으로 데이터를 마련해야 했다.
‘코쿼드 2.0’은 ‘코쿼드 1.0’ 대비 한국어 표준데이터를 7만 개에서 10만 개로 확대하고, 단답형에서 장문의 답변이 가능한 AI를 개발할 수 있도록 데이터를 강화한 버전이다.
예를 들어 “대한민국의 수도와 그 면적은?”이라는 질문에 “서울특별시, 605.25㎢입니다”라고 답하는 AI는 코쿼드 1.0 학습만으로 충분히 개발 가능했지만, “서울특별시의 특징은?”이라는 질문에 “도시 중앙으로 한강이 흐르고 북한산, 관악산, 도봉산 등의 여러 산들로 둘러싸인…”이라는 장문의 답을 위해서는 코쿼드 2.0으로 AI를 학습시켜야 한다.
또한, 코쿼드 2.0은 AI가 표나 리스트 형태에 담긴 정보도 읽어 답변할 수 있게끔 표준데이터 범위도 확대했다.
LG CNS는 지난해 12월 위키백과 정보를 기반으로 AI 학습용 한국어 표준데이터 7만개가 탑재된 ‘코쿼드 1.0’을 제작해 AI 업계에 공개한 바 있다. 이후 AI 전문가들이 모인 국내 최대 오픈 커뮤니티인 ‘텐서플로우 코리아’에서는 표준데이터 공개에 대해 큰 호응이 있었으며, 네이버, 카카오 등 국내 유수 AI 기술 기업들과 AI 현업 종사자 등 50여 개 팀이 코쿼드를 사용한 AI 개발에도 나섰다.
LG CNS가 표준데이터를 제작해 자사 AI 개발에만 활용하는 것이 아니라 외부에 개방해 향후 AI 연구자 간의 시너지를 통한 국내 인공지능 기술 발전에 기여한다는데 그 의미가 크다.
LG CNS 최고기술책임자(CTO) 현신균 부사장은 “응용 분야가 무궁무진한 AI 언어 개발 분야에서 내부적으로 쌓은 데이터를 AI 업계 전체에 개방해 국내 AI 연구자들 간 상생을 위한 AI 개방형 생태계 조성에 기여코자 한다”고 밝혔다.
LG CNS가 이번에 출시한 한국어 표준데이터는 ‘코쿼드 2.0’ 웹사이트에서 누구나 다운로드 가능하다.
