네이버, 성인 이미지 필터링에 인공지능 적용
상태바
네이버, 성인 이미지 필터링에 인공지능 적용
  • 윤현기 기자
  • 승인 2017.07.31 15:51
  • 댓글 0
이 기사를 공유합니다

98.1% 높은 적중률…향후 동영상 필터링 등 확대 적용 방침
▲ 네이버 엑스아이 동작 구성도

네이버는 자체 개발한 음란물 필터링 AI 기술 ‘네이버 엑스아이(X-eye)’를 이미지 부분에 적용한다고 31일 밝혔다.

네이버 엑스아이는 부적절한 내용을 담은 이미지(음란물)가 네이버에 등록될 경우 이를 실시간으로 감지해 검색 노출을 막아준다. 이는 사용자들의 쾌적한 검색 환경 조성을 위한 노력의 일환이다.

적용에 앞서 네이버는 축적된 방대한 이미지를 형태별로 분류해 10개월 동안 AI를 학습시켰다. 네이버 엑스아이는 최근 버전에서 400만 장의 이미지(정상+음란물) 필터링을 내부 실험한 결과 98.1%의 높은 적중률을 나타냈다.

이번 적용으로 연중 24시간 성인 이미지 실시간 감지 시스템이 가동되며, 감지하지 못한 극히 일부 성인 이미지의 경우 AI가 학습을 통해 진화하면서 극복될 예정이라고 회사 측은 설명했다.

네이버 엑스아이는 먼저 네모난 돋보기로 그림을 보듯 이미지의 각 부분을 순차적으로 훑어 특징을 추출한다. 이렇게 추출된 특징들로 다시 하나의 새로운 레이어를 이루고, 두 번째 레이어에 대해서도 같은 작업이 반복된다.

이미지 조각으로부터 특징을 추출하는 것을 ‘컨볼루션(convolution)’이라고 하며, 이것을 여러 레이어에 걸쳐 반복할수록 ‘딥(deep) 러닝’이 이뤄지게 된다. 최종적인 결과물을 기존 학습데이터의 카테고리로 분류해 음란성 여부를 판독한다. 때문에 이미지 데이터를 개발자가 하나하나 유형별로 세분화해 학습시키는 것이 성인 이미지 필터링 기술의 핵심이다.

오경수 네이버 UGC운영정책 리더는 “이번 출시로 성인 이미지에 대한 연중무휴 실시간 대응이 가능해졌다”며 “향후 동영상 필터링에도 확대 적용할 방침이며, 건전한 인터넷 이용환경 조성을 위해 외부에도 손쉽게 사용할 수 있는 AI 필터링 프로그램 제공을 검토하고 있다”고 말했다.

한편 네이버 엑스아이에서 정한 성인 이미지 정의는 방송통신위원회의 세이프넷(Safe Net) 등급에 따른다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.