머신러닝·AI가 보안 분야에서도 활발하게 사용되고 있으며 AI 기반 보안 제품에 대한 인식과 호감도는 매우 높은 편으로 나타났다. 그러나 실제로 AI를 적용한 보안 제품의 효과에 대해서는 아직 긍정적이지 않은 것으로 드러났다.
한국인터넷진흥원 ‘2018년 3분기 사이버 위협 동향 보고서’에 게재된 ‘머신러닝, AI에 대한 인식도 및 사용 현황 설문조사’에 따르면 머신러닝·AI에 대한 호감도는 ‘좋음’이 48/‘%로 가장 많았으며, ‘보통’과 ‘매우 긍정적’이 각각 25%, 20%로 비슷했다. 사이버 보안에 있어서 머신러닝, AI가 차지하는 비중에 대해 ‘중요하게 사용될 것’과 ‘매우 중요하게 사용될 것’이 각각 46%, 31%, ‘보통’이 18%였다.
머신러닝 또는 AI가 탑재된 보안 제품에 대한 신뢰도는 ‘신뢰’가 46%, ‘매우 신뢰 또는 보유’가 14%, ‘보통’이 32%로 나타났다. AI가 보안인력의 일자리에 미칠 영향에 대해 묻는 질문에서는 ‘큰 영향’이 41%, ‘매우 큰 영향’이 33%, ‘보통’이 19%로 나타나서 대체적으로 임팩트가 클 것으로 예상했다.
머신러닝이나 AI 기술이 적용되면 유용할 것 같은 사이버 보안 분야로는 악성코드 분석이 63%로 가장 많았고, 취약점 분석과 디도스 대응이 45%, 44%로 나타났다.(복수 응답) 또한 머신러닝이나 AI 기술 발전에 가장 필요한 기술/분야로는 ‘양질의 데이터 수집/가공 기능’이 42%로 가장 많았다.
지금까지 사용해본 머신러닝 또는 AI 기술이 적용된 보안 제품 수를 묻는 질문에는 0개, 1개, 2개로 답한 응답자가 거의 동일하게 25% 정도로 나타났다.
한편 지금까지 머신러닝/AI 기술이 적용된 공격을 당하거나, 보안 제품이 이를 방어해준 경험을 묻는 질문에는 ‘없다’가 86%를 차지했다. 더불어 AI 활용 보안 제품을 사용해 본 사람들은 오탐·오작동 및 전문 인력 부족 등의 문제가 있다고 답했으며, 경험해 보지 않은 사람들은 개인정보 유출 및 악용 가능성을 지적했다.
또한 수집되는 데이터가 부족하다는 점, 개인정보 보호의 취약점, 기술 적용의 어려움도 지적됐으며, AI가 학습하는 속도보다 악성코드 변형 속도가 더 빠르다는 점을 우려하며 기술적 신뢰도가 아직 낮다고 평가했다. 또한 잘못된 학습으로 인한 오탐, 돌발상황 대처 능력이 낮다는 점, 보안 인력의 일자리 감소, 낮은 접근성 등이 우려된다고 평가했다.
