설명 가능한 AI로 신뢰할 수 있는 AI 보안 만들어야
[데이터넷] 코로나19로 디지털 트랜스포메이션이 가속화되고 있는데, 이로 인해 공격면이 넓어진다는 문제에 직면하게 됐다. 특히 사이버 공격자들이 혁신적인 IT 기술을 이용해 한층 더 진화한 공격을 펼칠 것으로 예상된다. 올해 주목해야 할 보안 이슈와 대응 방안을 제안한다.<편집자>
AI가 사람을 대신하고 있다. SAS의 ‘2021년 데이터 분석 시장 전망’에 따르면 기업의 의사결정 과정의 각 단계마다 사람의 관리 감독 절차를 추가하고 AI 모델을 설명할 수 있게 한다면, 임원들은 AI와 자동화된 의사결정을 받아들일 것으로 예상된다.
AI가 IT와 보안 전문가를 대체할 것이라는 전망도 나왔다. 트렌드마이크로는 전 세계 IT 관리자와 CIO·CTO를 대상으로 한 조사에서 응답자의 41%가 “2030년 AI가 자신의 일을 대신할 것”이라고 답했으며, 32%는 사이버 보안이 완전히 자동화될 것으로 예상했다.
AI는 거의 대부분의 IT·보안에 적용됐으며, 사람들의 일자리까지 위협하는 위치에 놓여있다. AI가 사람의 일자리를 뺏는 것이 아니라, 반복되는 일을 AI가 처리해 사람은 더 고급 분석에 집중하도록 한다고 하지만, 반복되는 업무에 익숙해진 사람들은 일자리에서 쫓겨날지도 모른다고 걱정할 수밖에 없다. 그러나 기계에 일자리를 뺏길 것을 걱정하기보다, 기계가 하지 못하는 일을 할 수 있도록 스스로 전문성을 높이도록 노력하는 것이 더 현명할 것이다.
“기계의 싸움에 사람을 끌어들이지 말라”
공격자도 AI를 이용한다. 공격자는 AI를 이용해 공격도구를 만들고 보안 시스템 우회 기술을 개발하며, 목표에 다가갈 수 있는 방법을 찾아내기도 한다.
공격자는 한 번에 한 사람만 공격하는 것이 아니라 동시에 여러 기업·기관을 공격한다. 공격자는 특정 직군 사람들의 업무 특성, 업무에 사용하는 문서 형태와 포맷, 자주 사용하는 언어, 유관기관 협조 관련 문서 등을 AI가 학습하도록 해 공격에 적합한 악성문서와 메일을 작성하고 배포할 수 있게 한다.
코로나19 초기에 마스크 판매, 백신·치료제 판매, 질병관리본부·WHO 등 신뢰할 수 있는 기관의 협조 요청을 사칭한 메일, 코로나19와 관련된 수많은 도메인이 폭발적으로 증가했는데, 모든 것을 공격자가 수동으로 진행한 것은 아니며, AI와 자동화 툴을 이용했다.
지능적인 대규모 봇넷을 만들어 디도스나 크리덴셜 스터핑 공격을 하는 것도 AI를 이용한다. 취약한 기기 를 자동으로 찾아 감염시킨 후 디도스 공격에 이용하거 나, 탈취한 계정을 온라인 서비스 로그인 창에 입력하 면서 고급 개인정보를 완성해가고 각종 온라인 사기와 피싱 등에 사용한다.
다크트레이스는 “기계의 싸움에 사람을 끌어들이지 말라”고 조언한다. AI에 의한 수많은 공격을 사람이 일 일이 다 막을 수 없다. AI 공격은 AI가 막고, 사람은 더 민감한 의사결정이 필요한 고급 분석에 집중하는 것이 더 효율적이다.
AI 결과 신뢰할 수 있도록 XAI 필요
AI는 모든 행위와 모든 트래픽, 모든 로그를 실시간 혹은 실시간에 가깝게 분석할 수 있으며, 모든 이벤트 의 상관관계를 분석할 수 있다. 사람이 보지 못하는 것을 볼 수 있기 문에 미탐을 줄여나갈 수 있으며, 학습기간이 길어질수록 정탐률도 올라간다.
그러나 AI는 분석 과정을 알려주지 않기 때문에 AI의 탐지가 정확한지 판단하기가 어렵다. 오염된 데이터를 대량으로 발생시켜 AI가 잘못 학습하게 하는 공격이 가능하다. 그래서 ‘설명가능한 AI(XAI)’ 연구가 진행 중이다. “XAI는 학습 과정이 공개돼 결국 패턴 기반 탐지로 축소될 것”이라는 우려도 있지만, AI가 어떤 근거로 결과를 도출했는지 알 수 없으면 그 결과를 온전히 신뢰할 수 없다.
앞으로 AI가 보안에 적용되는 범위는 앞으로 더 넓어 질 것이며, 고급 보안 전문가 수요를 더 높여 보안 산업을 한 단계 업그레이드 할 계기를 만들 수도 있을 것으로 기대된다.
