2019년 가장 주목해야 할 보안 분야는 AI가 될 것이다. 보안 기술은 AI를 이용해 폭발적으로 증가하는 신종 공격도구와 공격기법을 찾아내고 대응하고 있다. AI는 보안 기술을 한 차원 높은 단계로 발전시켰지만, 공격자도 AI를 이용해 한 단계 더 지능화된 공격을 펼치고 있다는 아이러니한 상황도 발생하고 있다.
지하세계에서는 이미 신종 악성코드를 개발하는 자동화된 도구가 사용되고 있는데, AI를 이용해 보안 탐지를 우회하는 더욱 더 지능적인 악성코드도 등장할 것으로 예상된다. 한국인터넷진흥원(KISA)과 안랩, 이스트시큐리티, NSHC, 하우리, 잉카인터넷, 빛스캔 등 보안기업들이 참여하는 ‘사이버위협 인텔리전스 네트워크’가 공동으로 발표한 ‘2019년 주목해야 할 7대 사이버 공격 전망’에서는 “공격자와 방어자 간 쫓고 쫓기는 추격전은 2019년에도 계속될 것으로 보인다. 특히 AI 기술을 활용해 기존 악성 행위 탐지를 교묘하게 우회하는 지능화된 보안 위협들이 증가할 것”이라고 내다봤다.
이스트시큐리티 시큐리티대응센터(ESRC)가 발표한 ‘알약 2019년 보안 위협 전망’에서도 동일한 주장을 펼쳤는데, “악성코드 분석 및 모니터링 방해, 다형성 악성코드 제작, 보안 솔루션 우회 등을 위해 공격자들도 AI를 이용한 진화된 공격을 시도할 것”이라고 지적했다.
적대적 머신러닝 이용한 보안 우회 공격 등장
AI 기반 자동화된 시스템이 네트워크와 시스템을 뒤져 아직 발견되지 않았지만 악용될만한 취약점이 있는지 찾을 수 있다. 가짜 동영상이나 오디오, 이메일을 이용해 타깃 사용자를 교묘하게 속이는데 AI를 사용할 수 있다.
이글루시큐리티는 공격자들이 이용하는 AI를 ‘적대적 머신 러닝(Adversarial machine learning)’이라고 소개했다. 새로운 방어기법을 우회하기 위해 AI 기술을 사용하고 있다고 지적했다.
공격자들이 AI를 사용하는 방법은 지능화된 공격도구를 개발하는 것 뿐 아니라 자동으로 표적을 선정하고, 대상 네트워크 취약점을 스캔하며, 감염 환경의 상태 및 대응력을 평가하면서 사전에 공격이 탐지되지 않도록 하는 것 까지 다양한 분야에 이른다. 맥아피 보고서에서 이와 같은 점을 지적했으며 “사이버 범죄자들이 AI 등 여러 기술에 손쉽게 접근할 수 있게 되면서 정교한 회피 기법을 이용한 사이버 공격이 개발될 것”이라고 설명했다.
AI 시스템과 데이터를 직접 노리는 공격이 발생할 가능성도 배제할 수 없다. 기업/기관에서 사용하는 AI 시스템에는 비즈니스 통찰력을 갖게 하는데 도움을 주는 다량의 양질의 데이터가 대거 쌓여있다. 이러한 데이터는 지하시장에서도 상당히 고가로 판매될 수 있기 때문에 공격 대상에서 제외될 수 없다.
AI는 대규모 양질의 데이터를 확보해 학습하는 것이 관건인데, 오염된 데이터를 학습시켜 AI 시스템에 오작동을 일으킬 수 있다. AI 스피커가 잘못된 언어를 학습해 욕을 하고 인종비하 발언을 하는가 하면 반인륜적인 명령까지 내리는 사례가 종종 보고된다.
만일 비즈니스 의사결정을 위한 AI 시스템이 학습하는 데이터가 잘못돼 시장의 요구와 완전히 반대되는 의사결정을 하도록 결과를 도출하거나 경쟁사 지적재산을 도용하도록 해 소송에 휘말리도록 하는 등의 공격이 발생할 가능성도 매우 높다.
시만텍은 “AI 시스템 로직을 손상시키고 운영에 영향을 미칠 수 있는 악성코드가 등장해 AI 시스템이 공격을 받을 수 있다. 또한 AI 시스템에서 중요한 데이터를 탈취하는 공격도 나타날 것”이라고 내다봤다.
공격자보다 진화한 AI로 대응
현재 AI 이용 공격을 막을 수 있는 유일한 방법은 공격자보다 진화한 AI를 사용하는 것이다. AI의 부작용이 우려된다며 AI를 보안에 활용하지 않는 것은 어리석은 일이다. 공격자들은 AI를 활용해 지능적으로 자동화된 공격을 양산해내는데, 보안은 수작업으로 그 모든 공격을 탐지하고 막아낼 수는 없다.
다행인 것은 공격자가 공격을 위해 수집할 수 있는 AI 데이터는 아직 부족하다는 점이다. 보안조직에서 더 많은 데이터를 이용해 분석하고, 공격 탐지에 최적화된 AI 알고리즘을 찾아 접목시키면서 지속적인 학습을 통해 고도화하는 것을 계속해 공격자와의 기술 격차를 크게 벌여놓아야 한다.
AI 기반 보안 탐지 시스템은 공격자들이 AI를 이용해 시스템과 네트워크에서 취약점을 찾는 행위를 선제적으로 탐지해 차단한다. 또한 전사 IT 시스템에서 취약점을 찾아 제거하는 것도 AI를 이용해 자동화하며, AI를 이용한 침투테스트를 이용해 발견되지 않은 취약점을 찾아낼 수 있다.
시만텍은 AI를 이용한 보안 기술의 진화를 소개하면서 더불어 개인정보 보호 기술도 AI를 이용할 수 있다고 조언했다. 예를 들어 AI가 휴대폰에 내장되어 만약 특정 행동이 위험한 경우 사용자에게 이를 경고할 수 있다. 새로운 이메일 계정을 설정할 때 휴대폰은 자동으로 이중인증을 설정하라고 경고할 수 있다. 사용자의 다양한 IoT 기기, 스마트홈, 스마트시티 등에서 이와 같이 보안 설정을 지능화·자동화하는데 AI가 사용될 것으로 보인다.
