구독형 AI 공격도구, 진보한 AI 보안 기술로 방어해야
[데이터넷] “네 딸을 납치했다. 목숨을 살리고 싶으면 10억을 준비하라.”
자녀 납치 협박을 위장해 돈을 갈취하는 내용의 보이스 피싱은 이미 고전적인 협박범죄로 인식되고 있지만, AI가 협박에 이용되면서 또 다른 차원의 위협이 되고 있다.
공격자가 AI를 이용해 자녀의 목소리와 화법을 익힌 후 자녀가 울거나 비명을 지르고 고통을 받는 것과 같이 연출한 딥페이크 영상을 부모에게 보내면서 협박을 한다. 피해자 휴대폰 SIM 재킹으로 공격자 외에 다른 사람과 통화하지 못하게 하면 공포에 질린 부모는 자녀를 구하기 위한 '유일한' 선택을 할 수밖에 없다.
트렌드마이크로는 이와 같은 ‘가상납치(Virtual Kidnapping)’ 공격의 위험성을 경고하는 보고서를 공개하고, 딥페이크로 알려진 AI 음성 복제 기술과 생성형AI가 이러한 사기를 더욱 그럴듯하게 만들 것이라고 밝혔다. 생성형AI는 대량의 데이터 세트를 필터링하고 융합해 피해자를 선정하는 데 이용되며, 딥페이크 기술은 범죄자들이 피해자들을 속이고 자녀가 납치되었다고 믿게 만들어 몸값을 요구하는 데 사용된다.
AI 이용 공격 대응 방안 시급
이미 오픈소스 생성형 AI 플랫폼에 웜GPT(WormGPT)와 프로드GPT(FraudGPT) 같은 악성 AI 도구가 구축돼 사이버 범죄의 확산을 촉진하고 해커들의 생산성과 공격 성공률을 높이는 데 이용되고 있다.
생성형AI는 ▲악성 다형성(polymorphic) 코드 개발 ▲탐지 가능성이 더 낮은 멀웨어 생성 ▲BEC를 위한 설득력 있는 다국어 피싱 메시지와 웹페이지, 스캠 메일 작성 ▲해킹 도구 제작 ▲취약점 탐색 ▲코딩·해킹 방법 학습 지원 ▲사기에 악용될 수 있는 카드 데이터 탐색 등 다양한 공격도구 제작을 위해 사용되고 있다.
이러한 기능은 악의적인 개발자에 의해 지속적으로 고도화되고 있으며, 구독 기반 요금제로 제공돼 진입 장벽을 더욱 낮춘다. 이 같은 악성 AI 개발과 배포는 이로 인한 실제 피해가 발생하기 전에 사이버 공격 위협을 조기에 탐지하고 대응해야 한다는 조직 보안팀에 대한 압박을 가중하고 있다.
존 클레이(Jon Clay) 트렌드마이크로 위협 인텔리전스 부문 부사장은 “AI 도구를 이용해 공격자들이 기업 보안의 허점을 파고들고 있다. 트렌드마이크로는 자체적인 AI를 이용해 공격표면위험관리(ASRM)와 XDR, 혁신적인 연구 결과를 토대로 이러한 위협을 완화하는 데 앞장서고 있다”고 말했다.
생성형AI 이용 SOC 보안 대응 속도 높여
트렌드마이크로의 통합 사이버 보안 플랫폼 ‘트렌드 비전 원(Trend Vision One)’은 자체 생성형 AI를 ‘컴패니언(Companion)’ 가상 어시스턴트 형태로 활용해 보안운영센터(SOC) 분석가들이 AI 기반 공격의 속도와 다형성에 대응할 수 있도록 지원한다.
비전 원은 경보에 대한 사용자의 원활한 이해를 돕는 워크벤치 기능을 제공해 위협 조사에 소요되는 시간을 줄이고, 경보당 평균 3분을 절감하며 일주일에 수 시간을 아낄 수 있게 한다.
커맨드 라 기능으로 복잡한 스크립트를 간소화해 분석가의 시간을 절약한다. 사용자는 수동 검색이나 전문 도구 사용 시보다 최대 40분의 생산성 향상을 얻을 수 있다.
검색 쿼리 생성기는 사용자가 필드 이름과 연산자, 값을 찾는 데 적합한 검색 쿼리를 작성하도록 도와 최대 1시간을 절약할 수 있게 한다.
한편 트렌드마이크로는 올해 상반기 730억여건의 위협을 차단했으며, 이는 전년 대비 약 16% 증가한 수치이다. 이러한 결과는 트렌드마이크로의 고도화된 위협 탐지 능력을 입증하는 동시에 오늘날 사이버 보안 위협 환경의 방대한 규모를 보여준다.
트렌드마이크로는 2005년부터 BEC 공격을 탐지하도록 설계된 도구 등 AI 기반 솔루션 개발에 앞장서 왔다. 클라우드 앱 보안 플랫폼에 포함된 ‘라이팅 스타일 DNA(Writing Style DNA)’ 기능은 사용자의 이전 메시지에서 ‘통상적인’ 이메일 작문 스타일을 학습해 이메일이 이 기준에서 벗어날 때 플래그를 표시한다. 이러한 방식을 통해 2022년 한 해 동안 13만 건 이상의 BEC 공격을 차단했다.
