월 구독 90달러·연간구독 800달러…”AI 이용 공격 지속 발전”
[데이터넷] 서비스형 사이버 범죄(CaaS) 시장에서 생성형AI를 이용한 범죄 서비스 프러드GPT(FraudGPT)가 ‘성업’을 이루고 있다. 보안 업계에 따르면 프러드GPT는 7월 중반부터 지하시장에서 광고를 시작했으며, 월 구독 시 90달러에서 200달러, 연간구독은 800달러에서 1700달러라고 소개한다.
프러드GPT는 탐지 우회 기능을 가진 고급 멀웨어 생성과 배포, 노출된 취약점 스캐닝, 피싱 페이지 제작, 사회공학 기법 공격 등을 제공한다. 프러드GPT 제공자는 데모를 통해 피싱 페이지 생성 예시도 보여준다.
싱텔의 보안 자회사인 트러스트웨이브는 프러드GPT 이전에 이미 2021년 웜GPT(WormGPT)가 활동하고 있었다고 설명한다. 지하 커뮤니티에서도 대규모 언어 모델(LLM)에 관심을 갖고 있었으며, LLM을 이용해 공격하는 방법을 연구하고 있었다고 설명한다.
웜GPT는 오픈소스 대형 GPT-J 언어모델을 활용했으며, 악성코드 개발과 관련된 자료로 훈련을 받았다. 웜GPT는 월 60유로에서 100유로, 혹은 연간 550유로에 서비스를 이용할 수 있다고 소개한다.
한편 트러스트웨이브는 다크넷 포럼에서 AI에 대한 논의가 집중적을 이뤄지고 있다고 설명했다. AI 모델 결과에 영향을 미치거나 결정·답변에 영향을 미치는 솔루션을 찾는 활동이 활발하게 일어나고 있으며 비공개 챗GPT, AI 공격 방법 지침에 대한 AI 리소스 목록 등의 광범위한 정보를 제공한다.
트러스트웨이브는 “공격자들이 사용하는 AI 챗봇은 아직 완벽하지 않을 수 있지만, 어떤 식으로든 생성형 AI가 사이버 범죄자의 손에 들어가 무기가 될 수 있다는 분명한 신호”라며 “다양한 지하 포럼에서 AI와 관련된 토론을 볼 수 있다. 시간이 지나면서 공격 기술은 계속 개선될 것”이라고 경고했다.
