AI 이용 공격 늘면서 포괄적 사이버 보안 중요해져
[데이터넷] 위키피디아와 같은 사이트가 AI 환각 현상의 영향을 받을 수 있다는 경고가 제기됐다.
아크로니스의 ‘2024 보안위협 전망’에서 케빈 리드(Kevin Reed) CISO는 AI의 환각현상을 주의해야 한다고 설명하며 “웹, 포럼, 기업 블로그, SNS에 대형 언어모델(LLM)을 이용하는 생성형 AI가 만든 문자로 가득 찰 것이다. AI 환각현상으로 생성된 글을 구분할 수 없기 때문에 위키피디아와 같은 사이트도 영향을 받을 것”이라고 경고했다.
AI 이용 맞춤형 공격 증가
아크로니스 보고서에서는 AI로 인한 부작용에 대해서 상세히 설명했다. 예를 들어 더 많은 애플리케이션이 사용되는 환경에서 개발자들은 LLM을 사용해 대규모 코드를 생성해 낼 것이며, AI를 이용해 애플리케이션 취약점을 찾아낼 수 있고, AI 어시스턴트에게 분석 업무를 맡길 수도 있다.
그런데 AI가 완전하지 않기 때문에 AI가 찾아낸 취약점이나 잘못된 구성에서 오탐이 있을 수 있으며, 공격자가 악성 소프트웨어를 개발하거나 취약한 코드가 삽입되도록 할 수 있다. LLM은 소프트웨어 개발 의도를 추론하지 않기 때문에 LLM에 대한 보호조치를 취한다 해도 우회해서 공격할 방법은 얼마든지 있다.
AI 이용 공격 중 가장 많은 경고가 나오는 것이 피싱이다. 딥페이크, 딥보이스를 이용해 거래대금을 탈취하거나 생체인증을 우회하고, IT 헬프데스크를 속여 비밀번호와 MFA를 재설정해 목표 기업으로 침투한다.
AI를 이용한 맞춤형 공격으로 랜섬웨어 공격이 더 증가할 것으로 보인다. 수작업으로 이뤄지는 랜섬에어 배포를 자동화해 더 많은 기업을 대상으로 공격할 것이다. 일부 랜섬웨어 조직은 프랜차이즈 방식으로 운영돼 더 큰 피해를 일으키고 있다.
지정학적 긴장이 높아지면서 공격자들의 활동 무대가 더 넓어질 것으로 보인다. 국가 배후 사이버 공격으로 중요 인프라의 파괴, 공공 서비스 무력화가 일어날 것이며, 사이버와 인터넷의 군사화가 가속화될 것으로 보인다.
이러한 위협에 대응하기 위해서는 보안과 백업을 통합한 포괄적인 사이버 보호가 중요해진다.
가이다르 마그다누로프(Gaidar Magdanurov) 아크로니스 사장은 “AI를 통해 맞춤화된 대규모 공격을 피하기 위해 다층적인 방어 전술이 표준이 될 것으로 예상된다. 여기에는 취약성 평가 및 패치 관리를 통한 예방, 엔드포인트 탐지 및 대응 솔루션을 통한 탐지, 백업 복구를 포함한 치료, 백업 데이터를 사용한 포렌식 등 다양한 조치를 통합하는 것이 포함된다”고 말했다.
