네트워크 보안을 위한 가장 기본적인 장비인 네트워크 방화벽은 시장이 충분히 성숙돼 큰 변화를 보이기 힘든 분야다. 하지만 네트워크 방화벽 부문에서도 새로운 혁신이 예고되고 있다. 사이버 공격의 고도화로 인해 기존 포트, 프로토콜 기반의 방어의 한계가 속속 드러나고 있기 때문이다.
다양한 분야에서 새로운 보안 요구가 급증하고 있는 가운데 전통적 보안 솔루션인 방화벽 분야에서의 변화가 주목된다. 방화벽은 화재가 발생했을 때 확산을 방지하는 차단벽처럼 허가받지 않은 사용자나 트래픽이 내부로 침투해 문제를 일으키는 것을 방지하기 위해 등장, 지금까지 가장 필수적인 보안 장비로 자리해 왔다. 인터넷과 같은 공중망을 이용할 때 인증되지 않은 사용자의 불법적인 접근 시도를 차단, 외부 위협으로부터 기업 네트워크를 보호하는 역할을 수행하면서 방화벽은 IT 보안의 역사와 궤를 같이 한다.
애플리케이션 인지·제어 ‘부상’
가장 먼저 등장한 기초 보안 솔루션이지만, 방화벽은 사실 기술 진화의 폭은 넓지 않았다. 포트와 프로토콜을 기반으로 사전 정의된 정책에 따라 허용/거부를 결정하는 비교적 단순한 형태가 지금까지 유지되고 있는 것이다. 상위 계층 정보를 바탕으로 세션 연결부터 종료까지 접근제어를 수행함으로써 빠른 성능과 보다 정교한 보안이 가능하게 만든 스테이트풀 인스펙션(Statful Inspection) 기술이 등장해 한 단계 진전을 이뤄냈지만, 이 또한 오래 전 일이다.
그렇지만 최근 높아지는 사이버 위협은 방화벽에게도 변화를 요구하고 있다. 페이스북, 트위터 등 소셜 네트워크 서비스의 확대, 웹 2.0 등의 환경 변화는 단순히 IP 주소, 포트 및 프로토콜을 차단하는 것을 넘어 더욱 어려워진 보안 문제 해결을 요구하고 있기 때문이다. 특히 더 많은 애플리케이션이 HTTP, HTTPS 등 제한된 포트와 프토토콜을 통해 이뤄지고 있어 포트/프로토콜 기반으로 정책을 적용하는 방화벽의 한계가 드러나고 있다.
대표적인 사례는 바로 P2P(Peer to Peer)다. 사용자의 PC끼리 직접 연결하고 검색할 수 있게 해 모든 참여자가 공급자인 동시에 수요자가 되도록 하는 P2P는 내부 네트워크에 저장된 정보가 유출될 수 있는 위험을 가져올 가능성이 높다고 지적된다. 또 P2P는 악성코드 감염 경로로 이용될 수 있으며, P2P에서의 과도한 네트워크 리소스 점유로 인해 다양한 문제를 야기시킬 수 있다. 또한 봇넷을 활용한 위협의 경우, 방화벽은 무용지물이며, 최근 포트를 임의로 변경하는 애플리케이션의 경우에도 포트 기반의 차단을 수행하는 방화벽의 한계를 더욱 뚜렷하게 하고 있다.
이에 오늘날 자주 이용되는 애플리케이션 중 60% 이상이 기존 보안장비로는 제어할 수 없다는 조사 결과도 발표되고 있으며, 가장 기초적인 필수 보안 솔루션인 방화벽에서 애플리케이션을 인지, 제어해 보안 강화를 이뤄내야 한다는 요구가 대두되고 있다. 애플리케이션의 취약점을 겨냥한 공격이 더욱 기승을 부리고 있는 현실에서 애플리케이션 오용을 인지, 방어할 수 있는 능력이 방화벽에 요청되고 있는 것이다.
일례로 시장조사기관인 가트너는 2009년 말 발표한 보고서를 통해 “기존 방화벽은 상태기반 프로토콜 필터링, 제한된 애플리케이션 인식과 같은 기반 기술의 한계로 인해 현재 진행되는 위협이나 새롭게 부각되고 있는 위협에 대해 효과적으로 대응하지 못하고 있다”며 “봇넷이나 타깃형 공격 등 새로운 공격을 효과적으로 차단하려면 방화벽이 진화해야 한다”고 언급한 바 있다.
가트너가 언급한 차세대 방화벽의 조건은 ▲패킷 필터링, NAT(Network Address Translation), 상태기반 프로토콜 검사, VPN 기능 등 제1세대 방화벽 표준기능 ▲취약점을 방어하는 시그니처와 위협에 대응하는 시그니처를 함께 지원하는 등 IPS와의 진정한 기능 통합 ▲애플리케이션 인지하고, 포트 및 프로토콜과는 독립적으로 애플리케이션 레이어에서 네트워크 보안 정책 가동 등 애플리케이션 인지 및 전체 보안 솔루션에 대한 가시성 확보 ▲방화벽 이외의 소스로부터 정보를 습득해 차단에 대한 의사결정 향상과 같은 방화벽 이외의 인텔리전스 등을 꼽았다. 핵심은 애플리케이션 제어다. 애플리케이션을 사용자 기반으로 정교히 인지, 제어할 때 보안 수준은 한층 제고될 수 있다는 것이다.
애플리케이션 제어 방화벽 속속 등장
애플리케이션 제어의 요구가 높아지면서 이에 부응하는 솔루션도 속속 등장하고 있다. 미국 팔로알토네트웍스가 유퀘스트 등을 통해 국내 시장에 ‘PA 시리즈’를 공급, 빠르게 시장 확산을 재촉하고 있는 가운데 전통적인 방화벽 시장 강자들도 속속 이 대열에 합류하고 있다.
‘차세대 방화벽’을 슬로건으로 내세운 팔로알토 PA시리즈는 L3~4 단에서 동작했던 기존 방화벽과 달리 L3~7 레벨까지 지원해 콘텐츠 제어, SSL 트래픽 인스펙션 등의 기능을 제공할 수 있다는 점이 최대의 장점이다. 이를 기반으로 모토로라, 이베이, 퀄컴, US셀룰러 등 굴지의 글로벌 기업에 공급돼 활용되고 있으며, 국내에서도 안철수연구소의 보안 관제 서비스에 주축 솔루션으로 활용되는 것을 비롯해 대학, 기업 시장에 레퍼런스를 확보하고 있다.
애플리케이션 제어 기능의 차세대 방화벽이 주목받음에 따라 주니퍼, 시스코, 체크포인트 등 전통적 강자들도 2010년 새롭게 라인업을 정비하고 시장 공략에 나섰다. 넷스크린 인수 이후 전세계 방화벽 시장 1위 자리를 놓치지 않고 있는 주니퍼는 고성능 방화벽인 ‘SRX 서비스 게이트웨이’에 애플리케이션 유형과 사용량에 대한 상세한 정보를 제공하는 ‘앱트랙’을 추가했으며, 체크포인트도 ‘애플리케이션 콘트롤 소프트웨어 블레이드’를 출시, 하는 등 애플리케이션 인지, 제어에 대한 시장 요구에 부응하고 있다.
애플리케이션 인지, 제어에 대한 요구는 통합의 이슈에도 영향을 미치고 있다. 기존 방화벽의 기술 진화가 정체된 상태에서 네트워크 보안 시장에서는 ‘통합’이 화두의 역할을 해왔다. 통합위협관리(UTM)의 대두가 그것이다. 방화벽을 중심으로 IPS, 안티바이러스 게이트웨이 등을 결합한 UTM은 도입비용 절감, 관리 편의성 향상 등의 이점을 앞세워 빠르게 시장을 잠식했다.
UTM은 2008년 말부터 확장성을 더욱 강화한 XTM(eXtensible Threat Management)으로 진화하고 있는 상황이다. ‘확장형위협관리’로 번역되는 XTM은 UTM보다 자유로운 확장성을 제공할 수 있는 점이 특징적으로 기존 UTM이 방화벽, 침입방지시스템(IPS), 가상사설망(VPN), 안티바이러스 등 제한된 몇몇 기능의 통합에 그쳤다면, XTM은 웹 애플리케이션 방화벽(WAF), 정보유출방지(DLP) 등까지 사용자 선택적으로 활용할 수 있도록 확장성을 더욱 강화한 점이 특징적이다.
UTM, XTM은 통합 솔루션이지만 중심은 방화벽이라고 말할 수 있다. 통합 솔루션이지만 성능상의 이슈로 방화벽과 더불어 IPS, VPN 등의 기능을 함께 사용하는 것이 일반적인 추세이기 때문이다. 더불어 미드레인지를 석권한 통합장비 솔루션은 하이엔드 방화벽 시장에 강력한 도전장을 내밀고 있는 상황이다. 따라서 UTM에서도 방화벽의 기술 흐름에 맞춘 진화에 요구된다.
UTM의 대명사격인 포티넷도 애플리케이션 인지, 제어 능력이 자사의 솔루션에 이미 포함돼 있음을 강조한다. 포티OS 4.0에서 애플리케이션 제어 기능을 기본 기능으로 탑재해 제공하고 있다는 것. 포티OS를 탑재한 포티넷 ‘포티게이트’는 MSN과 같은 인스턴트메신저, P2P 프로그램 등 애플리케이션 제어가 가능하다.
체크포인트의 소프트웨어 블레이드 또한 XTM의 개념에 맞춤화된 솔루션으로 동일한 하드웨어에 어떤 소프트웨어 블레이드를 탑재하는가의 여부에 따라 자유롭게 사용할 수 있다. 앞서 언급처럼 체크포인트는 애플리케이션 컨트롤 소프트웨어 블레이드를 출시하고 있으며, 이는 애플리케이션 제어가 네트워크 보안 시장의 화두가 되고 있음을 보여준다.
국내 기업의 경우에도 애플리케이션 제어는 미룰 수 없는 과제다. 안철수연구소가 통합형 네트워크 보안 솔루션인 트러스가드의 다음 버전인 트러스가드 v.3.0에서 애플리케이션 제어 기능을 탑재할 계획을 갖고 있는 등 대응에 나서고 있다. 더불어 IPS 진영에서도 HP 티핑포인트가 애플리케이션 제어 기능을 제공하는 등 애플리케이션 제어는 시장의 화두가 되고 있다.
올해 10Gbps급 고성능 제품에 대한 수요가 더욱 높아질 것으로 예상되는 가운데 성능이 담보된 애플리케이션 제어 능력이 시장 경쟁의 키가 될 전망이다.
