AI 내레이터와 그럴듯한 근거 담은 영상으로 거짓 선동 시도
[데이터넷] 중국이 AI를 이용해 사이버 여론전을 적극 펼치고 있다. 호주 전략 정책 연구소(ASPI)가 유튜브를 중심으로 전개되고 있는 친중·반미 성향 여론전 ‘그림자 놀이(Shadow Play)’를 분석한 보고서를 통해 중국 배후로 의심되는 조직이 생성형 AI를 사용해 신뢰할 수 있는 것처럼 보이는 가짜뉴스 동영상을 유포하고 있다고 밝혔다.
ASPI는 지난해 중반부터 친중·반미 성향의 내용을 담은 유튜브 동영상 4500여개가 30개 이상 채널을 통해 게시되고 있다고 밝혔다. ASPI가 집계한 채널의 구독자는 73만명, 조회수는 1억2000만여회가량 된다.
이들이 주로 다루는 주제는 미-중 기술전쟁과 미국과 중국의 기업에 대한 내용으로, 미국이 붕괴하고 있으며 동맹이 균열되고 있고, 미국 달러와 미국 경제는 약하다는 주장과 애플, 인텔 등 미국 기술 기업에 대한비판과 허위 정보를 게시하고 있다.
더불어 희토류 및 주요 광물 경쟁에서 중국이 승리하고 있다, 중국이 대규모 인프라를 제공할 능력 있고 신뢰할 수 있는 국가다, 중국과 러시아가 지정학적 관점에서 책임감 있고 유능한 플레이어다 등의 주장을 담고 있다.
이들은 영상의 신뢰를 높이기 위해 생성형 AI를 사용하는 것으로 보인다. 이들은 소셜 미디어에서 설득력을 얻을 수 있는 콘텐츠를 만들고, 생성형 AI를 이용한 음성과 영상으로 믿을 수 있는 영상인 것처럼 꾸민다.
중국 텐센트 자회사 소고우(Sogou)가 만든 아바타를 사용하는 유튜브 계정도 발견했는데, 중국 기업의 AI 아바타를 이용해 영상의 신뢰를 높이기 위한 것으로 보인다. 내레이터가 주장을 펼치면 그 주장을 뒷받침하기 위한 영상과 자료가 화면에 펼쳐지는데, 영상의 스타일이나 길이는 유튜브 시청자들이 선호하는 것에 맞춰져 있어 더 많은 조회수를 노리는 것으로 보인다.
많은 비영어권 콘텐츠 채널 활동할 것으로 예상
중국 기반 공격자들이 동영상이나 SNS를 이용한 여론전을 오래 전부터 펼치고 있다. 지난 미국 대선에 영향을 미치기 위해 활동한 ‘드래곤브릿지’의 경우, 미국 유권자들에게 투표할 필요가 없다는 내용의 영상을 만들어 유포하면서 인플루언서의 참여를 유도했다.
이번 캠페인은 많은 조회수와 구독자가 있으며, 동영상 제작을 위해 미국과 캐나다 기업으로부터 돈을 받은 채널도 있으며, 그 외에도 수익을 창출하고 있는 것으로 보인다. 구독자와 조회수를 인위적으로 높이는 속임수를 사용했을 수도 있지만, 실제 시청자로 보이는 댓글이 있는 것으로 보아 조회수와 구독자도 상당히 확보한 것으로 보인다. ASPI는 이 네트워크에 속하는 비영어권 콘텐츠 채널이 더 많을 것으로 예상하고 있다.
ASPI는 구독자와 조회수가 많다는 것 만으로 위협이 되는 것은 아니라고 설명했다. 소셜 미디어에서 트롤링, 위협, 괴롭힘을 가하는 중국 인플루언서들은 표적이 되는 사람을 침묵시키고 심리적 피해를 입히기 위해 활동하는 것이 많기 때문이라고 덧붙였다. 그러면서 이번 작전은 온라인 공간에서 정확한 정보를 전달하는 콘텐츠가 덜 노출되도록 하거나, LLM 등을 위한 데이터세트를 오염시키는데 사용하기 위한 것일 수 있다고 추측했다.
이 동영상이 중국 관영 언론매체와 온라인 인플루언서 등에서 인용하면서 영향력을 더 높이고 있어 주의할 필요가 있다. 예를 들어 이란이 중국에서 제공한 위성 시스템을 가동했다는 거짓 정보가 유튜브에 게시된지 몇 시간만에 X 등 SNS에서 주목받기 시작했다.
한편 ASPI는 섀도우 플레이 네트워크 활동중인 채널과 19개가 커뮤니티 가이드라인 위반 스팸, 오해의 소지가 있는 콘텐츠 등의 이유로 삭제됐다고 밝혔다.
