AI 기반 허위정보, 국가 주도의 ‘디지털 선전전’ 본격화

각국 정부가 인공지능(AI)을 이용해 허위정보를 확산시키고 있으며, 이는 자유민주주의의 근간인 자유로운 사고와 선거의 공정성을 위협하는 새로운 형태의 권력 남용이라는 경고가 제기됐다.

11일(현지시간) 크립토슬레이트에 따르면, 버티컬스튜디오AI(Vertical Studio AI) 창립자 마누크 테르마텐(Manouk Termaaten)은 기고문을 통해 "AI 기술이 전 세계적으로 권위주의적 선전 수단으로 악용되고 있다"고 밝혔다. 그는 국가들이 국민과 해외 시민을 혼란에 빠뜨리기 위해 생성형 AI를 활용해 허위정보를 대규모로 퍼뜨리고 있으며, 이는 개인의 자유와 국가 주권을 심각하게 침해하고 있다고 지적했다.

실제 타이완은 2025년 들어 페이스북과 틱톡을 중심으로 50만 건 이상의 논란성 게시물이 발견됐으며, 대부분이 중국발로 추정된다고 국가안보국이 밝혔다. 해당 기관은 중국 공산당이 AI 기술을 통해 타이완 사회를 분열시키려는 의도로 조직적인 정보 조작을 벌이고 있다고 보고했다.

이러한 사례는 타이완뿐 아니라 전 세계에 퍼져 있다. 2024년 러시아는 ‘프라우다 네트워크(Pravda Network)’를 통해 360만 건 이상의 허위 기사를 생성, 온라인에 배포했다. 이 과정에서 AI 모델 자체를 친러 성향으로 왜곡시키려는 시도가 있었다는 분석도 나온다.

중국은 2024년 타이완 총선 당시에도 AI 기반 딥페이크 영상을 제작해 허위 사실을 유포했으며, 마이크로소프트는 이를 ‘국가 주도의 첫 외국 선거 개입 사례’로 규정했다. 이란은 2020년 미국 대선에서 AI 트롤 계정을 활용해 표적형 허위정보 캠페인을 벌였으며, 당시 두 명의 이란인은 사이버 범죄로 기소되기도 했다.

베네수엘라 정부는 2023년 가짜 영어 뉴스 채널을 개설해, AI가 생성한 뉴스 앵커와 딥페이크 영상을 활용한 친정부 선전 콘텐츠를 유포했다. 슬로바키아에서는 같은 해 총선 직전, 야당 지도자와 언론인이 선거 조작을 논의하는 것처럼 조작된 음성 파일이 확산되며 여론에 큰 영향을 끼쳤다.

중국은 역으로 미국이 ‘인지전(cognitive warfare)’을 주도하며, AI 기반 봇 네트워크로 중국을 음해하는 허위정보를 유포하고 있다고 주장했다.

이처럼 AI를 활용한 국가 주도의 정보 조작은 진실에 기반한 자유 시장을 위협하며, 사회적 토론을 억제하고 정치적 담론을 특정 서사로 일원화하는 결과를 초래할 수 있다. 이는 단순한 정보 왜곡을 넘어, 개인의 사고를 강제하고 권위주의적 통제를 강화하는 수단이 될 수 있다는 점에서 경고음이 커지고 있다.

테르마텐은 “국가는 이제 자국민뿐 아니라 외국 시민의 인식까지 조작할 수 있는 도구를 가졌으며, 이는 전체주의로 가는 미끄러운 경사길”이라며 “허위정보는 일종의 강요이며, 시민들은 이러한 기만적 전술을 간파하고 경계해야 한다”고 말했다.