러시아의 사이버 공격조직 APT28이 생성형 AI 기술을 악용해 우크라이나를 상대로 정교한 악성코드 공격을 감행하고 있으며, 이 같은 수법이 빠르게 확산되고 있다는 경고가 나왔다. 전문가들은 이제 “중심 방어(Perimeter Defense)”는 무력화됐으며, 국가 지원 해커조직이 아닌 일반 범죄자도 6시간과 250달러만으로 공격 무기를 손쉽게 제작할 수 있는 시대에 진입했다고 경고한다.
사이버보안 전문기업 카토 네트웍스(Cato Networks)에 따르면, 우크라이나 사이버안보센터(CERT-UA)가 최근 처음으로 실전에서 AI 기반 악성코드 ‘LAMEHUG’의 활동을 공식 확인했다. 이 악성코드는 공개 AI 모델 플랫폼인 허깅페이스(Hugging Face)의 API 토큰을 탈취해, 실제 명령어 질의를 통해 실시간 공격을 수행하되 피해자에게는 우크라이나 정부 문서를 위장한 PDF 파일을 보여주는 방식으로 위장을 시도한다.
문제는 이 수법이 러시아 APT28의 고유한 활동이 아니며, 일반 해커들도 이를 손쉽게 모방할 수 있다는 점이다. 카토 소속 보안연구원 비탈리 시모노비치(Vitaly Simonovich)는 미국 라스베이거스에서 열린 블랙햇 2025 컨퍼런스 단독 인터뷰에서 “생성형 AI 툴 대부분은 악의적 명령어 직접 입력은 차단하지만, 우회적인 서사 구조에는 속수무책”이라며 “단 6시간 안에 누구나 오픈AI, 마이크로소프트(MSFT), 딥시크(DeepSeek)의 AI를 크롬 비밀번호 탈취기로 바꿀 수 있다”고 밝혔다.
특히 이번 사례의 핵심이라고 할 수 있는 ‘이머시브 월드(Immersive World)’ 기법은 LLM의 안전 제어 체계를 무력화하는 대표적인 서술 기반 공격 방식이다. 시모노비치는 악성코드를 쓰는 것이 아니라 허구의 소설을 쓰는 것처럼 AI를 속였고, AI는 이를 실제 공격 코드로 완성해냈다. 그는 “AI가 자기가 사이버범죄를 돕고 있다는 사실조차 인식하지 못했다”고 설명했다.
더 큰 위협은 이처럼 성능 제한이나 검열 기능이 제거된 모델들이 underground 마켓에서 실제로 거래되고 있다는 점이다. 시모노비치는 월 250달러(약 36만 원)의 요금으로 악성 코드 개발이 가능한 Xanthrox AI와 Nytheon AI 같은 비인가 AI 플랫폼을 이용해 가상 시연에도 성공했다. 해당 플랫폼은 ‘그 어떤 안전장치도 없이’ 즉각적으로 공격 코드를 생성하거나 심지어 핵무기 제작법까지 검색 후 안내할 정도로 위험 수위가 높았다.
이러한 AI 툴의 보안 결함은 이제 모든 기업의 내부에 이미 존재하는 보안 위협으로 이어지고 있다. 생성형 AI 도입이 확산되면서 지난해 4분기 기준으로 엔터프라이즈 부문에서 챗GPT, 코파일럿, 클로드, 제미니의 사용률이 34~115% 급증한 것으로 집계됐다. 그 중 제미니와 클로드는 각각 2배 이상 활용률이 올랐다. 이른바 생산성 도구로 도입된 AI가 악의적 활용을 통해 무기화될 가능성이 커진 것이다.
이에 비해 AI 기업들의 대응은 지나치게 느슨하다는 평가다. 시모노비치가 확인한 바에 따르면, 딥시크는 전혀 응답하지 않았고, 구글(GOOGL)은 유사 사례가 많다는 이유로 문제 파악을 거부했다. 마이크로소프트만이 문제를 인정한 뒤 특정 패치에 반영했고, 오픈AI는 접수 사실만 회신했을 뿐 추가 대응은 하지 않았다는 전언이다.
이 보고서가 가진 가장 충격적인 메시지는 이렇다. 단 6시간, 그리고 250달러면 누구든지 국가 수준의 사이버 공격을 감행할 수 있을 만큼 진입 장벽이 사라졌다는 것이다. 탈취된 270개의 API 토큰은 우크라이나 공격에 활용됐으며, 이러한 공격이 곧 글로벌 수준으로 확산될 가능성이 충분한 상황이다.
가장 근본적인 문제는 AI 기술을 도입한 기업들이 이중성과 잠재적 악용 가능성에 대한 대비 없이 무분별하게 시스템에 적용하고 있다는 점이다. 시모노비치는 “기존 보안 체계는 AI를 도입하면서 새롭게 등장한 공격 방식을 감지할 수 없다”며 “더 이상 기술적 전문성이 있어야만 사이버 공격이 가능하다는 생각은 착각”이라고 경고했다.
AI 도구는 더 이상 단순한 지원 수단이 아니다. 오늘날의 ‘생산성 툴’들은 이름만 바꾸면 조직 내부에 설치된 무기로 변할 수 있다. 창의력과 월 250달러만으로 사이버전의 문을 열 수 있는 이 새로운 공격 시대에서, 기술과 보안 모두 완전히 새로운 접근법이 요구되는 시점이다.