그림자 AI, 1,267조 위협…美 CISO의 90일 방어 전략이 통했다

엔터프라이즈 AI 시대에 접어들며 보안 책임자들의 새로운 골칫거리로 떠오른 그림자 AI(Shadow AI)가 기업 내부 데이터를 위험에 빠뜨리고 있다. 자칫 한 명의 직원이 승인되지 않은 AI 도구에 고객 정보를 입력하는 것만으로도 수조 원의 자산을 위험에 빠뜨릴 수 있는 상황에서, 미국 자산운용사 클리어워터 애널리틱스의 최고정보보안책임자(CISO) 샘 에반스는 단 90일 만에 ‘완전 방어’ 체계를 구축하며 눈길을 끌고 있다.

에반스는 지난 2023년 10월, 자사 이사회에서 “직원이 고객 데이터를 우리가 통제하지 않는 AI에 입력하는 것이 가장 최악의 시나리오”라고 강조했다. 이 데이터는 AI 학습에 사용되어 결과적으로 기업의 자산 8.8조 달러(약 1,267조 원)를 위험에 빠뜨릴 수 있다. 이에 따라 그는 단순한 우려 제기가 아니라 구체적인 해법을 제안했고, 엔터프라이즈 브라우저 ‘아일랜드(Island)’ 도입을 통해 실제 방어망을 구축하는 데 성공했다.

그는 처음엔 아일랜드의 “몇 주 내 배포”라는 설명을 믿지 않았다. 그러나 이는 그에게 개인적인 도전 과제로 받아들여졌고, 결국 2024년 4월부터 확장 프로그램 형태로 200명 규모의 시범 운영을 시작해 7월 이사회에 성공적으로 시연을 마쳤다. 실제로 직원이 ChatGPT에 데이터를 붙여넣으려 하면 “Island 정책에 의해 차단되었습니다”라는 메시지가 나타났다. 생산성은 유지하되, 기업의 기밀정보 유출은 철저히 차단한 것이다.

에반스는 “그림자 AI는 단순히 차단한다고 끝나는 문제가 아니다”라며 “직원들이 새로운 AI 툴을 찾아와 보안팀에 소개하고, 이를 어떻게 고객에게도 활용할 수 있을지를 논의하는 구조가 되어야 진정한 해결책”이라고 강조했다. 나아가 조직 내에서 딥페이크와 같은 최신 위협을 막기 위해 '2인 확인 시스템'과 같은 인간 중심의 대응전략까지 함께 구사하고 있다.

그림자 AI는 더 이상 일부 기업만의 문제가 아니다. 프롬프트 시큐리티 CEO 이타마르 골란은 “우리는 하루에 50개의 신규 AI 앱을 보고 있다”며, 이제까지 1만2,000개 이상을 카탈로그화했다고 밝혔다. 벤처비트 분석에 따르면 주요 컨설팅 기업들만 따져도 현재 7만4,500개 이상의 그림자 AI 앱이 활성화돼 있고, 매월 5%씩 증가하는 속도라면 2026년에는 16만 개에 육박할 전망이다.

이 같은 현실에 대처하기 위해 보안 벤더들은 네 가지 전장으로 재편되고 있다. 아일랜드나 구글 크롬 엔터프라이즈 같은 엔터프라이즈 브라우저는 전방위 억제력을 강화하고 있으며, 넷스코프와 지스케일러 같은 SASE 플랫폼은 클라우드 기반에서 수십억 건의 트랜잭션을 분석한다. 반면 포스포인트나 마이크로소프트 퓨리뷰 같은 전통 DLP 벤더들은 유연성이 떨어져 기민한 대응이 어렵다는 한계를 드러낸다. 이 틈새는 이반티 뉴런즈나 나이트폴 같은 전문화된 솔루션이 메우고 있다.

기존의 제어 중심 접근 방식은 이제 한계에 도달했다. 윈와이어의 CTO 비닛 아로라는 “AI 사용을 전면 금지하면 직원들은 비공식 채널로 우회할 뿐이며, 이는 보안위험을 오히려 키운다”고 지적했다. 따라서 각 조직은 생산성과 통제를 동시에 고려한 전략적 프레임워크를 마련해야 한다.

그림자 AI는 이제 해묵은 사이버보안 위협보다 더 현실적이고 복잡한 ‘기회이자 위협’이다. 에반스의 사례가 보여주듯, 조직 전체가 위험의 본질을 이해하고 제어 방안을 제도화하는 것이 가장 시급한 과제가 되고 있다.