AI 도입 늘자 보안도 뚫렸다…기업 13%, 데이터 유출 경험

전 세계 기업 중 10곳 중 1곳 이상이 인공지능(AI) 시스템에서 데이터 유출 사고를 경험한 것으로 나타나면서, AI 활용 확산에 따른 보안 관리의 중요성이 더욱 커지고 있다.

IBM은 2025년 8월 21일 발표한 '2025 데이터 유출 비용 보고서'에서 이런 내용을 공식화했다. 이 보고서는 보안 컨설팅 전문기관인 포네몬 인스티튜트가 2024년 3월부터 2025년 2월까지 세계 600개 기업과 조직을 대상으로 조사한 결과를 바탕으로 작성됐다. 조사 대상 기업 가운데 13%는 AI 모델 또는 애플리케이션에서의 데이터 유출 사실을 인지했고, 8%는 자사 AI 시스템의 침해 여부조차 파악하지 못하고 있다고 응답했다.

특히 침해를 경험한 조직의 대부분인 97%는 AI 접근 권한 관리가 부실했던 것으로 나타났다. 이처럼 접근 제어가 미흡한 상황에서는 AI 기반 시스템이 해킹당할 가능성이 높아지며, 실제로 이들 기업의 60%는 데이터 유출로, 31%는 서비스 운영 중단으로 이어지는 피해를 입은 것으로 조사됐다. AI 기술이 날로 복잡해지는 가운데, 이를 보호하기 위한 기본적인 보안 체계조차 제대로 마련되지 않은 곳이 많다는 사실을 보여준다.

주목할 점은 공격자들도 AI 기술을 도구로 활용하고 있다는 점이다. 보고서에 따르면 전체 보안 침해 사건 중 16%는 해커들이 AI 도구를 이용해 수행한 것으로 드러났다. 이들은 주로 딥페이크 영상이나 피싱 메일 등 AI 생성 콘텐츠를 활용해 사용자나 시스템을 속이는 방식으로 공격을 시도한 것으로 분석된다. 이는 향후 AI 기술이 고도화될수록 보안 위협도 더욱 교묘해질 수 있음을 시사한다.

반면, AI와 자동화 기술을 보안 운영에 적극적으로 도입한 조직은 그렇지 않은 곳보다 대응 속도와 비용 측면에서 큰 차이를 보였다. 보고서에 따르면 이들은 데이터 유출 대응 기간을 평균 80일 단축했으며, 피해 비용도 약 190만 달러(한화 약 25억 원) 줄일 수 있었다. 실제로 전 세계 평균 데이터 유출 사고 비용은 444만 달러로 집계됐는데, 이는 최근 5년 동안 처음으로 감소한 수치다. IBM은 이러한 변화의 원인으로 AI 기반 탐지 및 대응 체계의 확산을 지목했다.

하지만 보안 리스크가 커지고 있음에도 불구하고, 보안에 대한 투자는 되레 감소하는 추세다. 보안 사고를 경험한 뒤 보안 예산을 확대하겠다고 밝힌 기업은 지난해의 63%에서 올해는 49%로 줄었고, 그중 AI 기반 보안 기술에 집중하겠다는 응답은 절반에도 미치지 못했다. 이에 대해 IBM은 실효성 있는 보안 전략 마련의 필요성을 강조하며, AI 도입과 관리의 격차를 해커들이 적극적으로 악용하고 있다고 평가했다.

이 같은 흐름은 향후 AI 기술이 다양한 산업에 더 깊이 뿌리내릴수록 보안 리스크 관리의 중요성이 더욱 부각될 가능성이 있다. 특히 기업들은 AI 도입과 함께 이를 통제하고 보호할 수 있는 체계적인 거버넌스를 함께 갖춰야만 지속가능한 디지털 전환을 실현할 수 있을 것으로 보인다.