AI가 만든 해커 시대…기업 생존 키워드는 ‘에이전틱 회복력’

생성형 인공지능(AI)의 급속한 발전이 기업의 생산성을 끌어올리는 동시에, 사이버 범죄의 진입 장벽을 낮추는 양날의 검이 되고 있다. AI 코딩 에이전트의 등장으로 악성 스크립트를 작성하는 것이 쉬워지면서, 기업들은 더욱 빠르고 정밀한 사이버 공격에 직면하고 있다. 이러한 환경에서 주목받는 개념이 바로 에이전틱 회복력(agentic resilience)이다. 이는 기업이 공격으로부터 얼마나 신속히, 안전하게 시스템을 복원할 수 있는지를 중심에 둔 보안 전략이다.

루브릭(RUBR) 공동창업자이자 최고기술책임자(CTO)인 아르빈드 니트라카샤이압은 "AI는 이제 숙련된 프로그래밍 지식 없이도 고도화된 공격 코드를 작성할 수 있게 만드는 시대에 진입했다"고 말했다. 그는 미국 IT 미디어 더큐브(theCUBE)와의 인터뷰에서 최근 AI 기반 공격의 속도와 정밀도가 상상을 초월하고 있다며, 이를 막아내기 위해선 단순 방어를 넘어 신속한 ‘복구 능력’이 핵심이라고 강조했다.

기존에는 인간 해커가 손으로 코딩하거나 툴을 사용하던 악성 공격이 이제는 AI 에이전트에 의해 자동 생성될 수 있다. 특히 '제로데이' 취약점을 활용한 타격은 그 위험성이 이미 현실로 다가오고 있다. 이에 니트라카샤이압은 AI 공격의 구조와 피해 반경이 점점 커지는 만큼, 데이터 손실 최소화 및 정상 운영 복원 속도를 기준으로 보안 체계를 새롭게 설계해야 한다고 밝혔다.

이와 관련해 마이클 오르테가 루브릭의 AI 마케팅 디렉터는 자동화된 AI 에이전트들이 기업 내 다양한 기능을 맡고 있는 ‘비인간 인력’으로 자리잡고 있으며, 이들의 관리가 곧 보안의 새로운 핵심이 되고 있다고 진단했다. 그는 "신입 직원이 시스템 전체 권한을 처음부터 가지지 않듯, AI 에이전트 역시 엄격한 정책 기반 거버넌스가 필요하다"고 설명했다.

기업 내부에서 운영되는 수많은 AI 에이전트는 향후 인간 직원 수보다 많아질 수 있다. 이 과정에서 관리되지 않은 비인간 정체성은 새로운 공격의 표적이 된다. 결국 이런 대규모 AI 스프롤 환경에서 회복력을 갖춘 에이전틱 전략이 없으면, 사이버 보안의 전체 체계가 무너질 위험이 커진다.

실제로 니트라카샤이압은 "다리가 언젠가 부서질 것을 가정하고 설계하듯이, 사이버 공격도 반드시 일어날 전제하에 대비 시스템을 갖춰야 한다"고 강조했다. 결국 기업의 보안 리더들은 사고 발생 직후 발생할 데이터 손실, 고객 정보 보호, 운영 정상화 시간 등을 중심으로 복원 능력을 점검해야 하는 시대에 놓였다.

AI 에이전트가 만드는 리스크의 확장과 대응의 고도화는 단순한 트렌드를 넘어 기업 생존을 좌우할 중대 변수다. 앞으로 기업들은 에이전틱 회복력이라는 개념을 단순한 IT 용어가 아닌 전사적 전략으로 받아들이는 것이 필수적이다.