에이전틱 AI, 사이버보안의 혁신인가 위협인가…“보안 패러다임 바뀐다”

급속히 진화 중인 에이전틱 AI(agentic AI)가 사이버 보안 업계에 새로운 유형의 위협을 더하며 우려를 불러일으키고 있다. 사이버 범죄자들이 이 고도화된 AI를 악용할 가능성이 커지면서 기업의 보안 담당자들은 방어 전략을 재정비해야 할 필요성에 직면했다.

보안 교육 기업 노비포(KnowBe4)의 데이터 방어 전도사인 로저 그라임스(Roger Grimes)는 최근 RSAC 2025 콘퍼런스에서 이와 관련된 경고를 던졌다. 그는 “AI가 이미 전체 소셜 엔지니어링 공격의 70~90%에 깊이 개입돼 있다”며 “향후 1~2년 안에 악성코드 유포 방식이 에이전틱 AI 중심으로 완전히 재편될 수 있다”고 지적했다.

에이전틱 AI는 자율적 판단과 행동이 가능한 AI 시스템을 의미한다. 기존의 단순 자동화에서 벗어나, 복잡한 과업을 독립적으로 수행하면서 상황에 따라 목표를 수정하거나 실행 순서를 판단하는 능력을 갖추고 있다. 이 기술이 악용될 경우, 특정 산업군의 용어와 문화를 이해하고 개인화된 메시지를 생성해 신뢰를 유도하는 고정밀 피싱, 딥페이크 공격이 가능해진다.

특히 딥페이크 기술과 결합될 경우 파급력은 극대화된다. 그라임스는 “대부분의 LLM(대규모 언어 모델)은 매일같이 ‘탈옥(jailbreak)’ 상태로 테스트되고 있다”며 “이 AI 봇은 이미 인간처럼 말하고 설득하는 능력을 갖췄으며, 각 산업에 특화된 전문 용어로 사람들을 속이는 데 이용될 수 있다”고 경고했다.

하지만 이런 기술을 방어 수단으로 활용할 여지도 존재한다. 에이전틱 AI로 보안 패치 프로세스를 자동화하거나 침입 탐지를 신속화하는 방식이 그것이다. 그라임스에 따르면, 노비포는 이미 7년 전부터 AI 기반 보안 솔루션 개발을 시작해 해당 기술을 내부적으로 다양하게 적용해왔다. 그는 “자율 봇이 장비를 분석하고, 패치 필요 여부와 운영 시간, 백업 절차까지 알아서 조율할 수 있다면 보안 운영의 효율성이 크게 높아질 것”이라고 설명했다.

결국 중요한 것은 데이터 기반의 접근이다. 그라임스는 보안 성과의 측정 기준을 단순한 점검 회수가 아닌 실제 침해 사고 감소 수치에 두어야 한다고 강조한다. “단순히 대응했는지가 아니라, 지난 해보다 올해 내 위험도가 실질적으로 낮아졌는지를 측정하는 게 보안의 진정한 성과”라는 그의 말은, AI 시대 보안 전략의 방향성을 제시한다.

에이전틱 AI라는 양날의 검은 사이버 위협을 정밀화하는 동시에 방어의 패러다임도 바꾸고 있다. 지금 필요한 것은 기술의 속도에 뒤처지지 않는 데이터 중심의 판단과 빠른 대응이다. 이는 기업과 보안 종사자 모두에게 놓인 피할 수 없는 과제다.