AI 시대 기업 보안, ‘교육’ 넘어 사람 리스크 관리로 옮겨갔다

기업 보안의 초점이 단순한 보안 인식 교육에서 ‘사람 리스크 관리’로 빠르게 이동하고 있다. 인공지능(AI) 에이전트와 자동화된 의사결정이 실제 업무 흐름에 깊숙이 들어오면서, 직원의 실수만을 문제로 보던 기존 보안 체계로는 대응이 어려워졌기 때문이다.

미국 사이버보안 기업 노비포(KnowBe4)를 둘러싼 시장의 관심도 이런 변화와 맞물려 커지고 있다. 더큐브리서치의 수석 애널리스트 스콧 헤브너는 노비포가 단순히 사용자 교육을 제공하는 회사를 넘어, 작은 실수가 더 큰 보안 사고로 번지기 전에 기업이 ‘신뢰’를 측정하도록 돕는 쪽으로 존재감을 넓히고 있다고 평가했다.

그는 “미래의 기업 AI 경쟁은 가장 많은 에이전트를 배치한 조직이 아니라, 사람과 에이전트 간 상호작용을 대규모로 신뢰하고 통제하며 보호할 수 있는 조직이 이길 것”이라고 말했다.

AI 확산으로 보안 위험도 더 복합적으로 바뀌고 있다

과거에는 직원 교육과 규정 준수 여부가 보안 프로그램의 핵심이었다면, 이제는 AI가 생성한 위협, 자동화된 워크플로, 민감 데이터가 한 공간에서 맞물릴 때 사람이 어떻게 반응하는지를 실시간에 가깝게 파악해야 하는 국면으로 넘어가고 있다.

더큐브리서치의 수석 애널리스트 크리스타 케이스도 비슷한 진단을 내놨다. 그는 AI가 일상적인 기업 업무에 내재화되면서, 그동안 충분히 다뤄지지 않았던 새로운 위험층이 드러나고 있다고 짚었다. 핵심은 기술 자체보다도, 기술이 사람·데이터·비즈니스 프로세스와 실제 환경에서 어떻게 상호작용하느냐에 있다는 설명이다.

이런 맥락에서 ‘사람 리스크 관리’는 단순한 컴플라이언스 점검이 아니라 측정 가능한 보안 운영 체계로 받아들여지고 있다. 직원 행동 분석, 피싱 시뮬레이션, 실시간 사용자 코칭, AI 기반 교육이 함께 묶여야 실제 보안 수준을 끌어올릴 수 있다는 의미다.

기업의 AI 확장은 결국 ‘신뢰’가 좌우한다

전문가들은 앞으로 기업이 AI를 얼마나 공격적으로 도입하느냐보다, 이를 얼마나 안전하게 검증하고 통제할 수 있느냐가 더 중요해질 것으로 보고 있다. 시스템이 어떻게 작동하는지, 사용자가 어떤 방식으로 반응하는지, 자율성이 높아진 업무 환경에서도 거버넌스가 유지되는지를 입증하지 못하면 AI 확장은 제한될 수밖에 없다는 얘기다.

헤브너는 ‘신뢰’가 향후 AI 도입의 핵심 통화가 될 것이라고 표현했다. 기술이 강력하다는 이유만으로는 AI가 대규모로 확산되지 않으며, 검증 가능성과 보안성, 거버넌스, 실제 인간의 업무 방식과의 정합성이 확인될 때 비로소 AI가 본격적으로 자리 잡는다는 뜻이다.

이는 사이버보안 시장에도 적지 않은 변화를 예고한다. 기업들은 더 이상 사람을 ‘취약한 고리’로만 취급하지 않고, 적절한 훈련과 분석 도구를 결합해 능동적인 보안 자산으로 전환하려는 흐름을 강화하고 있다. 특히 분산 근무와 규제 준수 부담이 큰 산업일수록 이런 수요는 더 커질 가능성이 있다.

KB4-CON서 관련 논의 집중 조명

실리콘앵글 미디어의 라이브 스트리밍 플랫폼 더큐브는 5월 14일 열리는 KB4-CON을 통해 노비포의 사람 리스크 관리 전략을 집중 조명할 예정이다. 행사에서는 AI 기반 교육, 행동 분석, 피싱 시뮬레이션, 실시간 사용자 코칭이 실제 기업 보안 환경에서 어떻게 활용되는지가 주요 의제로 다뤄진다.

방송에는 업계 경영진과 생태계 파트너, 현업 실무자들이 참여해 AI 시대에 보안 위험이 기업 내부를 어떻게 이동하는지, 그리고 조직이 이를 어떻게 통제 가능한 형태로 바꾸고 있는지를 논의할 예정이다.

이번 흐름은 AI 시대 보안이 기술 중심 경쟁을 넘어 ‘사람과 시스템의 상호작용’을 관리하는 단계로 진입했음을 보여준다. 결국 사람 리스크 관리가 기업 보안의 새로운 기본값으로 자리 잡을지 주목된다.