AI 보안 사각지대 드러낸 ‘사이드채널 공격’…규칙 기반 탐지, 한계 맞나

인공지능(AI) 보안 논의는 대체로 모델의 오작동이나 오남용에 집중돼 있다. 하지만 더 시급한 문제는 기존 탐지 체계가 ‘보지 못하는 것’에 있다는 지적이 나온다. 최근 주목받는 ‘사이드채널 공격’은 이런 탐지 공백을 적나라하게 보여주는 사례로 꼽힌다.

사이드채널 공격은 소프트웨어 코드 자체를 뚫는 방식이 아니다. 대신 전력 소모, 전자기 방출, 처리 시간 같은 물리적 신호를 분석해 정보를 빼내거나 프로그램 실행에 간섭하는 기법이다. 암호키 같은 민감 정보도 하드웨어에서 우연히 새어 나오는 신호를 측정해 유출할 수 있다.

최근 연구에 따르면, 외부 관찰자는 암호화된 트래픽의 패턴만 분석해도 AI 상호작용의 ‘주제’를 추론할 수 있는 것으로 나타났다. 복호화도, 데이터 본문 열람도 필요 없다. 트래픽의 구조와 시간 간격, 순서만으로 의미 있는 정보가 드러난다는 뜻이다. 문제는 이런 신호가 기존 콘텐츠 중심 보안 도구의 시야 밖에 있다는 점이다.

규칙 기반 탐지의 한계

지난 20년간 보안 탐지는 ‘규칙’ 위에서 발전해 왔다. 시그니처, 임계값, 알려진 패턴, 이상 탐지 기준선이 보안 운영의 핵심이었다. 업계는 더 많은 규칙, 더 정교한 규칙, 그리고 이를 더 빠르게 만드는 AI까지 도입해 왔다.

하지만 규칙 기반 탐지는 결국 ‘맞춰볼 대상’이 있어야 작동한다. 알려진 흔적, 눈에 띄는 이탈, 명확한 경계 침범이 있어야 경보를 낼 수 있다. 반면 사이드채널 공격이나 최신 침입 기법 상당수는 이런 전제를 비켜간다.

공격자가 암호화 채널, 정상 도구, AI 지원 워크플로를 활용하면 개별 행위는 모두 정상처럼 보일 수 있다. 각 단계만 떼어 놓고 보면 이상 징후가 없지만, 시간의 흐름에 따라 연결해 보면 공격 패턴이 드러난다. 이 지점이 바로 ‘탐지 격차’다. 범위가 부족한 문제가 아니라 구조적 한계에 가깝다.

AI가 있어도 놓치는 공격

이 같은 탐지 격차의 현실적 의미는 단순하다. 공격자가 내부에서 활동해도 보안팀이 아무 신호도 받지 못하는 상황이 생길 수 있다는 것이다. 신뢰도 낮은 경고조차 없이, 조사할 단서 자체가 없는 경우다.

사이드채널 공격은 대표적 사례다. 데이터는 분명 존재하지만, 그것은 시간차·순서·상호작용 패턴에 숨어 있다. 기존 도구는 이를 해석하도록 설계되지 않았다. 느리게 진행되는 침입, 이른바 ‘로우 앤드 슬로우’ 공격이나 정상 관리 도구를 악용하는 ‘리빙 오프 더 랜드’ 기법, 이동 경로에 따라 형태를 바꾸는 AI 지원 공격도 마찬가지다.

문제는 기업들이 업무와 공격 양쪽에서 AI 활용을 늘릴수록 이런 사각지대가 더 넓어진다는 데 있다. 그런데도 보안 투자 상당수는 이미 포착 가능한 영역을 더 빨리, 더 효율적으로 처리하는 데 쏠려 있다. 규칙 생성 자동화, 경보 분류, 분석 효율 개선은 분명 의미가 있지만, 처음부터 경보가 발생하지 않는 공격에는 한계가 있다.

이벤트가 아니라 ‘행동’을 봐야 한다

이 공백을 줄이려면 개별 이벤트보다 ‘행동의 연속성’을 읽는 접근이 필요하다는 분석이 나온다. 보안팀이 필요로 하는 신호는 이미 존재한다. 시스템 간 관계, 행위의 순서, 접근 패턴의 변화, 시간에 따른 진행 양상이 공격 의도를 드러낼 수 있다는 설명이다.

예를 들어 공격자가 암호화 채널을 통해 내부 확산을 시도할 때 흔적은 트래픽 내용이 아니라 접근 방식의 변화에 남는다. 사이드채널 공격도 데이터를 직접 보여주지 않지만 구조를 드러낸다. 결국 핵심은 고립된 이벤트가 아니라 흐름과 맥락이다.

이 때문에 차세대 탐지 체계는 미리 정의된 규칙이나 사람이 써 넣은 조건만으로는 부족하다는 지적이 힘을 얻고 있다. 구조화된 운영 데이터를 학습해 사전에 정의되지 않은 패턴까지 찾아낼 수 있는 모델이 필요하다는 것이다. 아이러니하게도, 사이드채널 공격에 활용될 수 있는 딥러닝 접근법이 이런 미세한 트래픽 패턴을 탐지하는 데도 쓰일 수 있다는 평가가 나온다.

보안 투자 기준도 달라져야

보안 책임자 입장에서 중요한 질문은 명확하다. 해당 AI 시스템이 규칙 기반 탐지를 더 효율적으로 만드는지, 아니면 규칙으로 표현할 수 없는 행동 자체를 새롭게 탐지하는지 구분해야 한다는 점이다. 두 방식 모두 가치가 있지만 해결하는 문제는 다르다.

대부분 조직에 필요한 첫 단계는 새 도구를 추가하는 것이 아니라 현재 탐지 전략이 실제로 어디까지 보이는지 냉정하게 점검하는 일이다. 정찰 단계의 미세한 움직임, 은밀한 내부 확산, 정상 운영에 섞여 들어가는 활동은 특히 큰 공백이 발생하기 쉬운 구간으로 꼽힌다.

탐지 공백을 줄이면 대응 속도만 빨라지는 것이 아니다. 조직이 ‘문제가 생겼다’는 사실을 더 이른 시점에 인식하게 된다. 이는 공격자의 체류 시간을 줄이고, 사고 범위를 제한하며, 목표 달성 전에 방어 조치를 취할 가능성을 높인다. 동시에 기업이 실제 위험 노출 수준을 더 정확히 이해하는 데도 도움이 된다.

사이드채널 공격은 단순한 신종 기법이 아니라, 전통적 보안 시스템이 살피지 못하는 경계 밖에도 중요한 정보가 존재한다는 사실을 보여준다. 결국 AI가 이 문제를 만든 것은 아니다. 다만 그동안 가려져 있던 탐지 한계를 더 선명하게 드러냈을 뿐이다.