AI 사고 대응도 ‘격리 원칙’… 사이그너스, 전용 지휘 플랫폼 출시

기업들의 인공지능 도입이 빨라지면서 ‘AI 사고 대응’이 새로운 운영 리스크로 떠오르고 있다. 사이버 복원력 기업 사이그너스(CYGNVS)는 이런 흐름에 맞춰 자체 AI 시스템에서 발생하는 위기를 관리하는 ‘AI 인시던트 커맨드 센터’를 공개했다.

이번에 출시된 플랫폼은 기존 사이그너스의 외부 격리형 사고 대응 시스템을 AI 영역으로 확장한 제품이다. 편향된 출력, ‘환각’ 현상, 데이터 유출, 자율형 에이전트의 오작동처럼 기업이 실제 운영 중인 AI 모델과 에이전트에서 발생할 수 있는 문제를 주요 대응 대상으로 삼는다.

핵심은 ‘격리’다. 사이그너스는 랜섬웨어 대응에 쓰이던 원칙을 AI 사고 대응에도 적용했다고 설명했다. 사고 대응 환경을 기업 내부 네트워크와 분리해, 조사 대상이 된 AI가 대응 과정에 접근하거나 이를 감지·조작하지 못하도록 설계했다는 의미다. AI가 내부 메일이나 메신저, 협업 도구에 연결된 환경이라면 이런 분리 구조는 더 중요해질 수 있다.

시장 배경도 뚜렷하다. 경제협력개발기구(OECD)의 AI 사고·위험 모니터에 따르면 2026년 1월 한 달 동안 기록된 AI 사고는 596건으로, 전년 동기 대비 200% 늘었다. 가트너가 사이그너스를 통해 인용된 조사에서는 고위 실무자의 61%가 승인된 기업용 소프트웨어 안에서 AI 에이전트 자동화가 이미 배치된 것을 확인했다고 답했다. 동시에 59%는 통제되지 않은 경로에서 비인가 AI 에이전트가 작동하고 있거나 그 가능성이 높다고 봤다.

문제는 많은 조직이 AI 사고에 대응할 인프라를 아직 갖추지 못했다는 점이다. 실제 사고가 나면 정보기술 부서와 보안팀뿐 아니라 법무, 경영진, 외부 로펌까지 동시에 움직여야 한다. 하지만 별도 플랫폼이나 대응 매뉴얼이 없으면 결국 이메일과 사내 메신저에 의존하게 되고, 이 채널이 조사 대상 AI의 영향권 안에 있을 수도 있다.

사이그너스는 자사 기술이 애플리케이션, 모델, 에이전트 전반에서 이상 신호를 포착한 뒤, 상황에 맞는 플레이북을 자동으로 연결하고 대응 절차를 격리된 환경으로 넘긴다고 밝혔다. 여기에 보험 업계에서 확보한 2만건 이상의 대형 사고 데이터를 학습에 활용했다. 회사는 이 데이터가 공개되거나 상업적으로 유통되는 자료가 아니라고 강조했다.

플랫폼은 ‘준비’, ‘훈련’, ‘대응’, ‘보고’의 4단계로 운영된다. 기업은 산업군, 지역, 사고 유형에 맞춘 플레이북을 미리 설계할 수 있고, 테이블탑 훈련으로 대응 역량을 점검할 수 있다. 실제 사고가 발생하면 단일 기록 환경에서 대응을 조율하고, 사전 제작된 양식을 통해 규제 보고까지 진행하는 구조다.

사이그너스에 따르면 이 보고 템플릿은 전 세계 56개 구속력 있는 법률과 47개 프레임워크를 반영한다. 여기에는 유럽연합(EU) AI 법안, 캘리포니아 AI 법안, 뉴욕 로컬 법 144, 콜로라도 AI 법안, 미국 식품의약국(FDA)의 AI·머신러닝 가이드라인 등이 포함된다. AI 활용이 본격화할수록 기술 리스크뿐 아니라 규제 대응 부담도 함께 커지고 있다는 점을 겨냥한 셈이다.

매트 호네아 히포크라틱 AI 최고정보보안책임자(CISO)는 “AI 사고 대응은 문제가 터진 뒤 붙이는 기능이 아니라, AI 프로젝트를 배포하는 시점에 함께 갖춰야 한다”고 말했다. 그는 AI 사고 대응 준비가 플레이북, 모의훈련, 협업 체계, 사고 보고를 포함해야 하며, 지난 10년간 사이버보안팀이 구축해 온 대응 체계와 닮아 있다고 설명했다.

사이그너스는 2020년 설립됐으며, 2023년 1월 안드리센호로위츠가 주도한 시리즈A 투자 라운드에서 5,500만달러를 유치했다. 원화 기준으로 약 834억2,950만원 규모다. 회사 측은 현재 3,000개 이상 조직이 자사 플랫폼을 사용하고 있으며, 매주 50건이 넘는 중대 사고가 이 시스템 위에서 처리된다고 밝혔다.

이번 출시는 AI 위험이 더 이상 개념적 우려에 머물지 않고, 실제 기업 운영의 ‘상시 변수’가 되고 있음을 보여준다. 기업 입장에서는 AI 도입 속도만큼이나 AI 사고 대응 체계를 얼마나 빨리 갖추느냐가 향후 경쟁력과 규제 리스크를 가를 가능성이 커지고 있다.