차세대 인공지능(AI) 모델의 안전성과 보안을 강화하기 위한 노력을 펼치고 있는 보안 스타트업 이레귤러(Irregular)가 최근 8,000만 달러(약 1,152억 원)의 신규 자금을 유치했다. 이번 자금은 고위험 AI 모델에 대한 안티 바이러스 테스트, 취약점 탐지, 시뮬레이션 시스템 구축 등에 활용될 예정이다.

지난 2023년 ‘패턴 랩스(Pattern Labs Inc.)’라는 이름으로 설립된 이레귤러는 자사를 ‘프런티어 AI 보안 연구소’로 정의하며, 고도로 발전된 AI가 실제 악용되기 전에 이를 사전에 차단하는 것을 주된 목표로 하고 있다. AI 모델이 공격적 자율 행동을 보이거나 시스템 침투 가능성을 보이는지를 점검하는 시뮬레이션 환경을 제공함으로써 위협을 사전에 진단하고, 이에 대응할 보안 솔루션을 제공하는 것이 핵심 사업이다.

이레귤러는 단순한 테스팅을 넘어, 각 AI 시스템의 안전성과 보안 수준을 평가하는 프레임워크 및 방어 지침도 함께 제공하고 있다. 이 회사는 오픈AI(OpenAI), 구글 딥마인드(Google DeepMind), 앤스로픽(Anthropic PBC) 등 세계 유수의 AI 연구소 및 정부 기관과 협력하며, 이들의 AI 개발 초기 단계부터 보안 전략을 설계하고 있다.

실제로 이레귤러의 보안 프레임워크는 GPT-4, GPT-4o, GPT-4 mini, GPT-5에 적용된 오픈AI의 시스템 카드에 언급됐으며, 영국 정부와 앤스로픽은 자사의 최신 AI 모델 클로드4에 사이버 위협 검증을 위한 기준으로 이 프레임워크를 채택했다. 또한, 구글 딥마인드 연구진이 최근 공개한 AI의 사이버 공격 능력 평가 논문에서도 이레귤러가 주요 파트너로 언급됐다.

또 하나 주목할 점은, 이레귤러가 앤스로픽과 함께 공동 저술한 백서에서 보안 연산 기술을 기반으로 AI 모델 가중치와 사용자 정보 보호 방법에 대한 새로운 제언을 제시했다는 것이다. 이레귤러는 원격 저장 데이터 보안과 관련해 란드 연구소(RAND Corporation)와도 협력해 유럽의 AI 보안 정책 수립에도 기여했다.

이레귤러의 공동 창업자이자 CEO인 댄 라하브(Dan Lahav)는 “AI의 기술 발전 속도에 걸맞은 보안 체계를 구축하지 않는다면, 시스템 자체가 불확실성과 위험에 노출될 수 있다”며 “모델이 대중에게 공개되기 전부터 무결성을 테스트하고, 산업 전반에 신뢰할 수 있는 표준을 제시하겠다는 것이 우리의 사명”이라는 점을 강조했다.

이번 투자 라운드는 미국 실리콘밸리 명문 벤처캐피털 세쿼이아 캐피탈(Sequoia Capital Operations)과 레드포인트 벤처스(Redpoint Ventures)가 공동 주도했으며, 스위시 벤처스(Swish Ventures)와 위즈(Wiz)의 CEO 아사프 라포포트(Assaf Rappaport), 에온(E.ON)의 CEO 오피르 에를리히(Ofir Ehrlich) 등도 개인 투자자로 참여했다.

세쿼이아 캐피탈의 파트너인 숀 맥과이어(Shaun Maguire)는 “많은 기업이 AI 보안을 논의하지만, 정작 실질적인 위협이 완전히 드러나지 않은 이 시점에서 이레귤러는 미래를 내다보고 핵심 방어 전략을 선제적으로 개발하고 있다”며 “AI 산업의 확산을 견인할 보안 기준의 주축이 될 잠재력을 가진 기업”이라고 평가했다.

AI 기술이 각 산업 전반으로 빠르게 확장되고 있는 지금, 이레귤러의 등장은 보안 리스크에 대한 대응 속도를 앞당기고, 신뢰 가능한 AI 구현을 위한 모범 사례를 제시한다는 점에서 의미가 크다. AI 보안의 방식과 표준을 선도하겠다는 이들의 행보는 향후 글로벌 기술 규제나 정책 수립에도 실질적인 영향을 미칠 가능성이 크다.