AI 시스템에 보험 건다…AIUC, 216억 원 유치하며 'AI 위험관리' 새 장 연다

신생 기업 AIUC는 인공지능 시스템의 위험을 보험으로 관리하는 새로운 모델을 내세우며 1,500만 달러(약 216억 원)의 초기 자금을 확보했다. 이 회사는 인공지능 분야 스타트업인 앤트로픽(Anthropic)의 전 임원이 주도하고 있으며, AI 에이전트의 안전하고 신뢰할 수 있는 배치를 지원하기 위해 창립됐다.

AIUC는 AI 시스템이 예기치 않은 실패로 기업 평판이나 재무적인 손실을 초래할 수 있다는 우려를 해소하기 위해 보험과 보안 인증, 외부 감사의 결합 방식으로 접근한다. 고객 서비스나 코딩, 데이터 분석 등 복잡한 작업을 수행하는 AI 에이전트를 배치하려는 기업에게 신뢰 가능한 인프라를 제공하려는 것이 핵심 목적이다.

이번 시드 라운드는 깃허브(GitHub) 전 CEO인 냇 프리드먼이 설립한 투자사 NFDG가 주도했으며, 에머전스 캐피털, 터레인, 그리고 구글 클라우드와 몽고DB의 최고 정보 보안 책임자 출신 인물들이 개인 투자자로 참여했다. 앤트로픽 공동 창업자 벤 만도 투자에 이름을 올렸다.

AIUC 공동 창업자이자 CEO인 루네 크비스트는 “기업들은 지금 벼랑 끝에 서 있다”며 “경쟁자에게 뒤쳐질 수도 있고, 혹은 AI 챗봇이 인종차별적 발언을 하거나 환불 정책을 오해하는 등의 사건을 유발해 대중의 뭇매를 맞을 수도 있다”고 설명했다.

AIUC는 기존 보안 인증 기준인 SOC 2를 본보기 삼아 AI에 특화된 보안 및 위험 관리 프레임워크를 제안한다. ‘AIUC-1’이라 명명된 해당 표준은 안전성, 신뢰성, 책임성, 데이터 보안, 기술적 견고함, 사회적 위험 등 6가지 영역을 아우르며, 이를 독립 기관이 검증할 수 있도록 설계됐다.

크비스트는 “우리는 AI 시스템이 잘못된 환불을 하거나 타인의 개인정보를 누설하는 등의 다양한 시나리오를 수천 번 반복 테스트한다"며 “이러한 방식은 실제 시스템이 얼마나 견고한지 체계적으로 평가할 수 있도록 해준다”고 밝혔다.

AIUC의 접근법은 보험 산업의 역사적 사례에서 영감을 얻었다. 벤저민 프랭클린이 1752년 미국 최초의 화재 보험 회사를 설립하며 건축물의 품질 기준을 도입했던 사례처럼, 새로운 기술에 필요한 안전 장치를 민간이 먼저 마련했다는 것이다. 20세기 자동차 산업에서도 비슷한 움직임이 있었으며, 이들 모두 시장 주도의 위험 관리가 규제보다 앞섰다.

이미 여러 주요 AI 기업이 AIUC의 인증을 도입하고 있다. 고객 서비스 AI 전문 유니콘 기업 아다(Ada)와 코딩 에이전트를 개발한 코그니션(Cognition)의 시스템이 인증을 받아 기업 고객과의 대형 계약 체결에 실질적인 기여를 했다. 이 과정에서 애초에 신뢰 부족으로 계약이 정체됐던 상황을 돌파할 수 있었다는 설명이다.

AIUC는 재정적 신뢰성을 높이기 위해 영국 로이드(Lloyd’s of London)와 같은 전통적인 보험 시장 참여자들과 제휴를 추진 중이다. 회사의 보험 상품은 이들 대형 보험사의 재무 기반으로 보장하고 있으며, 스타트업이 당장의 지급 여력을 완전히 책임지는 구조가 아니라는 점에서 시장의 신뢰도를 높이고 있다.

기존 규제 체계가 수년간의 입법 절차를 거치는 동안, AIUC는 분기별로 기준을 업데이트하는 신속한 대응력을 갖춘 것이 또 하나의 강점이다. 이는 AI 기술의 진화 속도에 맞춰 위험 관리 체계를 유연하게 조정할 수 있게 해준다. 크비스트는 “EU의 AI법은 2021년에 착수했으나 지금도 출시를 미루고 있는 실정”이라며, 기존 규제 방식이 AI 현실을 따라가기 어렵다는 문제를 지적했다.

실제 보험 상품은 데이터 유출, 채용 과정의 차별, 지식재산권 침해, 자동화 오류 등의 폭넓은 리스크를 포함하며, 비용 산정은 고강도 스트레스 테스트 결과를 기반으로 한다. 시스템을 의도적으로 ‘망가뜨려’보면서 발생 가능한 손실 범위를 정량화하고, 그에 맞는 보험 가격을 제시하는 구조다.

이 과정은 PWC, 오릭(Orrick) 법률그룹, 그리고 스탠퍼드와 MIT의 학계 전문가들과 협력해 개발된다는 점에서 신뢰성을 강화하고 있다. 공동 창업진은 AI와 보험 업계 모두에서 탄탄한 경력을 갖고 있으며, 특히 크비스트는 앤트로픽 초기 멤버이자 현재 AI 안전센터 이사회를 겸임하고 있다.

이번 AIUC 출범은 AI 산업이 실험적 단계를 넘어 핵심 비즈니스 인프라로 확장되는 과정에서 새로운 리스크 관리 접근법이 요구되고 있는 시점과 맞물려있다. 치열한 기술 경쟁 속에서 시장 기반의 보험 모델이 규제보다 신속하게 책임 있는 AI 사용을 촉진할 수 있다는 기대감이 커지고 있다.

AIUC 측은 “시장 기반의 표준 정립과 리스크 가격화가 빠른 AI 채택과 보안 투자를 유도하는 핵심이 될 수 있다”며, 이번 모델이 AI 업계의 새로운 기준점이 되기를 바란다는 입장을 밝혔다.

AI가 인간 수준의 추론 능력에 근접하면서, 이 기술이 경제를 안전하게 변화시킬지 아니면 혼란을 초래할지 갈림길에 서 있는 가운데, AIUC는 시장이 스스로 안전장치를 마련할 수 있다는 믿음을 토대로 승부수를 던지고 있다. 바로 지금, 규제가 닿기 전 그 대안을 만들고 있는 것이다.