AI 보안, 운영단계까지 암호화…투메리크·데이타크립토 'Encrypted Guardrails' 공개

인공지능(AI) 보안 신뢰도를 평가하는 스타트업 투메리크(Tumeryk)가 AI 암호화 전문업체 데이타크립토(DataKrypto)와 손잡고 생성형 AI의 전체 처리 과정에 암호화를 적용하는 통합 보안 솔루션을 선보였다. 양사는 이번 협업을 통해 *운영 단계에서의 AI 보안*을 강화하기 위한 세계 최초의 '암호화 가드레일(Encrypted Guardrails)' 기술을 발표했다.

이 기술은 데이터 검색, 모델 추론, 결과 생성 등 생성형 AI 전 단계에 걸쳐 실시간 암호화를 적용하는 데이타크립토의 기술력에, 투메리크의 AI 신뢰도 점수 산정, 자가 교정형 프롬프트 보안, 책임 있는 AI 제어 기능을 결합한 것이 특징이다. 양사 측은 “AI를 활용하는 모든 토큰이 정책에 부합하면서도 암호화로 보호될 수 있게 됐다”고 강조했다.

오늘날 기업들은 대규모 언어모델(LLM)을 도입하며 민감한 데이터를 안전하게 다루는 것이 중요한 과제가 됐다. 특히 유럽연합의 일반개인정보보호법(GDPR), 미국의 건강보험이동및책임에관한법(HIPAA), 캘리포니아 소비자 프라이버시법(CCPA) 등 강화되는 규제를 준수해야 할 필요도 커지고 있다. 이번 통합 솔루션은 이러한 요건을 충족하면서도 AI의 비즈니스 가치를 극대화할 수 있도록 설계됐다.

일반적으로 알려진 AI 보안 조치들이 출력 결과를 중심으로 이뤄지는 데 반해, 양사는 입력 프롬프트, 벡터 임베딩, 기반 모델, 툴 호출 과정까지 암호화 영역을 확대했다. 이로써 정책 위반이나 데이터 유출, 프롬프트 주입 등의 공격 경로를 구조적으로 차단할 수 있게 됐다는 설명이다.

이번 통합 솔루션의 핵심 기술은 데이타크립토의 'FHEnom'이다. 해당 기술은 모델 가중치나 임베딩을 암호화한 상태에서 연산할 수 있는 기능을 제공하며, 보안 엔클레이브 내 하드웨어 기반 격리를 지원해 데이터 완전성을 유지한다. 여기에 투메리크는 AI 입력값을 실시간 점검하고 위험 요소를 사전에 차단하는 자가 보정형 가드레일 기능을 접목시켰다.

또한 통합 솔루션은 미국 국립표준기술연구소(NIST)의 AI 위험관리 프레임워크를 비롯한 ISO 42001, PCI DSS, SOC 2 같은 주요 보안·컴플라이언스 기준에 맞춰 설계된 AI 신뢰도 제어 기능도 제공한다. 기업은 이를 통해 암호화된 이벤트의 규정 준수 여부를 정밀하게 추적할 수 있다.

보안성과 확장성을 동시에 고려한 제품 구조도 눈길을 끈다. 클라우드 기반의 SaaS형 제품과 기업 내부 호스팅 방식이 모두 마련돼 있으며, 주요 생성형 AI 모델 및 에이전트와 바로 연동이 가능하도록 플러그앤플레이 방식으로 제공된다.

데이타크립토의 라비 스리바차브 최고경영자(CEO)는 “이 협력으로 가장 민감한 데이터도 성능이나 프라이버시 걱정 없이 AI에 활용할 수 있게 됐다”며, "AI 모델의 암호 연산에서 운영 보안에 이르기까지 전 방위 보호가 완성됐다”고 말했다.

이번 통합 기술은 빠르게 진화하는 생성형 AI 시장에서 보안 규제 대응력을 확보하려는 기업들에게 중요한 전환점이 될 것으로 보인다.