AI 에이전트 신뢰성 높인다…휴먼시큐리티, AWS와 보안 검증 시스템 도입

인공지능 기반 사이버 보안 스타트업 휴먼 시큐리티(Human Security)가 아마존웹서비스(AWS)의 AI 에이전트 플랫폼 ‘아마존 베드록 에이전트코어(Amazon Bedrock AgentCore)’를 위한 암호화 검증 기능을 도입했다. 이번 협업을 통해 기업은 생성형 AI 에이전트를 사용한 자동화 작업 시에도 신뢰성과 보안성을 확보할 수 있게 됐다.

휴먼 시큐리티는 자사의 ‘에이전틱트러스트(AgenticTrust)’ 서비스에 아마존 베드록 에이전트코어 브라우저의 지원을 통합해 AI 에이전트의 행위를 암호학적으로 검증하고, 허용된 작업만 수행하도록 제어할 수 있는 체계를 마련했다. 이에 따라 에이전트가 웹사이트를 탐색하거나 계정을 생성하고 결제하는 등의 작업도 사전 설정된 보안 정책 내에서 이뤄진다.

아마존 베드록 에이전트코어는 대규모로 안전하게 에이전트를 개발하고 배포할 수 있는 플랫폼으로, 웹 상에서 다양한 상호작용을 자동화하는 데 활용된다. 그러나 AI 기반의 에이전틱 커머스 확산과 함께 사칭, 허위 정보, 사기 등 새로운 보안 위협이 등장하고 있어 추가적인 보호 장치가 요구돼왔다.

이에 대해 스투 솔로몬(Human Security CEO)은 “AI 에이전트는 업무 방식 전반을 재편하며 새로운 가능성을 제공하지만, 동시에 신뢰성과 보안도 핵심 과제가 됐다”며 “이번 아마존 베드록 에이전트코어 기반의 검증 구조 도입은 기업이 자신의 보안 정책에 맞게 AI 에이전트를 운영할 수 있도록 돕는다”고 밝혔다.

기업 고객은 각 에이전트에 대해 세부적인 규칙을 설정할 수 있다. 예를 들어 웹사이트를 자유롭게 탐색하되 계정 생성은 차단하거나 특정 에이전트만 결제 권한을 갖게 만드는 식이다. 이에 대해 휴먼 시큐리티는 “브랜드가 에이전틱 커머스를 현실적으로 구현하려면 이정도의 세분화된 통제권이 반드시 필요하다”고 강조했다.

AWS도 이번 협업의 의의를 강조했다. 코스티 바실라카키스(AWS 제품 총괄)는 “자동화를 통해 신뢰할 수 있는 디지털 경험을 제공하는 것이 AWS의 사명이자 책임”이라며 “휴먼 시큐리티와의 협력을 통해 고객들이 더 안전하고 신뢰할 수 있는 AI 에이전트를 쉽게 구축하고 운영하도록 지원할 것”이라고 말했다.

휴먼 시큐리티는 그동안 골드만삭스, 나이트드래곤, 버텍스 벤처스, 스케일 벤처 파트너스 등 유수의 투자사로부터 총 2억 9,900만 달러(약 431억 원)를 조달했다. 최근에는 2024년 10월에만 미화 5,000만 달러(약 72억 원) 규모의 신규 투자 유치에 성공하며 기술 경쟁력과 시장 수요를 입증했다.

AI 에이전트 기술이 빠르게 확산되고 있는 가운데, 이번 협력은 기업의 디지털 운영에 신뢰를 더하고 에이전트 기반 상거래의 윤곽을 바꾸는 분기점이 될 것으로 보인다.