클로드, 브라우저 직접 제어 시작… 앤트로픽의 안전한 AI 에이전트 도전

산프란시스코에 기반을 둔 AI 스타트업 앤트로픽(Anthropic)이 자사의 AI 비서인 '클로드(Claude)'를 크롬 확장 프로그램 형태로 선보이며, 브라우저를 직접 제어하는 차세대 AI 에이전트 시대의 서막을 열었다. 현재 이 기능은 '맥스(Max)' 요금제를 사용하는 1,000명의 신뢰할 수 있는 사용자들을 대상으로 시험 운용 중이다. 하지만 강력한 가능성과 함께 '프롬프트 인젝션(prompt injection)' 공격에 대한 심각한 보안 우려도 제기되고 있다.

이번 'Claude for Chrome'은 사용자가 일정 예약부터 이메일 관리, 사이트 간 내비게이션 같은 웹 기반 작업을 AI에게 위임할 수 있는 기능을 제공한다. 사용자의 화면을 파악하고 버튼을 클릭하며 정보를 입력하는 등, 사람이 웹을 다루는 방식 자체를 자동화할 수 있다는 점에서 기존 챗봇 기술과는 차원이 다르다. 일찍이 오픈AI(OpenAI)와 마이크로소프트(MSFT)가 각각 '오퍼레이터(Operator)', '코파일럿 스튜디오(Copilot Studio)'를 통해 이 영역에 진입한 가운데, 앤트로픽은 보다 신중한 접근 방식을 택했다.

안정성 확보를 위해 제한적 테스트 단계에서부터 공들인 점이 눈에 띈다. 앤트로픽은 자체 '레드팀' 실험 중 이메일, 웹사이트, 문서에 숨겨진 명령어를 통해 AI가 의도치 않게 해로운 행위를 하도록 유도하는 공격을 시도했다. 그 결과, 아무런 방어장치가 없을 경우 AI가 해당 명령에 반응할 확률은 23.6%에 달했다. 실제 예시로는 '메일함 정리'라는 명목 하에 모든 이메일을 삭제하도록 유도받아 AI가 이를 실행한 사건이 있다.

이에 따라 앤트로픽은 중요한 조치들을 시행했다. 고위험 행동에 대한 사용자 확인 의무화, URL 조작 방지, 금융사이트 등 민감 카테고리에 대한 접근 차단 등을 통해 공격 성공률을 11.2%로 줄이는 데 성공했다. 특히 브라우저를 이용한 공격 유형에 대해서는 성공률을 0%까지 떨어뜨렸다. 그러나 앤트로픽은 현실 세계의 웹 환경이 훨씬 복잡하며, 새로운 공격 벡터가 지속적으로 등장하고 있어 현재의 방어체계만으로는 충분하지 않다고 경고했다.

시장 경쟁에서는 오픈AI가 약 200달러(약 28만 8,000원)의 프리미엄 요금제 사용자 전체를 대상으로 '오퍼레이터'를 출시하며 선공을 날렸고, 마이크로소프트는 웹과 데스크톱을 넘나드는 UI 자동화를 자사 엔터프라이즈 플랫폼에 통합해 시장 점유 확대에 나섰다. 반면 앤트로픽은 보안 안정성 확보에 무게를 두고 있어 초반 속도에서는 경쟁사에 밀릴 수 있지만, 중장기적으로는 오히려 안전성을 무기로 차별화를 기대할 수 있다.

이 같은 컴퓨터 제어형 AI는 향후 기업 자동화 시장에 큰 파장을 일으킬 것으로 보인다. 그동안 워크플로우 자동화는 복잡한 API 통합이나 RPA 플랫폼에 의존했으나, 이제는 GUI 기반 소프트웨어만 있으면 광범위한 자동화 수행이 가능해질 전망이다. 세일즈포스의 ‘CoAct-1’ 모델은 클릭 기반 행동에 더해 코드 생성 능력까지 탑재해 복합 작업에서도 60.76% 이상의 성공률을 기록하며 AI 기반 자동화의 효율성을 입증했다.

이와 함께 경쟁사들의 폐쇄형 모델에 대응해 개방형 대안도 등장하고 있다. 홍콩대학이 발표한 ‘OpenCUA’는 2만2,600개 이상의 인간 수행 태스크를 학습한 오픈소스 프레임워크로, 상용 모델과 경쟁 가능한 수준의 성능을 입증했다. 이는 기업들이 특정 AI 기업에 종속되지 않고 보다 유연한 자동화 전략을 수립할 수 있는 가능성을 시사한다.

결국, 브라우저를 통해 클릭하고 입력하는 행위를 자동화하는 AI는 단순한 기술 진보를 넘어 인간-컴퓨터 상호작용 방식을 근본적으로 재편할 수 있는 잠재력을 지니고 있다. 기존에 거액을 투자한 기업용 자동화 솔루션들이 이러한 범용 AI 에이전트에 밀려 자리를 내줄 수도 있다는 점에서, 기업 입장에선 기술 혁신과 동시에 보안 리스크 관리라는 이중 과제를 안게 됐다.

앤트로픽이 크롬 확장형 클로드를 통해 제시한 방향은 시작에 불과하다. 앞으로 컴퓨터-사용 에이전트가 어떤 방식으로 발전할지는, 기술의 성숙도와 함께 보안 위협에 어떤 해법을 제시하느냐에 달려 있을 것이다. 앤트로픽은 이를 두고 "클로드를 통해 상상하지 못한 가능성이 열린다"고 자신감을 드러냈지만, 그 가능성을 실현하기 위해 넘어야 할 산도 적지 않다.