AI OS에이전트, 보안 허점 노린 해킹 위협 커진다…“디지털 비서가 리스크로”

인공지능 에이전트가 사용자 대신 컴퓨터와 모바일 기기를 조작하는 시대가 성큼 다가오고 있지만, 이 기술이 가져올 보안 리스크에 대한 경고음도 커지고 있다. 저장대학(Zhejiang University)과 오포 AI 센터(OPPO AI Center)가 공동 주도한 최신 연구에 따르면, 이른바 '운영체제(OS) 에이전트'는 인간처럼 컴퓨터 화면을 이해하고 클릭이나 스와이프 같은 작업을 자율적으로 수행할 수 있을 만큼 빠르게 진화 중이다. 하지만 이러한 기술적 진보가 가져올 보안 위협은 아직 제대로 제어되지 않고 있다.

이 논문은 컴퓨터 언어 분야 최고 권위를 자랑하는 국제 컴퓨터언어학회(ACL)에서 발표될 예정이며, 현재까지 등장한 약 60여개의 기초 모델과 50종 이상의 에이전트 개발 프레임워크를 종합해 정리한 30페이지 분량의 종합 보고서다. 특히 이 에이전트들이 실제로 어떻게 작동하고, 어떤 기능을 수행하며, 보안상 어떤 취약점을 노출할 수 있는지를 구체적으로 조명하고 있다.

애플(AAPL)의 ‘애플 인텔리전스’, 오픈AI(OpenAI)의 ‘오퍼레이터’, 앤트로픽(Anthropic)의 ‘컴퓨터 유스’, 구글(GOOGL)의 ‘프로젝트 머리너’ 등 글로벌 IT 기업들은 이 기술을 일상 업무에 본격적으로 접목시키고 있다. 이들 시스템은 스크린에 출력된 정보를 컴퓨터 비전으로 분석하고, 이를 토대로 문서 작성, 폼 입력, 앱 간 전환 등 복잡한 다중 단계 작업을 자동처리한다. 과거 수 분이 걸리던 과업들도 단 몇 초 만에 처리 가능한 수준까지 기술이 발전하고 있는 것이다.

그러나 이와 같은 성능 향상 이면에는 심각한 보안 위협도 존재한다. 연구팀은 웹 사이트에 숨겨진 명령어를 이용해 OS 에이전트를 악용하는 ‘웹 간접 프롬프트 주입’과, 특정 환경을 조작해 에이전트의 행동을 왜곡시키는 ‘환경 주입 공격’과 같은 고도화된 해킹 수법을 경고했다. 특히 이 에이전트가 기업의 이메일, 재무 시스템, 고객 데이터베이스 등 핵심 시스템에 접근할 수 있다면, 잠재적인 피해는 상상 그 이상이 될 수 있다.

문제는 이러한 보안 취약성에 대한 대비가 턱없이 부족하다는 점이다. 논문은 OS 에이전트 보안을 위한 전용 방어 연구가 아직 초기 단계에 머물러 있다는 데 주목하고 있다. 기존 보안 체계가 인간 사용자를 전제로 설계된 만큼, 인공지능 사용자 기반의 새로운 방어 모델 구축이 시급하다는 지적이다.

기술은 빠르게 발전하지만, 아직 넘어서야 할 장벽도 존재한다. 연구에 따르면, 다양한 작업 유형별로 성공률에 큰 편차가 있었고, 일부 기능은 상용 시스템에서도 50% 이상 성공률을 보이지만, 복잡한 자율 작업에서는 지능적 판단이나 유연성이 크게 떨어지는 것으로 나타났다. 이에 따라 현재 상용화된 OS 에이전트는 반복적이고 표준화된 업무에 초점을 맞추고 있으며, 창의적 사고가 필요한 분야는 여전히 인간의 영역으로 남아있다.

또한 향후 가장 중요한 과제로 떠오르는 이슈는 '개인화'다. 논문은 개인화된 OS 에이전트가 각 사용자의 취향, 습관을 학습해 보다 정교한 도움을 줄 수 있는 가능성을 설명하며, 이에 따른 보안 및 프라이버시 문제를 경고했다. 이메일 작성 패턴, 일정 관리, 선호하는 식당까지 파악하는 AI가 등장하게 될 경우, 그에 따른 데이터 보안 체계 역시 전면적인 재설계가 불가피하다는 지적이다.

이처럼 OS 에이전트는 단순한 기술 발전을 넘어, 인간과 디지털 환경의 관계를 근본적으로 바꾸어놓을 잠재력을 지니고 있다. 연구진은 이 기술이 아직 초기 단계에 있으며, 오픈소스를 통해 다양한 실험과 적용 사례가 등장하고 있다고 전했다. 중요한 것은 이 기술이 일상에 스며들기 전에, 충분한 보안 대책과 윤리적 관리 체계가 마련돼야 한다는 점이다.

앞으로의 관건은 기술 자체보다, 그 기술이 우리 삶에 어떠한 영향을 미칠지를 얼마나 선제적으로 준비하느냐에 달려 있다. OS 에이전트가 새로운 디지털 파트너로 자리 잡게 될 때, 그 결과가 혁신일지 위기일지는 전적으로 우리의 대응에 달렸다.