AI 에이전트 보안, 모델보다 시스템 설계가 핵심

김미래 기자

2026.05.27 (수) 03:50

구글 등 연구진은 AI 에이전트 보안을 모델 강화가 아닌 전체 시스템 차원의 컴퓨터 보안 문제로 다뤄야 한다고 밝혔다.

암호화폐 시장에서 지갑 접근과 자동 거래 활용이 늘면서 최소 권한 부여와 데이터 통제 등 구조적 보안 필요성이 커지고 있다.

AI 에이전트 보안, 모델보다 시스템 설계가 핵심 / TokenPost.ai

인공지능(AI) 에이전트의 보안은 모델만 강화해서는 부족하며, 전체 시스템 차원에서 설계해야 한다는 연구 결과가 나왔다. 특히 암호화폐 시장에서 AI 에이전트 활용이 빠르게 늘고 있어, 지갑 접근과 거래 자동화에 따른 보안 위험도 함께 커지고 있다.

13일 코인텔레그래프에 따르면 구글, 그레이스완 AI, 임브레이스더레드, 여러 대학 연구진은 지난 20일 수정 논문에서 ‘에이전트 보안’을 컴퓨터 보안의 문제로 봐야 한다고 주장했다. 연구진은 AI 에이전트를 ‘신뢰할 수 없는 구성요소’로 취급해야 하며, 모델의 강건성만 높이는 방식으로는 공격을 충분히 막기 어렵다고 지적했다.

연구진은 악성 입력과 정상 데이터를 명확히 구분하고, 에이전트에는 업무 수행에 필요한 최소 권한만 부여해야 한다고 설명했다. 또 민감한 정보가 어디로 전달될 수 있는지는 에이전트가 아니라 전체 시스템이 통제해야 한다고 강조했다. 이런 방식이 적용되면 악성 행위자가 프롬프트 조작이나 데이터 위장으로 에이전트를 속이는 공격을 줄일 수 있다는 설명이다.

AI 에이전트는 웹3 애플리케이션 구축, 토큰 출시, 프로토콜 상호작용, 자동 거래 등으로 활용 범위가 넓어지고 있다. 서클(Circle) 최고경영자 제러미 알레어는 향후 5년 안에 수십억 개의 AI 에이전트가 사용자 대신 활동할 수 있다고 전망한 바 있다. 다만 최근에는 AI 기반 크립토 거래 보조기 ‘뱅크르’가 14개 이상 지갑 접근이 확인되자 거래를 중단하는 사례도 나와, 보안 우려가 현실화하고 있다.

메커니즘적 측면에서도 연구진은 지시와 신뢰할 수 없는 데이터를 분리하고, 접근 권한을 최소화하며, 데이터 이동 경로를 시스템이 직접 통제하는 ‘3가지 장치’가 상당수 공격을 막을 수 있다고 봤다. 메르클 사이언스의 에런 래트클리프는 “AI가 프런트러닝 탐지, 슬리피지 제한, 사기 토큰 식별, 실시간 감사까지 할 수 있어야 한다”고 말했다.

[정치분석] 미·중 정상회담, 득보다 실이 더 클 수 있다

알파리포트 전문 보기 →

업계에서는 AI 에이전트가 지갑과 연결되는 순간, 원래 ‘무신뢰’ 기반인 블록체인 구조에 새로운 신뢰 계층이 추가된다는 점을 주목하고 있다. 결국 시장이 원하는 것은 더 똑똑한 모델이 아니라, 권한을 제한하고 공격면을 줄이는 ‘구조적 보안’이라는 해석이 나온다.

기사요약 by TokenPost.ai
🔎 시장 해석
AI 에이전트 보안은 모델 성능이 아닌 ‘시스템 설계’ 문제로 이동 중
암호화폐·웹3 영역에서 지갑·거래 자동화가 늘며 보안 리스크 급증
AI가 신뢰 대상이 아니라 ‘통제 대상’이라는 인식 확산

💡 전략 포인트
명령과 데이터 분리로 프롬프트 공격 차단 필요
지갑·거래 관련 기능은 ‘최소 권한’ 구조로 설계
민감 정보 흐름은 AI가 아닌 시스템에서 직접 통제
자동화보다는 ‘사용자 승인 기반’ 구조가 현실적인 안전장치

📘 용어정리
AI 에이전트: 사용자를 대신해 작업·거래·의사결정을 수행하는 자동화 AI
최소 권한 원칙: 필요한 권한만 부여해 피해 범위를 제한하는 보안 원칙
프롬프트 공격: 입력 데이터를 조작해 AI의 행동을 왜곡시키는 공격 방식
프런트러닝: 거래 정보를 미리 이용해 먼저 이익을 취하는 시장 행위