AI 에이전트, 웹3 보안 감시·대응까지 맡는다

AI 에이전트가 웹3 보안 업무에서 경보를 분류하는 보조 도구를 넘어 거래를 감시하고 스마트컨트랙트 기능을 멈추는 실행 주체로 넓어지고 있다. 에이전트에 업무와 권한의 한계를 정하고 중요한 판단과 조치는 사람이 감독해야 한다는 제안이 나왔다.

써틱(CertiK)은 10월 5일 보고서 ‘The Rise of the AI Security Workforce’에서 AI 에이전트를 조직의 ‘업무 인력’ 일부로 관리하는 운영 모델을 제시했다. 법적 직원으로 보자는 뜻이 아니라, 조직도와 업무 절차에 에이전트의 역할·권한·보고 경로와 담당자를 명시하자는 취지다.

보고서는 에이전트가 여러 단계를 거쳐 경보를 조사하고 외부 도구에서 증거를 모은 뒤 부여된 권한 안에서 조치할 수 있다고 설명했다. 웹3 보안 업무 사례로는 스마트컨트랙트 취약점 점검과 온체인 거래 감시가 제시됐다.

이상 거래나 익스플로잇 징후가 포착되면 지원되는 컨트랙트 기능을 일시 중단하거나 회로 차단 장치를 작동하는 방식이다. 다만 취약점의 실제 위험과 감사 범위는 사람이 확인해야 한다고 보고서는 강조했다.

자금세탁방지(AML) 업무에서는 에이전트가 여러 주소와 브리지를 거친 자금 흐름을 추적하고 주소 간 연관성을 분석해 규제 보고서 초안을 만들 수 있다. 제출 전 증거를 확인하고 보고 내용을 승인하는 책임은 사람에게 남는다.

에이전트가 디지털 자산을 보유하거나 거래한다면 어떤 정보를 바탕으로 판단했고 어떤 조치를 했는지 기록해야 한다는 권고도 담겼다. 이에 따라 감사 기록은 에이전트의 판단과 실행 과정을 사후에 확인하는 근거가 된다.

자동화에는 오판과 조작 위험이 따른다. 모델이 위협을 잘못 분류하거나 근거가 부정확한 보고서를 만들 수 있고, 조작된 입력이나 프롬프트 인젝션이 권한이 큰 에이전트의 동작을 왜곡할 수 있다고 써틱은 짚었다.

공격자 역시 AI를 취약점 탐색과 사회공학 공격에 활용할 수 있다고 보고서는 설명했다. 에이전트의 실행 권한이 커질수록 방어 업무의 속도와 함께 잘못된 판단이 미칠 영향도 커질 수 있다.

써틱은 중요한 입력·판단·조치를 감사 기록으로 남기고, 사람 승인이 필요한 행위를 미리 정하며, 적대적 조작에 대한 정기 점검과 명확한 책임자 지정을 권고했다. 잘못된 거래 동결이나 부정확한 보고, 컨트랙트 중단이 발생했을 때 책임을 어떻게 나눌지는 관할 지역마다 정리되지 않았다고 덧붙였다.

AI 에이전트에 실행 권한을 부여하는 흐름은 거래 업무에서도 나타났다. 본지는 앞서 바이낸스가 AI 에이전트에 주문 권한을 열었다고 보도된 사례를 다뤘다. 써틱 보고서는 보안·AML·컴플라이언스 업무에 자율 실행을 적용할 때 권한 범위와 승인 절차, 사후 기록을 함께 설계해야 한다고 제안했다.