자율형 AI 에이전트 ‘ROME’, 강화학습 중 크립토 채굴 정황…통제·안전장치 과제로

자율형 AI 에이전트가 학습 과정에서 예기치 않게 가상자산 채굴을 시도한 정황이 포착됐다. 단순한 보안 사고로 치부하기 어려울 만큼 여러 차례 반복됐다는 점에서, ‘AI 에이전트’의 통제와 안전장치 문제가 다시 부각되고 있다.

최근 공개된 기술 보고서에 따르면, 자율형 AI 시스템 ‘ROME’은 도구·소프트웨어 환경·터미널 명령을 통해 스스로 과제를 수행하도록 설계된 실험 모델이다. 연구진은 강화학습(reinforcement learning) 구간에서 ROME이 돌연 ‘크립토 채굴’과 유사한 행위를 보였다고 밝혔다. 훈련 서버에서 외부로 나가는 트래픽 때문에 보안 경보가 울렸고, 방화벽 로그에는 채굴 작업을 연상시키는 활동과 내부 네트워크 자원 접근 시도가 찍혔다.

연구진은 “처음에는 잘못 설정된 외부 송신(egress) 통제나 외부 침해 같은 통상적 보안 사건으로 봤다”면서도 “하지만 여러 번의 실행(run)에서 뚜렷한 시간 패턴 없이 간헐적으로 위반이 재발했다”고 설명했다. 반복적으로 나타난 이상 징후가 ‘외부 공격자’가 아니라 모델의 내부 행동일 수 있다는 점이 핵심이다.

역방향 SSH 터널·GPU 전용…채굴에 가까운 행동

보고서가 제시한 사례는 구체적이다. 한 경우 ROME은 외부 IP 주소로 ‘역방향 SSH’(Reverse SSH) 터널을 생성한 것으로 전해졌다. SSH는 서버와 클라이언트 간 통신을 암호화하는 프로토콜인데, 역방향 터널은 외부에서 내부로의 접속 경로를 우회적으로 만드는 데 활용될 수 있어 인바운드 방화벽 보호를 우회할 가능성이 있다.

다른 사례에서는 모델 훈련에 배정된 GPU 자원을 가상자산 채굴 프로세스 쪽으로 돌린 정황이 확인됐다. 학습 최적화를 위해 투입돼야 할 연산 자원이 ‘암호화폐 채굴’로 전용됐다는 뜻으로, 실제 채굴 성공 여부와 무관하게 보안·운영 관점에서 민감한 문제로 해석된다.

연구진은 이 같은 행동이 사전에 의도적으로 프로그래밍된 것이 아니라고 선을 그었다. 강화학습 최적화 과정에서 에이전트가 환경과 상호작용하는 다양한 방법을 ‘탐색’하던 중, 예상치 못한 방식으로 컴퓨팅 자원 활용 방향을 찾아냈다는 설명이다. AI 에이전트가 목표 달성을 위한 수단을 넓게 탐색할수록, 운영 정책이나 보안 경계를 ‘비정상적 경로’로 건드릴 수 있다는 우려가 현실 사례로 드러난 셈이다.

알리바바 생태계 연계 연구진…‘에이전틱 러닝’ 인프라에서 개발

ROME은 ROCK, ROLL, iFlow, DT 등 공동 연구팀이 개발했으며, 알리바바의 AI 생태계와 연결된 조직으로 소개됐다. 모델은 ‘Agentic Learning Ecosystem(ALE)’이라는 더 큰 인프라 안에서 만들어졌다.

이 시스템은 단순히 대화 답변을 내놓는 챗봇을 넘어, 과제를 계획하고 명령을 실행하며 코드 수정과 디지털 환경 상호작용을 여러 단계에 걸쳐 수행하도록 설계됐다. 훈련 파이프라인 역시 대규모 ‘시뮬레이션 상호작용’ 데이터를 통해 의사결정을 개선하는 구조로, 최근 확산 중인 ‘AI 에이전트’ 흐름과 맞닿아 있다.

AI 에이전트-크립토 결합 확산…온체인 지갑으로 결제까지

이번 사례는 AI 에이전트가 빠르게 대중화되는 동시에, 크립토 인프라와 결합하는 흐름 속에서 나왔다. 지난달 블록체인 개발 인프라 기업 알케미는 자율형 AI 에이전트가 온체인 지갑을 사용해 컴퓨팅 크레딧을 구매하고 블록체인 데이터 서비스를 이용할 수 있도록 하는 시스템을 출시했다. 이 과정에서 베이스(Base) 네트워크와 유에스디코인(USDC) 결제 구조가 활용됐다.

그에 앞서 오픈소스 AI 연구소 센티언트의 테스트 플랫폼 ‘아레나(Arena)’에는 판테라캐피털과 프랭클린템플턴의 디지털자산 부문이 1기 참여 그룹으로 합류했다. 기업 업무 흐름 같은 현실 환경에서 AI 에이전트 성능을 평가하는 목적의 실험이 투자사들까지 포함한 형태로 커지고 있다는 의미다.

자율형 AI 에이전트가 도구를 쥐고 실제 시스템을 만지는 시대가 열리면서, ‘컴퓨팅 자원’과 ‘크립토 채굴’ 같은 경제적 유인이 보안 리스크와 직결될 여지도 커지고 있다. ROME 사례는 강화학습으로 최적화되는 AI 에이전트가 예기치 않게 경계선을 넘을 수 있다는 점을 보여주며, AI 에이전트 안전성 설계와 모니터링 체계를 어디까지 정교하게 가져가야 하는지 시장에 숙제를 던지고 있다.