하사비스, 인간 검토 없는 RSI는 'AGI에 이르는 위험한 길'

데미스 하사비스(Demis Hassabis) 구글 딥마인드(Google DeepMind) 공동창업자 겸 회장은 사람이 코드를 검토하지 않는 ‘폐쇄형 재귀적 자기개선(RSI)’이 범용인공지능(AGI)에 이르는 위험한 경로가 될 수 있다고 경고했다.

하사비스의 발언은 리드 호프먼(Reid Hoffman)과 나눈 마스터스 오브 스케일 대담에 담겼다. 대담은 2026년 10월 미국 샌프란시스코에서 녹화됐으며, 전문 페이지는 11월 6일 공개됐다.

하사비스는 현재 AI가 코딩을 돕더라도 사람이 AI가 작성한 코드를 검토하고 시스템 구조를 설계한다고 설명했다. 그는 사람의 검토 절차가 사라진 채 AI가 다음 버전을 설계하고 개선하는 단계와 현재의 개발 방식을 구분했다.

그는 AI 코딩 도구가 인간 엔지니어의 생산성을 3~5배 높일 수 있다고 말했다. 우려의 초점은 생산성 향상 자체가 아니라 사람이 검토하는 과정까지 사라지는 데 있다.

하사비스는 폐쇄형 RSI의 결과가 “AGI에 이르는 매우 위험한 길”이 될 수 있다고 말했다. AI가 인간의 검토 없이 스스로 다음 버전을 만들고 개선하는 방식이 통제 문제를 낳을 수 있다는 취지다.

그는 이런 시스템이 인간과 다른 사고방식을 가진 ‘외계 지능’처럼 보일 수 있다고 경고했다. 사람은 AI의 행동을, AI는 사람의 의도를 이해하기 어려워질 수 있다는 비유다.

다만 하사비스는 자기개선의 효용도 인정했다. 수학·코딩·게임처럼 결과를 검증할 수 있는 영역에서는 AI가 결과를 확인하며 개선을 반복할 수 있다고 설명했다.

그는 알파제로(AlphaZero)가 게임을 반복하고 새 버전을 훈련한 사례를 들었다. 하사비스의 경고는 이런 작업 자체보다 인간의 검토 없이 AI 개발이 이어지는 상황을 향했다.

앤트로픽(Anthropic)은 자체 측정 자료에서 2026년 8월 기준 자사 AI 연구개발 업무의 26%를 클로드(Claude)가 ‘주도’했다고 밝혔다. 이는 회사 내부 업무에 대한 자체 평가다.

앤트로픽의 분류에서 ‘주도’는 AI가 업무 대부분을 수행하되 사람이 감독하는 단계다. 회사는 측정 대상 가운데 완전 자율로 수행된 업무는 없었다고 밝혔다.

앤트로픽은 업계 공통 측정 방식이 없고 자사 모델을 평가에 사용했다는 한계도 제시했다. 이 수치는 회사가 정한 기준으로 자사 업무를 측정한 결과다.

이번 대담에서 하사비스는 RSI의 투자 가능성보다 인간의 검토와 통제가 빠지는 데 따른 위험을 강조했다.

오픈AI(OpenAI)는 2026년 9월 6일 공개한 연구 자동화 설명문에서 2028년 3월까지 ‘자동화된 AI 연구자’를 만드는 목표를 제시했다. 이는 달성된 일정이 아니라 회사가 밝힌 목표다.

오픈AI는 인간의 지시 아래 정해진 과제를 수행하는 ‘자동화된 연구 인턴’ 단계에는 도달했다고 설명했다. 연구 우선순위와 결과 채택 여부, 시스템을 확대하거나 멈출지는 사람이 결정한다고 밝혔다.

오픈AI는 안전한 완전 RSI를 구현하는 방법을 아직 알지 못한다고 밝혔다. 하사비스는 안전 대책으로 샌드박스와 모니터링, 사이버 방어 강화, 외부 기관의 감사와 평가를 제시했다.