아모데이, AI 개발 중단 대신 3단계 안전 구상 제시

다리오 아모데이(Dario Amodei) 앤트로픽(Anthropic) 최고경영자(CEO)가 인공지능(AI) 개발 중단보다 안전 검증과 국제 공조를 단계적으로 강화하자는 3단계 구상을 제시했다.

크립토브리핑은 아모데이의 구상이 내부 평가체계, 민주국가와 AI 기업 간 공통 기준, 국제적 조정으로 구성된다고 전했다. 핵심은 AI 능력 향상 속도가 안전성 연구와 검증을 앞서지 않도록 개발 과정에서 시간을 확보하는 데 있다.

첫 단계는 모델 훈련과 배포 과정에 안전 평가자를 지속적으로 배치하는 방식이다. 일회성 감사에 그치지 않고 개발 단계마다 반복적으로 위험을 점검하자는 취지다.

두 번째 단계에서는 주요 AI 기업과 민주주의 국가가 공통 안전 기준을 마련한다. 기업이 안전 투자를 줄여 경쟁 우위를 확보하는 상황을 막기 위해 공통 규칙을 만들자는 내용이다.

다만 평가 기준과 적용 시점, 규칙의 강제력은 구체적으로 제시되지 않았다. 공통 기준을 마련하더라도 국가와 기업이 이를 어떻게 이행할지는 별도 논의가 필요한 사안이다.

세 번째 단계는 국가별 정책을 넘어 국제 규범으로 최첨단 AI 개발을 관리하는 방안이다. 국가 간 경쟁이 이어지는 상황에서 어느 한 기업이나 국가만 안전 조치를 강화하면 경쟁에서 불리해질 수 있다는 문제의식이 깔렸다.

이번 구상은 앤트로픽의 책임 있는 확장 정책(RSP)과도 맞닿아 있다. 앤트로픽은 2026년 2월 공개한 RSP 3.0에서 AI 능력이 특정 기준을 넘을 경우 안전장치를 강화하는 AI 안전 수준(ASL) 체계를 설명했다.

ASL은 AI 모델의 능력과 위험도에 맞춰 안전·보안 조치를 단계적으로 강화하는 체계다. 앤트로픽은 고위험 단계로 갈수록 개별 기업이 독자적으로 감당하기 어려운 조치가 늘어날 수 있다고 설명했다.

RSP 3.0은 기업 차원의 대응과 업계 전체가 마련해야 할 안전 권고를 구분하고, 위험 보고서와 외부 검토를 강화하는 방향을 담았다. 아모데이의 새 구상은 이 같은 기업 내부 체계를 업계와 정부, 국제사회 차원으로 넓히자는 제안으로 볼 수 있다.

국제 공조 요구는 2026년 7월 공개된 ‘페이싱 더 프런티어’ 성명에서도 나타났다. 성명에는 최첨단 AI 기업 직원 1386명이 서명했으며, 다리오 아모데이도 서명자 명단에 포함됐다.

서명자들은 AI 연구 자동화가 개발 속도를 크게 높일 수 있다고 지적했다. 미국 정부가 AI 개발 속도를 조절할 수 있는 기술적·거버넌스 수단을 국제적으로 마련하는 데 지원해야 한다고 요구했다.

성명 참여자들은 위험 대응과 감독 체계를 마련할 시간을 확보해야 한다고 주장했다. 반면 사회관계망서비스(SNS)에서는 ‘속도 조절’의 정의와 강제 방식, 오픈소스 AI에 미칠 영향이 충분히 설명되지 않았다는 지적도 나왔다.

이 같은 SNS 반응은 정책에 대한 공식 입장으로 확인된 내용은 아니다. 따라서 현재 구상만으로 기업이나 국가가 따라야 할 구체적인 규칙이 마련됐다고 보기는 어렵다.

아모데이의 3단계 구상이 실제 국제 규범이나 기업 간 공통 기준으로 이어질지는 정해지지 않았다. 평가 결과를 누가 검증할지, 국가 간 경쟁 속에서 어느 수준까지 개발 속도를 조정할지, 오픈소스 모델에 어떤 기준을 적용할지가 추가 논의 과제로 남았다.