AI 발전 속도 경고… 앤트로픽, 국제사회에 개발 제동 요청

앤트로픽이 인공지능 모델의 발전 속도가 지나치게 빨라질 수 있다고 경고하면서, 국제사회가 필요할 경우 최첨단 AI 개발을 늦추거나 일시적으로 멈출 수 있는 장치를 검토해야 한다고 제안했다.

연합뉴스가 인용한 로이터 보도에 따르면, 클로드 개발사인 앤트로픽은 6월 4일(현지시간) 자사 블로그를 통해 내부 연구 데이터를 바탕으로 최근 AI 성능 향상 속도가 매우 가파르다고 밝혔다. 회사는 특히 AI가 인간의 직접적인 개입 없이 스스로 성능을 끌어올리는 단계로 향할 가능성을 우려하고 있다. 이른바 재귀적 자기 개선은 AI가 한 번 만들어진 뒤에도 스스로 다음 세대의 더 나은 시스템을 설계하거나 고도화하는 흐름을 뜻하는데, 현실화할 경우 기술 경쟁의 속도와 사회적 충격이 지금과는 전혀 다른 차원으로 커질 수 있다.

이번 문제 제기는 사내 연구소 책임자인 마리나 파바로와 공동창업자 잭 클라크가 작성한 글에서 나왔다. 이들은 기술 자체의 진보만큼이나 이를 통제할 제도와 안전성 연구, 즉 AI 정렬 연구가 함께 발전해야 한다고 강조했다. AI 정렬은 인공지능이 인간의 가치와 사회적 규범에 맞게 작동하도록 만드는 연구를 말한다. 앤트로픽은 이런 준비가 기술 속도를 따라가지 못할 수 있다고 보고, 국제적 합의를 통해 개발 속도를 조절하는 기준을 만들고 경쟁사들이 실제로 이를 지키는지 확인할 검증 체계도 필요하다고 주장했다.

회사는 아직 재귀적 자기 개선이 실제로 일어난 것은 아니며, 그것이 반드시 불가피한 미래라고 단정하지도 않았다. 다만 많은 기관이 예상하는 시점보다 더 빨리 도래할 수 있다고 경고했다. 잭 클라크는 이 변화가 향후 2년 안에, 어쩌면 그보다 더 이르게 나타날 수 있다고 언급했다. 이는 최근 생성형 AI 산업이 성능 경쟁과 투자 확대를 중심으로 빠르게 팽창하는 상황과도 맞물린다. 기업들은 더 큰 모델과 더 많은 연산 자원을 투입해 경쟁 우위를 확보하려 하고 있지만, 동시에 규제와 안전성 논의는 아직 국가별 편차가 크고 국제 기준도 충분히 정립되지 않은 상태다.

앤트로픽은 앞으로 몇 달 동안 정책 입안자와 연구자, 관련 업계 관계자들과 이 문제를 계속 논의할 계획이라고 밝혔다. 시장에서는 AI가 생산성 향상과 신산업 창출의 핵심 동력으로 평가받는 만큼 개발 속도 조절론이 실제 제도화되기까지는 적지 않은 논쟁이 이어질 것으로 본다. 다만 기술 기업 내부에서조차 속도 경쟁의 부작용을 공개적으로 제기하기 시작했다는 점은, 앞으로 AI 산업의 논의 축이 단순한 성능 경쟁에서 안전성과 검증, 국제 공조 체계로 넓어질 가능성을 보여준다.