인공지능 분야의 두 거장으로 불리는 제프리 힌턴(Geoffrey Hinton)과 요슈아 벤지오(Yoshua Bengio)를 비롯한 수백 명의 과학자, 기술 기업 임직원, 예술가 및 정치인들이 인공지능 일반지능(AGI) 개발 중단을 촉구하는 성명을 발표했다. 이들은 AGI가 인류에 심각한 위협이 될 수 있다며, 안전성과 통제 가능성·사회적 합의가 확보되기 전까지 AGI 기술 개발을 전면 금지해야 한다고 주장했다.

이번 성명은 스카이프 공동창업자 얀 탈린(Jaan Tallinn)이 공동 설립한 비영리단체 ‘미래생명연구소(Future of Life Institute)’ 웹사이트를 통해 22일(현지시간) 공개됐다. 탈린은 딥마인드의 초기 투자자로도 잘 알려져 있다. 성명에는 “강인공지능(Superintelligence)의 개발은 과학계의 광범위한 합의와 국민적 지지 없이는 금지돼야 한다”며, 개발 중단 요구에 공감하는 명확한 여론이 형성됐음을 강조했다.

이러한 경고는 최근 발표된 관련 여론조사 결과에서도 확인된다. 미래생명연구소가 지난주 공개한 조사에 따르면 미국 성인 2,000명을 대상으로 실시한 설문에서 응답자의 64%가 ’슈퍼휴먼 AI 개발의 연기 또는 전면 금지’를 지지하는 것으로 나타났다. 이는 기술 개발에 앞서 국민의 불안과 우려가 깊이 자리잡고 있음을 드러내는 대목이다.

힌턴은 지난해 AI 연구 성과로 노벨 물리학상을 수상했으며, 신경망이 학습하는 데 필수적인 역전파(backpropagation) 알고리즘 개발자이다. 그는 컴퓨터과학계의 노벨상이라 불리는 튜링상을 벤지오와 함께 수상한 바 있다. 벤지오는 오늘날 대형 언어모델(LLM)의 기초인 임베딩 기술과 주목(attention) 메커니즘의 전신을 개발한 연구자로, 인공지능 기초연구의 핵심 인물 중 하나다.

이번 성명에는 힌턴과 벤지오 외에도 다른 노벨상 수상자 4명, 다수의 저명한 교수진, 애플 공동창업자인 스티브 워즈니악(Steve Wozniak) 등 기술계 및 학계 인사들이 이름을 올렸다. 이와 함께, 전직 미 의회 의원 6명과 유럽의회 현직 의원 3명, 해리 왕자와 메건 마클 부부, 리처드 브랜슨까지 합류하면서 사회 전반으로 AGI 규제 목소리가 확산되고 있다.

특히 주목할 점은 오픈AI와 앤스로픽(Anthropic)의 현직 직원 2명도 이 성명에 서명했다는 점이다. 양사는 AGI 기술 개발을 선도하면서도 동시에 ‘알고리즘의 투명성’과 ‘리스크 관리’ 문제로 빈번한 논란에 휘말려 왔다. AGI 규제안은 이들 기업의 사업 전략에 직접적인 영향을 줄 수 있다.

이번 발표는 지난해 6월 공개된 또 다른 공개서한에 이어 나온 것으로, 당시에는 오픈AI, 앤스로픽, 구글 딥마인드 소속의 전·현직 직원들이 인공지능 위험에 대한 기업들의 더 많은 공개와 책임을 요구한 바 있다. 이 서한에도 힌턴과 벤지오가 공동 서명하며 같은 문제에 대한 지속적인 우려를 표명한 바 있다.

이처럼 세계적 권위를 갖춘 연구자들과 다방면의 사회 leaders가 한목소리로 AGI 개발 중단을 촉구하고 나선 것은, 기술 발전을 무조건 긍정적으로 보기보다는 ‘사전 통제와 사회적 검증’의 중요성이 절대적으로 커졌음을 보여준다. AI 기술이 일상과 산업 전반에서 영향력을 키워가고 있는 지금, 인류는 권익과 안전을 중심에 둔 새로운 개발 기준을 마련해야 할 시점에 와 있다.