AI 연구원 빌랄 추그타이 “인류 죽을 가능성 있다”

구글 딥마인드에서 인공지능(AI) 안전성과 정렬 연구를 맡았던 빌랄 추그타이가 AI가 인류를 죽일 가능성이 있다고 밝혔다. 그는 AI 기업 간 개발 경쟁의 속도를 늦추고 안전성 검증을 위한 투명성을 강화해야 한다고 주장했다.

빌랄 추그타이(Bilal Chughtai) 구글 딥마인드 전 연구 엔지니어는 14일 자신의 홈페이지에 올린 ‘구글 딥마인드를 떠나며’라는 성명에서 최근 퇴사 사실을 공개했다. 그는 재직 당시 범용인공지능(AGI) 안전성과 정렬 연구를 수행했다고 설명했다.

추그타이는 성명에서 “AI가 우리 모두를 죽일 가능성이 있다고 진심으로 믿으며, 이런 결과를 피할 시간이 부족할 수 있다”고 썼다. 이는 AI의 인류 멸종 가능성이 확정됐다는 뜻이 아니라, 그가 AI 개발 방향을 관찰한 뒤 내린 개인적 위험 판단이다.

그는 최근 몇 년간 AI의 역량이 빠르게 발전했지만, AI 시스템이 인간의 의도에 맞게 행동하도록 만드는 정렬 연구는 그 속도를 따라가지 못하고 있다고 주장했다. 정렬은 AI가 인간의 지시와 가치에 맞춰 행동하도록 훈련하는 분야다.

추그타이는 AI 기업들이 앞으로 수년 안에 모든 영역에서 인간 능력을 크게 뛰어넘는 초지능 시스템을 만들 가능성이 있다고 썼다. 다만 해당 시스템이 언제 등장할지와 실현 확률은 제시하지 않았다.

그는 AI 기업들이 ‘광적인 경쟁’을 피할 수 있도록 개발 속도를 사회가 감당할 수 있는 수준으로 조절해야 한다고 제안했다. 기업의 개발 과정에 더 많은 투명성을 도입해 외부에서 안전성을 확인할 수 있어야 한다는 주장도 내놨다.

추그타이는 AI를 안전하게 개발할 가능성이 여전히 있다고 밝혔다. 개발 중단 자체를 요구하기보다 안전성 연구와 평가가 AI 역량 발전을 따라갈 시간을 확보해야 한다는 취지다.

로이터(Reuters)는 링크드인 프로필을 근거로 추그타이가 2026년 7월 구글 딥마인드를 떠났다고 보도했다. 구글은 그의 퇴사와 관련한 논평 요청에 즉시 답하지 않았다.

추그타이의 개인 홈페이지는 그가 현재 AI 안전성 인력 양성 비영리단체 블루닷 임팩트(BlueDot Impact)의 프로그램 리드로 활동하고 있다고 소개한다. 블루닷 임팩트는 공식 홈페이지에서 2022년 이후 1만 명 이상의 전문가를 교육했고 누적 모금액이 3500만달러(약 471억4500만원)라고 밝혔다.

이번 발언은 앤트로픽(Anthropic)과 오픈AI(OpenAI) 출신 인사들이 잇달아 AI 개발 경쟁을 비판한 흐름과 맞물렸다. 앞서 앤트로픽 연구원 제이컵 콕슨(Jacob Coxon)은 초지능 개발 경쟁이 인간의 생명을 걸고 있다고 비판했다.

앤트로픽 정렬 연구자 에번 후빙어(Evan Hubinger)는 AI가 향후 10년 안에 모든 인간을 죽일 가능성이 10%를 넘는다고 개인적으로 본다고 밝혔다. 이 수치는 후빙어의 견해이며, 업계의 합의된 전망은 아니다.

다리오 아모데이(Dario Amodei) 앤트로픽 CEO도 12일 공개 에세이에서 AI 모델의 역량 발전 속도를 늦춰 안전성 연구와 평가가 따라갈 시간을 확보해야 한다고 주장했다. 아모데이는 이를 AI 개발 중단이 아니라 프런티어 AI의 발전 속도를 조절하는 방안이라고 설명했다.

아모데이의 개발 속도 조절론에는 샘 알트먼(Sam Altman) 오픈AI CEO와 일론 머스크(Elon Musk)가 공개적으로 동의했다는 보도가 나왔다. 이는 추그타이의 퇴사 자체에 대한 지지가 아니라 AI 안전성 확보를 위해 개발 속도를 조절할 필요가 있다는 주장에 대한 반응이다.

추그타이의 성명은 개인적 퇴사 사유와 위험 판단을 담은 글인 반면, 아모데이의 에세이는 기업과 정부를 대상으로 한 정책 제안이라는 차이가 있다. 두 발언 모두 AI 역량 발전과 안전성 연구 사이의 격차를 줄여야 한다는 데 초점을 맞췄다.

이번 논쟁은 AI 연구자들이 자기개선형 초지능의 통제 가능성을 경고해 온 흐름의 연장선에 있다. 다만 추그타이의 발언만으로 AI의 인류 멸종 위험이나 구체적인 발생 시점을 확정할 수는 없다.