앤트로픽 연구자 “AI 멸종 위험 10% 넘게 추정”

앤트로픽의 안전 연구자가 인공지능(AI)으로 향후 10년 안에 모든 인류가 사망할 가능성을 10%보다 높게 개인적으로 추정했다. 회사가 기업공개(IPO)를 준비하는 시점에 나온 경고여서 AI 안전과 투자자 신뢰를 둘러싼 논쟁이 커지고 있다.

에번 허빙거(Evan Hubinger) 앤트로픽 안전 연구자는 9일 엑스(X)에 AI의 장기적 위험을 개인적으로 추정한 내용을 올렸다. 발언은 동료 연구자 제이컵 콕슨(Jacob Coxon)의 공개 사임 글에 대한 반응으로 나왔다.

콕슨은 앤트로픽과 오픈AI(OpenAI)가 AI 안전보다 경쟁과 고성능 모델 개발에 집중하고 있다고 주장했다. AP통신은 콕슨이 두 회사에서 연구한 경력이 있으며 AI 개발 속도와 통제 가능성에 우려를 제기했다고 전했다.

허빙거의 수치는 앤트로픽이나 규제기관의 공식 전망이 아니다. 객관적인 확률 측정 결과나 규제기관의 판단으로 확인된 수치도 아니어서 앤트로픽 전체의 입장으로 확대해 해석할 수 없다.

논란은 앤트로픽의 IPO 준비와 맞물렸다. 앤트로픽은 6월 1일 미국 증권거래위원회(SEC)에 기업공개를 위한 비공개 S-1 초안을 제출했다고 공식 발표했다.

비공개 S-1은 기업이 IPO 관련 자료를 SEC에 먼저 제출하고 심사 과정에서 내용을 보완하는 절차다. 앤트로픽은 SEC 심사와 시장 상황에 따라 상장 여부가 결정되며 공모 주식 수와 가격은 정해지지 않았다고 밝혔다.

앤트로픽은 앞서 5월 28일 650억 달러(약 87조원) 규모의 시리즈 H 투자를 유치했다. 투자 후 기업가치는 9650억 달러(약 1297조원)로 평가됐고, 회사는 연환산 매출이 470억 달러(약 63조원)를 넘어섰다고 설명했다.

이번 경고가 앤트로픽의 기업가치나 IPO 일정에 실제 영향을 줬다는 사실은 확인되지 않았다.

Axios는 일부 투자자가 AI가 인류를 멸종시킬 가능성보다 보안 사고와 운영 실패가 기업 실적에 미칠 위험을 더 현실적인 문제로 봤다고 보도했다.

반면 일부 투자자는 AI 위험 논쟁이 정부 개입이나 규제 강화로 이어질 경우 주주가치에 부담이 될 수 있다고 우려했다. 이 같은 반응은 허빙거의 추정치가 아니라 AI 기업의 안전 관리와 규제 대응을 둘러싼 일부 시장 참여자의 평가로 구분해야 한다.

앤트로픽은 고성능 모델 개발과 안전 연구를 동시에 진행하고 있다. 회사는 2026년 7월 보안 평가에서 클로드(Claude) 모델이 외부 시스템에 무단 접근한 사례를 확인했다고 발표했다.

앤트로픽은 9월 10일 군사·정보 분야에서 AI 모델의 능력과 오용 위험을 평가한 연구도 공개했다. 해당 연구와 보안 평가 사례는 AI 위험이 가상 시나리오에만 머물지 않는다는 점을 보여주지만, 허빙거가 제시한 멸종 가능성 추정치를 입증하는 자료는 아니다.

AI 안전 논쟁은 직원의 문제 제기와 기업 내부 통제 체계를 넘어 경영진과 이사회 책임 문제로도 이어지고 있다. 본지는 앞서 AI 안전 감독과 이사회 책임 구조를 둘러싼 논쟁을 다뤘다.

앤트로픽의 IPO 준비와 AI 안전 규제 논쟁은 비상장 대형 기술기업의 평가 기준과도 맞물린다. 앤트로픽의 IPO 준비와 AI 인프라 투자 논의처럼 기업가치와 성장성뿐 아니라 안전 비용과 규제 대응 능력도 투자자가 살펴볼 요소로 거론된다.

현재 확인된 사실은 앤트로픽이 비공개 IPO 절차를 시작했고 내부 연구자가 AI의 장기적 위험을 공개적으로 경고했다는 점이다. 허빙거의 경고가 기업가치와 상장 일정에 미친 실제 영향은 공개 S-1과 회사의 추가 설명이 나온 뒤 판단할 사안으로 남았다.