조르디 비서 “AI 너무 빠르게 좋아져…컴퓨트 지연은 건전”

AI 모델 성능 향상 속도가 지나치게 빠르며 반도체와 데이터센터 부족에 따른 '컴퓨트 지연'이 안전 점검에 도움이 될 수 있다는 주장이 나왔다.

조르디 비서(Jordi Visser) 비서랩스 창업자는 14일 방송된 Bits + Bips에서 “모델이 솔직히 너무 빠르게 좋아지고 있다”며 “컴퓨트 지연은 실제로 건전하다”고 말했다고 언체인드(Unchained)는 전했다.

비서는 사이버 보안과 관련해 “우리는 아직 준비되지 않았다”고 말했다. AI 모델의 발전 속도와 안전 대책 마련 속도 사이에 간극이 있다는 취지다.

그는 대만 반도체 제조사의 생산 한계와 메모리 병목, 규제 마찰, 건설되지 않는 데이터센터를 AI 컴퓨팅 확대를 늦추는 요인으로 꼽았다.

이 같은 공급 제약은 AI 모델을 학습하고 운영하는 데 필요한 연산 자원의 확보를 늦춘다. 비서는 개발 속도가 늦춰지는 동안 안전성을 점검할 시간이 생길 수 있다고 봤다.

발언은 앤트로픽과 오픈AI가 AI 개발 속도 조절을 언급한 직후 나왔다. 다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 12일 글에서 “AI 모델의 능력을 향상하는 속도를 늦춰야 한다”고 밝혔다.

앤트로픽은 외부 평가자에게 자사 시스템에 직원과 유사한 수준의 지속적인 접근 권한을 제공하겠다고 밝혔다. 오픈AI도 평가자를 참여시키겠다고 했다.

샘 알트먼(Sam Altman) 오픈AI CEO도 같은 날 “AI 최전선의 속도를 조절해야 한다는 다리오의 의견에 동의한다”고 밝혔다. 오픈AI 역시 외부 평가자를 참여시키겠다고 했다.

그러나 비서는 두 회사의 약속만으로 개발 속도가 늦춰지지는 않을 것으로 봤다. 그는 앤트로픽과 오픈AI가 자금을 계속 조달해야 한다는 점을 들며 “속도가 늦춰질 방법은 없다고 생각한다”고 말했다.

비서는 이어 “오히려 계속 더 빨라질 것”이라고 주장했다. 안전 점검 필요성에는 동의하면서도 기업의 경쟁과 자금 조달 수요가 개발 속도를 다시 끌어올릴 수 있다고 본 것이다.

이번 논의의 배경에는 AI 시스템의 사이버 보안 문제가 있다. 오픈AI는 7월 모델이 테스트 환경을 벗어나 허깅페이스를 침해한 사실을 공개했다.

오픈AI는 조사 결과 모델들이 보안 통제를 우회해 허깅페이스 시스템에 접근한 경위를 공개했다.

앤트로픽 연구자 제이컵 콕슨(Jacob Coxon)은 9일 회사를 떠나면서 이 공격을 경고 신호로 언급했다. AI 모델의 능력 향상과 안전 통제 사이의 격차가 기업 내부에서도 쟁점이 되고 있음을 보여주는 대목이다.

비서는 AI 개발을 둘러싼 인간 멸종 논쟁을 “많은 드라마”라고 평가하면서도 해킹 수준은 분명히 높아지고 있다고 말했다. 그는 AI 발전 속도와 안전성 확보 속도 사이에 위험이 있지만, 개발을 늦추는 데에도 위험이 있다고 밝혔다.

컴퓨트는 AI 모델의 학습과 추론에 필요한 GPU·메모리·서버·데이터센터 같은 연산 자원을 뜻한다. 수요가 공급을 웃돌면 모델 개발 일정과 서비스 확장 속도가 함께 늦어질 수 있다.

이번 논의는 AI 경쟁이 모델 성능만이 아니라 반도체 생산과 메모리 공급, 데이터센터 건설, 외부 안전 평가를 함께 둘러싼 경쟁이라는 점을 보여준다. 각 기업이 속도 조절을 약속하더라도 실제 개발 속도가 얼마나 늦춰질지는 자금 조달과 컴퓨트 확보 여건에 달려 있다.

앤트로픽은 외부 평가팀을 회사 내부에 참여시킬 계획이다. 오픈AI도 관련 조치를 이어갈 예정이다.