오픈AI·앤트로픽, AI 개발 속도 조절 공감

오픈AI와 앤트로픽이 인공지능(AI) 모델 개발 속도를 조절하고 외부 평가기관의 안전 검증을 받는 방안에 공감했다. 다만 메타와 엔비디아는 기업별 판단이 우선이라는 입장을 밝혔다.

다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 12일 공개 글에서 “AI 모델의 능력을 향상하는 속도를 늦춰야 한다”고 말했다. 최근 AI 발전 속도가 빨라졌고, AI가 차세대 AI 개발을 돕는 능력까지 커졌다는 이유를 들었다.

아모데이는 개발 속도 조절이 AI 발전 중단을 뜻하는 것은 아니라고 설명했다. 안전성 연구와 사고 대응 체계가 기술 발전 속도를 따라갈 시간을 확보해야 한다는 취지다.

아모데이가 제안한 방안은 세 갈래다. △외부 평가기관에 기업 내부 위험평가팀에 준하는 접근 권한 부여 △민주주의 국가의 AI 기업 간 공통 안전 기준과 개발 속도 제한 조율 △미국과 동맹국이 중국을 포함한 다른 국가와 위험한 AI 활용 제한 방안 논의다.

외부 평가기관은 기업이 안전 약속을 이행하는지, 사고 보고 체계가 작동하는지 점검하는 역할을 맡는다. 평가 인력에게 사무공간과 장비를 제공하고 내부 위험평가팀에 가까운 접근 권한을 부여하는 방식이 거론됐다.

샘 알트먼(Sam Altman) 오픈AI CEO는 같은 날 X에서 “프런티어 AI의 속도를 조절해야 한다는 다리오의 의견에 동의한다”고 말했다. 독립 평가기관이 기업 내부에 상시 접근해 안전 조치와 사고 대응을 검증하는 방안에도 동의하며 오픈AI도 같은 방식을 도입하겠다고 밝혔다.

테크크런치는 알트먼이 외부 평가기관의 상시 접근 방안을 지지했다고 전했다. AP통신은 알트먼이 속도 조절은 AI 발전을 멈추자는 뜻이 아니며, 안전 검증과 모니터링에 드는 비용을 감수하더라도 무리한 경쟁은 피해야 한다고 설명했다고 보도했다.

업계 반응은 엇갈렸다. 일론 머스크(Elon Musk) xAI 창업자는 “다리오가 옳다”고 밝혔고, 데미스 허사비스(Demis Hassabis) 구글 딥마인드 공동창업자는 세부 조정이 필요하지만 방향은 맞다고 말했다.

반면 마크 저커버그(Mark Zuckerberg) 메타 CEO는 각 기업이 자체적으로 안전한 개발 속도를 결정해야 한다며 공동 감속 논의와 거리를 뒀다. 기업마다 모델의 위험 수준과 안전 관리 체계가 다르다는 판단이다.

젠슨 황(Jensen Huang) 엔비디아($NVDA) CEO도 별도 규제보다 기업별 안전 판단으로 혁신과 안전을 함께 달성할 수 있다고 주장했다. 개발 속도를 일률적으로 제한하는 방식에는 신중한 입장을 보인 셈이다.

가디언은 기업 간 공동 기준 조율이 반독점 규제와 충돌할 수 있다는 우려도 전했다. 경쟁사들이 개발 속도와 안전 기준을 함께 정할 경우 경쟁 제한으로 해석될 여지가 있다는 지적이다.

이번 논쟁은 AI 개발 속도와 안전 확보를 둘러싼 업계의 견해 차이를 다시 드러냈다. 아모데이는 공동 속도 조절과 외부 검증을, 저커버그와 황은 기업별 안전 관리와 혁신의 병행을 강조했다.

독립 평가기관의 접근 권한이 실제 제도로 정착하려면 평가 범위와 정보 접근 수준, 사고 보고 방식에 대한 추가 합의가 필요하다. 현재 오픈AI와 앤트로픽이 공동 안전 기준이나 구체적인 시행 일정에 합의했다는 발표는 나오지 않았다.

이번 발언만으로 두 회사의 개발 일정이나 제품 출시 계획이 변경됐다고 단정하기도 어렵다. 향후 각 기업이 외부 평가기관 도입과 안전 기준 조율을 실제 정책으로 발표할지가 관건이다.