오픈AI CFO, AI 안전 위해 최전선 개발 늦출 수 있다

오픈AI가 인공지능(AI) 안전 위험을 이유로 최전선 모델 개발 속도를 늦출 수 있다고 밝혔다. 오픈AI와 앤트로픽의 기업공개(IPO) 일정에 미칠 영향은 아직 정해지지 않았다.

사라 프라이어(Sarah Friar) 오픈AI 최고재무책임자는 16일(한국시간) CNBC 인터뷰에서 “AI 안전을 심각하게 받아들여야 한다”고 말했다. 프라이어 CFO는 필요하면 최전선 개발 속도를 늦추고 연구진의 판단을 따르겠다고 밝혔다. CNBC는 프라이어가 짐 크레이머와의 인터뷰에서 이같이 말했다고 보도했다.

프라이어는 AI 에이전트가 대량살상무기를 활용할 가능성에 대해서는 우려하지 않는다고 말했다. 다만 AI의 안전성과 정렬 문제는 중요하게 다뤄야 한다고 강조했다.

그는 “우리는 최전선 개발 속도를 조절하고 있으며 안전과 정렬을 매우 심각하게 보고 있다”고 말했다. 이어 최고재무책임자로서 개발 속도 조절에 맞춰 사업 결정을 내리겠다고 설명했다.

최전선 모델은 현재 가장 높은 수준의 성능과 능력을 목표로 개발되는 AI 모델을 뜻한다. 프라이어의 발언은 성능 경쟁의 속도만큼 안전 평가와 통제 절차를 고려하겠다는 의미로 읽힌다.

이번 발언은 AI 기술의 위험성을 둘러싼 논쟁이 커진 가운데 나왔다. 빠르게 발전하는 기술이 인류에 중대한 위험을 줄 수 있다는 전직 앤트로픽 연구원의 경고가 논쟁의 계기가 됐다.

다리오 아모데이(Dario Amodei) 앤트로픽 최고경영자는 13일 블로그 글에서 AI 모델 개발 속도를 늦춰 통제력을 확보해야 한다고 주장했다. 개발 속도를 늦추면 중대한 문제가 발생할 위험을 줄일 수 있다고 밝혔다.

앤트로픽과 오픈AI를 둘러싼 논쟁은 안전 문제와 사업 일정이 맞물린 사안이기도 하다. 안전 연구와 개발 속도 사이에서 어느 수준의 조정이 필요한지가 핵심 쟁점으로 남아 있다.

샘 알트먼(Sam Altman) 오픈AI 최고경영자는 안전 문제가 제기된 상황에서 2026년 IPO를 추진하는 것은 “좋지 않은 판단”이라고 말했다. 포천은 알트먼이 오픈AI의 2026년 상장이 이뤄지지 않을 것이라고 전했다.

일론 머스크(Elon Musk)와 알트먼도 업계 전반의 개발 속도 조절 요구에 동의한 것으로 CNBC는 전했다. 다만 이들이 구체적인 공동 감속 방안이나 일정을 확정했다는 내용은 제시되지 않았다.

앤트로픽의 IPO는 다음 달 이뤄질 것이라는 관측이 있었지만, 최근 안전 논쟁이 상장 일정에 영향을 줄지는 불확실하다. 오픈AI의 IPO 일정도 안전 대응과 사업 성장 속도를 함께 고려해야 하는 사안으로 남았다.

오픈AI의 상장 목표가 2027년으로 거론돼 왔다는 본지 과거 보도도 있다. 당시에는 오픈AI가 2026년 하반기 규제당국에 서류를 낼 수 있다는 보도와 2027년 상장 목표가 함께 전해졌다.

이번 발언은 오픈AI가 AI 개발 속도를 사업 성장만으로 결정하지 않을 수 있음을 보여준다. 프라이어는 안전 연구 결과에 따라 개발 속도를 조정하고 그에 맞춰 사업 의사결정을 내리겠다고 밝혔다.

향후 오픈AI와 앤트로픽이 안전 연구 결과를 실제 개발 일정과 IPO 준비에 어떻게 반영할지가 남은 관전 지점이다.