샘 알트먼 "2026년 오픈AI 상장은 아니다"

샘 알트먼 오픈AI CEO가 현재 오픈AI의 상장 추진은 시기상조라며 2026년 기업공개 가능성에 선을 그었다. 그는 AI 개발 경쟁이 더 높은 위험 구간에 들어선 만큼, 모델 성능 확대와 안전성 검증이 함께 가야 한다고 강조했다.

9월 12일(현지시간) 포춘 인터뷰에서 샘 알트먼 오픈AI 최고경영자(CEO)는 "지금은 상장하기에 현명하지 않은 순간"이라며 "2026년은 아니라고 말하겠다"고 밝혔다. 그는 "해야 할 일이 많다"며 상장보다 AI 안전성과 통제 가능성 확보가 우선이라는 취지로 말했다.

알트먼 CEO는 최근 AI의 미래에 대한 우려가 커진 데 대해 "세계가 이 문제를 논의하기에는 이미 늦은 감이 있다"고 평가했다. 그는 현재 AI 업계가 "매우 유능한 모델, 높은 이해관계, 제대로 해야 할 필요성"이 함께 놓인 국면에 들어섰다고 설명했다.

그는 AGI의 정의에 지나치게 매달리기보다 모델 능력의 급격한 변화를 봐야 한다고 말했다. 큰 잠재력과 실제 위험이 있는 곡선 위의 한 지점에 있다며 AI가 경제적으로 유용한 다수 작업에서 인간을 앞서는지 여부보다 역량 확대 자체가 핵심이라고 짚었다.

AI가 10년 안에 인류를 위협할 수 있다는 업계 내부 우려에 대해서는 "10년 말까지 모두를 죽일 10% 위험을 감수하는 것은 명백히 받아들일 수 없다"고 말했다. 다만 그는 그런 확률을 5%, 10%, 30%처럼 숫자로 특정하는 방식에는 회의적이라며, 핵심은 기업과 정부가 위험을 낮추는 방향으로 행동해야 한다는 점이라고 설명했다.

알트먼 CEO는 모델 역량이 높아질 때마다 정렬 연구, 감시 체계, 안전 장치를 강화해야 한다고 밝혔다. 그는 "자아나 이윤 동기, 그 밖의 어떤 것도 방해가 되게 해서는 안 된다"며 오픈AI를 포함한 AI 기업들이 새로운 위험 수준에 맞춰 의사결정 방식을 바꿔야 한다고 강조했다.

통제력 상실 가능성도 주요 위험으로 꼽았다. 알트먼 CEO는 "AI에 미래의 통제권을 잃을 위험이 있는 행동을 해서는 안 된다는 원칙에는 모두 동의해야 한다"며, 모델이 무엇을 하는지 이해하는 능력과 인간의 가치 및 사용자 의도를 따르게 하는 능력이 함께 발전해야 한다고 설명했다.

그는 오픈AI가 더 설득력 있는 안전성 근거를 마련할 때까지 일부 학습 작업을 일시 중단해 왔다고 밝혔다. 알트먼 CEO는 모델을 배포하기 전과 학습 과정 중 감사와 검토가 필요하다며, 통제 가능성과 정렬에 대해 강한 설명을 제시할 수 없는 모델은 학습해서는 안 된다고 말했다.

재귀적 자기개선에 대해서는 넓은 범위의 개념이라고 설명했다. 모델이 다음 모델의 학습 데이터를 만들거나 연구자와 엔지니어의 작업 속도를 높이는 일은 이미 진행되고 있지만, 인간이 통제에서 배제되는 형태라면 해서는 안 된다는 입장이다.

알트먼 CEO는 "사람들이 미래에 대한 주도권과 결정권을 가져야 한다"며 오픈AI가 통제할 수 없다고 판단하는 모델 개발은 중단하겠다고 밝혔다. 그는 더 강력한 모델을 현재 모델 이해와 정렬 연구에 활용해 왔다면서도, 역량 확대가 안전성 검증을 앞서가서는 안 된다고 강조했다.

TokenPost AI 유의사항 TokenPost.ai 기반 언어 모델을 사용하여 작성된 기사입니다. 본문의 주요 내용이 제외되거나 사실과 다를 수 있습니다.