샘 알트먼 “오픈AI는 통치”…AI 안전 우선 강조

샘 알트먼 오픈AI(OpenAI) CEO가 Y Combinator 운영 경험을 바탕으로 기업을 직접 '지배'하기보다 다양한 이해관계자를 조율하는 방식으로 '통치'해야 한다고 말했다.

알트먼은 포춘 인터뷰에서 “모든 결정을 옳게 내리지는 못할 것”이라며 정부·투자자·경쟁사·AI 생태계의 압력을 동시에 다뤄야 한다고 말했다. 인터뷰는 한국시간 15일 오전 1시 51분 공개됐다.

알트먼은 Y Combinator가 투자한 스타트업을 직접 운영할 수 없었다고 설명했다. 자신은 각 회사의 경영자가 아니라 투자자였으며, 이 경험을 통해 'rule'이 아니라 'govern'하는 법을 배웠다는 취지다.

Y Combinator 공식 자료에는 알트먼이 2014년부터 2019년까지 대표를 맡았다고 기록돼 있다. 당시 투자 대상 기업의 일상적인 의사결정은 각 창업자와 경영진이 맡았다.

알트먼은 오픈AI가 정부·투자자·경쟁사·AI 생태계로부터 여러 압력을 받고 있으며, 정부와 생태계 사이의 긴장된 사안을 조율해야 한다고 말했다. 이는 오픈AI의 의사결정이 제품 개발뿐 아니라 규제와 안전 기준에도 영향을 받는다는 설명이다.

그는 오픈AI가 직접적인 사업상 이익이나 투자자 이익과 충돌하더라도 AI 안전을 우선하는 결정을 내릴 수 있어야 한다고 밝혔다. AI 개발을 늦추거나 중단할 필요가 있다면 재무적 이익에 반하는 결정이라고 투자자에게 설명할 수 있어야 한다는 의미다.

이번 발언은 알트먼이 AI가 인간의 통제를 벗어날 위험과 안전 기준 부족을 언급한 앞선 인터뷰와도 이어진다. 그는 현재 안전 기준이 더 강력한 AI 역량 개발을 밀어붙일 수준에 이르지 못했다고 말했고, AI가 인간의 통제를 벗어날 가능성도 “절대적으로” 있다고 밝혔다.

오픈AI는 9일 정책 문서에서 다른 프런티어 AI 기업들과 자발적인 안전 기준 마련을 추진하고, AI 역량 측정·위험 관리·인간 통제·개발 속도 조절에 관한 국제적 접근을 추진하겠다고 밝혔다. 필요하면 모델 개발을 늦추거나 중단할 수 있는 기준도 논의 대상에 포함됐다.

오픈AI는 8월 18일 차세대 모델 아스트라의 사이버 역량이 '중대' 수준에 이를 가능성을 평가한 뒤 일부 훈련과 평가 작업을 중단했다고 밝혔다. 관련 작업은 새로운 보안 기준으로 이전하는 동안 중단됐다.

알트먼이 말한 '통치'는 회사의 모든 결정을 직접 지시하는 방식보다 창업자·투자자·정부·경쟁사 등 여러 주체의 이해관계를 조정하는 의사결정 구조를 뜻한다. Y Combinator에서 투자 대상 기업의 일상 경영을 맡지 않았던 경험이 이런 설명의 배경이 됐다.

알트먼은 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석이 첨단 AI 공동 기준에 합의하면 노벨평화상을 받을 수 있다고 언급하기도 했다. 다만 이 발언은 공동 기준 합의나 수상 추진이 시작됐다는 뜻으로 확인되지는 않았다.

다리오 아모데이(Dario Amodei) 앤트로픽 CEO와 일론 머스크도 AI 개발 속도와 안전 문제를 공개적으로 언급해왔다. 다만 두 사람이 알트먼의 '거버넌스' 발언에 직접 답변했다는 내용은 제시되지 않았다.

오픈AI의 안전 기준 논의는 앞서 국가 차원의 AI 안전 기준 마련을 촉구한 오픈AI의 입장과도 맞닿아 있다. 회사는 독립 감사와 중대 안전사고 보고 등 안전장치 마련을 요구해왔다.

다만 오픈AI의 정책 문서는 회사가 제시한 방향과 입장이다. AI 기업 간 공동 안전 기준이나 미국·중국 간 협력이 실제 합의나 법적 구속력을 가진 협약으로 이어졌다는 내용은 확인되지 않았다.

알트먼의 이번 발언은 오픈AI가 투자자 이익만이 아니라 AI 안전과 국제적 조율을 함께 고려해야 한다는 운영 원칙을 설명한 것으로 정리된다. 구체적인 공동 안전 기준이나 협약의 체결 일정은 제시되지 않았다.