알트먼, AI 경쟁 종착점 세 가지 제시…한 기업 독주는 '끔찍'

샘 알트먼(Sam Altman) 오픈AI CEO가 고급 AI 개발 경쟁이 끝날 수 있는 방향으로 국제 감시기구, 최상위 연구소의 통합, 한 기업의 독주라는 세 가지 시나리오를 제시했다. 알트먼은 이 가운데 세 번째를 '끔찍하다(terrible)'고 평가했다.

발언은 오픈AI 내부 직원들과의 토론에서 나온 것으로, 크립토브리핑이 19일 전했다. 공개 문서로 발표된 오픈AI의 공식 정책은 아니다.

첫 번째는 원자력 기술을 감시하는 기구를 모델로 한 국제 규제기관이다. 이 기구가 AI 개발과 안전성을 감독하는 구조로, 알트먼은 이 방식을 가장 익숙한 것으로 언급했다. 다만 여러 나라가 전략 자산으로 여기는 기술의 규칙에 합의해야 성립할 수 있다.

두 번째는 선도 AI 연구소들이 하나의 조직으로 합쳐지는 방안이다. 최상위 기업들이 제품을 먼저 내놓으려는 경쟁 대신 안전 기준과 관행을 공유하자는 취지다. 크립토브리핑은 이 방식이 조율 문제를 풀어도 '거대한 단일 조직'이라는 또 다른 집중 문제를 낳는다고 짚었다.

세 번째는 재귀적 자기개선(RSI, Recursive Self-Improvement)을 먼저 달성한 기업이 시장을 독주하는 경우다. RSI는 AI가 자신의 설계를 개선하고, 향상된 능력으로 다시 자신을 고쳐 나가는 과정을 말한다. 알트먼은 이 경로에서 한 기업이 경쟁사의 GPU(그래픽처리장치)까지 무력화할 수 있다는 극단적 가능성을 언급했다. GPU는 AI 학습과 배포에 쓰이는 전용 반도체다.

알트먼은 앞서 공개 석상에서도 두 가지 위험을 꼽았다. AI 시스템을 인간이 통제하지 못하는 상황과 소수 기관에 권력이 집중되는 상황이다. 크립토브리핑은 알트먼이 9월 14일 두 결과 모두 허용돼서는 안 된다고 말했다고 전했다. 알트먼은 오픈AI의 입장을 특정 기업이나 집단이 아닌 인류 전체의 편에 서는 것으로 규정했고, 강화된 안전 프로토콜과 AI 시스템에 대한 독립 평가도 요구했다.

업계의 속도 조절 논의와도 맞닿아 있다. 다리오 아모데이(Dario Amodei) 앤트로픽 CEO가 안전 연구와 위험 대응에 시간을 벌기 위해 최첨단 AI 모델의 성능 개선 속도를 늦추자고 제안하자, 알트먼과 일론 머스크(Elon Musk)가 지지 의사를 나타냈다. 크립토브리핑은 알트먼이 9월 아모데이의 에세이 '페이스 더 프론티어(Pace the Frontier)'를 지지했다고 전했다. 이 글은 업계 전반의 안전 관행과 평가를 조율하자는 주장을 담고 있다.

이번에 제시된 세 시나리오는 각각 다른 방향에서 집중 문제를 안고 있다. 국제 감시기구는 국가 간 합의라는 관문이 있고, 연구소 통합은 경쟁을 줄이는 대신 권력이 한곳에 몰린다. 독주 시나리오는 알트먼이 경계해 온 권력 집중 문제와 같은 성격이다.