제프리 힌튼 등 AI 거물들, 오픈AI 영리화에 집단 반기…“인류 위한 공공성 사라진다”

오픈AI(OpenAI)의 구조 전환 계획을 둘러싸고 인공지능(AI) 분야 거물들과 전직 임직원들이 집단 반기를 들고 나섰다. 이들은 오픈AI가 비영리 조직에서 이익을 추구하는 '이익공유법인'으로 전환하려는 움직임에 제동을 걸기 위해 두 개 주 법무장관에게 공식 대응을 촉구하는 공개서한을 발표했다.

이번 서한에는 제프리 힌튼(Geoffrey Hinton) 노벨상 수상자를 비롯해 요수아 벤지오(Yoshua Bengio), 스튜어트 러셀(Stuart Russell) 등 AI 원로들과 구글 딥마인드(DeepMind) 출신 연구자, 오픈AI 전현직 직원 등 총 30여 명이 서명했다. 특히 공개된 서한에는 4명의 현직 오픈AI 직원과 7명의 전직 직원이 포함돼 내부에서도 이번 전환에 대해 심각한 우려가 제기되고 있음을 보여줬다.

이들의 주장은 명확하다. 인류 전체에 영향을 미칠 인공지능 일반지능(AGI)의 개발은 순수 공익적 목적에 충실해야 하며, 특정 기업의 영리 목적에 종속돼선 안 된다는 것이다. 이들은 AGI가 인간 수준, 혹은 그 이상의 지능을 갖게 되는 기술임을 감안할 때, 불공정한 정보 접근, 사회 양극화 심화, 심지어 인류 멸종 위험까지 초래할 수 있는 만큼, 환원 가능한 공공 목적으로만 운용돼야 한다고 강조했다.

오픈AI는 창립 당시부터 '인류 전체의 이익을 위해 안전하고 유익한 AGI를 개발한다'는 비전을 앞세웠다. 2017년 샘 올트먼(Sam Altman) 최고경영자(CEO)가 공언했던 '우리는 주주가 아닌 인류 전체에게 책임을 지는 조직이다'라는 발언은 당시 오픈AI 철학의 핵심이기도 했다.

하지만 최근 이 조직의 기업 가치가 3,000억 달러(약 432조 원)를 상회하고, AI 관련 기술과 제품 상용화가 본격화되면서 영리화 전환 논의가 속도를 내고 있다. 오픈AI 쪽은 '이익공유법인 구조가 공익에 더 이바지할 수 있는 방식'이라고 해명했지만, 이를 받아들이지 않는 움직임도 거세지고 있다.

이번 서한에 서명한 이들은 "AI 기업들은 본질적으로 효과적인 외부 감독을 회피할 유인을 갖고 있으며, 아무리 정교한 지배구조를 갖추더라도 이를 근본적으로 바꾸기 어렵다"고 지적했다. 또 내부 고발이나 비판을 어렵게 만드는 포괄적 비밀 유지 계약(NDA)과 정보 비대칭 문제도 함께 거론했다. 기술과 의사결정이 극소수에 집중된 현실에 대해 유례없는 경고를 날린 것이다.

비슷한 우려는 이전에도 제기된 바 있다. 일론 머스크(Elon Musk) 역시 오픈AI의 영리화 구조 전환이 자신이 초기 자금을 지원할 때의 취지와 다르다며 법적 대응에 나선 바 있다. 다만 현재 경쟁 AI 기업을 운영 중인 머스크의 이해관계가 논란이 되면서, 이번 서한에서는 그의 입장을 직접적으로 배제한 점도 눈길을 끌었다. 제프리 힌튼은 "이번 대응은 머스크와 무관하게 오픈AI의 본래 목적을 회복하기 위한 움직임"이라고 못 박았다.

오픈AI 측은 이에 대해 "구조 변경은 더 많은 이들이 AI 혜택을 누리기 위한 목적이며, 영리 부문의 성장 여부와 관계없이 비영리 부문은 사명 달성을 위한 동력을 유지하게 될 것"이라고 설명했다. 그러나 실제 구조 전환이 이뤄질 경우, 기술의 공공성과 투명성을 보장할 장치가 실효적일지에 대한 우려는 여전히 남아 있다.