AI 수학 증명 진전, 호스킨슨 “예상 못했다”

인공지능이 복잡한 수학 증명을 작성하고 형식 검증까지 수행하는 수준에 이르렀다는 평가가 나왔다. 오픈AI의 나비에–스토크스 방정식 관련 발표를 계기로 AI의 수학 추론 능력이 다시 주목받고 있다.

찰스 호스킨슨(Charles Hoskinson) 카르다노 창립자는 9일 공개된 방송에서 “AI가 이렇게까지 발전할 것이라고 예상하지 못했다”고 말했다. 그는 과거 AI가 수학자들의 협업을 돕는 역할에 머물 것으로 봤지만, 대규모언어모델(LLM)이 직접 증명을 작성하는 단계까지 나아갔다고 평가했다.

발언의 배경에는 오픈AI가 8일 공개한 나비에–스토크스 방정식 관련 발표가 있다. 오픈AI는 내부 AI 시스템이 3차원 유체 흐름에서 유한 시간 안에 특이점이 발생할 수 있다는 증명을 제안했으며, 이를 린(Lean)으로 형식화했다고 밝혔다.

나비에–스토크스 방정식은 물과 공기 같은 유체의 움직임을 설명하는 수식이다. 3차원 공간에서 해가 항상 존재하고 매끄럽게 유지되는지는 여전히 풀리지 않은 문제로, 클레이 수학연구소의 밀레니엄 난제 가운데 하나다.

이 문제를 해결하면 100만달러(약 13억4100만원)의 상금이 걸려 있다. 오픈AI의 발표만으로 문제가 공식 해결됐다고 단정하기 어려운 이유다.

오픈AI는 발표문에서 밀레니엄상 수상을 주장하지 않는다고 밝혔다. 클레이 수학연구소의 공식 문제 목록에도 나비에–스토크스 문제는 여전히 미해결 과제로 남아 있다.

형식 검증은 수학 명제와 증명 과정을 컴퓨터가 확인할 수 있는 언어로 바꿔 오류 여부를 점검하는 방식이다. 린은 수학 증명을 컴퓨터로 검증하는 증명 보조 시스템으로, AI가 제시한 결과를 사람이 다시 검토할 수 있는 형식으로 남긴다는 데 의미가 있다.

연구 공로를 둘러싼 논쟁도 이어졌다. 뉴욕대학교 수학자 트리스탄 벅마스터(Tristan Buckmaster)는 앤스로픽 연구자 레벤트 알포게(Levent Alpöge)와 함께 유체 방정식의 특정 조건에서 유한 시간 내 폭발을 다룬 연구를 공개한 뒤, 오픈AI가 자신들의 연구 진행 상황을 인지하고 유사한 문제에 착수했다고 주장했다.

오픈AI는 두 연구의 접근 방식과 증명한 결과가 다르다고 반박했다. 이 사안은 AI가 새로운 수학적 결과를 내놓는 능력뿐 아니라 기존 연구와의 관계를 어떻게 확인하고 공로를 배분할지까지 묻고 있다.

데이터 사용 문제도 쟁점으로 떠올랐다. 오픈AI는 연구자들의 특정 사용자 데이터가 문제 해결에 사용되지는 않았다고 밝혔지만, 익명화된 이용 데이터가 모델 개선에 간접적으로 활용됐을 가능성은 배제할 수 없다고 설명했다.

호스킨슨은 클라우드 기반 AI에 입력한 연구 초안과 작업 기록이 중앙화된 사업자에게 노출될 수 있다고 경고했다. 연구자의 지식재산권과 연구 이력을 보호하려면 비공개 AI 환경이 필요하다는 주장이다.

다만 특정 연구 기록이 오픈AI 시스템에 사용됐는지는 확인되지 않았다. 따라서 현재 논쟁은 실제 데이터 유출 사실보다 연구자가 AI 서비스에 어떤 자료를 입력하고 그 기록을 누가 통제하는지가 핵심으로 떠오른 상황에 가깝다.

호스킨슨의 관심은 기존 활동과도 맞닿아 있다. 카네기멜런대학교는 2021년 그의 2000만달러(약 268억2000만원) 기부로 형식수학 연구센터를 설립했으며, 이 센터는 린과 같은 증명 보조 도구를 활용해 수학 증명의 검증과 자동화를 연구한다.

이번 논의는 호스킨슨이 AI 생성물의 출처와 개발자 통제권을 다룬 오픈소스 프로젝트를 공개했던 사례와도 이어진다. AI가 만든 결과물의 출처와 검증 책임을 누가 맡을지에 대한 문제의식이 수학 연구 영역으로 확장된 셈이다.

이번 발언이 카르다노의 에이다(ADA) 가격이나 네트워크 사용량에 직접 영향을 줬다는 근거는 없다. 이번 사안은 토큰 가격보다 AI가 수학적 가설을 제시하고 형식 검증까지 수행할 수 있는지, 연구 공로와 입력 데이터의 권리를 어떻게 정할지에 초점이 맞춰져 있다.