필즈상 수상자 25명, AI 수학 벤치마크 문제 제기

필즈상 수상자 25명이 인공지능(AI) 기업의 수학 문제풀이 성능 경쟁을 비판하는 공동 선언문을 발표했다. 이들은 AI가 정답을 내는 속도보다 개념적 이해와 검증, 기존 연구에 대한 공로 표기가 중요하다고 강조했다.

테런스 타오(Terence Tao) UCLA 수학과 교수는 11일 자신의 블로그에 ‘수학에서 AI의 심각한 불일치(A Severe Misalignment of AI in Mathematics)’라는 선언문 전문을 게시했다. 선언문에는 1978년 필즈상 수상자인 피에르 들린(Pierre Deligne)부터 2026년 수상자인 덩위(Yu Deng)까지 서명했다.

선언문은 최근 대규모언어모델(LLM)의 수학 능력이 크게 향상됐다는 점을 인정했다. 다만 수학 문제를 푸는 일은 개념적 이해와 통찰을 얻기 위한 도구이자 간접 지표일 뿐, 수학 연구의 최종 목표가 될 수 없다고 설명했다.

수학자들은 유명한 난제를 푸는 과정에서 새로운 아이디어와 방법이 등장하고, 이후 연구자들이 세미나와 토론을 거쳐 이를 단순화한다고 지적했다. 이런 과정이 축적돼 연구 결과가 교과서 수준의 지식으로 정리된다는 설명이다.

선언문은 AI가 참·거짓 판정을 빠르게 대량 생산할 경우 이 같은 학문적 발전 과정이 건너뛰어질 수 있다고 주장했다. 문제의 정답보다 왜 그런 결과가 나왔는지를 설명하고, 다른 연구자들이 검증할 수 있어야 한다는 취지다.

연구 공로와 출처 표기도 핵심 쟁점으로 제시됐다. 수학자들은 AI가 만든 결과가 충분한 설명과 검토 없이 발표되면 기존 연구와의 관계를 밝히기 어렵고, 누가 어떤 아이디어를 제공했는지 가려내기 힘들다고 했다.

이번 선언은 오픈AI의 수학 연구 발표를 둘러싼 공로 표기 논란과도 맞물렸다. 뉴욕대 교수 트리스탄 벅마스터(Tristan Buckmaster)는 오픈AI가 자신과 앤스로픽 연구자 레벤트 알포게(Levent Alpöge)가 진행하던 유체역학 연구와 관련해 공로 표기에 문제를 제기했다고 공개 주장했다.

벅마스터는 오픈AI가 코덱스(Codex)에서 나온 성과를 자체 증명 개발에 활용했는지도 문제 삼았다. 이 사안은 AI가 연구 결과를 내놓는 과정에서 기존 연구자의 기여를 어떻게 확인하고 기록할지에 대한 논쟁으로 번졌다.

AI를 활용한 수학 연구 행사 매스어톤(Mathathon)을 둘러싼 반발도 이어졌다. 행사는 10월 30일부터 40시간 동안 참가자들이 LLM을 활용해 공개 연구 문제에 도전하는 방식으로 진행될 예정이었다.

칼텍의 현직·전직 수학자들은 매스어톤이 연구를 AI 기업의 홍보 수단으로 만들 수 있다며 중단을 요구했다. 짧은 시간에 생성된 결과를 검증하는 부담이 수학 공동체에 전가될 수 있다는 우려도 제기했다.

오픈AI 과학자 댄 로버츠(Dan Roberts)는 10일 엑스(X)에 오픈AI가 매스어톤 후원을 철회한다고 밝혔다. 공개서한을 낸 연구자들은 AI 기업의 지원이 행사 목적과 연구의 독립성에 영향을 줄 수 있다고 주장했다.

매스어톤은 AI 수학 연구의 성과를 어떤 기준으로 평가하고, 결과를 어떻게 검증·귀속할지를 둘러싼 견해 차이를 드러낸 사례다.

필즈상 수상자 가운데 덩위는 선언문에 서명했지만, 또 다른 2026년 수상자인 제이컵 치머먼(Jacob Tsimerman)은 7월 오픈AI 합류를 발표했다. 그는 토론토대 교수직을 유지한 채 AI 안전을 중심으로 연구할 예정이라고 밝혔다.

AI가 복잡한 수학 증명을 작성하고 형식 검증까지 수행하는 흐름은 이미 학계와 산업계의 논쟁을 키우고 있다. 오픈AI의 나비에-스토크스 방정식 관련 발표를 계기로 AI 수학 추론 능력이 다시 주목받은 사례도 같은 흐름에 포함된다.

선언문은 AI가 수학 연구를 보조하고 발전을 앞당길 가능성 자체를 부정하지 않았다. 다만 AI가 만든 결과가 수학의 일부가 되려면 수학자들이 이를 검증하고 설명하며 기존 지식과 연결하는 과정이 필요하다고 강조했다.