구글, 알고리즘도 스스로 진화하는 AI '알파이볼브' 공개

구글 딥마인드가 자체 알고리즘을 만드는 인공지능 시스템 ‘알파이볼브(AlphaEvolve)’를 공개했다. 이 기술은 회사 내부에서 이미 1년 넘게 활용되며 데이터센터 운영 최적화부터 반도체 설계, AI 학습 효율성 향상까지 다양한 영역에서 수백억 원 이상의 비용 절감 효과를 입증한 것으로 평가된다. 키워드는 ‘진화(evolution)’다. 구글의 대형 언어모델 ‘제미니(Gemini)’와 알고리즘 자동 실험·개선 기능이 결합돼, 사람이 생각하지 못한 복잡한 수학 문제 해결과 코드 생성이 자동화되고 있다.

알파이볼브의 가장 주목할 기능은 고도화된 알고리즘 발견 능력이다. 단순 함수나 패턴이 아닌 수백줄에 이르는 정교한 코드 구조를 스스로 설계하고, 이를 실제 시스템에 적용해 성능 향상을 끌어낸다는 점에서 기존 AI 코딩 기술과 차별화된다. 구글 딥마인드 연구원 마테이 벌로그는 “복잡한 논리구조를 가진 새로운 알고리즘을 창출하는 능력 자체가 컴퓨팅과 수학의 경계를 넓히는 접근”이라고 평가했다.

현재 알파이볼브는 구글의 핵심 클러스터 관리 시스템 ‘보그(Borg)’ 운영에 투입돼 전 세계 컴퓨팅 자원 중 평균 0.7%를 새롭게 발굴해 재활용하고 있다. 이는 수천 개의 서버에서 메모리는 부족해지고 CPU는 남는 이른바 ‘고립 자원’ 문제를 해소한 결과다. 더불어 텐서처리유닛(TPU) 설계에서도 불필요한 연산 비트를 제거하는 새로운 구조를 제시해 다음 세대 칩에 적용되고 있다.

놀라운 점은 이 기술이 자기 자신을 개선하는 데까지 이용됐다는 사실이다. 알파이볼브는 제미니 모델 훈련에 활용되는 행렬곱셈 커널을 23% 성능 개선해 전체 학습 시간 1% 단축이라는 상당한 효율을 실현했다. 대규모 컴퓨팅 자원이 필요하다는 점에서 이는 수십억 원 이상의 연료 및 인프라 절약을 가능하게 하는 성과다.

심지어 알파이볼브는 인간 수학자들이 수십 년간 풀지 못했던 문제까지 해결하고 있다. 대표적인 사례가 ‘스트라센(Strassen)의 행렬곱셈 알고리즘’ 대체로, 4×4 복소수 행렬의 곱에 필요한 스칼라 곱셈 횟수를 49회에서 48회로 줄이는 데 성공했다. 이는 1969년 발표된 이래 누구도 개선하지 못했던 수학적 기록을 AI가 경신한 순간이다.

이 시스템은 50개 이상의 미해결 수학 문제에 도전해 75%에서는 기존 최고 성능과 동등한 수준을, 20%에서는 더 나은 결과를 도출해내는 데 성공했다. 11차원에서의 키싱 넘버(kissing number) 문제에서는 593개의 구가 중심 구면을 동시에 접촉할 수 있는 구성을 찾아내, 이전 기록을 뛰어넘기도 했다.

알파이볼브의 작동 방식은 훈련 데이터 기반의 단순 코드 생성에서 한 걸음 더 나아가 목적 지향적 진화 방식으로 설계됐다. 제미니 플래시(Gemini Flash)와 제미니 프로(Gemini Pro)의 언어모델이 코드 변화 제안을 생성하고, 자동화된 평가 시스템이 그 결과를 검증해 다시 개선안을 도출하는 방식이다. 이런 순환 구조는 인간 상상력 밖에 존재하는 코드 솔루션을 끌어내는 원동력이다.

구글은 향후 이 기술을 사내 인프라뿐 아니라 재료 과학, 신약개발 등 복잡한 알고리즘 해결이 필요한 분야에 확대 적용할 계획이다. 현재 학술 연구자를 대상으로 한 조기 접근 프로그램을 개발 중이며, 사람과 AI의 협력을 위한 사용자 인터페이스도 파이어(PAIR) 팀과 공동 개발하고 있다.

딥마인드 연구팀은 “지금까지는 과학적 도구가 현실 세계에서 즉각적이고 광범위한 영향을 주는 일이 드물었지만, 알파이볼브는 그런 흐름을 바꾸고 있다”고 평가했다. 이처럼 알고리즘 자체를 만드는 AI의 진화는 기술적 진보를 넘어 컴퓨팅의 근간 구조까지 바꾸고 있으며, 인류가 풀기 어려웠던 난제를 해결할 새로운 열쇠로 주목받고 있다.