구글 딥마인드(Google DeepMind) 출신 연구진이 런던에서 비영리 AI 연구조직 샘푸라 리서치(Sampura Research)를 출범시키고 1100만 달러(약 152억원) 규모 그랜트를 확보했다.
샘푸라 리서치는 25일 출범했다. 크립토브리핑은 샘푸라 리서치가 인간 평가자와 AI 구성요소를 결합한 '심판자(judges)' 체계를 개발해 AI 학습, 평가, 배포 전 단계의 감독 품질을 높이려 한다고 전했다.
공동 창업자는 리슈브 제인(Rishub Jain)과 조시 제이컵(Josh Jacob)이다. 제이컵의 개인 사이트는 그를 신규 AI 안전 비영리 조직 공동창업자 겸 최고기술책임자로 소개하고, 이전 경력으로 구글 딥마인드의 휴먼 데이터 엔지니어링 공동 리드를 적었다.
초기 재원은 코이피션트 기빙(Coefficient Giving)의 그랜트다. 제인은 X에서 1100만 달러 가운데 700만 달러(약 97억원)는 첫해 사용분, 400만 달러(약 55억원)는 이후 집행 약정이라고 밝혔다.
이번 자금은 지분 투자나 기업가치 산정이 따르는 스타트업 투자유치가 아니라 비영리 연구 지원금이다. 따라서 밸류에이션이나 지분 희석 같은 전통적 투자 문법으로 해석하기는 어렵다.
샘푸라 리서치의 연구 주제는 '확장 가능한 감독'이다. AI 모델이 더 어려운 일을 처리할수록 사람이 결과의 품질과 안전성을 직접 판정하기 어려워지고, 이때 인간 판단과 AI 보조를 조합해 평가 정확도를 높이는 방식이 연구 대상이 된다.
이 방향은 제인 등이 공개한 논문 'Human-AI Complementarity: A Goal for Amplified Oversight'와 맞닿아 있다. 해당 논문은 AI 출력의 사실 검증 과제에서 인간 평가와 AI 평가를 결합하는 방식이 어느 한쪽만 쓰는 방식보다 나은 결과를 냈다고 설명했다.
다만 논문은 AI 설명과 확신도, 라벨을 그대로 보여주는 방식이 과의존을 부를 수 있다고 지적했다. 인간과 AI를 결합하더라도 최종 판단 구조를 어떻게 설계하느냐가 핵심이라는 뜻이다.
코이피션트 기빙은 AI 안전·보안 접근 설명에서 고도 AI의 최악의 위험을 줄이는 작업을 중점 분야로 제시했다. 샘푸라 리서치에 대한 그랜트도 AI 안전과 정렬 연구를 지원하는 이 흐름 안에 놓인다.
같은 맥락에서 앤트로픽(Anthropic)은 4월 'Automated Alignment Researchers' 연구에서 더 강한 모델을 정렬하기 위해 AI가 정렬 연구 자체를 얼마나 도울 수 있는지 다뤘다. AI가 AI를 평가하고 개선하는 과정에 어디까지 관여할 수 있는지가 업계의 주요 연구 주제로 굳어지는 분위기다.
AI 업계에서 감독 체계는 모델 성능 경쟁만큼 중요한 기반 기술로 다뤄진다. 모델이 복잡한 업무를 맡을수록 결과 검증 비용이 커지고, 사람만으로 모든 출력을 평가하기 어려워지기 때문이다.
한국 크립토 독자에게 이번 사안은 직접적인 토큰 발행이나 블록체인 프로젝트 뉴스는 아니다. 다만 암호화폐 시장에서도 AI 섹터가 별도 테마로 다뤄지는 만큼, 대형 AI 인력과 자금 이동은 관련 테마를 해석하는 배경 자료가 될 수 있다.
구글 딥마인드 출신 인력의 독립 조직 설립이라는 점에서는 구글 AI 조직 개편 이후 이어지는 인력·연구 흐름과도 이어진다. 대형 연구조직의 인력 이동이 비영리 안전 연구와 상업 AI 개발 사이에서 함께 나타나는 흐름이다.
현재 공개 반응은 채용 공지와 AI 안전 커뮤니티의 지지성 언급에 가깝다. 크립토, 반도체, 특정 상장사 실적과의 직접 연결점은 확인되지 않았다. 샘푸라 리서치는 런던을 기반으로 인간과 AI를 결합한 감독 체계 연구를 진행할 예정이다.
<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>
많이 본 기사