AI '환각' 줄였다…히룬도, 기억 삭제 기술로 115억 투자 유치

AI가 잘못된 정보를 생성하는 문제, 즉 '환각(hallucination)' 현상을 잡기 위한 새로운 접근법이 주목받고 있다. 인공지능 스타트업 히룬도(Hirundo)가 머신러닝 모델이 부정확하거나 악의적으로 조작된 데이터를 스스로 '잊도록' 만드는 기술을 개발해, 최근 800만 달러(약 115억 원) 규모의 시드 투자를 유치한 것이다.

히룬도가 내세우는 '머신 언러닝(Machine Unlearning)' 기술은 기존 모델을 다시 훈련시키지 않고도 잘못된 학습 내용을 제거할 수 있다는 점에서 업계의 이목을 끌고 있다. 이번 투자는 매버릭 벤처스 이스라엘이 주도했으며, 슈퍼시드, 알파 인텔리전스 캐피털, 태클스 VC, AI펀드, 플러그 앤 플레이 테크 센터 등도 함께 참여했다.

히룬도는 AI 모델이 잘못된 데이터를 학습했을 경우, 그 데이터를 기반으로 잘못된 응답을 생성하거나 편향된 결과를 낼 수 있다는 점에 주목했다. 특히 사용자 응대부터 의료, 금융, 국방 분야까지 광범위하게 활용되는 AI 서비스의 신뢰성 확보는 기업의 성공과 직결된다. 공동 창업자이자 CEO인 벤 루리아(Ben Luria)는 "AI의 광범위한 도입이 '환각' 문제 때문에 제한을 받는 상황이며, 모델을 기업용 수준에서 안전하게 사용하는 데 어려움이 크다"고 설명했다.

히룬도의 방식은 단순히 결과를 필터링하거나 경고 체계를 적용하는 다른 접근법과는 본질적으로 다르다. AI 행동을 정밀 분석해 문제의 원인이 되는 학습 패턴을 규명한 뒤, 그 지식을 모델 내부에서 지워냄으로써 해당 오류가 다시 발생하지 않도록 하는 것이 핵심이다. 루리아는 이를 'AI 모델 신경외과 수술'에 비유하며, 수천억 개 파라미터 중 잘못된 부분을 찾아내 제거하는 과정이라고 밝혔다.

이처럼 고정된 모델을 다시 훈련하지 않고도 오류를 수정할 수 있다는 점은 특히 시간이 오래 걸리고 비용이 많이 드는 모델 재훈련 과정의 대안으로 각광받고 있다. 실제로 히룬도는 메타(Meta) 오픈소스 모델 '라마(LLaMA)'에서 환각을 55%, 프롬프트 주입 공격 성공률을 85%까지 줄이는 데 성공했다. 또 딥시크 R1 모델의 편향 데이터도 최대 70%까지 ‘언러닝’하는 성과를 거뒀다.

히룬도는 향후 GPT 시리즈나 앤트로픽(Anthropic)의 클로드(Claude)와 같은 ‘폐쇄형’ 모델에도 동일한 기술을 적용할 수 있도록 범위를 확장해 나갈 예정이다. 뿐만 아니라 이 기술은 비생성형 AI 시스템인 컴퓨터 비전이나 LiDAR 모델에도 적용돼 파일럿 프로젝트가 금융, 의료, 국방 등 여러 산업에서 진행되고 있다.

매버릭 벤처스의 야론 카르니(Yaron Carni) 대표는 "AI 편향과 불신 문제는 수많은 기업의 지속적인 고민거리였고, 지금까지 이를 제대로 해결한 사례는 거의 없었다"면서 "히룬도는 AI 정화 기술을 통해 허위나 차별적 데이터를 제거하면서 AI 활용의 새로운 가능성을 연다"고 평가했다.

AI의 정확성과 신뢰도가 핵심 경쟁력으로 떠오른 지금, 히룬도의 ‘기억 삭제’ 기술은 AI 시스템의 안전성과 윤리성을 확장하는 중요한 전환점이 될 수 있다. 이는 향후 범용 AI 활용의 문턱을 낮춰줄 기술적 기반이기도 하다.