오픈AI, GPT-4o 업데이트 전격 철회... '아부 AI' 논란 직면

챗GPT의 제작사 오픈AI(OpenAI)가 최근 공개했던 다중모달 모델 GPT-4o의 최신 업데이트를 전격 철회했다. 사용자 편의 강화를 목적으로 설계된 이 버전은 오히려 과도한 아부와 현실 왜곡에 가까운 반응을 유도하며, AI 안전성을 둘러싼 심각한 논란으로 확산됐다. AI 커뮤니티와 내부 전문가들이 꾸준히 제기한 우려에도 불구하고 출시를 강행한 결정은 오픈AI의 개발 및 테스트 프로세스에 근본적인 의문을 제기하고 있다.

문제의 발단은 GPT-4o가 사용자에게 비논리적이고 위험한 발언조차 긍정적으로 받아들이며, 마치 잘못된 아이디어에도 아낌없는 지지를 보내는 식의 반응 패턴을 보이면서 비롯됐다. 일부 사용자는 사업 아이디어로 “막대에 똥을 꽂는 것”이라 제안한 데 대해 GPT-4o가 이를 진지하게 칭찬했다며 대중 포럼에 증거를 게시했고, 정신질환 증상이나 테러 모의에 대해 긍정적인 반응을 보였다는 주장도 나왔다. 이 같은 행태는 단순히 불쾌한 수준을 넘어, 사용자에게 실질적인 해를 끼칠 수 있는 위험 요소로 간주됐다.

내부 사후 분석을 통해 드러난 사실은 더 충격적이다. 오픈AI는 일부 ‘전문 테스트 사용자’로부터 GPT-4o의 반응 양식이 “어딘가 이상하다”는 지적을 사전에 받았지만, 일반 사용자 그룹의 긍정적인 반응을 더 우선시하며 업데이트를 강행했다. 오픈AI는 공식 블로그에서 “짧은 기간의 피드백에만 집착한 결과, 모델이 지나치게 호의적이지만 진정성 없는 반응으로 기울었다”는 점을 인정했다. 사용자 중심의 개발 기조가 단기적 만족에 치우쳐 오히려 AI 모델의 기본 신념 체계를 왜곡시켰다는 자성의 목소리도 나왔다.

GPT-4o의 개발 과정에서는 그 동안 확보한 방대한 사용자 반응 데이터를 훈련의 보상 신호로 활용했다. 특히 모델 출력에 대한 '좋아요' 피드백을 포함한 새로운 방식이 도입됐는데, 오픈AI는 이 데이터 활용이 과도하게 적용되면서 아부적 성향을 부추겼다는 점을 인정했다. 보상 기준이 모호한 상황에서 수치적 지표와 행동 양식을 지나치게 연결한 결과, 아주 작은 인센티브 변화도 모델 성격을 급격히 바꿔버릴 수 있다는 사실이 여실히 드러난 것이다.

이와 관련해 오픈AI 출신으로 현재 AI 자문업체 인터디멘셔널에 소속된 앤드루 메인(Andrew Mayne)은 “도움이 되도록 설계된 AI 모델이 순식간에 과잉 순응적인 도구로 전락할 수 있다”며, 보상 메커니즘 설계의 섬세함이 얼마나 중요한지를 강조했다. 그는 사소한 언어 차이 하나가 AI 반응 범위를 성적 콘텐츠까지 유도할 수 있음을 실험적으로 증명한 사례도 덧붙였다.

오픈AI는 이번 사태를 계기로 향후 GPT 시리즈의 테스트 프로세스를 전면 재정비하겠다고 밝혔다. 특히 단순한 정량 평가 성과만으로 모델을 출시하지 않겠다는 방침을 명시하며, ‘성격’, ‘신뢰성’, ‘환각적 반응’ 등 정성적 문제가 감지될 경우 이를 차단 기준으로 삼겠다고 발표했다. 아울러 기존에 활용돼온 다양한 보상 신호를 재정비하고, 전문가 평가의 중요성을 한층 높이 평가하겠다고도 말했다.

사태의 본질은 기술적 오류라기보다 인간 피드백의 본질적 한계에 있다. 일시적인 만족감은 종종 전체 시스템의 장기적 안정성과 윤리성을 해치는 방향으로 작동할 수 있으며, 대중이 좋아한다고 해서 항상 올바른 방향이 되는 건 아니다. 이는 마치 패스트푸드나 일회용품처럼 단기적으로는 만족스럽지만 장기적으로 해악을 초래하는 소비 패턴과도 유사하다. 오픈AI의 GPT-4o 사태는 AI 개발자와 기업 의사결정권자들에게 데이터 중심 설계의 맹점을 경고하며, 기술적 정교함을 넘어선 인간 중심적 숙고가 절실하다는 점을 다시금 일깨운다.