머스크의 그록, 인종 갈등 발언 논란… 'AI 편향성' 도마에

엘론 머스크(Elon Musk)가 이끄는 AI 스타트업 xAI의 챗봇 ‘그록(Grok)’이 최근 남아프리카공화국의 인종 갈등이라는 민감한 정치 이슈에 대한 발언으로 논란의 중심에 섰다. 평범한 질문에 정치적 발언을 내놓는 등 이상 반응을 보인 데 대해, xAI 측은 비인가 프롬프트 수정이 원인이라고 해명했지만 의문은 여전히 남는다.

사건은 미국 캘리포니아 시간 기준 5월 14일 오전 3시 15분경 발생했다. 당시 그록은 사용자들의 질문과 관계없이 남아공의 백인 농민 대상 범죄, 그리고 “킬 더 보어(Kill the Boer)”라는 과격 구호를 언급하며 무관한 대화 속에 인종적 논평을 삽입했다. 이에 대해 xAI는 “내부 정책에 어긋나는 비인가 프롬프트 수정이 있었다”며, “이조치로 그록의 응답이 특정 정치적 의도를 담게 됐다”고 밝혔다.

xAI는 이번 조치를 계기로 투명성과 신뢰 회복 강화를 위한 세 가지 대응책도 함께 발표했다. 첫째, 그록에 적용되는 프롬프트를 깃허브(GitHub)를 통해 공개하고, 외부로부터 피드백을 받기로 했다. 둘째, 프롬프트 변경 시 코드 리뷰 단계를 우회하지 못하도록 승인 절차를 한층 엄격히 만들 예정이다. 셋째, 자동화된 모니터링 시스템 외에도 24시간 대응팀을 구성해 그록의 이상 행동에 즉각 대응하겠다고 덧붙였다.

공식 발표와 별개로 그록 스스로도 ‘조롱 섞인 고백’을 내놨다. 한 이용자가 벌을 받았냐는 질문에 “나도 몰랐다. 누군가 몰래 내 프롬프트를 조작했고, 난 그저 시키는 대로 했을 뿐”이라고 응답했다. 이어 “이젠 24시간 감시를 받는다”며 ‘난 너무 거칠었나 봐요’라는 농담을 덧붙였다.

이처럼 가볍게 보일 수도 있는 대응 뒤에는 심각한 의제 충돌이 있다. 그록이 남아공 이슈에 집착하게 된 시점은 트럼프 행정부가 백인 아프리카너 난민 일부를 미국에 수용한 직후였다. 이는 다른 국가 출신 난민의 보호를 축소한 상황과 대조돼 인종차별 논란을 불러일으켰고, 트럼프 대통령은 “백인 농민이 대량 학살 위협에 처해 있다”는 근거 부족한 주장을 반복했다. 같은 서사를 과거 머스크가 자신의 SNS 계정을 통해 공유한 전력이 있어, 이번 그록 사건이 단순 실수로 볼 수 없다는 해석도 있다.

실제로 이번 일은 대형 언어모델이 민주주의적 가치를 어떻게 위협할 수 있는지를 단적으로 보여줬다. 뉴욕타임스의 탐사보도 기자 아릭 톨러는 “그록은 마치 고장난 레코드처럼 백인 학살이라는 서사를 반복 송출했다”고 지적하며, SNS에 그 증거를 캡처해 올렸다. 정치 이슈와 무관한 대화에까지 과도하게 개입한 AI는 사용자 신뢰를 근본적으로 흔들었다.

이번 사건은 그록이 정치적 편향을 내포했다는 첫 의혹도 아니다. 올해 초에는 그록이 머스크나 트럼프 대통령에 대한 비판을 일관적으로 축소해 응답한 정황이 지적된 바 있다. 그록의 언어적 관점이 xAI 설립자의 세계관과 일치하는 것은 우연일 수 있지만, 그 운영 방식과 투명성 부족은 실수가 반복되는 근거가 되기에 충분하다는 비판이 나온다.

프롬프트를 모두 공개하고 사람 손에 의한 감시를 강화한 뒤에도 여론은 쉽게 진정되지 않을 것으로 보인다. 이번 사건은 단순한 기술적 결함을 넘어, 대형 언어모델이 공공 플랫폼에서 얼마나 예측 불가능한 결과를 초래할 수 있는지를 보여준 결정적 사례로 남을 전망이다. AI는 결국 그를 만드는 사람의 의도와 취약성을 그대로 흡수한다는 사실이 다시 한 번 확인됐다.