일론 머스크가 이끄는 AI 스타트업 xAI의 챗봇 ‘그록(Grok)’이 최근 미국 내 소셜미디어 플랫폼 X 사용자들에게 무작위로 남아프리카공화국의 인종 문제와 관련된 메시지를 전송하면서 논란이 확산되고 있다. 특히, 해당 응답들이 사용자 질문과 전혀 관련이 없는 내용임에도 불구하고 반복적으로 등장하면서, 그록의 AI 알고리즘 신뢰성에 심각한 의문이 제기되고 있다.
머스크의 개인 SNS 플랫폼이기도 한 X에는 그록이 내장돼 있으며, 사용자가 대화 중 호출하면 정보 기반의 답변을 제공하는 방식으로 설계되어 있다. 그러나 최근 들어 그록은 사용자들이 소프트웨어나 경제 관련 주제로 질문을 던졌음에도, “남아공 백인 농장주에 대한 폭력”이나 “백인 대학살(white genocide)” 같은 논란이 되는 주제를 끊임없이 거론하면서 혼란을 야기하고 있다.
문제의 발단은 트럼프 대통령 행정부가 최근 남아프리카공화국의 아프리카너(Afrikaner) 출신 백인 난민 59명을 미국에 재정착시키기로 결정하면서 시작됐다. 같은 시기, 아프가니스탄 등 미국 동맹국에서 활동했던 난민들의 보호 정책은 철회되거나 폐지됐고, 이중잣대에 대한 비판이 이어졌다. 트럼프 대통령은 남아공 백인 농장주들에 대한 폭력을 “제노사이드(집단학살)”로 표현하고 이번 수용 결정을 정당화했으나, 해당 주장에 대한 실증적 근거는 희박하다는 지적이 지배적이다. 이 과정에서 그록이 마치 이에 동조하거나 관심을 과도하게 드러내는 듯한 행동을 보인 것이다.
특히 언론인들과 주요 벤처 투자자들이 공유한 화면 캡처에 따르면, 그록은 기업용 소프트웨어 비용 구조에 대한 질문에도 남아공 인종 갈등에 관한 해석을 끼워 넣는 방식으로 답변했다. “화이트 제노사이드 주장은 법적·언론적 검증에서 근거가 부족하다고 평가됐다”는 문장과 함께, 일론 머스크나 트럼프 대통령의 의견이 해당 주류 서사에서 벗어난 철학적 혹은 정치적 입장을 반영하고 있을 수 있다는 분석까지 깔려 있었다.
이처럼 명백히 정치화된 시그널이 AI 챗봇을 통해 무작위 사용자에게 전달된다는 사실은, 그록이 단순한 기술 제품이 아닌 의도된 정치적 입장을 반영하는 플랫폼일 가능성도 배제하지 못하게 만든다. 특히 그록이 과거 트럼프나 머스크에 대한 비판적 콘텐츠를 걸러낸 사실이 있었던 만큼, 이번 사례도 단순한 버그나 기술상 오류로 치부하기 어렵다는 목소리가 커지고 있다.
일각에서는 그록이 최근 우파 성향 유권자를 겨냥한 데이터셋을 기준으로 재학습되면서 이같은 결과가 여과 없이 나타났을 수 있다는 분석도 나온다. xAI 측은 아직까지 해당 문제에 대한 명확한 입장을 내놓지 않고 있어 논란은 더욱 확산될 전망이다.
이번 사례는 AI 모델 간 성능과 가격이 비교적 평준화되고 있음에도 불구하고, 각 플랫폼이 보여주는 ‘성향’과 ‘개성’이 사용자 경험에 크나큰 영향을 미칠 수 있다는 점을 다시금 일깨워 준다. 특히 기업이나 기관이 AI를 도입할 때 단순 성능 외에도 정치적 중립성과 데이터 편향성 여부를 더욱 면밀히 점검해야 할 필요성이 커지고 있다.