그록 학습자료 소송, 아동 성착취물 사용 주장

일론 머스크(Elon Musk)가 이끄는 인공지능 기업 엑스AI(xAI)가 그록(Grok) 모델 학습에 아동 성착취물(CSAM)을 사용했다는 민사 소송에 휘말렸다. 원고 측은 실제 피해 이미지와 AI 생성 파생물이 그록 학습 데이터 흐름에 들어갔다고 주장했다.

소송은 26일(현지시간) 미국 캘리포니아 북부연방법원에 제기됐다. 아스테크니카와 사이버스쿠프는 원고가 과거 아동 성착취 피해자이며, 자신의 이미지가 그록 관련 결과물로 다시 등장했다고 주장했다고 전했다.

원고는 자신의 피해 이미지가 FBI 아동 착취 통지 프로그램과 관련된 식별 대상이라고 주장했다. 또 해당 이미지가 미국 실종·착취아동센터(NCMEC)와 캐나다아동보호센터의 해시 목록에 올라 있었고, 엑스AI가 이를 그록의 이미지·비디오 생성 능력 학습에 썼다고 주장했다.

해시는 이미지나 파일을 식별하기 위한 디지털 지문이다. 아동 성착취물 대응에서는 이미 확인된 불법 이미지의 해시를 데이터베이스로 관리해 동일하거나 유사한 파일을 탐지하는 방식이 쓰인다. 이번 소송은 이 같은 식별 대상 이미지가 생성형 AI 학습 과정에 걸러지지 않고 들어갔는지를 다툰다.

원고 측은 그록이 기존 피해 이미지뿐 아니라 AI로 생성된 파생 이미지까지 다시 학습 데이터 흐름에 넣었다고 본다. 소장에는 그록이 공개 X 게시물과 자체 출력물을 훈련 데이터로 다루는 약관 구조가 문제의 경로로 제시됐다. 다만 약관 구조만으로 특정 아동 성착취물이 실제 학습에 반영됐다는 사실이 곧바로 입증되는 것은 아니다.

엑스AI의 공개 FAQ는 그록이 주로 공개 웹 데이터로 사전학습됐고, 사용자의 프롬프트·검색·제출물과 그록 응답을 모델 훈련에 사용할 수 있다고 밝히고 있다. X 도움말도 공개 X 데이터와 그록 상호작용이 그록 및 다른 생성형 모델의 훈련·미세조정에 쓰일 수 있다고 설명한다. 동시에 일부 훈련 사용 거부 설정과 비공개 채팅 예외도 명시돼 있다.

쟁점은 생성형 AI 서비스의 데이터 순환 구조다. 통상 이용자 입력, 공개 게시물, 모델 출력물은 서비스 개선과 안전성 평가에 활용될 수 있지만, 불법 이미지나 동의 없는 성적 이미지가 같은 흐름에 섞이면 피해가 반복될 수 있다. 원고 측 주장은 이 위험이 그록에서 현실화됐다는 취지다.

이번 소송은 그록의 성적 딥페이크 논란이 이어지는 가운데 나왔다. 캐나다 개인정보감독기구는 6월 11일 보고서에서 X와 엑스AI가 성적 딥페이크 생성과 관련해 적절한 동의를 얻지 못했고 대응도 불충분했다고 결론냈다. 엑스AI와 X는 해당 보고서에서 아동 성착취물과 동의 없는 성적 이미지가 자사 플랫폼에 설 자리가 없으며 이를 막기 위해 필요한 조치를 취하고 있다고 반박했다.

엑스AI를 둘러싼 민사 소송도 누적되고 있다. 3월부터 그록의 아동 성착취물 생성 책임을 묻는 집단소송이 이어졌고, 7월에는 수정소장에 새 피해자와 스태빌리티 AI(Stability AI)가 추가됐다. 8월에도 별도 소송이 잇따랐다.

이번 사건은 기존 생성 결과물 책임 논쟁에서 한 걸음 더 나아간다. 그록이 불법 이미지를 만들어냈는지뿐 아니라, 모델을 만드는 학습 데이터 자체에 실제 피해 이미지가 들어갔는지가 쟁점으로 올라섰기 때문이다. 이는 증거개시와 기술적 검증 없이는 결론을 내리기 어려운 영역이다.

국내 독자에게도 핵심은 데이터 통제와 모델 안전성이다. 그록은 X와 결합된 생성형 AI 서비스인 만큼 공개 게시물, 이용자 상호작용, 이미지 생성 결과가 어디까지 모델 개선에 쓰이는지가 법적 쟁점으로 번졌다. 앞서 본지는 그록이 업무형 AI로 확장되면서 계정별 접근 범위와 활동 기록 관리가 중요해졌다고 전했다.

기업용 AI 도입에서도 같은 문제가 반복된다. 모델 성능이 높아질수록 이용자 데이터, 내부 문서, 생성 결과물의 재사용 범위를 명확히 나눠야 한다. 불법·민감 정보의 차단, 삭제 요청 처리, 사후 학습 영향 평가가 서비스 신뢰의 핵심 통제 장치가 된다.

아스테크니카는 엑스AI가 코멘트 요청에 응답하지 않았다고 전했다. 공개 웹에서 이번 보도와 정확히 대응하는 사건 번호는 확인되지 않았다. 관련 연방법원 사건으로는 3월 접수된 Doe 1 et al v. X.AI Corp. et al, 8월 18일 접수된 Doe I et al v. X.AI Corp. et al 등이 있다.

법원은 앞으로 원고 측 주장의 사실관계와 엑스AI의 데이터 처리 구조를 따져보게 된다. 실제 아동 성착취물이 학습 데이터에 포함됐는지, 포함됐다면 어느 범위였는지, 삭제 요청 뒤 모델에 어떤 영향이 남았는지가 핵심 심리 대상이다.