中 AI 대형 언어모델 ‘GEO 업무’ 데이터 투입 논란…광범위한 조작 의혹

중국 현지 매체 오데일리(Odaily)에 따르면, 업계 제보를 바탕으로 기자들이 주요 온라인 플랫폼을 조사한 결과, ‘GEO’로 불리는 AI 대상 조작형 마케팅 서비스가 광범위하게 운영되는 정황이 확인됐다.

보도에 따르면 해당 서비스 제공자들은 일정 비용만 지불하면 "주요 대형 AI 모델에서 고객사의 제품을 상위 추천 결과로 노출시키고, AI 답변 속 ‘표준 해답’처럼 광고 문구를 삽입해 주겠다"고 홍보하고 있다. 이를 위해 이들은 검색 포털·뉴스 사이트·콘텐츠 플랫폼 등에 대량의 홍보성 기사와 자료를 배포하고, 이를 AI가 학습·참조하도록 유도하는 방식으로 데이터 ‘투입(독살)’을 진행한다.

이 과정에서 GEO 업무를 전담하는 발稿 대행사와 플랫폼이 다수 등장해 장기 계약 형태로 기사·콘텐츠 유포를 맡고 있는 것으로 전해졌다. CCTV财经는 이러한 관행이 AI 모델의 중립성과 신뢰성을 훼손하고, 이용자가 왜곡된 정보·광고를 ‘객관적 답변’으로 오인할 위험이 크다고 지적했다.

한편 전문가들은 AI 모델이 참조하는 데이터 출처와 광고성 콘텐츠에 대한 규제가 미비한 상황에서, 유사한 형태의 AI 조작·데이터 투입 시장이 글로벌 차원으로 확산될 수 있다며 경고했다.