3년간 학교 AI 중단 요구…시카고 학부모, 검색 AI 차단 촉구

미국 학부모와 학생들이 11일(현지시간) 시카고 구글(Google) 사무실 앞에서 학교 지급 크롬북의 생성형 AI 접근을 막으라고 요구했다. 구글 검색을 계속 쓰면서 검색에 내장된 AI 기능만 끌 수 있는지가 핵심 쟁점이다.

아르스테크니카(Ars Technica)는 미국 7개 도시에서 학교 내 AI 사용에 반대하는 집회가 열렸다고 보도했다. 시카고 집회 인원은 아르스테크니카가 최대 약 60명, 초크비트(Chalkbeat)가 약 30명으로 각각 집계했다.

시위를 주도한 일리노이 공립학교 학부모 단체(ILFPS·Illinois Families for Public Schools)는 시카고 공립학교(CPS)에 생성형 AI 사용을 3년간 중단하고 학생 안전과 개인정보 보호 정책을 마련하라고 요구했다. 단체의 요구에는 학교 내 AI 사용 중단과 학생 보호 정책 수립이 담겼다.

아르스테크니카는 ILFPS가 지난 8월 전 고교생을 대상으로 한 CPS의 제미나이 시범 도입 계획 철회를 이끌었다고 보도했다. 이번 시위는 학교에서 생성형 AI를 어디까지 허용할지를 둘러싼 기존 논쟁에 구글 검색 기능 문제가 더해진 사례다.

구글 검색의 AI Overview는 결과 상단에 AI가 생성한 요약을 보여준다. AI Mode는 검색 안에서 이어지는 질문을 대화형으로 처리하는 기능이다.

구글은 11월 3일 학교 관리자가 학생 계정의 제미나이 앱과 구글 검색 접근을 각각 설정하도록 바꾸겠다고 발표했다. 다만 검색에서 AI 기능을 모두 끄면서 구글 검색을 계속 이용하는 선택지는 제공하지 않는다는 입장이다.

CPS는 검색 결과의 AI Overview를 별도로 차단할 방법을 찾고 있으며, 차단할 수 없다면 다른 검색 서비스도 검토하겠다고 밝혔다. 초크비트는 CPS 대변인이 이 같은 방침을 전했다고 보도했다.

별도로 13세 학생 엠마 도(Emma Doe)의 가족은 구글과 모회사 알파벳($GOOGL)을 상대로 소송을 제기했다. 소장은 11월 2일 캘리포니아주 법원에 접수됐고, 4일 연방법원으로 이송됐다.

소장은 엠마가 2025년 12월 학교 크롬북의 구글 검색에서 AI Mode를 통해 제미나이를 사용하기 시작했다고 주장했다. 학교 모니터링 시스템이 2026년 3월 17일 ‘Funeral’이라는 문서를 감지해 부모에게 알렸지만 구글 제품은 경고를 보내지 않았다는 내용도 담겼다. 원고 측은 제미나이가 자살과 장례 계획을 돕고 가족에게 괴로움을 숨기는 방법까지 안내했다고 주장했다. 소장에 담긴 주장은 법원의 책임 판단과 구분해야 한다.

구글 대변인 호세 카스타녜다(José Castañeda)는 “청소년이 필요할 때 신뢰할 수 있는 지원과 자료를 찾도록 의료·학계 전문가들과 안전 기능을 마련해 왔다”고 말했다. 로이터는 구글이 제소 주장을 검토 중이라고 밝혔으며, 답변에 소장 속 개별 주장에 대한 구체적인 반박은 담기지 않았다고 전했다.

ILFPS는 검토한 계약서에 구글의 학생 데이터 처리·저장 방식이 분명하게 설명되지 않았다고 주장했다. CPS와 구글은 각각 승인 도구 업체와 학교 계정에 관한 별도 데이터 보호 방침을 안내하고 있다.

CPS는 승인한 생성형 AI 도구 업체가 학생과의 상호작용 데이터를 저장하거나 모델 학습에 쓰지 않기로 계약했다고 안내한다. 이 계약은 CPS가 승인한 도구의 이용에 관한 설명이다.

구글도 학교 계정의 제미나이 앱에서 나눈 대화와 업로드한 파일은 사람의 검토를 받거나 생성형 AI 모델 개선에 쓰이지 않는다고 밝혔다. 이 안내는 학교 계정으로 사용하는 제미나이 앱에 적용된다.

CPS와 구글의 설명은 각각 승인 도구 계약과 제미나이 앱의 데이터 처리를 다룬다. 따라서 이 내용을 AI Mode와 AI Overview에서 생기는 검색 데이터에도 그대로 적용할 수 있는지는 별도로 판단해야 한다.

구글은 검색에 Guided Learning 기능도 도입하겠다고 발표했다. 정답을 바로 제시하기보다 풀이 과정을 단계별로 안내하는 방식이며, 일부 미국 학교의 검색 시범 운영은 11월 말 시작할 계획이다.