학교 검색서 AI만 끄기 요구…마키 의원, 구글에 답변 촉구

미 상원의원이 학교가 구글 검색은 계속 사용하면서 검색에 포함된 생성형 인공지능(AI) 기능만 차단할 수 있도록 정책을 바꾸라고 구글에 요구했다. 구글($GOOGL) 검색과 제미나이 앱을 따로 관리하는 것과 검색 안의 AI 기능을 선택적으로 끄는 것은 별개의 문제다.

에드 마키(Edward J. Markey) 미국 상원의원은 9일 순다르 피차이(Sundar Pichai) 알파벳·구글 최고경영자에게 보낸 서한에서 “학교는 중요한 교육 도구에 대한 접근을 포기하지 않고도 학생의 AI 챗봇 접근을 차단할 권리가 있다”고 말했다. 학교가 AI 이용을 제한하더라도 검색까지 포기하게 해서는 안 된다는 주장이다.

마키 의원은 학교 계정에서 AI 오버뷰(AI Overviews)·제미나이(Gemini)·가이드 학습(Guided Learning)을 끄고 구글 검색을 계속 쓸 수 있는지 물었다. AI 기능을 제외한 검색 결과를 기술적으로 제공할 수 있는지도 질의했다.

또 구글이 초·중·고교 학생의 안전과 정신건강, 학습에 미치는 영향을 조사했는지 관련 자료를 요청했다. 검색 밖의 생성형 AI 이용을 제한하는 학교와 학군이 얼마나 되는지도 물었다.

논란의 배경은 구글이 11월 3일 공개한 학교 계정 설정 변경이다. 구글은 검색, 제미나이, 제미나이 노트북(Gemini Notebook), 구글 클래스룸(Google Classroom) 안의 제미나이를 K-12 학생 계정에서 기본적으로 끄고 학교 관리자가 직접 켜도록 하는 방안을 발표했다.

구글은 검색과 제미나이 앱을 각각 허용할 수 있다고 밝혔다. 다만 학교가 검색을 켜면서 검색에 포함된 AI 기능만 별도로 차단하는 설정은 제공되지 않는다.

본지는 앞서 학교 계정에서 검색과 제미나이 앱을 개별 설정해도 검색 내 AI 기능은 끌 수 없다는 점을 보도했다. 이번 서한은 마키 의원이 해당 설정의 기술적 가능성과 학생 영향 평가 자료를 구글에 공식 요구한 후속 전개다.

구글은 검색과 교육 제품에 가이드 학습 기능을 확대하겠다고도 밝혔다. 가이드 학습은 정답을 바로 제시하기보다 학생이 단계별 질문을 따라 문제를 풀도록 돕는 방식이다.

구글은 11월 3일 발표문에서 미국 일부 학교를 대상으로 검색의 가이드 학습 기능을 11월 말 시범 운영할 계획이라고 밝혔다. 시범 운영에서 교육자의 의견을 모은 뒤 다른 학교로 확대하겠다고 했다.

구글은 학교 관리자가 학생 계정에서 AI 제품의 이용 여부를 정하도록 해 교실 내 AI 사용을 관리할 수 있다는 입장이다. 설정 변경의 세부 내용은 학교에 앞으로 몇 달 동안 안내하겠다고 밝혔다.

마키 의원은 구글의 교육 기술 시장 내 지위가 이 사안을 더 중대하게 만든다고 서한에 적었다. 학교가 검색을 유지하려면 AI 기능도 받아들여야 하는 구조가 선택권을 제한한다는 취지다.

아동 미디어 평가단체 커먼센스미디어(Common Sense Media)는 7월 15일 자체 평가에서 구글 검색의 AI 오버뷰와 AI 모드를 아동에게 ‘수용 불가 위험’으로 분류했다. 이 단체 산하 유스 AI 세이프티 인스티튜트(Youth AI Safety Institute)는 평가 결과를 공개하며 검색 AI가 위기 신호를 놓치거나 부적절한 조언을 했다고 밝혔다.

커먼센스미디어 평가진은 11세와 15세 학생용으로 설정한 세이프서치 계정으로 2600건 넘는 검색을 진행했다. 커먼센스미디어는 이 과정에서 AI 모드가 시험한 숙제 180건에 완성형 답을 내놨고, 역사 질문의 10건 중 4건 이상에서 검색을 반복할 때 답이 크게 달라졌다고 설명했다.

평가 결과에는 검색 AI가 자살 충동 징후를 놓치거나 망상·편집증을 강화하고 섭식 장애를 긍정하는 답변을 내놓은 사례도 포함됐다. 커먼센스미디어는 미성년자 계정에서 검색 AI를 기본적으로 끄고 학교와 가족이 기능을 관리할 수 있도록 하라고 권고했다.

마키 의원이 구글에 요청한 서면 답변 기한은 11월 30일이다.