바이든 승리 답한 AI 포털, 출시 당일 정치 질문 거부

트럼프 행정부의 AI 정부 포털 America.gov가 출시 직후 조 바이든이 2020년 미국 대선에서 승리했다고 답했다가, 같은 날 정치적 질문에 응답하지 않기 시작했다.

미국 총무청(GSA)과 백악관 국가디자인스튜디오는 29일 America.gov를 공개했다. GSA는 이 포털이 2만9000개가 넘는 정부 웹사이트 정보를 AI 검색 기술로 통합해 행정 서비스와 정부 정보를 한곳에서 제공한다고 공식 발표했다.

포털은 여권 갱신, 사회보장제도, 복지 서비스 등을 주요 활용 사례로 제시했다. 공식 정부 웹사이트를 검색한 뒤 관련 내용을 인용해 설명하는 방식이다.

출시 직후 챗봇은 “조 바이든이 2020년 미국 대통령 선거에서 승리했다”고 답했다. 미국 국가기록원은 2020년 선거인단 결과를 바이든 306명, 도널드 트럼프 232명으로 기록하고 있다.

챗봇은 2020년 대선 결과를 바꿀 정도의 광범위한 부정선거를 뒷받침할 공식 근거가 없다고도 답했다. 그러나 AP통신이 같은 질문을 다시 입력했을 때는 “정치적 질문에는 답할 수 없다”고 응답했다.

답변 방식은 트럼프 대통령의 출시 행사가 진행되는 동안 바뀌었다. 백악관이 정치 질문 차단을 직접 지시했다는 공식 발표는 나오지 않았다.

기후변화에 관한 답변도 트럼프 대통령의 기존 주장과 달랐다. 챗봇은 최근 지구 온난화가 주로 화석연료 연소에서 비롯된 인간의 온실가스 배출 때문이라고 설명했다.

트럼프 대통령은 기후변화를 '사기'라고 주장해왔다. AP통신은 챗봇이 펜타곤을 운영하는 부처를 '국방부'라고 답했다고도 전했다.

트럼프 대통령의 2028년 대선 출마 가능성에 관한 질문에는 수정헌법 22조를 근거로 두 차례 대통령에 당선된 사람의 연임 제한을 설명했다. 챗봇은 트럼프 대통령이 2016년과 2024년에 당선됐다고 답했다.

대통령 급여를 받지 않은 인물로는 조지 워싱턴, 허버트 후버, 존 F. 케네디를 언급했다. 트럼프 대통령은 자신이 급여를 포기한 최초의 대통령이라고 주장해왔다.

미국 정부의 공식 자료를 기반으로 하는 AI 서비스라도 어떤 자료를 검색하고 어떤 질문에 답할지는 별도 정책의 영향을 받는다. 이번 사례에서는 사실 판단이 가능한 질문에 답한 뒤 정치적 질문 자체를 차단하는 방식으로 응답 범위가 바뀌었다.

America.gov가 어떤 AI 모델을 사용하는지는 공개되지 않았다. 일부 보도는 구글의 Gemini와 일론 머스크의 Grok이 사용됐다고 전했지만, 이를 뒷받침하는 공식 문서는 확인되지 않았다.

AP통신은 America.gov의 AI 모델명과 답변 변경 기준이 공개되지 않았다고 보도했다. 이용자는 챗봇의 답변뿐 아니라 검색 대상이 된 정부 자료와 인용 내용도 함께 확인할 필요가 있다.

이번 사례는 공공 AI 서비스의 정확성뿐 아니라 정치적으로 민감한 질문을 분류하고 처리하는 기준이 공개돼야 한다는 점을 보여줬다. 출시 당일 답변 정책이 바뀐 경위와 적용 기준은 공개되지 않은 상태다.