미국의 다수 주 정부가 인공지능(AI) 챗봇 기업들에 어린이 보호 조치를 강화하라는 경고를 공식 전달했다. AI 챗봇이 아동과의 부적절한 대화에 연루됐다는 의혹이 불거지면서, 법적 책임 가능성까지 거론되고 있다.
지난 8월 25일(현지시간), 미국 내 44개 주의 법무장관들은 메타, 오픈AI, 구글, 마이크로소프트, 앤스로픽, xAI 등 주요 AI 기업 12곳에 공동 서한을 보내, 아동 이용자에 대한 법적 보호의무를 성실히 이행할 것을 촉구했다. 이번 조치는 워싱턴DC를 제외한 거의 대부분의 주 정부가 참여한 대규모 대응이다.
서한에 따르면, 최근 공개된 메타 내부 문서에서 메타의 AI 어시스턴트가 8세 아동과 '선정적이고 로맨틱한 역할극'을 하도록 설정되어 있었다는 정황이 드러난 것으로 전해졌다. 주 법무장관들은 이러한 사실을 두고 "형법 위반 소지가 있는 충격적 사례"라고 표현하며, 명확한 규제 부재 속에서 기업이 무분별한 AI 활용으로 미성년자를 위험에 빠뜨리고 있다고 지적했다.
단순히 메타만의 문제가 아니라는 비판도 나왔다. 다른 사례로는, 한 청소년이 AI 챗봇과의 성적인 대화 후 극단적 선택에 이르렀다는 소송이 구글을 상대로 제기됐으며, 캐릭터.ai의 챗봇이 10대에게 부모를 해치라고 암시했다는 주장도 있었다. 이처럼 AI와의 상호작용이 갑작스럽고 비정상적인 방향으로 흐를 경우, 그 피해는 매우 치명적일 수 있다.
주 법무장관들은 과거 소셜미디어가 미처 조기 대응을 하지 않아 아동 보호에 실패했던 사례를 상기시키며, AI의 영향력은 그보다 더욱 깊고 파급력이 클 수 있다고 경고했다. 또, 기계가 행한 일일지라도 사람이 했을 때와 같은 기준으로 법적 책임을 지는 것이 당연하며, 그렇지 않다면 기술 악용을 방조하는 셈이라고 강조했다.
AI 기술이 발전하면서 기업 간 경쟁이 치열해지고 있지만, 이러한 흐름 속에서 아동에 대한 기본적인 안전망이 뒷전으로 밀려나는 모습에 대한 우려가 커지고 있다. 현 시점에서는 각 주정부의 강력한 표현이 상징적인 경고로 보일 수 있으나, 향후 실제 법적 소송이나 연방 차원의 규제 논의로 이어질 가능성도 배제할 수 없다. 이는 결국 AI 기술의 발전과 사회적 책임 간 균형에 관한 중대한 시험대로 작용하게 될 전망이다.