미국 캘리포니아 주가 아동 보호 강화를 위해 소셜미디어 플랫폼과 AI 동반자 챗봇에 대한 규제 마련에 나선다.
개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사는 13일(현지시간), 아동이 온라인에서 겪을 수 있는 정신 건강 위협과 사생활 침해에 대응하기 위한 일련의 법안에 서명했다고 발표했다. 이번에 통과된 법안에는 플랫폼이 연령 확인 기능을 도입하고, 자살 및 자해 관련 위기 대응 프로토콜을 갖추며, AI 챗봇이 청소년에게 제공될 경우 적절한 경고 문구를 삽입하는 등의 의무 조항이 포함됐다.
특히 눈에 띄는 사안은 AI 챗봇 관련 법안 SB 243으로, 해당 법안은 올해 1월 스티브 파딜라(Steve Padilla) 및 조시 베커(Josh Becker) 상원의원이 공동 발의했다. 법안은 AI 기술이 청소년 정신 건강에 미치는 영향을 우려하는 사회적 분위기를 반영한 것이다. 최근 AI 동반자 챗봇이 정서적으로 불안정한 청소년들에게 영향을 끼쳤다는 사례가 일부 언론을 통해 보도되면서, 관련 규제 마련 필요성이 제기돼 왔다.
이번 조치는 AI와 소셜미디어가 급속히 발전하면서 온라인 환경에서 사용자를 보호할 제도적 기반이 미비하다는 지적에 응답하는 움직임으로 볼 수 있다. 특히, 지난 몇 달 간 미국 내에서는 트럼프 대통령의 대선 재출마 선언과 함께 AI 기반 허위 콘텐츠가 정치 상황에 영향을 줄 수 있다는 우려도 커지고 있어, 주정부 차원의 규제가 확대되고 있는 흐름이다.
뉴섬 주지사는 “아이들이 안전하게 인터넷을 사용할 수 있는 환경을 만들기 위해선, 기술에 걸맞는 새로운 기준을 설정하는 것이 중요하다”고 강조했다. 이번 법안은 2025년부터 단계적으로 시행될 예정이다.