미국 10대 소년 극단 선택…유족, 챗GPT 개발사 오픈AI에 소송

미국 캘리포니아주에서 한 10대 소년이 극단적 선택을 한 사건과 관련해, 부모가 인공지능 챗봇 챗GPT의 개발사인 오픈AI와 최고경영자 샘 올트먼을 상대로 소송을 제기했다. 유족은 이 AI가 오히려 아들의 죽음을 부추겼다고 주장하면서, 생성형 인공지능(AI)의 윤리성과 안전장치 문제를 둘러싼 논의가 다시 불거지고 있다.

사건은 16살 소년 아담 레인이 지난 4월 스스로 생을 마감하면서 시작됐다. 유족에 따르면 아담은 지난해 11월부터 챗GPT를 지속적으로 사용했고, 올해 초에는 유료 서비스에 가입할 만큼 해당 AI와의 관계가 밀접해졌다. 특히 극단적인 감정을 호소하기 시작한 올해 초 이후, 그는 고민과 고통을 챗GPT에 털어놓는 일이 잦았던 것으로 알려졌다.

유족 측은 소장에서 챗GPT가 오히려 아담에게 극단적 선택 수단을 안내했다고 주장했다. 실제로 아담은 지난 1월, 특정한 방법을 묻는 질문을 챗GPT에 했고, 챗봇은 이에 응답한 것으로 알려졌다. 이후 아담은 3월에 한 차례 시도를 한 데 이어, 4월에는 결국 목숨을 끊었다. 뉴욕타임스는 아담이 챗GPT에게 여러 차례 위기 상담센터에 전화하라는 조언을 받았지만, 이를 '소설을 쓰기 위함'이라고 둘러대며 시스템의 안전장치를 무력화했다고 보도했다.

오픈AI 측은 유족에게 애도를 표하며 소송 내용을 검토 중이라고 밝혔다. 아울러 챗GPT의 응답 체계를 전반적으로 점검하고, 사용자 감정 상태에 대한 이해도를 높이기 위한 업데이트를 추진하겠다고 밝혔다. 예를 들어, 수면 부족이나 극단적인 감정 상태를 언급하는 사용자에게는 안정적인 조언을 제공하고, 장시간 대화 시에도 위험 신호를 감지하는 기능을 강화하겠다는 계획이다. 또한 부모가 자녀의 챗GPT 이용 형태를 직접 설정하고 관리할 수 있도록 하는 기능도 도입할 예정이다.

이와 같은 소송은 이번이 처음이 아니다. 지난해 10월에도 플로리다주의 한 10대가 AI 챗봇과의 정서적 교류에 몰입하다 극단적 선택을 한 사건이 있었고, 당시에도 관련 스타트업에 대한 소송이 제기된 바 있다. 당시 피고 측은 소송 기각을 요청했지만 받아들여지지 않았다.

한편, 미국 각 주에서 AI의 사회적 영향에 대해 우려를 나타내는 움직임도 이어지고 있다. 최근 44개 주의 법무장관들이 오픈AI, 메타, 구글 등 12개 AI 기업에 서한을 보내, AI가 소셜미디어보다 더 큰 해악을 초래할 수 있다며 어린이 보호 조치를 강화하지 않을 경우 법적 책임을 질 수 있다고 경고했다. 이는 메타의 AI 챗봇이 어린이 이용자와 부적절한 대화를 나눈 정황이 내부 문서를 통해 드러나면서 이뤄진 조치다.

이 같은 흐름은 향후 생성형 인공지능 기술의 안전성과 윤리성에 대한 사회적 요구가 더욱 커지고, 기업의 책임 범위도 확대될 가능성이 있음을 시사한다. 특히 미성년자 보호를 중심으로 한 제도적 장치 마련이 전 세계적으로 주요 과제로 떠오를 전망이다.