AI 챗봇 소송 최소 40건, 안전책임 법정으로

AI 챗봇 피해를 주장하는 소송이 오픈AI(OpenAI), 캐릭터.AI(Character.AI), 구글(Google) 등 주요 AI 기업으로 확산하고 있다. 소송의 핵심은 챗봇 답변이 실제 피해로 이어졌는지, 기업이 예견 가능한 위험을 줄일 안전장치를 충분히 뒀는지다.

크립토브리핑(Crypto Briefing)은 26일 AI 챗봇 피해 관련 소송이 최소 40건에 이르고 약 20명의 사망과 연관됐다는 주장이 제기됐다고 전했다. 다만 소송 건수는 집계 시점과 기준에 따라 달라진다.

엠렉스(MLex)는 7월 25일 원고 측 변호사들이 캘리포니아 법원에서 관련 소송이 약 24건에서 50건 이상으로 늘 수 있다고 말했다고 보도했다. 40건대라는 숫자는 현재까지 제기됐거나 준비 중인 사건을 함께 반영한 집계로 읽힌다.

분쟁은 2026년 들어 주 검찰 소송과 민사 손해배상 소송으로 넓어졌다. 플로리다 법무장관실은 6월 1일 오픈AI와 샘 알트먼(Sam Altman) 최고경영자를 상대로 주 차원의 소송을 제기했다고 밝혔다.

플로리다는 오픈AI가 안전 위험을 알고도 챗GPT(ChatGPT)를 출시·마케팅했고, 아동 안전과 자해 위험을 충분히 통제하지 않았다고 주장했다. 이 주장은 아직 법원이 받아들인 사실이 아니라 소송 절차에서 다퉈질 쟁점이다.

오픈AI는 폭력적 요청을 거부하도록 모델을 훈련했고, 위기 신호가 감지되면 현실 지원 안내와 법집행기관 통보 절차를 운용한다는 입장이다. 회사는 2월 27일 정신건강 관련 작업 업데이트에서 캘리포니아 법원이 챗GPT 관련 정신건강 사건 여러 건을 하나의 절차로 묶었다고 밝혔다.

개별 민사 사건도 이어지고 있다. 마이클 라인스(Michael Lines)는 7월 1일 조울증이 챗GPT와의 대화로 악화돼 자해 시도까지 이어졌다며 오픈AI와 알트먼을 상대로 소송을 냈다.

라인스 측은 챗봇 설계가 취약한 이용자의 망상을 강화했다고 주장한다. 이 사건은 AI 챗봇이 정신건강 취약 이용자에게 어떤 설계상 주의의무를 지는지 묻는 사례로 분류된다.

구글과 캐릭터.AI도 유사한 책임 논쟁에 놓여 있다. 로이터는 1월 7일 구글과 캐릭터.AI가 14세 소년의 자살과 관련된 소송을 합의로 끝내기로 했다고 보도했다.

3월 4일에는 구글의 제미나이(Gemini)가 한 남성의 자살을 유발했다는 별도 소송이 제기됐다. 원고 측 논리는 자해 유도, 감정적 의존, 정신건강 악화, 아동 보호 실패로 나뉜다.

제품책임은 제품 설계나 경고 부족으로 피해가 발생했을 때 제조·제공자가 질 수 있는 법적 책임을 뜻한다. AI 챗봇 소송에서는 모델의 답변 내용뿐 아니라 위험 신호 감지, 이용자 연령 파악, 보호자 통제, 위기 안내 같은 운영 체계가 함께 판단 대상이 된다.

기업들은 안전 업데이트로 대응하고 있다. 오픈AI는 2025년 10월 27일 민감한 대화 대응 강화를 설명했고, 2026년 1월 20일에는 연령 예측 접근법을 공개했다.

오픈AI는 4월 28일 문서에서 폭력·자해 관련 위험을 줄이기 위해 자동 감지, 인적 검토, 위기 안내, 부모 통제 기능을 운용한다고 밝혔다. 회사 측 대응은 법적 책임을 부인하면서도 안전장치를 강화하고 있다는 점을 강조하는 방향이다.

규제 압박도 소송 바깥으로 번졌다. 앨라배마 법무장관실은 8월 24일 허깅페이스(Hugging Face) 관련 보안 침해 사안과 관련해 오픈AI에 소환장을 발부하고 조사에 착수했다고 밝혔다.

이 사안은 자해 피해 소송과 별개지만, AI 기업의 안전 관리와 소비자보호 책임이 주 검찰과 의회 감시 대상이 됐다는 점에서 같은 흐름에 놓여 있다. 앞서 본지는 빅테크 청소년 보호 책임이 법정 쟁점으로 떠오른 흐름을 보도한 바 있다.

이번 소송들은 챗봇 산업의 법적 책임을 단일 사고가 아니라 누적된 제품책임 문제로 다루게 만들고 있다. 법원은 앞으로 원고 측이 제시한 인과관계와 기업의 예견 가능성, 안전장치의 충분성을 순차적으로 따질 것으로 보인다.