메타(Meta)가 자사의 플랫폼에 성적 모욕형 인공지능 앱 광고를 게시한 업체를 상대로 법적 소송에 나섰다. 문제의 앱은 착용된 의류를 제거해 인물의 누드 이미지를 생성하는 기능을 제공하며, 주로 당사자의 동의 없이 사용된 사례가 많다고 메타는 지적했다.
소송 대상은 Joy Timeline HK Ltd.로, 메타는 해당 기업이 ‘CrushAI’라는 앱을 페이스북과 인스타그램에 광고하면서 검수 절차를 지속적으로 회피하려 했다고 밝혔다. 이 앱은 누구든지 가상의 방식으로 옷을 벗기는 기능을 제공하며, 실제로 "누구든 벗겨볼 수 있다"는 문구를 앞세워 이용자들을 유인한 것으로 드러났다.
메타는 성명을 통해 "이번 소송은 우리 플랫폼에서의 남용을 결코 좌시하지 않겠다는 강력한 의지를 보여주는 조치"라며, "커뮤니티 보호를 위한 모든 수단을 계속해서 강구할 것"이라고 강조했다.
이같은 소송은 최근 메타가 가짜 누드 이미지를 생성하는 이른바 '누디파이(Nudify)' 앱에 대한 내부 조사를 벌인 뒤 이뤄졌다. 이들 앱은 다양한 형태의 생성형 AI를 활용해 전체적인 이미지 조작이 가능하며, 특히 유명인이나 미성년자를 대상으로 악용될 가능성이 높다는 점에서 우려를 낳고 있다.
코넬테크 보안신뢰안전센터(Cornell Tech Security, Trust and Safety Initiative)의 알렉시오스 만차를리스(Alexios Mantzarlis) 소장의 조사에 따르면, CrushAI는 작년 가을부터 올해 초까지 약 8,000건 이상의 광고를 페이스북과 인스타그램에 노출시켰다. 메타는 비자발적 노출 콘텐츠를 금지하고 있지만, 이 앱들이 자주 도메인을 바꾸거나 감지하기 어려운 방식으로 광고를 내보내며 규제를 회피하고 있다고 설명했다.
메타는 이러한 악성 광고를 탐지하기 위해 외부 전문가들과 협력하고 있으며, 최근에는 관련 위험 용어, 이모지 등을 AI가 인식할 수 있도록 시스템을 고도화하고 있다고 덧붙였다.
특히 미성년자를 대상으로 한 피해 가능성은 더욱 심각한 문제로 떠오르고 있다. 지난 2024년에는 플로리다에서 고등학생 둘이 동급생의 나체 합성 이미지를 생성 및 공유한 혐의로 체포됐으며, 이러한 가짜 누드 앱이 보편화될 경우 유사 범죄가 급증할 수 있다는 우려도 제기된다.
이와 관련해 올해 4월 미국 의회는 '테이크잇다운법(Take It Down Act)'을 통과시켰고, 트럼프 대통령이 최종 서명했다. 이 법은 성적 딥페이크 이미지의 비자발적 게시를 형사처벌 대상으로 규정하고 있으며, 피해자가 이미지를 신속히 삭제 요청할 수 있도록 절차를 간소화했다.
전문가들은 AI 기술이 빠르게 진화하는 만큼, 이에 따른 윤리적·법적 기준 설정도 한발 앞서야 함을 경고하고 있다. 메타의 이번 법적 대응이 오남용 방지를 위한 선례로 기능할지 전 세계 테크 업계의 이목이 쏠리고 있다.