메타, AI로 청소년 보호 강화…성적 이미지 차단·사용시간 제한까지

페이스북과 인스타그램을 운영하는 메타가 인공지능 기술을 기반으로 청소년과 여성을 겨냥한 디지털 성범죄 예방에 본격적으로 나서겠다고 밝혔다. 특히, 연령 확인부터 콘텐츠 차단까지 AI를 활용해 플랫폼 내 안전성을 높이고 있다는 점을 강조했다.

이번 계획은 9월 3일 서울 강남구에 위치한 메타코리아 사무실에서 열린 ‘청소년 및 여성 온라인 안전 라운드테이블’에서 발표됐다. 이날 프리앙카 발라 메타 아시아태평양 지역 안전 정책 총괄은 인공지능 기술이 어떻게 문제성 콘텐츠를 사전에 감지하고 차단하는 데 활용되고 있는지 상세히 소개했다. 그는 특히 14세에서 17세 사이의 사용자에게 적절한 콘텐츠만 노출되도록 여러 보호 조치를 시행 중이라고 설명했다.

메타의 주요 조치는 연령 검증 강화, 성적 콘텐츠 자동 차단, 계정 공개 범위 제한 등이다. 예를 들어, 사용자가 입력한 나이와 실제 나이를 AI가 분석해 검증하고, 14세 미만 아동이 계정을 개설하려 하면 이를 차단해 삭제하는 방식이다. 또한, 14~15세 청소년이 인스타그램을 사용할 경우 기본적으로 계정이 비공개로 설정되고, 외부인과의 직접 메시지 기능이 차단되며, 하루 사용 시간도 60분으로 제한된다.

사적인 이미지 전송에 대한 경고 기능도 도입됐다. 사용자가 성적 이미지로 인식될 수 있는 사진을 보낼 경우 기기에서 먼저 경고 메시지를 보내 전송을 재고하도록 유도한다. 또한, 수신 측에서는 원하지 않는 성적 이미지가 자동으로 흐리게 처리돼 볼 수 없도록 하는 등의 기능이 추가되었다.

이날 열린 패널 토론에서는 소셜미디어에서 급증하고 있는 디지털 성범죄 대응 방안에 대한 논의도 이어졌다. 국내 1호 프로파일러로 잘 알려진 권일용 동국대학교 교수는 딥페이크 영상과 불법촬영물 유포를 막기 위해 수사기관뿐만 아니라 플랫폼 기업들도 서비스 운영에 있어 보다 책임 있는 자세를 가져야 한다고 강조했다. 그는 특히 디지털상 친분을 내세워 접근한 뒤 텔레그램 등으로 유도해 개인정보를 탈취하는 범죄가 증가하고 있다고 경고했다.

이지연 한국외대 교수는 디지털 성범죄가 피해자뿐만 아니라 일반 여성들에게도 온라인에서의 위축감을 초래하고 있다며, 피해자가 두려움 없이 도움을 요청할 수 있는 사회적 분위기 형성이 필요하다고 제언했다.

이 같은 기술적·사회적 대응은 향후 글로벌 빅테크 기업들이 사회적 책임을 강화하는 방향으로 이어질 가능성이 크다. 거대 플랫폼 기업이 인공지능을 통한 자율 감시 기능을 확대할수록, 온라인 공간에서의 기본적인 안전 수준도 함께 향상될 것으로 보인다.