방미통위, AI 불법·유해정보 대응 민관회의 열었다

방송미디어통신위원회가 27일 인공지능(AI) 서비스의 불법·유해정보 대응을 논의하는 민관협의회 2차 회의를 열었다.

방미통위는 서울 엘타워에서 정부와 산업계, 학계, 시민단체 등이 참여한 가운데 ‘인공지능서비스 이용자보호 민관협의회 2차 회의’를 개최했다고 밝혔다. 회의는 AI 서비스 확산으로 기존 제도 밖에 남는 이용자 보호 쟁점을 점검하고 안전한 서비스 환경을 만들기 위한 제도 개선 방안을 논의하기 위해 마련됐다.

이날 핵심 의제는 AI 서비스 안에서 불법·유해정보가 노출될 위험을 줄이는 기술적 조치였다. 김경훈 카카오 AI 세이프티 리더는 ‘AI 서비스 불법·유해정보 대응을 위한 가드레일 시스템 현황’을 주제로 발표했다.

김 리더는 카카오가 자체 개발한 한국어 특화 오픈소스 기반 AI 안전성 검증 가드레일 모델 ‘카나나 세이프가드’를 소개했다. 사업자의 자율적 안전조치를 고도화하는 방향과 AI 안전 생태계 협력 방안도 함께 공유했다.

가드레일은 AI 서비스가 부적절한 답변이나 위험한 정보를 내놓지 않도록 제한하는 안전장치다. 이용자에게 노출되는 답변을 사전에 걸러내거나 위험한 요청에 대한 응답을 제한하는 방식으로 서비스 안전성을 높이는 데 쓰인다.

이어진 종합토론은 이성엽 고려대 기술경영전문대학원 교수가 주재했다. 토론에서는 AI 서비스 내 불법·유해정보 노출 위험에 대응하기 위한 사업자 자율조치 활성화와 민관 협력 방안이 논의됐다.

이성엽 고려대 기술경영전문대학원 교수는 “논의된 기술적 동향이 사업자의 이용자 보호를 위한 법제 마련 과정에서 제도의 실효성을 높이는 방향으로 반영될 필요가 있다”고 말했다. 기술 논의가 선언에 그치지 않고 실제 규율 체계와 연결돼야 한다는 취지다.

신영규 방미통위 방송통신이용자정책국장은 “윤리적으로 신뢰할 수 없는 AI 기술은 사회적 불신을 초래해 AI 산업 전체의 성장을 가로막을 수 있다”며 “기술 진흥과 이용자 보호를 위한 기술적 안전조치가 함께 이뤄져야 한다”고 했다.

방미통위의 이번 논의는 AI 서비스를 단순한 신기술이 아니라 이용자 보호 규율의 대상으로 다루겠다는 흐름 위에 있다. AI 서비스가 검색, 상담, 콘텐츠 추천, 업무 자동화 등으로 넓어지면서 기존 통신·플랫폼 규율만으로 포착하기 어려운 이용자 피해 가능성이 커졌다는 판단이 깔려 있다.

방미통위는 2021년부터 ‘지능정보사회 이용자 보호 민관협의회’를 운영해왔다. 2024년에는 AI 환경 변화에 맞춰 이를 ‘인공지능서비스 이용자 보호 민관협의회’로 확대 개편했다.

지난 5월에는 정부와 산업계, 법조계, 학계, 시민단체 등 전문가 35명으로 구성된 민관협의회 2기가 출범했다. 이번 2차 회의는 AI 서비스의 안전장치를 사업자 자율조치와 제도 개선 논의로 함께 다뤘다는 점에서 의미가 있다.

국내 AI 서비스 규율은 모델 성능 경쟁보다 이용자 통제 장치와 책임 구조를 함께 요구하는 방향으로 움직이고 있다. 본지는 앞서 AI 랩의 안전 감독 논의가 직원 문제 제기에서 이사회 책임 구조로 옮겨가고 있다고 보도했다.

AI 안전 논의는 서비스 사업자와 이용자 사이의 책임 경계를 어떻게 정할지도 함께 묻는다. 사업자는 기술적 차단 장치를 마련해야 하고, 규제 당국은 자율조치가 실제 이용자 보호로 이어지는지 살피는 구조를 마련해야 한다는 요구가 커지고 있다.

방미통위는 이날 논의 내용을 바탕으로 AI 서비스 이용자가 안전하게 서비스를 이용할 수 있는 환경 조성을 추진할 예정이다.