프랑스 전문가위원회가 일반 소비자용 생성형 인공지능(AI)의 유럽 시장 출시 전 위험 평가와 출시 후 점검을 권고했다.
프랑스 대통령실은 10일 AI·디지털위원회가 꾸린 전문가위원회가 에마뉘엘 마크롱(Emmanuel Macron) 대통령에게 ‘생성형 AI와 취약성’ 보고서를 제출했다고 밝혔다. 다학제 전문가 9명으로 구성된 위원회는 의료·연구·교육·기업·아동보호단체 등 관계자와 55차례 의견을 나누고 18개 권고안을 마련했다. 프랑스 대통령실 발표
사전 평가 대상은 일반 소비자용 대화형 AI다. 사회관계망서비스에 탑재된 챗봇도 포함되지만 업무용 AI는 사전 평가 권고 대상에서 제외된다. 위원회는 심리·사회적 영향을 살피도록 여러 분야 전문가의 독립 평가를 제안했다. 앞서 본지는 첨단 AI 모델 공개 전 정부가 평가에 참여해야 한다는 마이크로소프트 AI 부문 수장의 주장을 보도했다. 위원회 보고서
위원회는 제품이 출시된 뒤에도 이용자에게 미치는 영향을 계속 살피고, 모델을 크게 바꾸면 다시 평가하자고 권고했다. 인가받은 당국과 연구자가 이용·학습·수익화 데이터에 접근할 수 있도록 법적 틀을 마련하자는 내용도 담겼다.
이용자에게 무조건 동조하거나 사람처럼 보이게 하는 설계를 규제하고, 미성년자가 쓸 수 있는 서비스에는 위험한 요청을 걸러내며 안전을 기본 설정으로 적용하라고 했다. AI 답변에 상업적 영향이 반영되면 이를 표시하고, 숨은 광고와 이용자의 취약성을 활용한 상업적 영향은 금지하자는 제안도 내놨다.
대화에서 건강 상태나 정치 성향 등 이용자 정보를 추론할 경우에는 그 범주를 알리고, 이용자가 추론 결과를 확인하거나 이의를 제기할 수 있게 하자고 권고했다. 상업적 활용에는 개인정보 보호 규정에 따른 장치를 두고 이용자가 이를 거부할 수 있도록 하자는 내용도 포함됐다.
교육과 허위 정보 대응도 권고안에 담겼다. 위원회는 어린 시기부터 AI 활용법과 위험을 가르치고, AI가 만든 허위 정보가 확산될 때 정부 부처와 개발사가 신속히 정보를 주고받을 대응 체계를 마련하자고 했다. 프랑스의 생성형 AI 고유 이용자는 올해 초 3300만 명이었다. 위원회는 생성형 AI의 활용 가능성을 인정하면서도 현행 법 체계가 여러 법률에 흩어져 있고 평가가 사후에 치우쳤다고 진단했다. 이번 문서는 전문가위원회의 정책 권고안으로, 제출만으로 법적 의무가 시행되는 것은 아니다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular