아동 AI 연구에 200만달러(약 26억7000만원) 약정한 오픈AI

오픈AI(OpenAI)가 아동 대상 AI의 위험과 기회를 측정할 공통 도구 개발에 200만달러(약 26억7000만원)를 약정했다. 지원 대상은 ‘AI 시대 아동 권리·보호 연합’ 산하 과학 연구망이다.

오픈AI는 12일 발표에서 파리평화포럼(Paris Peace Forum)에서 ‘아동을 위한 더 안전한 AI 참여 헌장’에 서명하고 연구망을 지원한다고 밝혔다. 발표는 약정 사실을 담았으며 실제 지급 여부는 공개하지 않았다.

파리평화포럼은 10일 발표에서 AI 개발사와 안전 단체의 연구·도구 개발 약정 총액이 800만유로라고 밝혔다. 이 금액은 여러 참여 주체의 합계로, 오픈AI의 200만달러 약정과 범위가 다르다.

프랑스 대통령실이 공개한 헌장에는 오픈AI, 앤스로픽(Anthropic), Black Forest Labs, 마이크로소프트(Microsoft, $MSFT)가 지지 기업으로 적혔다. 연구비 약정 주체와 헌장 지지 기업은 별도 명단이다.

헌장은 △아동의 안전·개인정보 보호와 최선의 이익 △연령에 맞는 설계와 가족·아동 참여 △윤리·형평·포용 △개인정보 최소화와 연령 확인 △아동 성착취물 및 비동의 친밀 이미지 방지 △AI 이해 교육 등을 공통 원칙으로 제시했다. 아동이 이용할 수 있는 AI 시스템의 설계와 운영 전반에 보호 조치를 반영한다는 취지다.

헌장 참여 기업 중 미성년자가 이용할 수 있는 AI 시스템을 개발하거나 배포하는 곳은 배포 전 필요한 경우와 이후 정기적으로 위험을 평가하고 시험해야 한다. 위험 완화 조치와 아동 관련 중대 사고를 탐지·대응하는 체계도 마련하도록 했다.

연구망은 독립 과학위원회의 지도를 받는다. 연구팀은 결론을 통제하고 부정적이거나 효과가 뚜렷하지 않은 결과, 불확실한 결과도 공개하도록 했다.

기업은 자사 시스템에 적용된 평가 방법을 감사하고 방법론상 우려를 제기할 수 있다. 다만 안전 기준과 결론을 통제하거나 결과 공개를 늦출 권한은 없다.

기업 자금은 공통 측정 연구에 배정된다. 관측 연구와 발달 영향 연구, 과학위원회 보수, 평가·표준 연구는 공공 자금과 독립 자선 자금으로 지원하도록 구분했다.

헌장은 아동·청소년과 생성형 AI의 반복 상호작용에 관한 장기 연구가 충분하지 않다고 밝혔다. 기존 발달과학과 초기 연구를 토대로 보호 조치를 마련하고 새 근거가 쌓이면 갱신하자는 접근이다.

연구 대상은 위험에 한정되지 않는다. 학습과 창작 등 AI가 아동에게 줄 수 있는 기회도 함께 다루도록 했다.

파리평화포럼은 11월 10~11일 아동 정상회의를 열었다. 에마뉘엘 마크롱(Emmanuel Macron) 프랑스 대통령은 “어떤 AI도 시험·평가와 그에 따른 승인 없이 아동에게 제공돼서는 안 된다”고 말했다.

오픈AI는 강력하고 집행 가능한 아동 안전 법제와 학습·창작 목적의 AI 접근을 함께 보장해야 한다는 입장도 밝혔다. 연령에 맞는 기본 보호, 부모 도구, 정기적 위험 평가와 책임성을 주요 수단으로 제시했다.

헌장은 참여자에게 지원 목적과 자원, 실행 일정을 공개하도록 규정했다. 오픈AI 발표에는 연구망의 구체적 구성과 개별 출연 일정이 담기지 않았다.