일본, 고성능 AI 안전 의무·명령 위반 벌칙 검토

일본 정부가 고성능 인공지능(AI) 사업자에게 안전 확보 의무를 부과하고, 정부 명령을 어기면 벌칙을 적용하는 방안을 검토하고 있다. 법 개정 전 논의 단계로, 규제 대상과 처벌 수위는 정해지지 않았다.

내각부가 11일 공개한 제2회 제도 검토 작업반 자료에는 사업자의 안전조치 의무와 정부에 대한 보고, 권고·명령 권한, 명령 위반 시 벌칙을 두는 구상이 담겼다.

규율은 모든 AI에 일률적으로 적용하는 방안이 아니다. 자료는 특정 위험과 일정 수준 이상의 성능을 가진 AI를 대상으로 법적 규제가 필요할 수 있다고 제시했다. 그 밖의 위험이나 AI는 기존 법령과 지침으로 대응하는 방향이다.

앞선 논의에서는 AI의 악용과 오작동을 위험 유형으로 구분했다. 사이버 공격과 화학·생물·방사능·핵·폭발물(CBRNE) 테러 위험도 검토 대상으로 다뤘다. 성능 기준은 연산량뿐 아니라 AI의 능력과 예상 피해를 함께 고려해야 한다는 의견이 나왔다.

일본의 AI법은 2025년 5월 28일 성립해 6월 4일 공포·일부 시행됐고, 같은 해 9월 1일 전면 시행됐다. 내각부의 AI법 개요는 법 시행 일정을 안내하고 있다. 이번 작업반은 현행 제도에 사업자의 의무와 정부의 집행 수단을 더할지 논의하고 있다.

규제 대상이 될 사업자의 범위도 쟁점이다. 작업반은 사업자 규제를 우선 검토하면서 연구·개발·서비스 제공 단계 중 어디에 의무를 부과할지 살피고 있다. AI 이용자의 책임은 사업자 규제와 구분해 논의하는 방향이다.

제재 절차는 보고와 권고, 명령을 거쳐 벌칙으로 이어지는 단계적 구상이 제시됐다. 앞선 회의에서는 국민 안전과 관련한 긴급 상황에 명령이나 즉시 처벌을 적용하는 방안도 의견으로 나왔다. 다만 이는 여러 의견 가운데 하나로, 제도의 확정 내용을 뜻하지 않는다.

규제의 실효성과 사업자 부담을 함께 고려해야 한다는 의견도 나왔다. 정보 공개에 법적 근거를 두더라도 영업비밀을 보호하고 과도한 부담을 피해야 한다는 취지다. 기존 법률로 다룰 수 있는 행위까지 AI법에 중복해 규정하지 말아야 한다는 지적도 제기됐다.

해외 사업자에게 규칙을 실효성 있게 적용하고 일본 사업자에게만 부담이 쏠리지 않도록 해야 한다는 의견도 정리됐다. 규제 대상과 의무 범위는 해외 사업자에 대한 집행 가능성도 고려해 논의될 예정이다.

11일 열린 작업반의 사업자 청취에는 앤트로픽 재팬(Anthropic Japan), 구글(Google), 오픈AI 재팬(OpenAI Japan), NTT, 사카나 AI(Sakana AI), SB 인튜이션스(SB Intuitions)가 참여했다. 청취 항목에는 사이버 공격 등 AI 위험에 대한 인식, 각사의 안전조치, 법적 의무와 자율 지침에 관한 의견이 포함됐다.

교도통신은 일본 정부가 연말까지 법 개정 내용을 포함한 제도 개편의 전체상을 제시할 계획이라고 보도했다. (교도통신 보도)