인도, 프런티어 AI 출시 전 안전성 평가 검토

김미래 기자 2026.10.28 17:10

인도 정부가 고성능 AI 모델의 출시 전 평가와 통제된 환경 시험을 새 법률에 담을지 논의하고 있다. 적용 대상과 개발사 의무는 아직 정해지지 않았다.

토포AI로 이 기사 더 깊이 읽기

제한된 시험 공간에서 점검 중인 인공지능 모델 / TokenPost.ai

인도 정부가 고성능 인공지능(AI) 모델의 출시 전 안전성 평가를 새 법률에 담을지 검토하고 있다. 프런티어 모델을 별도로 감독하는 방안이 논의되고 있지만, 평가 의무가 확정된 것은 아니다.

인도 NDTV는 정부 관계자들을 인용해 새 AI 법률을 위한 의견수렴 문서에 프런티어 모델의 별도 안전 체계를 담는 방안이 논의 중이라고 보도했다. 프런티어 모델은 현재 기술 수준에서 높은 성능을 보이는 AI 모델을 뜻한다. 검토 대상에는 출시 전 평가와 통제된 환경에서의 시험, 위험에 따른 보호 조치가 포함된다.

쟁점은 어떤 모델을 별도 감독 대상으로 정할지다. 학습에 사용한 연산량을 기준으로 삼는 방법이 거론되지만, 연산량만으로 모델의 위험을 판단하기 어렵다는 문제도 있다. 개발사에 요구할 보호 조치와 정부의 감독 범위도 정해지지 않았다.

인도 정부가 우려하는 위험에는 소프트웨어 취약점 발견, 사이버 공격 악용, 진짜처럼 보이는 합성 콘텐츠 생성 등이 포함된다. 샌드박스는 모델을 제한된 환경에서 시험해 공개 전에 작동 방식과 취약점을 살피는 방식이다. 시험 대상과 절차는 의견수렴 과정에서 구체화될 예정이다.

인도 전자정보기술부(MeitY)는 2025년 11월 공개한 AI 거버넌스 지침에서 혁신을 지원하면서 위험에 비례해 대응한다는 원칙을 제시했다. 지침은 AI 안전 연구소가 위험 평가와 안전성 시험에 필요한 기술적 역할을 맡도록 제안했다. 당시 정부는 새 법정 의무를 도입하기보다 기존 법률을 활용한다고 설명했다.

이번 논의가 법률상 의무로 이어지면 기존 원칙 중심 지침에서 고성능 모델에 대한 구체적 규율로 바뀔 수 있다. NDTV는 적용 범위를 넓게 잡으면 소규모 개발사와 연구기관의 부담이 커질 수 있다는 우려를 전했지만, 보도에서 우려의 발언 주체와 근거는 구체적으로 제시하지 않았다. 확인된 시험 비용이나 제품 출시 지연 규모는 제시되지 않았다.

미국에서도 AI 개발업체의 규모와 위험 수준에 따라 감독 강도를 달리하는 법안이 발의된 바 있다. 미국의 AI 규제 법안도 발의 단계에 머물러 있다는 점에서 두 나라의 논의 모두 시행 규칙과는 구분된다.

아슈위니 바이슈나우(Ashwini Vaishnaw) 인도 전자정보기술부 장관은 새 AI 법률 의견수렴 문서를 몇 주 안에 공개하고 시민사회와 산업계 등의 의견을 받겠다고 밝혔다. 문서가 공개되면 프런티어 모델의 정의와 출시 전 평가 의무의 범위가 구체화될 예정이다.