세계에서 유럽연합(EU)에 이어 두 번째로 인공지능(AI) 관련 기본법을 제정한 우리나라가, 내년 1월 시행을 앞두고 있는 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’의 시행령 초안을 9월 8일 발표했다. 핵심은 인간의 기본권을 침해할 수 있는 고위험 AI에 대해서는 투명성과 책임성을 강화하는 방향이다.
시행령 초안에는 특히 ‘고영향 AI’에 대한 사전 고지 의무가 명확히 담겼다. 고영향 AI는 생명이나 안전, 기본권에 중대한 영향을 줄 수 있는 인공지능 시스템을 의미하며, 이용자에게 AI가 개입된 결과물임을 사전에 알리고, 워터마크(디지털 표시)를 통해 생성물을 구분 가능하게 해야 한다. 사용자는 이를 통해 인공지능이 만든 콘텐츠와 인간이 만든 콘텐츠를 명확히 구별할 수 있게 된다. 시각적으로 보이는 워터마크뿐 아니라 기계 판독이 가능한 비가시 워터마크도 허용된다.
정부는 또 AI 기술이 실제 사회에서 어떤 영향을 미칠지 가늠할 수 있도록 ‘기본권 영향 평가’ 제도를 도입했다. 이는 사용자에게 미치는 잠재적 위험을 사전에 점검하는 절차로, 고영향 AI의 경우 다소 의무적인 형태로 평가를 유도한다. 다만, 고영향 여부는 AI가 작동하는 구체적인 상황에 따라 달라질 수 있다. 예를 들어, 송전망을 관리하는 AI라 하더라도 사람 개입 없이 완전히 자율적으로 운영될 경우에만 ‘고영향’으로 판단된다.
딥페이크와 같은 생성형 AI에 대해서도 별도의 규제가 마련됐다. 특히 나이, 장애 등 약자 보호를 위한 기준을 마련해, 실제 결과물이 딥페이크임을 명확히 표시하도록 했다. 그러나 AI가 기업 내부 업무에만 쓰이거나, AI 사용이 명백한 경우에는 별도의 고지나 표시 의무는 면제된다.
정부는 AI 산업 전반에 대한 규제를 지나치게 조이지 않고, 민간의 혁신을 해치지 않도록 유연한 접근을 취하겠다는 입장도 함께 밝혔다. 이를 위해 과태료 부과 전에 충분한 계도 기간을 둘 예정이며, 구체적 기간은 업계와 시민사회 등 이해당사자 의견을 들어 정하기로 했다. 과태료는 고지를 이행하지 않거나 해외 사업자가 국내 대리인을 지정하지 않은 경우, 법령 위반에 따른 시정 명령을 따르지 않는 등 일정한 요건에 따라 최대 3천만 원까지 부과될 수 있다.
시행령의 본격 시행 전인 올 12월까지 정부는 설명회와 공청회를 통해 기업 및 시민단체의 의견을 수렴하고, 법령 가이드라인도 함께 공개할 계획이다. AI를 단속의 대상으로만 보지 않고 육성 지원의 대상으로 함께 인식하겠다는 전략이다. 실제로 인공지능 연구개발(R&D), 데이터 인프라 구축, 산업 활용 등에 대한 정부 지원도 기본법 안에 포함돼 있다.
이 같은 규제와 지원의 병행 전략은 향후 AI 기술의 확산 속도를 조절하면서도 부작용을 방지하는 데 효과적일 것이라는 기대를 받고 있다. 특히 AI 신뢰 생태계가 점차 중요해지는 상황에서, 법적 기준과 사회적 신뢰 사이의 균형을 어떻게 잡아가느냐가 산업 성패를 좌우할 가능성이 높다.
<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>