유럽연합(EU)이 8월 2일부터 AI법 일부 조항을 시행하고 챗봇·딥페이크 등 AI 시스템과 콘텐츠에 투명성 의무를 적용한다.
EU 집행위원회는 AI사무국이 각 회원국 관할 당국과 함께 관련 조항 집행에 들어간다고 밝혔다. 새 투명성 요건은 일부 AI 시스템이 이용자에게 AI와 상호작용하고 있다는 사실과 콘텐츠가 AI로 생성 또는 수정됐는지를 명확히 알리도록 한다.
챗봇 등 상호작용형 AI 시스템은 이용자에게 사람과 대화하는 것이 아니라 AI와 상호작용하고 있음을 밝혀야 한다. AI로 생성 또는 편집한 딥페이크 이미지·영상·음성 등에는 표시가 필요하고, AI가 생성하거나 수정한 콘텐츠에는 식별과 추적을 위한 기계 판독 가능 표시도 붙여야 한다.
EU 집행위원회는 이번 조치가 기만과 조작 행위를 줄이고 대중의 판단을 돕는 한편, 기업에는 더 명확한 준수 요건과 이행 경로를 제공하기 위한 것이라고 설명했다.
🔎 시장 해석
EU가 AI 시스템과 AI 생성 콘텐츠에 대한 고지 의무를 실제 집행 단계로 옮기면서, AI 서비스의 투명성 기준이 한층 구체화됐다. 챗봇·딥페이크·AI 생성물 표시가 핵심 대상인 만큼, 이용자 고지와 콘텐츠 식별 체계가 서비스 신뢰의 주요 요소로 부상할 전망이다.
💡 전략 포인트
기업과 서비스 운영자는 이용자가 AI와 상호작용하고 있다는 사실을 명확히 알리는 방식과 AI 생성·수정 콘텐츠 표시 체계를 점검할 필요가 있다. 특히 딥페이크 이미지·영상·음성처럼 기만 가능성이 큰 콘텐츠는 표시 여부와 기계 판독 가능 식별 방식이 주요 준수 항목이 될 수 있다.
📘 용어정리
- AI법: 유럽연합이 AI 시스템의 개발과 이용 과정에서 위험 관리, 투명성, 책임 요건 등을 정한 규제 체계다.
- 딥페이크: AI 기술을 이용해 실제처럼 보이는 이미지·영상·음성을 생성하거나 조작한 콘텐츠를 말한다.
- 기계 판독 가능 표시: 사람뿐 아니라 시스템도 AI 생성 또는 수정 여부를 식별하고 추적할 수 있도록 콘텐츠에 붙이는 표시를 뜻한다.


