[신뢰와 인공지능] ① AI는 똑똑해졌지만, 왜 여전히 위험한가?

AI는 빠르게 확산되고 있지만, ‘누구를 위해 어떻게 작동하는가’라는 질문은 여전히 해결되지 않았습니다. 《글로벌 신뢰 인공지능》은 인공지능이 진정한 공공재로 기능하기 위해 블록체인이라는 기반 기술이 반드시 필요함을 강조하며, 데이터를 권리와 자산의 관점에서 다시 바라보게 합니다. 토큰포스트 북클럽은 이 책을 바탕으로, 우리가 진짜 ‘신뢰할 수 있는 AI’를 만들기 위해 고민해야 할 핵심 질문들을 5편에 걸쳐 짚어봅니다. [편집자주]

ChatGPT로 대표되는 생성형 인공지능(AI)은 전 세계를 뒤흔들고 있다. 글을 쓰고, 코드를 짜고, 그림을 그리는 AI는 ‘생산성의 혁신’이라는 이름으로 일상과 산업 곳곳에 침투하고 있다.

하지만 이 압도적인 기술력 뒤에는 누구나 느끼는 공통된 불안이 있다. AI는 점점 더 똑똑해지지만, 우리는 점점 더 책임을 묻기 어려워지고 있다는 사실이다.

AI는 똑똑한데, 왜 우리는 점점 통제하지 못하게 되는가?

『글로벌 신뢰 인공지능』은 오늘날 AI가 당면한 가장 본질적인 문제를 “기술의 진보 속에서도 신뢰 구조는 여전히 뒤처져 있다”고 지적한다.

인공지능이 잘못된 결과를 내놓았을 때, 그 책임은 누구에게 있는가. 학습 데이터가 허위였거나 알고리즘이 편향되어 차별을 고착화한 경우, 또는 누군가의 권리나 재산을 침해했을 때, 현 시스템은 명확한 책임 주체를 제시하지 못한다.

오늘날의 AI 생태계는 이런 상황에서 책임의 소재가 불분명하며, 시스템적으로도 이를 보완할 장치가 부족하다. 우리는 기술은 빠르게 도입하면서도, 그 결과에 대한 윤리적·법적 책임을 나누는 방식은 충분히 고민하지 못하고 있다.

데이터는 누구의 것인가? 생성형 AI의 뿌리 깊은 불투명성

생성형 AI는 인터넷에 존재하는 거의 모든 데이터를 학습해 콘텐츠를 생성한다. 이 과정에서 수많은 작가, 아티스트, 개발자, 유튜버 등 창작자들의 작업물이 허가 없이 사용되었다.

그러나 현재까지 이 데이터 제공자들에게 정당한 보상이 돌아가는 구조는 제대로 작동하지 않는다. 『글로벌 신뢰 인공지능』은 이 현상을 “데이터의 무단 집적과 권리 침해”라고 표현하며, 기술은 타인의 창작물을 바탕으로 성장했지만, 창작자는 그 가치를 인정받지 못하는 현실을 비판한다.

AI 플랫폼은 투명하지 않다 – 사용자도 내부를 들여다볼 수 없다

현재 AI 생태계를 주도하는 기업들은 대부분 소수의 글로벌 빅테크 기업들이다. 이들은 자본과 데이터, 알고리즘을 독점하고 있으며, AI의 설계 방향, 결과 노출 방식, 수익 구조까지 전적으로 통제한다.

어떤 데이터를 학습시킬지, 어떤 결과물을 보여줄지, 어떤 기준으로 사용자에게 정보를 제공할지는 모두 플랫폼 내부의 판단에 따라 이루어진다. 사용자 입장에서는 그 결정 과정을 알 수도 없고, 개입하거나 수정할 수도 없다.

결국 현재의 인공지능은 공공재로 작동하는 것이 아니라, 특정 기업의 자산으로서 폐쇄적이고 독점적인 구조 속에서 발전하고 있다는 점이 문제다.

AI는 기술이 아니라 ‘사회적 구조’다

AI는 이제 단순한 도구가 아니다. 그것은 세상을 설계하고, 사람들의 선택과 사고를 유도하며, 시장과 정치에 영향을 미치는 하나의 사회적 시스템이다.

『글로벌 신뢰 인공지능』은 기술 자체보다 더 중요한 질문을 던진다. 우리는 누구에게 통제권을 부여하고 있으며, 그 통제로부터 이익을 얻는 주체는 누구인가? AI의 설계는 투명하고 윤리적인가?

이 책은 신뢰, 책임, 투명성이라는 세 가지 기준이 갖춰지지 않으면 AI는 사회적 저항을 피할 수 없을 것이라고 경고한다.

마무리 – AI가 위험한 이유는 기술이 아니라 ‘신뢰의 부재’ 때문이다

오늘날 인공지능이 위험한 이유는 단지 너무 똑똑해서가 아니라, 그 기술에 대한 사회적 통제와 신뢰의 기반이 약하기 때문이다. 책임지지 않는 AI, 검증되지 않는 AI는 결국 그 자체로 위험 요소가 된다.

『글로벌 신뢰 인공지능』은 이 문제를 해결하기 위한 해법을 ‘블록체인’이라는 기술 인프라에서 찾는다.

📖 다음 연재에서는 블록체인이 왜 인공지능의 신뢰 문제를 보완할 수 있는 유일한 구조인지 살펴본다.

👉 책 구매 및 북클럽 콘텐츠 보기《글로벌 신뢰 인공지능》 – AI와 블록체인이 함께 만드는 신뢰 기반의 디지털 미래