[사설] AGI는 적그리스도인가

인간보다 뛰어난 인공지능이 등장하면 세상은 어떻게 될까. 일자리가 사라지고, 인간의 판단이 무의미해지며, 마침내 기계가 인류를 지배할 것이라는 경고가 끊이지 않는다. 실리콘밸리에서는 범용인공지능(AGI)의 출현을 인류 역사상 가장 중대한 사건으로 묘사한다. 누군가는 인류를 구원할 존재로, 다른 누군가는 문명을 파괴할 존재로 바라본다.

심지어 AGI를 신이나 적그리스도에 비유하는 주장까지 등장했다. 그러나 이런 주장은 정작 중요한 문제를 놓치고 있다. 우리가 경계해야 할 것은 AI가 초자연적인 존재가 되는 미래가 아니다. 인간이 두려움에 굴복해 스스로 판단과 권한을 기계에 넘겨주는 미래다.

답은 기계의 능력보다 인간의 두려움에 있을지 모른다.

오늘날 AI를 둘러싼 담론에는 공포가 넘쳐난다. AI를 배우지 않으면 직장을 잃을 것이라고 한다. 기업이 AI 도입에 뒤처지면 도태되고, 국가가 개발 경쟁에서 밀리면 안보마저 위협받는다고 한다. 강력한 AI를 먼저 만들지 못하면 경쟁국이 세계를 지배할 것이라는 경고도 나온다.

이런 우려에는 현실적인 근거가 있다. 기술 변화에 적응하지 못하면 경제적 피해를 볼 수 있고, AI가 국가 안보에 미치는 영향도 무시할 수 없다. 그러나 위험에 대비하는 것과 두려움 때문에 모든 권한을 넘겨주는 것은 전혀 다른 문제다.

두려움은 사람을 순종하게 만든다.

일자리를 잃을까 두려운 노동자는 AI의 평가를 받아들이기 쉽다. 범죄와 테러를 걱정하는 시민은 더 많은 감시를 용인할 수 있다. 경쟁에서 뒤처질까 두려운 기업은 고객과 직원의 데이터를 AI 시스템에 넘기는 데 주저하지 않을 수 있다.

처음에는 편리함과 효율을 위한 선택이다. 그러나 이런 선택이 반복되면 인간의 판단과 권한은 조금씩 시스템으로 옮겨간다. 어느 순간 사람들은 자신이 내린 결정보다 AI가 제시한 답을 더 신뢰하고, 그 판단에 이의를 제기하는 것조차 주저하게 된다.

가령 AI가 채용 지원자에게 부적합 판정을 내렸다고 하자. 지원자는 왜 탈락했는지 알 수 없고, 담당자는 알고리즘의 판단이라며 책임을 회피한다. 대출 심사나 보험 가입, 공공서비스에서도 같은 일이 벌어질 수 있다. 결정은 기계가 내렸지만 책임지는 사람은 없다.

이것이 우리가 경계해야 할 미래다.

더욱 역설적인 사실은 AI가 인간과 완전히 독립된 존재가 아니라는 점이다. 오늘날 AI의 능력은 인간이 축적한 지식과 언어, 문화와 경험을 바탕으로 발전했다. 수많은 사람이 데이터를 생산하고 정제하며 모델을 평가하고 오류를 교정한다. 물론 현대 AI는 스스로 데이터의 패턴을 학습하고 복잡한 문제를 해결할 수 있다. 인간이 일일이 정답을 알려줘야만 작동하는 기술은 아니다.

그러나 AI가 사회를 통제하는 수단으로 작동하려면 이야기가 달라진다. 사람들이 데이터를 제공하고, 시스템의 분류와 판단을 받아들이며, 그 결정에 이의를 제기하지 않을수록 AI를 통한 통제는 더 강력해진다.

기계가 인간을 복종시키는 것처럼 보이지만, 실제로는 인간의 복종이 기계를 통한 통제를 가능하게 하는 것이다.

AI를 통한 감시 기술은 이미 얼굴과 목소리, 이동 경로와 소비 기록, 온라인 활동을 분석하는 데 활용되고 있다. 범죄 예방과 행정 효율을 높이는 데 도움이 될 수 있지만, 권력이 남용되면 개인의 행동을 감시하고 분류하며 통제하는 수단이 될 수도 있다.

문제는 기술 자체보다 누가 그 기술을 소유하고 통제하느냐에 있다. 특히 데이터와 알고리즘이 소수 기업이나 국가기관에 집중될수록 이를 감시하고 견제할 수단은 더욱 중요해진다.

우리가 주목해야 할 문제도 여기에 있다. 디지털 시대의 핵심은 단순히 더 뛰어난 기술을 개발하는 것이 아니다. 누가 데이터를 소유하는가. 누가 판단 기준을 정하는가. 그 판단을 검증하고 잘못된 결정에 이의를 제기할 수 있는가. 권력이 집중될 때 이를 견제할 수 있는 구조가 존재하는가.

블록체인이 제시한 탈중앙화와 검증 가능성의 가치도 이런 맥락에서 중요하다. 모든 AI 시스템을 블록체인으로 해결할 수는 없다. 그러나 기술에 대한 맹목적인 신뢰보다 투명한 기록과 독립적인 검증, 권력의 분산이 중요하다는 원칙은 AI 시대에도 유효하다.

AI 사용과 개발을 중단하자는 이야기가 아니다. AI는 의료와 과학, 교육과 산업에서 인간의 능력을 확장할 수 있는 강력한 기술이다. 앞으로 더 큰 생산성 향상과 새로운 기회를 만들어낼 수도 있다.

다만 기술이 발전할수록 인간의 권리와 책임도 함께 강화돼야 한다. AI의 판단을 거부할 권리, 설명을 요구할 권리, 자신의 정보를 통제할 권리가 보장돼야 한다. 국가와 기업은 AI라는 이름 뒤에 숨어 책임을 회피해서는 안 된다.

인간은 실수하고 비효율적이며 때로는 잘못된 결정을 내린다. 그렇다고 인간에게 자유를 허락하지 않아도 된다는 뜻은 아니다. 자유에는 스스로 판단하고, 잘못 선택하고, 그 결과에 책임질 권리도 포함된다.

AGI는 적그리스도일 수 없다. 그것은 인간이 만든 기술일 뿐이다. 인간을 지배하는 데 반드시 초인적인 지능이 필요한 것도 아니다. 두려움에 굴복해 스스로 판단을 포기하는 인간이면 충분하다.

기술이 인간보다 똑똑해지는 것은 두려워할 일이 아니다. 인간이 기술 앞에서 자신의 존엄과 자유를 내려놓는 것이 진정으로 두려운 일이다.

AI가 신이 되는 것이 아니다. 인간이 스스로 종이 되는 것이다.