AI가 도시를 운영할 때, 그 AI를 어떻게 감시할까? 블록체인 기반 AI 도시 설계도 나왔다

AI가 도시를 운영하는 시대가 온다 — 신뢰는 누가 보장하는가
AI 도시 운영체제는 이미 현실이 되고 있다. 중국의 시티 브레인(City Brain)은 교통·치안·에너지를 AI가 통합 관할하는 도시 운영체제의 초기 모델이다. 사우디아라비아의 네옴시티(NEOM)는 설계 단계부터 AI 운영체제를 도시 인프라의 핵심으로 채택했다. 과거 스마트 시티가 각 부문별 자동화를 추구했다면, AI 도시는 도시 전체를 하나의 운영체제처럼 통합 관할한다.

그런데 오작동, 편향된 판단, 악의적 조작 등 AI가 인간의 의도와 어긋나게 반응하는 다양한 현상들이 발견되었고, AI 안전성에 대한 경각심은 날로 높아지고 있다. 도시 운영체제 수준의 AI라면 이런 실패가 도시 전체를 위기에 빠뜨릴 수 있다. 그렇다고 AI를 멀리 할 수도 없다. AI 패권 경쟁에서 밀리면, 한국이 그 동안 달성했던 경제적 성과들이 모두 무로 돌아갈 수 있기 때문이다. 결국은 AI를 안전하게 활용할 수 있는 방법을 찾아야 한다.

저자의 제안 — 블록체인을 도시의 신뢰 인프라로

소셜인프라테크(주) 전명산 대표는 이 질문에 대한 답으로 ABCity(AI Blockchain City)를 제안한다. 이름 그대로다. AI가 도시를 운영하되, 블록체인이 그 AI의 신뢰를 보장하는 도시다. 7년간 블록체인 원천기술을 개발해온 전명산 대표는, "AI가 우리 일상에 깊숙이 들어오는 시점에, 블록체인을 도시의 신뢰 인프라로 사용해야 한다”고 제안한다. 지금까지 블록체인 기술은 코인, NFT, 디파이 등 주로 물리 세계와 거리가 있는 디지털 영역에서 활용되어 왔다. ABCity는 블록체인이 물리 세계로 확장하는 구조를 제안한다. 센서, 로봇, 드론, 자율주행차 등 도시의 모든 물리 인프라에 블록체인이 내장되어 AI를 관리하고, 신뢰를 보장하는 방법론이다.

4계층 블록체인 아키텍처 — 디지털에서 물리 세계로

AI를 최대한으로 활용하되, 신뢰를 보장하기 위해 ABCity의 블록체인은 네 개 층의 블록체인-퍼블릭 메인넷, 부문별 프라이빗 메인넷, 피지컬 블록체인(Physical Blockchain), 퍼스널 블록체인-으로 도시 인프라를 촘촘하게 관리한다.

탈중앙화 퍼블릭 메인넷이 여러 프라이빗 메인넷의 신뢰를 보장하는 역할을 한다. 탈중앙화 블록체인이 누구도 위변조할 수 없는 신뢰를 제공함으로써 전체 시스템의 데이터 무결성과 신뢰를 보장한다.

부분별 프라이빗 메인넷 — 의료·복지·행정·에너지·물류·토큰 등 도시를 구성하는 각 부문별로 작동하는 블록체인 메인넷이다. 데이터 프라이버시 등 각각의 부문별 특성과 요구사항에 최적화된 기능을 제공한다.

Physical 블록체인은 블록체인 기능을 칩으로 구현해 디바이스에 내장시키는 하드웨어형 블록체인이다. 센서·자율주행차·로봇 등 모든 물리 디바이스들의 데이터 신뢰성을 보장하고 기기 무결성을 확보한다. AI가 어떤 데이터를 기반으로 어떤 판단을 내렸는지 하드웨어 수준에서 검증된다. 블록체인을 물리 세계로 확장하는 핵심적인 방법론으로, 현재 카이스트 연구진과 공동 연구를 진행하고 있다.

개인 블록체인(PB) — 스마트폰 등 개인용 기기에 내장되는 블록체인으로, 시민 개인의 데이터 주권 레이어. 딥페이크와 AI 에이전트 사칭을 방지하고, "이것이 실제 인간의 결정인가"를 암호학적으로 증명한다.

RTED — 실시간 집행 민주주의

ABCity는 여기서 한걸음 더 나아간다. AI는 도시의 여러 인프라, 즉 물리 시설을 직접 통제할 수 있다. 예를 들어 울산 스마트시티 시범사업에서는 AI가 최단 시간내에 응급차가 병원에 도착할 수 있도록 실시간으로 신호등을 조작하는데 성공했다. 그런데 도시를 운영하는 AI가 잘못된 판단을 내렸을 때 어떻게 대응할 수 있을까?

ABCity는 RTED(Real-Time Executable Democracy, 실시간 집행 민주주의)라는 새로운 방법을 제안한다. 블록체인을 활용해 시민의 집단적 합의가 도시 물리 인프라에 즉시 강제력을 행사하도록 하자는 것이다. AI가 잘못된 판단을 내렸을 때, 시민이 블록체인 투표로 즉시 개입하고 차단할 수 있다. 공동체의 합의가 물리 세계에 직접 강제력을 행사하는 새로운 거버넌스 구조다. 저자는, AI가 실시간으로 의사결정을 내리는 상황에, 시민들의 의사결정이 실시간으로 물리세계에 반영되지 않으면 AI에 대한 통제권을 확보할 수 없다고 말한다. 4개의 블록체인이 촘촘하게 AI를 관리하면서 AI의 유용성을 극대화하자는 제안이다.

UBEE - 태양광으로 기본소득을 지급한다

AI의 유용성을 극대화하기 위해서는 막대한 전기가 필요하다. 저자는 이러한 여러가지 시대적 요구사항을 종합해, 문제를 풀 수 있는 해법을 제안한다. 그것은 AI와 블록체인이 융합된 도시 운영 구조 위에, 에너지 기반 기본소득 UBEE(Universal Basic Energy Equity)를 도입하는 것이다. 도시 면적 30km², 태양광 단지 12km², 연간 전기 생산 약 3TWh. RE100 수요 기업에 전력을 판매한 수익은 시민에게 기본소득으로 지급된다. 인구 10만 명 기준 월 1인당 약 50만 원 정도를 지급할 수 있다. 더 많은 에너지를 생산할 수 있으면 기본소득은 더 많아질 수 있다. AI가 가속할수록 전력 수요가 늘고, 시민 배당이 커지는 구조다.

AI와 로봇이 본격적으로 사회에 진입하면서, 노동 소멸은 현실화되고 있다. 저자는 개인들에게 에너지 생산권을 부여함으로써, 사회와 시민들에게 더 많은 에너지를 생산하는 동인을 제공하고, 이 전기로 작동하는 AI가 만들어내는 막대한 생산성을 개인들에게 환원활 수 있다고 말한다.

블록체인의 다음 단계

즉 저자는 에너지가 기본소득을 만들고, 그렇게 만들어진 에너지로 AI를 작동시키고, AI의 안전을 블록체인이 보장하는 새로운 도시 모델을 제안한 것이다. 저자는 이를 실현하기 위해 ‘전기 문명 시대의 첫번째 프로토타입 도시’를 만들자고 말한다. 이 도시는 충분한 전기가 생산되기에 화석 연료를 완전히 배제하고, 오로지 전기로만 작동하는 세계 최초의 전기 문명 도시가 되는 것이다. 하나의 모델이 만들고나서 이 모델을 전 세계에 복제하는 것이 저자의 목표다. 이를 위해 현재 영문판을 준비 중이다.