[권성민 칼럼] AI가 뇌를 읽는 시대…인간의 마지막 사생활은 누가 지키나

이스라엘 연구진, 뇌 신호만으로 눈앞의 장면 재현… 생각까지 데이터가 되는 시대, '신경정보 주권' 논의 서둘러야

인간에게는 누구도 함부로 들여다볼 수 없는 마지막 공간이 있다. 바로 머릿속이다. 휴대전화의 위치정보가 추적되고 인터넷 검색 기록이 수집돼도, 생각만큼은 온전히 자신의 것이라고 믿어왔다. 말하지 않으면 누구도 알 수 없는 영역이었다.

그런데 인공지능(AI)이 그 경계를 허물기 시작했다.

이스라엘 바이츠만과학연구소의 미할 이라니 교수 연구팀은 최근 사람이 보고 있는 장면을 뇌 신호만으로 재현하는 AI 모델 '브레인-IT(Brain-IT)'를 선보였다. 사람이 야구 경기 장면을 보고 있으면 AI가 뇌 활동을 분석해 야구장과 선수들의 모습을 다시 그려내는 식이다.

눈으로 본 것을 뇌 신호만으로 재구성한다. 공상과학 영화에서나 가능했던 일이 실제 연구실에서 이뤄지고 있는 것이다.

연구팀은 기능적 자기공명영상(fMRI)으로 측정한 뇌 활동과 피험자가 본 이미지를 연결해 AI를 학습시켰다. 8명의 참가자가 수천 장의 사진을 보는 동안 확보한 약 7만3000개의 데이터가 활용됐다.

비슷한 연구는 이전에도 있었다. 그러나 기존 기술은 사진에 무엇이 등장하는지는 어느 정도 알아맞혀도 색상이나 구도를 제대로 재현하지 못하는 경우가 많았다. 브레인-IT는 이미지의 내용뿐 아니라 세부적인 구조까지 더 정확하게 복원하는 성과를 거뒀다.

더 놀라운 것은 학습 속도다. 기존에는 새로운 사람의 뇌 활동을 해석하려면 수십 시간의 개인별 데이터가 필요했다. 연구팀은 브레인-IT가 약 1시간의 뇌 스캔 자료만으로도 기존 모델이 40시간의 데이터를 이용한 것과 비슷한 수준의 성능을 낼 수 있다고 밝혔다.

사람마다 다른 뇌의 신호를 해석하는 데 필요한 시간이 크게 줄어든 것이다.

연구팀은 여기서 멈추지 않는다. 앞으로 소리와 움직이는 영상으로 연구를 확대할 계획이다. 이라니 교수는 언젠가 꿈을 해독하는 것도 가능할 수 있다고 전망했다. 물론 지금은 기술적 한계가 크다. 영상은 매초 수십 장씩 바뀌지만 fMRI는 뇌 활동의 변화를 훨씬 느리게 측정하기 때문이다.

중요한 것은 당장 꿈을 읽을 수 있느냐가 아니다. 과거에는 사람이 말하거나 행동해야만 알 수 있었던 정보를 이제는 뇌 활동을 분석해 추정하는 길이 열리고 있다는 사실이다.

그렇다고 AI가 이미 사람의 생각을 자유롭게 읽는다고 받아들여서는 곤란하다. 현재 기술은 피험자가 실제로 보고 있는 시각 정보를 재구성하는 수준이다. 거대한 의료 장비 안에서 뇌를 측정해야 하고, 피험자의 협조도 필요하다. 타인의 머릿속을 몰래 들여다보거나 기억과 감정을 마음대로 해독하는 기술과는 거리가 멀다.

그러나 기술의 발전 방향은 분명하다.

일론 머스크가 설립한 뉴럴링크를 비롯한 기업들은 뇌와 컴퓨터를 직접 연결하는 기술을 개발하고 있다. 이미 뇌파를 측정하는 헤드밴드와 같은 소비자 제품도 등장했다. 물론 이런 기기들의 측정 능력은 정밀한 fMRI와 다르다. 하지만 뇌 활동을 수집하는 장비가 보급되고 AI의 분석 능력이 발전할수록 신경정보의 활용 범위가 넓어질 가능성은 크다.

이 기술이 가져올 혜택은 상당하다.

말을 할 수 없는 환자가 자신의 의사를 전달하고, 몸을 움직이기 어려운 사람이 생각만으로 컴퓨터를 조작하는 세상이 가까워지고 있다. 뇌 활동의 변화를 분석해 신경질환을 연구하고 정신건강 치료에 활용할 가능성도 있다.

문제는 같은 기술이 정반대의 목적으로 사용될 수 있다는 점이다.

기업이 직원의 집중력과 감정 상태를 실시간으로 측정한다면 어떨까. 보험회사가 고객의 신경정보를 분석해 보험료를 결정한다면 어떨까. 수사기관이 범죄 혐의를 받는 사람에게 뇌 활동 검사를 요구하거나, 정부가 시민의 심리적 반응을 감시하려 한다면 어떻게 될까.

지금 당장 가능한 일이 아니라 해도 기술이 발전하면서 충분히 논의해야 할 위험이다.

스마트폰이 보급될 때 사람들은 위치정보가 얼마나 민감한 개인정보가 될지 제대로 예상하지 못했다. 소셜미디어를 이용할 때도 자신의 클릭과 검색 기록이 정치적 성향이나 소비 습관을 분석하는 데 활용될 수 있다는 사실을 충분히 이해하지 못했다.

우리는 편리함을 얻는 대신 자신의 데이터를 조금씩 내줬다. 그리고 데이터가 얼마나 큰 권력이 되는지는 상당한 시간이 흐른 뒤에야 깨달았다.

뇌 정보에서도 같은 실수를 반복해서는 안 된다.

신경정보는 일반적인 개인정보와 성격이 다르다. 비밀번호는 유출되면 바꿀 수 있고, 신용카드는 정지할 수 있다. 그러나 한 번 수집돼 복제된 뇌 활동 기록은 비밀번호처럼 간단히 바꿔 없앨 수 없다.

그 정보에는 당사자가 의도적으로 공개하지 않은 반응이나 건강 상태에 관한 단서가 포함될 수 있다. 앞으로 분석 기술이 발전하면 과거에 수집한 데이터에서 지금은 알 수 없는 정보까지 새롭게 추론할 가능성도 있다.

오늘 동의한 데이터 활용이 10년 뒤 전혀 다른 의미를 가질 수 있다는 뜻이다.

일부 국가는 이미 제도 마련에 나섰다.

칠레는 2021년 헌법을 개정해 과학기술의 발전 과정에서 뇌 활동과 그로부터 얻은 정보를 특별히 보호하도록 했다. 이른바 '신경권(Neurorights)'을 국가의 기본권 보호 체계에 반영한 것이다.

미국 콜로라도주는 2024년 신경정보를 포함한 생물학적 데이터를 민감정보로 보호하는 법을 제정했다. 캘리포니아주도 같은 해 신경정보를 민감한 개인정보에 포함하는 법을 마련했다.

기술이 사람의 뇌에 접근할 수 있게 되는 만큼, 법률도 그에 맞춰 인간의 권리를 보호해야 한다는 판단이다.

한국은 어떤가.

우리나라도 개인정보보호법을 통해 건강정보와 일부 생체정보 등을 보호하고 있다. 신경정보 역시 그 내용과 활용 방식에 따라 기존 법의 보호 대상이 될 수 있다. 그러나 뇌 활동에서 추론한 정보의 범위, 고용주나 국가기관의 접근 제한, 신경정보의 2차 이용 등 신경기술 특유의 문제를 다루는 제도적 논의는 더 구체화할 필요가 있다.

이 문제는 의료 기술이나 개인정보 보호에만 국한되지 않는다. AI 시대에 인간의 자유를 어디까지 보장할 것인가 하는 문제다.

여기서 블록체인 업계가 오랫동안 강조해 온 '데이터 주권'도 새로운 의미를 갖는다.

데이터 주권의 핵심은 단순하다. 내 정보는 내가 통제할 수 있어야 한다는 것이다. 누가 수집하고, 어떤 목적으로 활용하며, 누구에게 제공하는지 당사자가 알 수 있어야 한다.

특히 신경정보처럼 민감한 데이터에는 이런 원칙이 더욱 중요하다.

예를 들어 뇌 활동 데이터를 연구에 제공하더라도 활용 목적과 기간을 제한하고, 누가 언제 접근했는지 검증 가능한 기록을 남길 수 있어야 한다. 블록체인은 접근 권한과 동의 이력을 임의로 변경하기 어렵게 관리하는 데 활용될 수 있다. 다만 뇌 신호 원본을 공개 장부에 저장하는 것은 개인정보 보호 측면에서 오히려 위험하다. 데이터 자체는 안전하게 분리해 보관하고, 필요한 기록만 검증하는 방식이 바람직하다.

무엇보다 블록체인도 모든 문제의 해답은 아니다.

기록을 투명하게 남기는 것과 부당한 정보 수집을 막는 것은 별개의 문제다. 당사자가 원하지 않는 뇌 검사를 강요받지 않을 권리, 취업이나 보험 가입 과정에서 신경정보 제공을 거부할 권리, 특정한 생각이나 심리 상태를 이유로 차별받지 않을 권리부터 제도적으로 보장해야 한다.

기술이 할 수 있다는 이유로 모든 것을 허용해서는 안 된다.

AI가 인간의 언어와 지식을 학습하던 단계를 넘어, 인간의 감각과 뇌 활동을 해석하는 단계로 나아가고 있다. 그 과정에서 의료와 과학은 커다란 발전을 이룰 수 있다. 그러나 동시에 인간이 자신만의 생각을 가질 자유가 새로운 도전에 직면하고 있다.

지금까지 개인정보 보호의 중심은 우리가 외부에 남긴 기록이었다. 이름과 주소, 금융 거래, 검색 기록, 얼굴과 지문을 어떻게 보호할 것인가가 주요 과제였다.

이제는 질문이 달라져야 한다. 아직 말하지 않은 생각까지 누군가의 데이터가 될 수 있는가. 그리고 그 데이터를 활용할 권한은 누구에게 있는가.

AI 기술은 앞으로도 빠르게 발전할 것이다. 연구를 막는다고 멈출 변화도 아니다. 그렇다면 기술을 무조건 두려워하기보다 인간의 권리를 먼저 정하고, 그 안에서 기술이 발전하도록 해야 한다.

생각의 자유는 민주주의와 인간 존엄의 가장 기본적인 토대다. 사람이 자신의 마음속에서조차 감시를 의식해야 한다면 그것을 진정한 자유라고 부르기 어렵다.

인류는 오랫동안 생각만큼은 누구에게도 빼앗길 수 없다고 믿어왔다. 이제 AI가 그 마지막 경계에 다가서고 있다.

뇌를 읽는 기술을 누가 먼저 개발하느냐보다 중요한 것은, 누가 그 기술의 사용을 통제할 권리를 갖느냐다.

인간의 마지막 사생활을 지킬 규칙은 그 문이 활짝 열린 뒤가 아니라, 지금 만들어야 한다.