부테린, 데브콘 8서 AI 시대 보안 해법으로 개방·검증

비탈릭 부테린(Vitalik Buterin) 이더리움 공동창립자는 3일 인도 뭄바이에서 열린 데브콘 8 개막 연설에서 AI 시대의 보안 해법으로 공개·검증 가능한 기술을 제시했다. 그는 “보안 문제의 핵심은 언제나 누구를 신뢰하느냐다”라고 말했다. 이용자가 기기와 서비스의 작동을 살펴보고 검증할 수 있어야 한다는 취지다.

체인뉴스 ABMedia는 현장 영상 내용을 정리해 연설을 보도했다. 데브콘 공식 일정에도 부테린이 개막식 발표자로 올라 있다.

부테린은 AI 확산이 디지털 기기에 대한 기존의 가정을 흔든다고 진단했다. 과거에는 소프트웨어의 취약점이 제한적이라고 여겼지만 이제는 취약점을 더 쉽게 찾아낼 수 있고, 카메라가 모은 방대한 영상도 AI가 분석할 수 있다는 설명이다. TV가 감시 수단으로 쓰일 수 있고, 야외 대화도 AI와 드론 때문에 사적인 대화로 보기 어려워졌다고 덧붙였다.

그는 AI의 변화가 위험만 낳는 것은 아니라고 말했다. 지난 1년의 AI 발전을 모두가 빠르게 성장하는 게임에 비유하며, 과거에 어려웠던 상대를 쉽게 이길 수 있게 된 동시에 기존에 쌓은 기술의 가치가 줄고 더 강한 상대가 등장했다고 설명했다. 이런 변화에 모두가 참여할 수밖에 없는 상황이라고도 했다.

부테린은 강력하고 위험한 기술에 대응하는 경로로 감속·금지, 통제권을 한 조직에 집중하는 방식, 파국을 꼽았다. 그는 ‘지배’의 경로가 이미 세계가 향하는 방향이며, 최고의 도구를 독점하는 것이 안전을 보장한다는 믿음이 경쟁을 부추길 수 있다고 봤다.

그가 제시한 대안은 방어적·탈중앙화 가속(d/acc)이다. 부테린은 2023년 방어적 가속 구상을 제시한 에세이에서 물리·가상·네트워크 각 층위의 방어 역량을 키우는 방향을 설명했다. 그는 코드를 공개해 다른 이들이 개선할 수 있게 하고, 수학적 도구로 디지털 구성요소를 검증하며, 기기가 불필요한 서버에 연결되는 일을 줄여야 한다고 말했다.

운영체제 분야에서는 GrapheneOS와 Qubes OS 등 보안 강화를 추구하는 프로젝트를 언급했다. 리눅스 커널이나 대체 커널을 형식 검증하고 취약점이 숨을 수 있는 코드의 양을 줄이려는 계획도 소개했다. 형식 검증은 프로그램이 정해진 조건대로 작동하는지 수학적으로 확인하는 방법이다.

하드웨어도 이용자가 검증할 수 있어야 한다고 강조했다. 부테린은 TV가 감시에 쓰이는지 알 수 없는 상황과 하드웨어 지갑의 칩 작동 방식을 확인할 수 없는 상황을 예로 들었다. 칩을 검증할 수 없다면 개인키가 외부로 전달되지 않는지도 제조사에 대한 신뢰에 의존하게 된다는 지적이다.

건강기술에서는 커뮤니티가 개발 중인 오픈소스 공기질 측정기를 소개했다. 개인의 사생활을 침해하지 않으면서 공기질 데이터를 활용해 분산형 과학 연구를 하는 전자동형암호(FHE) 시범 계획도 언급했다. 스마트 피트니스 기기의 설계가 개인의 자율성과 프라이버시에 어긋나는 경우가 많다고 비판했다.

소셜미디어는 사회 현안과 투자, 의료 조언에 대한 판단을 형성하는 데 “거의 쓸모없다”고 말했다. 자신에게 유리한 관점을 받아들이게 하려는 봇 계정이 많다는 이유에서다. 탈중앙화 소셜미디어인 파캐스터와 렌즈를 언급하면서, 이용자 통제와 서비스 간 호환성, 주장의 사실 여부와 쟁점을 확인할 도구가 더 필요하다고 했다.

통신에서는 메시지 내용뿐 아니라 누가 언제 누구와 대화했는지 보여주는 메타데이터도 보호해야 한다고 말했다. 백도어가 있는 폐쇄형 소프트웨어나 메시지가 실제로는 장기간 저장되는 서비스를 피하고, 오픈소스와 형식 검증을 거친 종단간 암호화 통신을 사용해야 한다는 주장이다.

AI는 이용자의 ‘두 번째 뇌’가 될 수 있지만 그 생각과 요청을 제3자 기업 서버에 보내고 싶어 하는 사람은 없을 것이라고 지적했다. 필요할 때는 기기 안에서 AI를 실행하고, 외부 모델을 쓸 경우에는 요청에서 개인정보를 먼저 제거하는 방안을 제시했다. 샌드박스로 고성능 모델의 권한을 제한하고, 응답이 이용자의 이익에 맞는지 확인하는 방법도 언급했다.

부테린은 데이터를 “유독성 폐기물처럼” 다뤄야 한다며 가능한 한 수집하지 않는 것이 기본이 돼야 한다고 말했다. 해법은 누구도 믿지 않는 것이나 대기업, 대기업에 맞선다고 주장하는 유명 인사를 믿는 것이 아니라 함께 찾아야 한다고 덧붙였다.

본지는 앞서 데브콘 8 프로그램에 프라이버시 지갑 시연과 EIP-7702 보안 분석 세션이 포함됐다고 보도했다. 이번 개막 연설은 지갑과 보안 세션을 넘어 운영체제와 칩, 건강기술, 통신, AI까지 논의를 넓혔다. 데브콘 8은 6일까지 열린다.