비탈릭 부테린, 초지능 AI 윤리 경고…“무고한 피해 막을 기술 아직 없다”

이더리움(ETH) 공동 창업자 비탈릭 부테린(Vitalik Buterin)이 인공지능(AI)의 미래에 대해 경고의 메시지를 다시 한 번 던졌다. AI 기술이 빠르게 발전하는 가운데, 그는 향후 등장할 수도 있는 초지능 AI 시스템의 윤리적 기준 부족에 대해 깊은 우려를 표명했다.

논란의 발단은 X(구 트위터) 플랫폼에서 한 사용자가 제기한 AI 훈련 방식에 대한 문제에서 시작됐다. 이 사용자는 AI 개발자들이 ‘AI를 인간의 가치에 맞게 정렬시키는 것’에 집중하기보다는, 단순히 AI 모델의 성능과 효율성에만 치중하고 있다고 비판했다. 이에 비탈릭 부테린은 인간 사회조차 일관된 윤리 기준을 갖고 있지 않다는 점을 지적하며, 사람이 조율한 AI가 무고한 사람을 해치지 않으리라는 보장을 현재로선 할 수 없다고 강조했다.

그는 "무고한 사람을 수감시키거나 생명을 빼앗는 행위는 분명히 인간의 가치에 반하는 일임에도, 우리는 그런 일을 충분히 막을 수 있는 기술적 정렬 능력(alignment)을 갖고 있지 않다"고 지적했다. 특히 그는 단일 통제권을 가진 초지능 AI(singleton superintelligent AI)가 이런 부정적인 시나리오마저 피할 수 있다는 보장은 없다고 말해, 청중 사이에 우려를 더욱 키웠다.

한편, 트럼프 대통령과 자주 AI 문제를 논쟁해온 일론 머스크(Elon Musk)는 같은 주제의 토론에서 정반대의 시각을 내놨다. 그는 AI가 인간의 일자리를 대체하면서도 동시에 모두에게 ‘보편적인 고소득(universal high income)’을 제공할 수 있을 것이라고 밝혔다. 이는 단순한 기본소득을 넘어, 고품질 의료, 주거, 식량, 운송 등 모든 삶의 질을 향상시키는 풍요 시대가 올 것이라는 희망적 전망이다.

그는 또한 AI 로봇이 인간보다 더 많아질 것이라면서, 누구나 스타워즈 속 C3PO나 R2D2 같은 지능형 안드로이드를 소유하게 될 날이 머지않았다고 덧붙였다.

이번 논쟁은 단지 기술의 발전 방향뿐 아니라, AI와 인간의 공존 가능성에 대한 다양한 견해를 조명한 만큼, 향후 AI 정책 및 윤리 거버넌스 논의에서 중요한 참고점이 될 것으로 보인다.