피터 틸은 AI 개발 중단에 반대하면서, AI 안전을 명분으로 세계 단위의 규제 권력이 집중되는 상황도 경계했다. 그는 AI 기업의 독점 가능성을 뒷받침하는 논리가 약하다고 평가했다.
페이팔·팔란티어 공동창업자인 틸은 9월 16일 녹음돼 10월 22일 공개된 팟캐스트 ‘더 빌더스(The Builders)’에서 진행자 월터 아이작슨(Walter Isaacson)과 AI 안전과 기업 경쟁을 논의했다. 틸은 “가능한 한 강하게 가속페달을 밟아야 한다”고 말했다. 아이하트(iHeart)가 공개한 인터뷰 녹취에도 이 대화가 담겼다.
틸은 미국이 AI 개발을 늦추는 사이 중국이 앞서면 기술을 통제할 능력도 약해질 수 있다고 주장했다. AI가 초래할 수 있는 위험은 인정하면서도 개발 중단 역시 위험을 수반한다는 입장이다.
그는 AI 재앙을 막기 위해 세계 단위 규제기관이 필요하다는 주장에 구체적인 운영 방안이 부족하다고 비판했다. ‘아마겟돈’과 ‘적그리스도’라는 종교적 비유를 들며, 기술 재앙에 대한 두려움이 이를 막겠다는 권력의 집중을 가릴 수 있다는 취지를 밝혔다.
틸은 국제 규제 자체를 부정하지는 않았다. 핵 관련 국제 규제에는 긍정적인 면이 있었다고 평가하면서, AI 위험에 관한 설명뿐 아니라 규제기관의 권한과 운영 방식도 면밀히 검토해야 한다고 말했다.
AI 기업의 독점 가능성에 대해서는 “매우 약하다”고 평가했다. 딥마인드, 오픈AI, 앤트로픽 등으로 선두에 대한 평가가 바뀌어 왔다는 점을 들어 현재 경쟁 구도를 설명했다.
아이작슨은 소수 기업이 AI의 성과를 차지할 가능성과 기업 간 경쟁이 안전 관리를 어렵게 할 가능성을 함께 물었다. 틸은 경쟁을 강조하면서도 AI가 임금과 일자리에 불안정을 가져올 수 있다는 우려는 인정했다. 효과적 이타주의에 대해서는 비판적인 견해를 밝혔지만, AI의 중요성을 일찍 알아본 점은 평가했다.
인터뷰 말미에 틸은 인간과 AI의 차이를 의식과 관계에서 찾았다. 그는 AI가 인간처럼 석양을 경험한다고 보지 않았고, 가족과 사회에서 맺는 관계를 인간의 중요한 요소로 들었다. 이는 틸의 철학적 견해다.
이번 대화에서 가상자산이나 블록체인은 직접 다뤄지지 않았다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular