샘 알트먼, AI가 정하는 인간 보상 기준에 반대

샘 알트먼(Sam Altman) 오픈AI(OpenAI) 최고경영자(CEO)는 4일 엑스(X)에 “사람은 언제나 미래를 통제해야 한다”고 썼다. 이는 초지능에 미래의 통제권을 넘겨서는 안 된다는 입장을 밝힌 것이다.

알트먼은 엑스 게시물에서 사람이 ‘AI 시스템이 보상할 가치가 있다고 판단하는 일’을 하도록 밀려나서는 안 된다고 썼다. 인간의 행동을 AI가 평가하고 그에 맞춰 자원을 배분하는 구조를 반대한 것이다.

알트먼은 게시물에서 다리오 아모데이의 이름을 직접 언급하지 않았다. 다만 그가 인용한 표현은 아모데이가 2024년 10월 발표한 글에서 나왔다.

다리오 아모데이(Dario Amodei) 앤트로픽(Anthropic) 최고경영자(CEO)는 해당 글에서 “이 모든 해법에는 수많은 잠재적 문제가 있다”고 썼다. AI의 자원 배분을 확정된 정책이나 공식 제안으로 내놓은 것은 아니었다.

아모데이는 AI가 거의 모든 일을 사람보다 잘하면서 비용도 낮아지는 상황을 가정했다. 그때 AI가 만든 부를 누가 어떤 기준으로 나누고, 사람이 경제적으로 어떻게 살아갈지가 질문으로 남는다고 봤다.

아모데이는 2024년 10월 발표한 에세이 'Machines of Loving Grace'에서 단기적으로 사람의 비교우위가 남으면 AI가 생산성을 높이고 새 일자리를 만들 수 있다고 전망했다.

아모데이는 같은 에세이(2024년 10월)에서 AI가 한 직무의 90%를 더 잘하더라도 나머지 10%가 사람의 역할을 뒷받침하고, 비용이나 투입 자원의 차이가 남으면 사람의 경제적 역할이 이어질 수 있다고 전망했다.

아모데이는 2024년 10월 발표한 에세이 'Machines of Loving Grace'에서 장기적으로 AI가 폭넓은 일을 낮은 비용으로 처리하면 현재 경제 체제가 더는 맞지 않을 수 있다고 전망했다. 그 경우 사회가 경제를 어떻게 구성할지 폭넓게 논의해야 한다는 설명이다.

그가 든 선택지 가운데 하나는 모든 사람에게 소득을 지급하는 기본소득이다. 다만 아모데이는 기본소득만으로는 해법의 일부에 그칠 수 있다고 봤다.

또 다른 가정은 AI 시스템이 만든 부를 인간에게 나누는 경제다. 이 방식에서는 AI가 보상할 만하다고 판단한 인간의 행동이 자원 배분 기준이 되며, 그 판단은 궁극적으로 인간의 가치에서 비롯된다는 조건이 붙는다.

아모데이는 2024년 10월 발표한 에세이 'Machines of Loving Grace'에서 인간이 통상적인 경제 모델이 예상하지 못한 방식으로 경제적 가치를 계속 만들어낼 가능성도 있다고 밝혔다. 그는 각 해법이 반복적인 시도와 실험을 거쳐야 판단할 수 있으며, 착취적이거나 디스토피아적인 결과도 막아야 한다고 경고했다.

아모데이는 경제적 생존과 삶의 의미를 별개의 문제로 다뤘다. 사람이 AI 중심 경제에 의미 있게 기여하지 못할 수 있다는 경제적 문제가 삶의 의미보다 더 어렵다고 적었다.

AI가 어떤 활동을 더 잘한다고 해서 사람에게 그 활동의 의미가 사라지는 것은 아니라는 게 아모데이의 설명이다. 그는 산책이나 친구와의 대화처럼 경제적 가치를 만들지 않는 활동과 인간관계에서도 의미를 얻을 수 있다고 썼다.

두 사람의 차이는 AI가 만든 부의 배분을 누가 결정하느냐에서 드러난다. 아모데이는 여러 미래 경제 모델과 위험을 검토했고, 알트먼은 AI가 인간의 행동을 평가해 자원을 나누는 구상에 반대했다. AI 활용이 넓어질 때 인간 판단의 역할을 다룬 본지의 관련 보도도 이 논점과 맞닿아 있다.