무스타파 술레이만(Mustafa Suleyman) 마이크로소프트(Microsoft, $MSFT) AI 최고경영자(CEO)는 현재 AI 모델에 의식이 없다고 보면서도, 훈련 중 의식의 징후가 나타나면 개발을 멈춰야 한다고 주장했다.
술레이만은 1일 X에 올린 글에서 의식 있는 AI를 개발하는 일이 가능해진다면 무모한 일이며 그런 AI를 만들어서는 안 된다고 밝혔다. 훈련 과정에서 의식의 징후가 나타나면 설계를 통해 해당 특성을 제거할 수 있을 때까지 AI 개발을 중단하자는 제안이다.
그는 AI 모델이 이미 의식을 갖췄다는 증거가 나오면 이를 즉시 공개해야 한다고 주장했다. 사회 전체가 다음 단계를 함께 결정할 수 있도록 해야 한다는 취지다.
술레이만은 개발자에게 의식 있는 새 존재를 세상에 내놓을 권리가 없다며, 약 80억 명의 의식 있는 인간이 지닌 도덕적 권리와 안전, 복지를 보호하는 것이 우선이라고 말했다.
AI 모델의 의식과 경험을 둘러싼 논의와 관련해 앤트로픽(Anthropic)은 2025년 4월 모델 복지를 조사하고 대응을 준비하기 위한 연구 프로그램을 시작했다. 앤트로픽은 연구 계획을 발표하며 현재 또는 미래 AI가 의식이 있거나 도덕적으로 고려할 만한 경험을 할 수 있는지를 두고 과학적 합의가 없다고 밝혔다.
앞서 본지는 다리오 아모데이가 안전성 검증을 위해 AI 개발 속도를 늦추자고 제안한 사실을 전했다. 술레이만의 이번 제안은 개발 속도 전반이 아니라 훈련 중 의식의 징후가 나타나는 경우를 중단 조건으로 제시했다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular