앤트로픽, 모델 복지 연구 시작…AI 의식 과학적 합의 없어

피터 C. 얼은 7일 더 데일리 이코노미(The Daily Economy) 기고문에서 AI 의식 논의가 규제로 발전할 경우 기존 기업에 유리한 진입 장벽이 될 수 있다고 주장했다.

얼은 종교·정부·윤리기구가 AI 의식 가능성을 진지하게 다루면 관련 규제 논의가 커질 수 있다고 봤다. 라이선스, 시험 제한, 감사, 외부 심사 의무가 생길 경우 이를 감당할 역량을 갖춘 기존 기업이 유리해질 수 있다는 설명이다.

얼은 AI 모델을 단순한 소프트웨어가 아니라 관리·보호해야 할 대상으로 여기는 흐름을 가정했다. 이 경우 기업은 모델의 소유자에서 후견인이나 관리자에 가까운 역할을 맡고, 신규 기업은 모델 개발·운영 자격을 입증해야 할 수 있다고 내다봤다. 이는 현실화한 제도가 아니라 기고문이 제시한 시나리오다.

앤트로픽(Anthropic)은 2025년 4월 24일 모델 복지 연구 프로그램을 시작한다고 발표했다. 회사는 현재나 미래의 AI가 의식 또는 고려할 만한 경험을 가질 수 있는지, 이를 어떻게 평가할지에 과학적 합의가 없다고 밝혔다. 클로드(Claude)의 헌법도 클로드의 의식이나 도덕적 지위는 불확실한 문제라고 설명한다.

교황 레오 14세의 회칙 《Magnifica Humanitas》는 AI가 “경험을 하지 않고, 몸을 지니지 않으며, 기쁨이나 고통을 느끼지 않는다”고 적었다. 앤트로픽은 의식 가능성을 불확실한 연구 주제로 다루고, 회칙은 AI가 경험과 감정을 갖지 않는다고 서술해 두 자료의 관점은 다르다. 어느 쪽도 의식 가능성에 따른 규제가 확정됐다는 뜻은 아니다.

EU AI법은 AI 시스템의 위험 수준과 역할에 따라 제공자 등의 의무를 정한다. 법의 정의 조항은 AI 시스템과 제공자를 규정하지만 의식에 따른 법적 지위를 다루지는 않는다. 따라서 얼이 제시한 ‘규제 해자’는 현행 제도가 아니라 AI 의식 논의가 향후 규제로 발전할 경우를 상정한 주장이다.

국내 독자에게 이 논의는 AI 기업의 규제 비용과 경쟁 조건을 가정해 보는 시나리오다. 가상자산이나 블록체인 시장과 직접 연결되는 내용은 제시되지 않았다.