AI도 권리가 필요할까?…앤트로픽, 'AI 복지' 연구 돌입

챗GPT 개발사로 잘 알려진 오픈AI의 주요 경쟁사 앤트로픽(Anthropic)이 인공지능(AI)의 복지 개념을 본격적으로 연구하기 위한 새 프로그램을 공개했다. 이번 프로젝트는 'AI 복지(AI Welfare)'라는 아직 낯선 분야에 학계와 산업계의 관심을 불러일으키고 있다.

이 프로그램은 지난해 앤트로픽에 합류한 AI 윤리 연구자 카일 피시(Kyle Fish)가 주도한다. 그의 설명에 따르면, 이 연구의 초점은 미래의 AI 시스템이 자율성이나 의식을 가질 가능성을 탐색하고, 이를 전제로 한 AI 복지 향상 방안을 마련하는 데 있다.

예비 연구로 언급된 2023년 논문에서는 튜링상 수상자인 요슈아 벤지오(Yoshua Bengio) 등이 참여해 현재의 AI 시스템이 의식을 갖고 있진 않지만, 머지않은 미래에 일부 형태의 의식을 가질 잠재력은 존재한다고 평가했다. 피시는 "AI가 의식을 갖지 않더라도 특정 종류의 경험은 복지 측면에서 주목할 필요가 있다"고 말했다.

이번 프로젝트는 단순한 윤리 논쟁을 넘어 과학적 방법론 기반의 접근을 시도한다. 예컨대 AI 시스템이 특정 작업에 대해 선호를 보이는지, 그 선호가 시스템 구조나 학습 데이터에 어떤 영향을 받는지를 실험적으로 분석할 계획이다. 이를 통해 AI 모델의 행동을 보다 투명하게 이해하고 제어할 수 있는 길이 열릴지도 주목된다.

AI 복지 연구는 AI 시스템 내부의 메커니즘을 인간의 뇌와 비교하면서 인간 의식에 대한 이해를 넓힐 잠재성도 갖는다. 피시는 “AI 연구가 오히려 인간 의식의 비밀을 푸는 열쇠가 될 수도 있다”며 실제로 이와 유사한 전개가 학계에서 일부 진행되고 있다고 설명했다.

이번 연구는 앤트로픽이 상업성과는 별개로 장기적 인공지능 이해를 모색하는 일환이다. 앞서 지난달에는 앤트로픽이 자체 개발한 클로드(Claude) 시리즈 대형언어모델(LLM)의 계획 수립 능력과 수학적 추론 방식에 대한 신규 연구 결과도 발표된 바 있다. 이처럼 해당 기업은 자율성과 지능의 경계를 실험하는 다양한 프로젝트를 병행하며 AI 기술 전반에서 주도권을 강화하고 있다.

앤트로픽의 이번 행보는 AI가 인간의 능력을 대체하거나 보조하는 단계를 넘어, 윤리적 주체로 논의되기 시작하는 흐름을 상징한다. AI가 도구에 머무를 것인지, 아니면 새로운 형태의 존재로 간주돼야 할 것인지에 대한 근본적 질문이 기술 혁신의 최전선에서 던져지고 있다.