레오 14세, 각국에 치명적 자율무기 금지 촉구

레오 14세(Pope Leo XIV) 교황이 치명적 자율무기 금지를 향해 각국이 구체적인 조치를 취하라고 촉구했다. 생명과 자유, 무력 사용에 영향을 미치는 결정은 인간의 책임 있는 감독 아래 둬야 한다는 원칙을 제시했다.

교황은 30일 바티칸에서 열린 인공지능(AI) 관련 대화 행사 참가자들에게 연설했다. 교황청 공보실이 공개한 연설문에서 그는 “기계는 도구이지 인격체가 아니다”라고 말했다.

교황은 5월 회칙에서 인간 존엄과 공적 통제를 AI 논의의 기준으로 제시했다. 본지는 당시 회칙에 담긴 교황의 AI 안전 원칙을 다룬 바 있다.

이번 연설에서 교황은 AI의 미래가 인간의 선택에 달려 있다고 강조했다. 사람은 AI의 활용을 이끌고 바꿀 책임이 있으며, 필요하면 그 적용을 거부할 수도 있다고 밝혔다.

교황은 AI 시스템에 권리나 법적 인격을 부여하자는 주장도 언급했다. 그런 접근은 피해가 발생했을 때 인간의 책임을 흐리고, 피해자가 책임 소재가 불분명한 대상과 마주하게 할 수 있다고 지적했다.

사람을 표적 명단에 올리거나 출입국 통제 데이터베이스에 입력하는 결정도 사례로 들었다. 당사자가 하나의 데이터로 축소될 수 있다는 우려에서다.

교황은 “인간의 생명과 자유, 무력 사용에 영향을 미치는 결정은 언제나 효과적이고 충분한 정보를 갖춘 책임 있는 인간의 감독 아래 있어야 한다”고 말했다. 이어 11월 제네바에서 만날 국가들에 치명적 자율무기 금지를 위한 구체적인 조치를 취하라고 촉구했다.

◇ 'AI 무장 해제'가 가리킨 것

교황이 말한 'AI 무장 해제'는 AI 개발이나 이용을 전면 중단하자는 뜻이 아니다. 5월 회칙 'Magnifica Humanitas'에서 이 표현은 기술이 인간을 지배하지 않도록 하고, 기술 권력을 둘러싼 경쟁을 공론과 논의의 대상으로 돌리자는 취지로 설명됐다.

회칙은 '무장 경쟁'이 군사 분야에만 국한되지 않고 경제·인지 영역에도 나타난다고 짚었다. 더 강력한 알고리즘과 대규모 데이터 확보 경쟁 역시 지정학적·상업적 우위를 얻으려는 흐름과 연결될 수 있다는 설명이다.

군사 분야에 대해서는 AI를 활용한 무기 개발과 사용에 엄격한 윤리적 제약이 필요하다고 밝혔다. 회칙은 치명적이거나 되돌릴 수 없는 결정을 인공지능 시스템에 맡겨서는 안 된다고 강조했다.

책임 소재를 분명히 하는 절차도 요구했다. 표적 공격 결정이 자동화되거나 불투명해지면 책임이 기계에 떠넘겨질 위험이 있어, 기술을 설계·훈련·승인·운용한 주체의 책임을 확인할 수 있어야 한다는 것이다.

교황은 공통 기준과 독립적 감독, 명확한 책임 절차를 갖춘 제도도 촉구했다. AI 개발과 이용에 관한 결정을 검토하고, 필요하면 이의를 제기하며, 피해가 생기면 구제할 수 있어야 한다고 밝혔다.

◇ 11월 CCW 검토회의로 이어지는 논의

치명적 자율무기는 표적 선정과 공격 과정에서 인간의 직접 개입이 제한되거나 없는 무기 체계를 가리킨다. 유엔 사무총장과 국제적십자위원회(ICRC)는 8월 27일 공동 호소에서 각국에 법적 구속력이 있는 규범 협상을 시작하라고 촉구했다.(공동 촉구문)

두 기관은 결과를 예측하기 어려운 자율무기와 사람을 표적으로 삼는 무기의 금지를 제안했다. 공동 호소는 11월 CCW 검토회의를 협상 진전을 위한 경로로 꼽았으며, 교황의 이번 연설보다 앞서 발표됐다.

유엔 사무총장의 CCW 제7차 검토회의 소집 공문은 회의가 11월 16일부터 20일까지 제네바에서 열린다고 명시했다. 협약 비당사국과 관련 국제기구·기관, 비정부기구는 참관자로 초청됐다. 교황은 연설에서 회의명을 직접 밝히지 않았다.