앤트로픽 CEO 아모데이, ‘위험한 AI’ 출시 전 정부 차단 권한 촉구

앤트로픽 PBC 최고경영자 다리오 아모데이(Dario Amodei)가 미국 정부에 ‘위험한’ 인공지능(AI) 모델의 배포를 직접 막을 수 있는 강한 규제 체계를 도입해야 한다고 주장했다. 안전하지 않은 비행기의 이륙을 막듯, 고위험 AI 역시 공개 전에 차단할 수 있어야 한다는 논리다.

아모데이는 최근 개인 블로그에 올린 글에서 최첨단 AI 시스템에 대한 ‘의무적 제3자 감사’가 필요하다고 밝혔다. 감사 결과 용인할 수 없는 위험이 확인되면 정부가 해당 모델의 출시를 중단시킬 수 있어야 한다는 입장이다. 동시에 AI 확산으로 경제적 피해를 보는 사람들을 위한 지원책도 함께 마련해야 한다고 강조했다.

특히 그는 새 AI 모델을 규제하는 기준으로 ‘컴퓨트 임계치’를 제안했다. 모델 학습에 투입된 연산 자원이 일정 수준을 넘으면, 대중 공개 전에 자동으로 독립적인 조사를 받도록 하자는 것이다. 사실상 개발 규모가 큰 프런티어 AI를 사전 심사 대상으로 묶자는 구상이다.

아모데이는 점검 대상 위험으로 네 가지를 꼽았다. 사이버보안 취약성, 생물학 무기 개발 가능성, 위험한 분야의 자동화 연구 가속 능력, 그리고 인간 통제를 벗어날 가능성이다. 감사 기관이 이 가운데 하나라도 ‘수용 불가한 위험’으로 판단하면 정부는 해당 AI 모델의 배포를 막아야 한다고 주장했다.

그는 AI 규제의 선례로 항공기, 자동차, 의약품 규제를 들었다. 현대 경제에 필수적인 기술이지만, 설계나 운용이 잘못되면 대규모 피해를 낼 수 있다는 점에서 AI도 비슷한 기준으로 다뤄야 한다는 설명이다.

이번 제안은 트럼프 대통령이 6월 2일 서명한 행정명령보다 훨씬 강경한 내용으로 평가된다. 당시 행정명령은 AI 기업들이 모델 공개 한 달 전에 정부 감사기관과 자발적으로 공유하도록 권고했고, 정보기관이 신규 모델의 사이버보안 위험 평가에 참여할 필요성을 강조했다. 다만 의무 조항이나 강제 테스트 규정은 담지 않았다.

반면 아모데이의 제안에는 ‘자발적’이라는 표현이 사실상 빠져 있다. 협조 요청이 아니라 준수를 전제로 하고, 정보기관 중심이 아닌 독립 감사기구에 실질적인 ‘거부권’을 주자는 점도 차별점이다.

앤트로픽은 그동안 AI 안전 규제를 꾸준히 지지해 왔다. 2023년 9월에는 ‘책임 있는 확장 정책’을 공개했고, 이후 여러 차례 개정하면서 AI 안전 수준(ASL) 같은 개념을 도입했다. 이는 AI 성능이 고도화될수록 위험 관리 수준도 단계적으로 높이는 구조다. 회사는 캘리포니아주의 SB 53 법안 등 다른 규제 논의에도 지지 의사를 밝힌 바 있다.

다만 시장에서는 아모데이의 주장을 그대로 공공선으로만 보기 어렵다는 시선도 나온다. 콘스텔레이션 리서치의 홀거 뮬러는 실리콘앵글에 “규제 강화 요구는 시장 선도 기업이 경쟁 구도를 얼어붙게 하고 정상 자리를 지키려는 의도로도 읽힐 수 있다”고 말했다. 윤리적 리더십이라는 해석이 가능하지만, 실제 의도도 함께 따져봐야 한다는 지적이다.

아모데이는 AI의 안전성뿐 아니라 고용 충격도 중대한 문제로 봤다. 그는 AI가 과거 기술 혁신보다 더 크고 오래가는 노동시장 혼란을 일으킬 수 있다고 경고했다. 핵심 과제는 성장 유인이 아니라, AI가 만든 이익을 사회 전체가 어떻게 나눌 것인지에 있다는 설명이다.

이를 위해 정부가 AI로 인한 일자리 대체 데이터를 더 적극적으로 수집하고, 고용 유지에 도움이 되는 인센티브를 검토해야 한다고 제안했다. 만약 노동 수요 감소가 구조적이고 장기적으로 굳어진다면 ‘기본소득’ 같은 장치도 검토할 필요가 있다고 덧붙였다. 재원은 관련 기업 과세나 자본이득세 인상으로 마련할 수 있다는 구상이다.

이번 제안은 AI 안전 규제를 둘러싼 논의를 한층 더 강한 방향으로 밀어붙였다는 점에서 주목된다. 다만 공공 안전과 산업 경쟁력, 그리고 대형 AI 기업의 이해관계가 복잡하게 얽혀 있는 만큼 실제 정책으로 이어지기까지는 적지 않은 논쟁이 이어질 것으로 보인다.