크리스 휴스, AI 연구소 정부 감독관 상주 제안

크리스 휴스가 오픈AI·앤트로픽·구글 딥마인드 등 주요 AI 연구소에 정부 감독관을 상주시킬 ‘AI 감독청(Office of AI Supervision)’ 설립을 제안했다. 감독팀을 연구소 내부에 배치해 인공지능 모델 개발 과정을 실시간으로 들여다보자는 구상이다.

크립토 브리핑은 휴스의 제안이 파이낸셜타임스(FT) 기고문에 담겼다고 전했다. 구상에 따르면 감독팀은 각 연구소에 직접 배치되고 3년마다 교체된다.

감독관을 주기적으로 교체하는 이유는 장기 상주 과정에서 감독관과 기업 사이에 유착이 생기는 ‘규제 포획’을 막기 위해서다. 다만 AI 감독청은 설립이 확정된 정부기관이 아니며, 법제화와 시행 일정도 정해지지 않았다.

이번 제안은 금융권의 상시 검사 모델을 AI 산업에 적용하자는 발상이다. 사후 보고서나 일회성 평가에 의존하는 대신 정부 인력이 모델 개발 현장에 접근해 위험을 점검하자는 내용이다.

휴스는 2025년 2월 공개한 글에서 훈련 비용이 1억달러(약 1354억원) 이상인 대형 AI 모델에 안전 프로토콜과 제3자 검증, 사고 보고, ‘킬 스위치’를 요구해야 한다고 주장했다. 당시 글은 대형 모델의 위험을 출시 이후가 아니라 개발 단계부터 관리해야 한다는 내용을 담았다.

이번 AI 감독청 제안은 앞선 안전장치를 집행할 조직과 인력을 별도로 두자는 확장안으로 해석할 수 있다. 다만 두 구상이 하나의 법안으로 통합됐다는 사실은 확인되지 않았다.

유럽연합은 유럽연합 집행위원회 산하 AI Office를 운영하고 있다. 유럽연합 집행위원회는 AI Office가 범용 AI 모델을 평가하고 사업자에게 자료 제출과 시정조치를 요구하며 위반 시 제재할 수 있다고 설명했다.

AI Office는 기존 감독기관과 마찬가지로 사업자에 자료와 조치를 요구할 권한을 갖지만, 기업 내부에 감독관을 상주시킨 구조는 아니다. 휴스의 제안은 이 점에서 기존 제도보다 기업 내부 접근성과 실시간 감시에 무게를 둔다.

영국 AI Security Institute도 2023년 11월부터 최첨단 AI 모델의 국가안보·공공안전 관련 능력을 평가해 왔다. 영국 AI Security Institute는 프런티어 AI 시스템을 정부기관이 외부에서 시험하는 방식으로 운영하고 있다.

이 기관은 최첨단 모델이 사이버·화학·생물학·자율성 영역에서 능력을 빠르게 높이고 있으며, 모든 시험 모델에서 취약점을 발견했다고 보고했다. 개발 현장에 감독관을 두자는 주장은 이런 위험을 모델 출시 이후가 아니라 개발 과정에서 점검해야 한다는 문제의식과 맞닿아 있다.

금융권 상시 검사 모델을 AI에 적용할 경우 조기 위험 탐지와 책임소재를 분명히 할 수 있다는 논리가 있다. 반면 AI 모델은 구조가 복잡하고 업데이트 속도가 빠르기 때문에 금융권 감독 방식을 그대로 적용하기 어렵다는 지적도 나온다.

감독기관의 소속과 법적 권한, 예산, 감독관 채용 기준, 기업 기밀 접근 범위는 제안에서 구체적으로 제시되지 않았다. 오픈AI·앤트로픽·구글 딥마인드가 이번 제안에 찬성하거나 반대했다는 공식 입장도 공개되지 않았다.

캘리포니아의 대형 AI 모델 안전 규제 법안 SB 1047은 규제 설계의 어려움을 보여주는 사례다. 개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사는 2024년 법안 거부권을 행사하며 AI 시스템의 실제 사용 환경과 위험도를 충분히 구분하지 못한다고 밝혔다. AP통신은 당시 거부권 행사 내용을 보도했다.

AI 감독청 구상은 가상자산·블록체인·반도체 산업과 직접 연결된 제안은 아니다. 현재 논의의 중심은 AI 연구소 내부에 정부 감독 인력을 둘 수 있는지와 그 권한을 어디까지 설정할지에 있다.

파이낸셜타임스 기고문 전문과 휴스의 직접 발언 전체, 주요 AI 기업의 공식 반응은 공개 확인되지 않았다. AI 감독청은 현재 기업 내부 접근성과 실시간 감시를 강조한 정책 제안 단계에 머물러 있다.