라지 판자비 “AI 생물안보, 실험 장벽 낮춘 증거 봐야”

강이안 기자 2026.10.09 21:30

토포AI로 이 기사 더 깊이 읽기

AI가 위험한 생물학 정보를 제공했는지만으로 생물안보 위기를 판단하기는 어렵다. 라지 판자비 전 백악관 국가안전보장회의 글로벌 보건안보·생물방어 선임국장은 위험 신호와 대응 조치를 미리 연결하는 기준이 필요하다고 주장했다.

라지 판자비(Raj Panjabi)는 9일 포천(Fortune) 기고문에서 기업의 자율 안전장치만으로는 위험 단계별 대응 주체와 조치를 정하기 어렵다고 주장했다. AI가 실제 실험의 장벽을 낮췄는지를 중심으로 위험을 판단해야 한다는 취지다.

그는 감시 신호 세 가지를 제시했다. 생물학 전문가가 아닌 사용자가 AI로 전문가 판단이 필요했던 실험 문제를 해결했다는 증거, 우려되는 AI 생성 염기서열이 합성 업체에 주문되거나 자동화 실험실에서 처리된 기록, 위험한 생물학 작업에 필요한 실무 경험이 AI로 크게 줄었다는 증거다. 이는 판자비가 제안한 감시 항목이며 이미 발생한 사례를 뜻하지는 않는다.

판자비는 각 신호에 대응할 조치도 연결했다. 독립 평가자의 사전 레드팀 시험, 생물학 설계 도구의 워터마킹과 추적 기능, DNA 합성 업체와 클라우드 실험실의 주문 심사다. 레드팀 시험은 공격자 관점에서 시스템의 취약점을 점검하는 절차다.

이 조치들은 생물학 설계가 디지털 정보에 머무는지 실제 물질과 실험으로 이어지는지를 확인하기 위한 제안이다. 판자비는 염기서열 설계만으로 병원체를 만들 수는 없으며 합성 DNA와 장비, 실험실이 필요하다고 설명했다.

판자비는 포천 기고문에서 2023년 캄보디아 한 가족의 H5N1 감염 사례 당시 지속적인 사람 간 전파 여부를 대응 기준으로 삼았다고 회고했다. 인근 응급실 감시 자료를 과거와 비교했을 때 예상 밖의 환자 증가가 없어 당시 대통령에게 즉시 보고하지 않았다고 썼다. 이 내용은 기고문에 담긴 판자비의 회고다.

기업이 공개한 자료에서도 위험 가능성과 증거의 한계가 함께 나타난다. 앤스로픽(Anthropic)은 2026년 9월 위협 정보 보고서에서 자사 모델이 생물학 무기 개발에 악용될 수 있는 다섯 사례를 제시하고 관련 계정을 차단했다고 밝혔다. 회사는 이 사례들이 실제 무기 개발이나 실행을 입증하는 것은 아니라고 설명했다.

미국에서는 유전자 합성 주문과 고객 심사를 의무화하는 법안도 발의됐다. 톰 코튼(Tom Cotton) 상원의원은 에이미 클로버샤(Amy Klobuchar) 상원의원과 함께 2026년 2월 4일 ‘바이오안보 현대화 및 혁신법’을 발의했다. 법안은 유전자 합성 업체가 주문과 고객을 심사하도록 하는 내용을 담았다.

AI 생물안보 논의의 핵심은 위험 신호를 어떤 증거로 확인하고, 확인 뒤 누가 조치할지를 사전에 정하는 데 있다. 판자비가 제안한 기준이 정책이나 의무 규제로 채택됐는지는 확인되지 않았다.