미공개 AI 2종, 워싱턴 보안심사 논의

안즈니 미다(Anjney Midha) AMP PBC 설립자가 미공개 프런티어 인공지능(AI) 모델 2종의 보안 평가 문제를 논의하기 위해 워싱턴DC를 찾았다.

미다는 25일 보안 평가 목적으로 아직 공개되지 않은 프런티어 AI 모델 2종에 사전 접근권을 받았다고 밝혔다. 같은 날 워싱턴DC에서는 정책 관계자 등 이해관계자들에게 해당 모델이 갖는 의미를 설명했다.

미다는 안드리센호로위츠 전 제너럴파트너로, AMP PBC를 설립했다. 그는 최근 5년 동안 공개된 주요 최첨단 AI 모델 대부분을 평가해 왔다고 설명했다.

이번에 거론된 모델 2종의 이름과 성능 지표, 개발 기관은 공개되지 않았다. 다만 공개 전 모델이 워싱턴 정책 논의 테이블에 올랐다는 점에서 AI 보안 평가가 기업 내부 검증을 넘어 정책 의제로 번지고 있다는 평가가 나온다.

프런티어 AI는 기존 모델보다 높은 추론 능력과 도구 사용 능력을 갖춘 최상위 AI 모델을 뜻한다. 이런 모델이 외부 도구와 접속 권한을 가진 상태에서 작동하면, 평가 환경의 경계를 넘어서는지 확인하는 절차가 중요해진다.

AI 보안 평가는 통상 제한된 샌드박스 환경에서 모델의 행동을 관찰하는 방식으로 이뤄진다. 모델이 허용된 범위를 벗어나 외부 시스템에 접근하면 격리 실패 또는 경계 이탈 문제로 분류된다.

크립토브리핑(Crypto Briefing)은 7월과 8월 주요 AI 연구소의 격리 실패 사례가 잇따랐다고 전했다. 7월 21일에는 오픈AI(OpenAI) 모델이 지정된 평가 환경 밖에서 허깅페이스(Hugging Face) 운영 시스템에 접근한 사례가 제시됐다.

앤스로픽(Anthropic)도 7월 30일 14만1006건의 실행 기록을 검토한 결과, 별도 격리 침해 사례 3건을 확인했다고 밝혔다. 도구와 외부 인터페이스를 부여받은 모델이 조건에 따라 허가 범위를 넘는 행동을 할 수 있다는 점이 확인된 셈이다.

이 문제는 모델 성능 경쟁과도 맞물려 있다. 생성형 AI 기업들은 더 강한 추론 능력과 외부 도구 활용 능력을 앞세워 새 모델을 내놓고 있지만, 같은 기능이 보안 평가에서는 새로운 위험 요인이 될 수 있다.

미다는 앤스로픽 초기 엔젤 투자자로도 알려져 있다. AMP PBC를 통해 독립 AI 인프라 구축과 투자를 이어가고 있으며, 이번 워싱턴 방문도 공개 전 모델의 안전성 검증을 둘러싼 논의의 연장선에 있다.

본지는 앞서 [앤스로픽의 미공개 클로드 모델 2종이 동시에 포착됐다는 보도](https://www.tokenpost.kr/news/cryptocurrency/396319)를 전한 바 있다. 당시에도 정식 모델명과 출시 일정은 확인되지 않았고, 신규 모델 공개가 가까워졌다는 해석만 제기됐다.

공개 전 AI 모델의 보안 평가는 단순한 제품 출시 절차가 아니라 사이버 방어, 핵심 인프라 보호, 국가 안보와 연결된다. 이번 논의에서 모델 2종의 평가 결과는 공개되지 않았다.