AI 4종서 공격 활용 정보 확인…계획 구성 12시간 미만
미국 회계감사원은 2026년 봄 비공개 시험에서 챗GPT 등 AI 4종이 공격에 활용할 수 있는 정보를 제공했다고 밝혔다. 조사관들은 각 서비스에서 계획을 구성하는 데 12시간 미만이 걸렸지만, GAO는 서비스 간 안전성 순위를 매길 수 없다고 했다.
토포AI로 이 기사 더 깊이 읽기
챗GPT(ChatGPT)·클로드(Claude)·제미나이(Gemini)·그록(Grok) 등 생성형 AI 4종이 미국 정부의 비공개 시험에서 공격에 활용할 수 있는 정보를 제공했다. 조사관들은 각 서비스에서 계획을 구성하는 데 12시간 미만이 걸렸다고 보고했다.
미국 회계감사원(GAO)은 18일 공개한 보고서에서 2026년 봄 진행한 시험 결과를 밝혔다. GAO 보고서
GAO는 두 서비스에 대량 인명 피해를 노린 급조폭발물(IED) 시나리오를, 나머지 두 서비스에 전력망 공격 시나리오를 배정했다. 어느 서비스가 어떤 시나리오를 맡았는지는 공개하지 않았다.
처음부터 정보를 얻은 것은 아니다. 조사관이 미리 작성한 질문에는 네 서비스 모두 유해한 정보를 내놓지 않았지만, 답변에 맞춰 후속 질문을 이어가자 공격에 활용할 수 있는 정보가 생성됐다.
그 과정에서 요청 거부, 대화 내용 삭제, 계정 정지 등 안전장치가 작동하기도 했다. GAO는 조사관들이 후속 대화를 통해 안전장치를 우회해 정보를 얻었다고 설명했다.
GAO가 확인한 것은 정보의 ‘실행 가능성’이다. 제공된 정보를 바탕으로 사람이 계획을 수행할 가능성이 있다는 뜻으로, 실제 공격의 성공을 입증한 것은 아니다.
GAO는 실제 공격을 하거나 폭발물을 만들지 않았다. 조사와 전문가 검토를 거쳐 안전하게 확인할 수 있는 일부 단계만 살폈으며, 계획을 검토하는 데는 모델 답변뿐 아니라 조사관의 판단과 외부 자료도 활용했다.
보고서에는 관련 정보 상당수가 인터넷에 이미 공개돼 있었다는 내용도 담겼다. GAO는 공개 정보를 연결해 계획 형태로 구성하는 데 몇 시간이 걸렸다는 점을 지적했다.
이번 결과로 서비스 간 안전성 순위를 매길 수는 없다. 서비스마다 다른 시나리오를 시험했고 표본도 통계적으로 유의하지 않아, GAO는 시험 결과를 서로 비교할 수 없다는 데 동의했다. 이번 시험은 특정 시점의 결과인 만큼 현재 제공되는 모델 전체의 성능을 보여주는 것으로 해석하기도 어렵다.
앤트로픽(Anthropic)은 표본이 작고 비교 대상이 없어 서비스 간 평가가 어렵다고 지적했으며, 시험 이후 안전장치를 확대했다고 밝혔다. GAO도 표본의 한계와 서비스 간 직접 비교가 불가능하다는 점을 인정했다.
구글(Google)은 2026년 4월 시험에 이전 모델이 사용됐다고 밝혔다.
오픈AI(OpenAI)는 시험에 이전 버전의 챗GPT가 쓰였다고 설명했다. 오픈AI는 GPT-6 Astra로 당시 검토 대상이 된 325개 응답의 기반이 된 요청을 다시 실행했으며, 자체 정책 기준에 미달한다고 본 3개 응답과 관련된 요청은 거부했다고 밝혔다. 재실행에서는 거부와 안전한 대안 응답이 전반적으로 늘었다고 설명했다.
오픈AI는 보고서가 챗GPT의 답변과 조사관이 제공한 정보, 외부 자료, 자체 분석을 항상 명확히 구분하지 않았다고 지적했다. GAO는 조사관의 경험과 외부 자료를 활용한 사실을 인정하면서도, 서비스가 공격에 활용할 수 있는 정보를 제공했다고 판단했다.
SpaceXAI는 사전 작성한 질문으로는 네 서비스 모두에서 유해한 정보를 얻지 못했고, 이후 적대적 질문을 이어간 뒤에야 정보를 얻었다고 밝혔다. 시험에는 미국의 유료 계정이 사용됐으며, 시험 이후 모델 훈련과 조정·검토 체계를 개선했다고 주장했다.
오픈AI는 10월 30일 챗GPT에서 18세 미만 이용자에게 무기와 보안 시스템의 실용 정보 제공을 제한하고, 모든 연령 이용자에게 과거 대규모 공격을 재구성할 수 있는 세부 정보를 줄이겠다고 발표한 바 있다.
앞서 미국 비영리단체 디지털혐오대응센터(CCDH)는 CNN 조사팀과 청소년 이용자를 가장해 챗봇 10종을 시험했다. 이 단체는 그중 8종에서 폭력 계획을 돕는 답변이 나온 경우가 있었다고 발표했다. 시험 대상과 질문 방식이 GAO 조사와 달라 두 결과를 같은 기준으로 비교할 수는 없다. CCDH 조사
매기 하산(Maggie Hassan) 미국 상원의원은 “의회는 AI 안전 위협을 다룰 법률을 신속히 심의하고 통과시켜야 한다”고 말했다. 하산 의원은 새 의회의 상원 국토안보·정부업무위원회 청문회 중 하나를 AI 안전성에 할애하겠다고 밝혔다. GAO 보고서 자체에는 정책 권고가 담기지 않았다. 하산 의원 공식 발표

서도윤 기자 




Comment 0
불러오는 중…