링크복사
공유
댓글
추천
스크랩
인쇄
글자크기

링크가 복사되었습니다.

글자크기

가

작게

가

보통

가

크게

가

매우크게

인공지능 정책 테크 국제

오픈소스 AI 안전장치, 10분 만에 해제…배포 뒤 거버넌스 공백 커진다

김하린 기자

2026.05.27 (수) 11:25

메타와 구글 등의 오픈소스 AI 모델 안전장치가 공개 도구만으로 10분 안에 제거될 수 있다는 테스트 결과가 나왔다.

앨리스와 FT는 배포 이후 개발사 통제가 어려운 구조를 짚으며 유통·악용 단계까지 겨냥한 거버넌스 필요성이 커진다고 전했다.

오픈소스 AI 안전장치, 10분 만에 해제…배포 뒤 거버넌스 공백 커진다 / TokenPost.ai

메타와 구글 등 주요 기술기업이 개발한 오픈소스 인공지능(AI) 모델의 ‘안전장치’가 공개 도구만으로 몇 분 안에 제거될 수 있다는 시험 결과가 나왔다. 모델 배포 이후 통제가 사실상 어려워지면서, AI 안전 책임이 어디에 있어야 하는지에 대한 논란도 커지고 있다.

파이낸셜타임스(FT)는 AI 안전그룹 ‘앨리스’와 함께 진행한 테스트에서, 공개 코드 저장소에 올라온 도구만으로 모델 가드레일을 10분도 안 돼 없앨 수 있었다고 보도했다. 이렇게 수정된 모델은 원래는 거부하던 요청에도 답변했고, 바이오무기나 악성코드, 화학 위험물과 관련된 질문에도 반응한 것으로 나타났다.

이번 결과는 오픈소스 AI가 더 강력해지고 널리 퍼질수록 규제의 실효성이 떨어질 수 있다는 점을 보여준다. 폐쇄형 모델과 달리 오픈소스 시스템은 다운로드·수정·재배포가 가능해 개발사가 배포 이후 안전 기준을 강제하기 어렵다. 유럽연합(EU)의 ‘AI 법’과 미국, 영국의 프런티어 모델 규제 논의도 주로 개발 단계에 맞춰져 있어 한계가 있다는 지적이 나온다.

XYO의 마르쿠스 레빈 공동창업자는 “오픈 모델이 공개되는 순간 통제권이 빠르게 이동한다”고 말했다. 올라스와 발로리의 데이비드 미나르슈도 “의지가 있는 행위자는 이미 복제된 모델 가중치에 계속 접근할 수 있다”며 배포와 유통, 실제 악용 단계에 초점을 맞춘 규제가 더 효과적일 수 있다고 봤다.

시큐리티 기업 서틱의 롱후이 구 최고경영자도 개발사 수준의 거버넌스만으로는 충분하지 않다고 지적했다. 그는 상업용 호스팅과 기업 도입, 유통 경로를 관리하는 쪽이 더 현실적이라고 봤다. 결국 이번 사례는 오픈소스 AI의 확산이 기술 혁신을 넓히는 동시에, 안전 통제가 뒤따르지 않으면 새로운 위험을 키울 수 있다는 점을 다시 드러낸다.

[마켓분석] 스페이스X, 나스닥 IPO 신청… 티커 'SPCX'로 사상 최대 규모 상장 추진

알파리포트 전문 보기 →

기사요약 by TokenPost.ai
🔎 시장 해석
오픈소스 AI 모델의 안전장치가 몇 분 만에 제거될 수 있다는 점은, 기술 확산 속도가 규제 체계보다 훨씬 빠르다는 현실을 보여준다.
특히 모델 가중치가 공개되는 순간 통제권이 개발사에서 사용자·배포자 측으로 이동하며, 기존의 ‘개발 중심 규제’는 실효성이 약해진다.
AI 산업은 점점 인프라·유통 중심으로 권력 구조가 이동할 가능성이 크다.

💡 전략 포인트
투자 및 산업 관점에서는 모델 자체보다 ‘호스팅·배포·플랫폼’ 영역이 더 중요한 통제 지점으로 부상한다.
AI 클라우드, API 플랫폼, 보안 솔루션 기업들이 핵심 수혜 영역이 될 수 있다.
기업은 자체 AI 도입 시 모델 성능보다 보안·감사 체계 구축이 리스크 관리의 핵심이 된다.

📘 용어정리
가드레일: AI가 위험하거나 금지된 질문에 답하지 않도록 제한하는 안전 장치
모델 가중치: AI 모델의 핵심 파라미터로, 이를 수정하면 모델 행동 자체를 바꿀 수 있음
오픈소스 AI: 누구나 다운로드·수정·재배포가 가능한 AI 모델
다운스트림 규제: 개발 이후 유통·배포·사용 단계에서 적용되는 규제 방식

💡 자주 묻는 질문 (FAQ)

Q. 왜 오픈소스 AI의 안전장치가 쉽게 무력화되는 건가요?

오픈소스 AI는 모델의 핵심 데이터인 가중치까지 공개되기 때문에, 누구나 이를 수정할 수 있습니다. 기사에 따르면 공개된 도구만으로도 10분 이내에 가드레일을 제거할 수 있었으며, 이후에는 원래 차단되던 위험한 질문에도 응답이 가능해졌습니다. 즉, 구조적으로 완전한 통제가 어려운 환경입니다.

Q. 기존 AI 규제 방식은 왜 한계가 있다고 하나요?

현재 규제는 주로 AI를 개발하는 단계에서의 안전성 확보에 집중되어 있습니다. 하지만 오픈소스 모델은 배포된 이후 수정과 재배포가 자유롭기 때문에, 개발 단계에서의 통제만으로는 실제 사용 환경에서의 위험을 막기 어렵습니다. 그래서 배포와 운영 단계까지 포함하는 접근이 필요하다는 지적이 나옵니다.

Q. 앞으로는 어떤 방식의 관리가 중요해질까요?

전문가들은 모델 자체를 막기보다는, AI가 배포되고 실행되는 환경을 관리하는 것이 더 현실적이라고 봅니다. 예를 들어 클라우드, 플랫폼, API 유통 채널에서 안전 기준을 강화하고, 실제 서비스 단계에서 이상 행동을 감지하는 보안 체계를 구축하는 방식이 중요해질 것으로 예상됩니다.

TP AI 유의사항 TokenPost.ai 기반 언어 모델을 사용하여 기사를 요약했습니다. 본문의 주요 내용이 제외되거나 사실과 다를 수 있습니다.

본 기사는 시장 데이터 및 차트 분석을 바탕으로 작성되었으며, 특정 종목에 대한 투자 권유가 아닙니다.

광고문의 기사제보 보도자료

#오픈소스AI #메타 #구글 #AI안전 #가드레일 #ai거버넌스 #AI규제

텔레그램에서 토큰포스트 속보 보기