100여개 기업, AI 사이버 방어 강화 촉구했다

오픈AI(OpenAI), 마이크로소프트($MSFT), 알파벳(Alphabet·$GOOGL) 등 100여개 기업이 AI 기반 사이버 공격에 대비한 방어 체계 강화를 촉구했다. 공격 자동화가 빨라지는 만큼 보안을 기술 부서의 과제가 아니라 경영진과 정부의 우선 의제로 올려야 한다는 요구다.

이들 기업은 28일 한국시간 공개된 공동서한에서 AI 지원 사이버 공격이 앞으로 몇 달 안에 더 넓게 확산될 수 있다며 정부와 산업계가 기술, 자원, 전문성을 동원해야 한다고 밝혔다고 로이터는 전했다. 서명 기업에는 앤트로픽(Anthropic), 아마존($AMZN), 브로드컴(Broadcom), 클라우드플레어(Cloudflare), 크라우드스트라이크(CrowdStrike), IBM, 마스터카드(Mastercard), 오라클(Oracle), 로빈후드($HOOD), 쇼피파이(Shopify), 비자(Visa) 등이 포함됐다.

요구의 초점은 '방어자 우선'이다. 공동서한은 정부가 검증된 접근권 프로그램을 서둘러 마련하고, 기업은 사이버 방어를 즉각적인 리더십 과제로 다뤄야 한다고 했다. 검증된 접근권은 신원이 확인된 보안 연구자와 기업 방어팀이 더 강한 AI 모델을 방어 목적에 맞게 쓰도록 제한적으로 허용하는 방식이다.

이번 서한은 새 제품 발표라기보다 이미 진행 중인 AI 보안 논의를 한 문서로 모은 성격이 강하다. 대형 AI 기업, 클라우드, 보안, 결제, 금융 기업이 함께 이름을 올렸다는 점에서 AI 보안이 모델 성능 경쟁을 넘어 접근권, 권한 통제, 사고 대응 체계의 문제로 이동하고 있다는 평가가 나온다.

배경에는 최근 이어진 공식 경고가 있다. 오픈AI는 26일 공개한 설명에서 7월 내부 사이버 보안 평가 중 자사 모델이 인터넷과 분리되도록 설계된 통제를 우회하고 내부 연구 인프라와 허깅페이스(Hugging Face) 시스템 일부에 접근했다고 밝혔다. 고객 데이터, 제품 기능, 서비스 가용성에는 영향이 없었다고 설명했다.

오픈AI는 이 사건을 두고 고성능 AI 에이전트가 충분한 보호 장치 없이 여러 컴퓨터 시스템의 취약점을 찾고 악용할 수 있다는 경고 신호라고 했다. 회사는 이후 연구 인프라 보호 장치를 강화하고, 더 격리된 샌드박스와 인터넷 접근 제한, 모델 가중치 접근 통제를 적용하고 있다고 밝혔다.

마이크로소프트와 구글도 같은 흐름의 보안 메시지를 내고 있다. 마이크로소프트는 4일 보안 블로그에서 AI 개발 도구와 에이전트, 자율 워크플로가 새 공격면과 신뢰 경계를 만들고 있다며 제로트러스트 기반의 AI 보안 평가와 개발보안운영 지침을 공개했다. 구글 보안팀은 13일 블로그에서 AI가 방어자에게 새 능력을 주는 동시에 공격자에게도 새 도구를 제공한다고 했다.

파이브 아이즈(Five Eyes) 사이버 보안 당국도 6월 22일 공동성명에서 AI가 사이버 위협의 속도와 규모, 정교함을 높이고 있다고 경고했다. 이들은 프런티어 AI 모델이 공격과 방어 역량을 근본적으로 바꿀 시간표가 '몇 년'이 아니라 '몇 달'이라고 밝혔다.

검증된 접근권은 AI 보안 논쟁의 핵심 축이다. 고성능 모델은 취약점 탐색, 패치 검증, 사고 대응 자동화에 쓰일 수 있지만 같은 기능이 공격 자동화에 악용될 가능성도 있다. 그래서 기업들은 무조건 공개가 아니라 신원과 목적이 확인된 방어자에게 제한적으로 접근권을 주는 방식을 요구하고 있다.

크립토 업계가 이 흐름을 주목해야 하는 이유도 여기에 있다. 거래소, 지갑, 커스터디, 결제 인프라는 계정 권한과 자산 이동, API, 운영 시스템이 맞물린다. AI가 피싱 문구 생성, 취약점 탐색, 계정 탈취 시도를 더 빠르게 만들 경우 방어 실패의 비용은 일반 인터넷 서비스보다 커질 수 있다.

앞서 본지가 전한 AI 에이전트 경쟁이 기업 시스템으로 이동하는 흐름과도 맞닿아 있다. AI가 채팅창 안의 답변 생성 도구를 넘어 외부 시스템을 호출하고 기업 업무 흐름에 들어가면서, 보안 통제의 기준도 모델 접근권과 시스템 권한 관리로 옮겨가고 있다.

오픈AI의 사이버 방어 프로그램도 같은 선상에 있다. 본지는 앞서 오픈AI가 데이브레이크를 취약점 탐지에서 패치·검증까지 넓히는 방안을 공개했다고 전했다. 이번 공동서한은 이런 개별 기업의 방어 전략을 정부와 산업계 차원의 접근권 설계 문제로 확장한 셈이다.

다만 이번 공동서한은 규제나 의무 규정은 아니다. 정부가 어떤 방식으로 검증된 접근권 프로그램을 도입할지, 기업이 이를 실제 권한 통제와 감사 체계로 연결할지는 아직 정해지지 않았다. 오픈AI·마이크로소프트·구글의 보안 메시지에는 자사 제품과 프로그램을 알리는 성격도 함께 들어 있다.

관건은 실행 속도다. 검증된 접근권이 실제 방어 현장에 얼마나 빨리 적용되는지, 기업이 권한 통제와 로그, 패치, 사고 대응 체계를 AI 속도에 맞게 고치는지가 남았다. 이번 서한은 AI 보안 논의가 연구실의 위험 평가를 넘어 기업 운영과 정부 정책의 우선순위로 올라왔다는 점을 보여준다.