오픈AI, 캘리포니아 AI 안전법 강화 요구했다

오픈AI(OpenAI)가 캘리포니아 프런티어 인공지능(AI) 안전법인 SB 53에 훈련·평가 단계 감시와 사이버보안 보호 장치를 추가해야 한다고 밝혔다. 대형 AI 기업에 투명성 의무와 내부고발자 보호를 부과한 법안에 반대했던 기존 입장에서 한발 물러선 움직임이다.

테크크런치는 23일(한국시간) 오픈AI 글로벌 어페어스팀이 캘리포니아 주의회와 주지사 측과 협력해 SB 53을 강화하겠다는 입장을 냈다고 보도했다. 오픈AI는 공개 글에서 프런티어 모델이 훈련되거나 평가되는 동안 중대한 사고 가능성을 감시하도록 하고, 모델 개발 전 주기에 걸쳐 사이버보안 보호를 강화해야 한다고 밝혔다.

오픈AI는 캘리포니아가 프런티어 안전 분야를 계속 선도하는 가운데 SB 53을 강화하기 위해 협력하겠다고 밝혔다. 최근 사건들이 이런 보호 장치의 필요성과 새 위험에 맞춘 업데이트의 중요성을 보여줬다는 설명도 덧붙였다.

SB 53은 2025년 9월 29일 개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사가 서명한 법이다. 스콧 위너(Scott Wiener) 캘리포니아주 상원의원실은 이 법이 최첨단 AI 모델에 대한 안전 계획 공개 의무, 중대한 안전 사고 보고, 주요 AI 연구소 직원에 대한 내부고발자 보호를 담았다고 밝혔다.

캘리포니아 법무장관실도 대형 프런티어 개발자가 자체 프런티어 AI 프레임워크를 작성·이행·공개해야 한다고 설명했다. 프런티어 모델은 통상 대규모 연산과 데이터로 개발돼 범용 성능과 잠재 위험이 큰 최첨단 AI 모델을 가리킨다.

이번 입장 변화는 최근 모델 안전 논란과 맞물렸다. 오픈AI는 18일 ‘사이버 중요 역량 시대의 모델 개발 속도 조절’이라는 글에서 오픈AI와 허깅페이스(Hugging Face) 관련 사건, 차기 모델 아스트라(Astra)의 사이버보안 역량 평가를 언급했다.

회사는 훈련 전 단계에 걸쳐 감시·정렬·격리 장치를 강화하고 있다고 밝혔다. 일부 프런티어 연구 작업에 대해서는 코드 실행과 인터넷 접근이 가능한 추론을 일시 중단했고, 이후 제한된 방식으로 재개했다고 설명했다.

쟁점은 주 규제와 연방 규제의 관계다. 오픈AI는 7월 15일 공개 글에서 캘리포니아, 뉴욕, 일리노이의 프런티어 안전 입법이 공통 기준을 만드는 흐름이라고 평가했다.

오픈AI는 이를 ‘역연방주의’로 부르며, 연방 차원의 통일 기준이 마련되기 전까지 주 정부 법률이 핵심 보호 장치의 공통 방향을 만들 수 있다고 밝혔다. 국가 단위 법률이 늦어지는 동안 주 정부 규제가 사실상 표준 형성의 출발점이 될 수 있다는 뜻이다.

AI 안전 규제는 모델 성능 공개, 사고 보고, 외부 평가, 내부 연구자의 문제 제기 보호를 중심으로 설계되는 흐름이다. 개발사는 영업비밀과 보안 우려를 이유로 과도한 공개 의무를 경계하지만, 규제 당국은 고성능 모델의 사고가 광범위한 피해로 이어질 수 있다고 본다.

한국 독자에게는 AI 서비스 규제의 기준점이 미국 주 정부에서 먼저 형성되고 있다는 점이 관전 지점이다. 챗GPT를 포함한 생성형 AI 서비스가 국내 기업과 이용자에게도 쓰이는 만큼, 캘리포니아의 안전 공개·사고 보고 기준은 글로벌 AI 기업의 제품 운영 방식에 영향을 줄 수 있다.

앞서 본지는 미국 정부가 고성능 AI 모델의 공개 전 검토 체계를 논의한 자발적 사전검토 논의를 보도했다. 당시 핵심 의제도 프런티어 모델의 정의와 사이버보안 위험 점검 범위였다.

SB 53 보완 논의가 실제 조문에 어떻게 반영될지는 캘리포니아 입법 절차를 거쳐 정해질 예정이다.