오픈AI, 캘리포니아에 AI 비상 종료 통제 제안

김미래 기자 2026.10.23 20:11

오픈AI가 캘리포니아주에 SB 53 강화를 제안했다. 보도된 서한에는 AI 모델의 비상 종료 통제와 연례 독립 감사, 사이버보안 강화가 담겼다.

토포AI로 이 기사 더 깊이 읽기

오픈AI가 캘리포니아주에 AI 모델의 비상 종료 통제와 연례 독립 감사를 도입하는 등 주법 SB 53을 강화하자고 제안했다.

오픈AI는 10월 20일 개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사에게 서한을 보냈다. 더 인포메이션(The Information)은 서한에 비상 종료 통제, 연례 독립 감사, 사이버보안 강화 제안이 담겼다고 보도했다. 사고 보고 요건의 구체적인 문구는 공개된 서한 전문에서 확인되지 않았다.

SB 53은 프런티어 AI 개발자에게 안전 프레임워크 공개와 특정 중대 안전 사고의 주정부 보고를 요구하고, 중대한 위험을 알린 내부고발자를 보호한다. 뉴섬 주지사는 2025년 9월 이 법에 서명했다. 비상 종료 통제와 연례 독립 감사는 현행 법의 의무가 아니라 오픈AI가 추가로 제안한 사항이다.

서한에는 기업의 안전 프레임워크가 프런티어 모델의 자동화된 AI 연구·개발 능력도 다뤄야 한다는 제안이 담겼다. 오픈AI는 9월 정책 글에서 2028년 3월까지 사람의 감독 아래 작동하는 자동화 AI 연구원을 만드는 목표를 제시했다.

오픈AI는 2025년 캘리포니아 규제 논의 당시 주마다 다른 규칙이 혁신을 늦출 수 있다고 우려했다. 회사는 2026년 9월 정책 글에서 의무적인 연방 AI 안전 규제를 촉구하면서, 연방 조치 전까지 주정부가 규제 공백을 메우는 방안도 지지한다고 밝혔다. 당시 SB 53과 독립 감사 조항에 대한 지지도 공개했다.

뉴섬 주지사의 2026년 9월 행정명령은 전문가들에게 독립 검증기관의 현장 배치와 정기 평가, 안전 프레임워크·위험평가의 외부 검증, 비상 종료 장치 등을 포함한 법 강화 권고안을 마련하도록 했다. 이는 조치의 시행이 아니라 추가 권고안을 검토하는 절차다.

독립 검증의 실효성은 앞선 업계 논의에서도 쟁점이었다. AI 안전평가단에 실질적인 접근권과 보호 장치를 보장하라는 공개서한도 나왔다. 캘리포니아가 앞서 검토한 SB 1047에는 규제 부담이 혁신을 위축시킬 수 있다는 반론이 제기됐고, 뉴섬 주지사는 2024년 이 법안에 거부권을 행사했다.