미국 인공지능(AI) 산업의 중심지인 캘리포니아가 AI 개발 기업에 대한 최초의 포괄적 안정성 기준을 도입하며 전 세계 기술업계를 주목시키고 있다. 29일(현지시간) 개빈 뉴섬 캘리포니아 주지사는 '최첨단 인공지능 투명성법(S.B. 53)'에 서명하고 이를 공식 법률로 제정했다. 이 법은 AI 시스템이 수반할 수 있는 잠재적 위험성을 기업들이 사전에 공개하고, 일정 수준 이상의 안전성을 확보하도록 의무화했다.
이 법안은 민주당 소속 스콧 위너 상원의원이 발의한 것으로, 앞서 비슷한 내용이 담긴 S.B. 1047이 뉴섬 주지사의 거부권 행사로 폐기된 바 있다. 그러나 AI 기술 발전 속도와 관련 위험성 논란이 고조되면서, 업계와 시민단체의 광범위한 지지를 얻어 이번엔 최종 입법에 성공했다. 뉴섬 주지사는 "AI 안전에 대한 국가적 로드맵이 부재한 상황에서 캘리포니아가 균형 잡힌 규제 모델을 제시하게 됐다"고 강조했다.
S.B. 53의 핵심은 ‘프론티어 AI’, 즉 인간 수준 또는 그 이상으로 발전하고 있는 AI 시스템에 대한 규제다. 구체적으로, 일정 기준을 넘는 대규모 AI 모델을 개발하거나 운영하는 기업은 위험 분석 보고서 제출, 시스템 투명성 확보, 이상 징후 탐지 체계 마련 등을 의무적으로 이행해야 한다. 여기에 더해, 부적절한 관행이나 잠재적 위협을 내부 고발하는 직원과 임원에 대해 법적 보호장치도 제공된다.
이번 법률은 메타 플랫폼(META), 오픈AI, 구글(GOOGL), 앤트로픽(Anthropic), 엔비디아(NVDA) 등 실리콘밸리를 거점으로 활동 중인 글로벌 AI 기업들에게 직접적인 영향을 미칠 것으로 보인다. 포브스가 선정한 세계 상위 50개 AI 스타트업 중 32곳이 실리콘밸리 인근에 포진해 있다는 점에서, 이 법의 실질적 범위는 단일 주 차원을 넘어선다.
정치권과 업계에서도 상반된 반응이 나왔다. 공화당 소속 조시 하울리 상원의원과 민주당의 리처드 블루멘탈 상원의원은 같은 날, 연방 차원의 AI 규제 법안을 공동 제안하며, AI 기업이 자사 시스템으로 인해 발생할 수 있는 사고 가능성을 자료로 제출하도록 요구했다. 이에 대해 오픈AI는 "연방 정부와의 규제 조화를 위해 중요한 진전"이라고 평가하면서도, "제대로 이행될 경우에 한해 의미가 있다"고 덧붙였다.
앤트로픽 공동 창업자이자 정책 총괄인 잭 클라크는 이번 법이 "기술적 부담을 최소화하면서도 프론티어 AI 기업들에게 의미 있는 투명성 기준을 부여했다"고 평했다. 이와는 반대로 일부 기업과 전문가들은, 주 단위 규제가 미국 전체의 AI 경쟁력을 약화시킬 수 있다는 우려도 제기하고 있다.
이번 조치는 AI 기술 발전 속도에 비례해 사회적 안전 장치 마련 역시 시급해졌다는 시각에서 이해할 수 있다. 뉴섬 주지사는 “우리는 지역사회를 보호하면서도 AI 산업의 건강한 성장을 담보할 수 있다”고 밝혔으며, 위너 의원은 이번 입법이 책임성과 공정성, 신뢰성을 위한 ‘상식 기반의 가드레일’이라고 강조했다.
캘리포니아의 사례는 국가 차원의 AI 규제가 아직 정비되지 않은 미국에서 향후 주 정부의 역할과 유사 입법 확산에 중요한 선례가 될 전망이다. AI 안전성과 국가 경쟁력, 기술 혁신 사이 절묘한 균형을 맞추려는 첫 번째 본격 시도로서 S.B. 53의 효과는 조만간 본격적으로 시험대에 오르게 될 것이다.
<저작권자 ⓒ TokenPost, 무단전재 및 재배포 금지>