뉴욕주 AI 개발사 등록 포털 개설…보고 의무 2027년 시작

뉴욕주가 10일(현지시간) 대형 프런티어 AI 개발사를 위한 등록 포털을 열었다. 법정 요건을 충족하는 개발사는 2027년 1월 1일까지 등록해야 한다.

뉴욕주지사실은 발표문에서 신설 감독 조직 디지털 혁신·거버넌스·청렴·신뢰국(Office of Digital Innovation, Governance, Integrity, and Trust·DIGIT)이 온라인 등록을 시작했다고 밝혔다. 포털 개설과 법 시행은 별개로, 공개·보고 의무는 2027년 1월 1일부터 적용된다.

뉴욕주 법률은 훈련에 사용한 연산량이 10의 26제곱회를 넘는 범용 기반 모델을 ‘프런티어 모델’로 정의한다. 이를 개발하는 기업은 법률상 ‘프런티어 개발사’에 해당한다.

계열사를 합산한 직전 연도 연간 총매출이 5억달러(약 6725억원)를 넘으면 프런티어 개발사 중에서도 ‘대형 프런티어 개발사’로 분류된다. 기업 이름만으로 등록 대상 여부를 판단할 수는 없다.

대형 개발사는 안전 체계를 마련해 자사 웹사이트에 공개해야 한다. 여기에는 대형 사고 위험을 평가하고 완화하는 절차와 제3자 평가 활용, 안전 사고 대응 방식이 담긴다.

안전 체계에는 미출시 모델의 핵심 데이터인 ‘가중치’를 무단 변경이나 유출로부터 보호하는 방안도 포함해야 한다. 개발사는 이 체계를 적어도 매년 검토해야 한다.

모델 투명성 보고서는 대형 개발사에만 요구되지 않는다. 프런티어 개발사는 새 모델을 배포하거나 기존 모델을 크게 바꾸기 전 또는 그와 동시에 보고서를 공개해야 한다.

보고서에는 모델 출시일과 지원 언어, 사용 목적, 이용 제한 사항 등이 담긴다. 대형 개발사는 중대한 위험 평가 결과와 외부 평가자의 참여 정도도 요약해야 한다.

중대 안전 사고 보고 의무는 뉴욕주에서 프런티어 모델을 개발·배포·운영하는 개발사 전체에 적용된다. 개발사는 사고가 발생했다고 판단하거나 이를 믿을 만한 사실을 알게 된 때부터 72시간 안에 DIGIT에 보고해야 한다.

사고로 사망이나 중상 위험이 임박했다면 개발사는 관할 당국에 24시간 안에 알려야 한다. 개별 사고 보고서는 뉴욕주 정보공개 청구 대상에서 제외된다.

대형 개발사가 공개·보고 문서를 제출하지 않거나 정해진 안전 체계를 따르지 않으면 뉴욕주 법무장관이 민사 소송을 제기할 수 있다. 법률상 제재 상한은 첫 위반 때 100만달러(약 13억4500만원), 이후 위반 건당 300만달러(약 40억3500만원)다.

등록 신고서를 내지 않으면 별도로 하루 1000달러(약 134만5000원)의 제재금이 부과될 수 있다. 등록 조항에 규정된 금액으로, 법무장관이 소송을 통해 청구할 수 있는 위반 제재금과는 별도다.

뉴욕주는 등록 포털과 함께 뉴욕주립대 빙엄턴대에 AI 책임·연구센터를 출범시켰다. 센터는 뉴욕주 연구자 80명 이상을 모아 첨단 AI 시스템의 안전성과 보안을 독립적으로 평가할 계획이다.

주정부 요청을 받으면 센터는 감독에 필요한 전문성과 평가 자료를 제공할 수 있다. DIGIT과 함께 개발사가 공개한 안전 체계를 검토하고 개선 권고도 내놓을 예정이다.

캐시 호컬(Kathy Hochul) 뉴욕주지사는 “AI 기업의 말만 믿기에는 위험이 너무 크다”고 말했다. 개발사의 자체 설명에만 의존하지 않고 독립 연구진의 평가를 감독에 활용하겠다는 취지다.