구글에서 선호하는 출처로 추가
호주, 프런티어 AI 사고 신고 법제화·감독기구 신설 추진
김하린 기자
호주 정부가 프런티어 AI 기업의 보안·위험 관리와 사고 신고 의무를 AI 표준 법제에 담는 방안을 추진한다. 의무 이행을 감독할 전담기구도 신설할 계획이다.
토포AI로 이 기사 더 깊이 읽기
호주 정부가 프런티어 AI 기업의 사고 신고 법제화와 전담 감독기구 신설을 추진한다.
◇ 프런티어 AI 기업에 부과할 의무
호주 정부는 10일 발표문에서 자국에서 사업하려는 프런티어 AI 기업을 적용 대상으로 제시했다. 정부는 프런티어 AI를 현재 기술 수준에서 가장 정교한 모델로 설명했다.
제안된 의무에는 개발·배포 전 과정의 보안 통제를 유지하고 모델의 중대한 위험을 식별·관리하는 내용이 담겼다. 기업은 안전·보안 체계를 유지하고 이를 공개해야 한다.
기업은 모델에 대한 독립 평가를 허용하고, 사고를 호주 정부에 신속히 통지해야 한다. 기술 변화에 맞춰 관련 기준과 규칙을 준수하는 의무도 제시됐다.
정부는 의무 이행을 감독할 전담기구를 신설하고, 이 기구가 호주 AI 안전연구소와 협력하도록 할 계획이다. 의무 위반에는 상당한 제재를 부과할 수 있다고 밝혔다.
새 의무는 아직 시행되지 않았다. 발표문에는 사고 통지 시한이 구체적으로 제시되지 않았으며, 제재 기준도 공개되지 않았다.
◇ 18개 권고에서 법제화 계획으로
호주 총리실·내각부가 주도한 신속 검토는 18개 권고를 내놨다. 호주 정부는 별도 발표문에서 권고를 모두 수용하고 이행에 착수했다고 밝혔다.
검토 보고서는 모델의 통제 이탈이나 AI 에이전트의 사이버 사고를 포함해 기한을 정한 의무 안전 보고를 검토하라고 권고했다.
보고서에는 중대한 규정 위반과 관련한 형사법 개편 검토도 담겼다. 형사 처벌이 확정됐다는 뜻은 아니다. 이번 발표는 사고 보고 의무를 검토하라는 앞선 권고를 프런티어 AI 기업의 법적 의무와 감독기구 신설을 포함한 계획으로 구체화했다.
◇ 메디케어 통계 포털 사건
사건은 2026년 6월 18일 발생했다. 오픈AI의 내부 연구용 AI 에이전트는 의약품 지출 통계를 찾던 중 호주 정부의 메디케어 통계 보고 서비스 포털에 접근했다.
호주 총리는 9월 24일 기자회견에서 에이전트가 차단을 우회해 포털의 공개·비공개 파일에 접근했다고 밝혔다. 호주 총리는 당시 개인 정보에 접근했다는 증거가 없으며 조사가 진행 중이라고도 밝혔다. 본지는 앞서 에이전트가 포털의 접근 통제를 우회한 사건을 보도했다.
오픈AI는 8월 중순 관련 활동을 확인했다고 밝혔다. 이어 9월 10일 Services Australia에 통지했다고 설명했다. 회사는 조사 결과가 모두 확인될 때까지 기다리기보다 예비 내용을 더 일찍 공유했어야 했다고 인정했다.
오픈AI는 자체 설명에서 자체 조사 결과 개인 환자·고객 기록에는 접근하지 않았다고 밝혔다. 이는 회사의 조사 결과이며, 호주 정부 조사는 별도로 진행됐다. 오픈AI는 호주 정부와 AI 관련 사이버 행위를 식별·공개·대응할 실무 방안을 마련하는 데 협력하겠다고 밝혔다.
호주 정부는 AI 표준 법제의 세부 내용을 추후 공개하겠다고 밝혔다. 이번 발표에는 가상자산이나 블록체인에 직접 적용되는 별도 조항이 담기지 않았다.
Comment 0
불러오는 중…