영국 의회, AI 안전검사·사고 보고 의무화 논의

최윤서 기자 2026.10.14 05:06

토포AI로 이 기사 더 깊이 읽기

강력한 AI 모델의 사전 안전검사와 안전사고 보고를 의무화할지가 영국 의회 논의에 올랐다. 독립 평가기관이 개발사에 자료를 요구하고 모델 출시를 막을 권한을 갖출지도 쟁점이다.

영국 하원 기업·혁신·과학·무역위원회는 10월 13일 AI 안전과 거버넌스를 주제로 공개 증거 청취회를 열었다. 오픈AI와 앤트로픽, 구글 딥마인드, 메타 관계자와 영국 AI 보안연구소(AISI), 정부 관계자가 출석했다. 위원회가 공개한 회의 의제에는 기업의 자율 규제와 법적 의무 비교, 독립 검사, 안전사고 의무 보고, 모델 출시 중단 권한이 담겼다.

회의 의제는 논의할 질문을 제시하지만 기업의 답변을 보여주지는 않는다. 오픈AI와 앤트로픽 관계자가 출석한 사실만으로 두 회사가 구속력 있는 규칙을 지지했거나 구체적인 규제안을 냈다고 볼 수는 없다.

규제 적용 범위에 따라 기업의 의무도 달라질 수 있다. 모든 AI 서비스에 같은 기준을 적용할지, 일정한 능력이나 위험 기준을 넘는 모델에만 사전 평가와 안전 관리 책임을 강화할지가 논의의 한 축이다. 위원회가 공개한 의제에는 기준을 정하는 방식이나 위반 시 제재가 구체적으로 제시되지 않았다.

AISI의 평가 권한과 강제력도 쟁점이다. 위원회는 AISI가 모델에 접근해 위험을 평가할 수 있지만, 개발사에 정보 공개를 강제하거나 출시를 중단시킬 권한은 반드시 갖고 있지 않다고 설명했다. 자발적 협조에 의존하는 평가와 법적 의무에 따른 평가는 개발사의 참여 방식과 기관의 개입 범위에서 차이가 난다.

국가 안보 대응 체계도 논의 배경에 있다. MI5는 10월 AI 위협평가센터(AITAC) 출범을 발표했다. 센터는 AISI와 국가사이버보안센터(NCSC) 등 여러 기관의 전문성을 모아 AI 관련 국가 안보 위협을 평가하고 정부 부처에 분석을 제공한다.

MI5가 밝힌 AITAC의 역할은 위협 평가와 정부 지원이다. 기업을 규제하거나 모델 출시를 중단시키는 권한은 발표 내용에 포함되지 않았다. 영국 의회 논의는 안전 평가를 기업의 자율 관리에 맡길지, 법적 의무와 독립기관의 권한으로 뒷받침할지를 다뤘다.