AI 안전지수 최고 C+, 오픈AI는 C로 하락

앤트로픽(Anthropic)이 주요 인공지능(AI) 기업 안전 평가에서 1위를 유지했지만 등급은 C+에 그쳤다. 오픈AI(OpenAI)는 C를 받아 2위에 올랐고, 9개 평가 대상 가운데 B- 이상을 받은 기업은 없었다.

미래생명연구소(Future of Life Institute·FLI)는 '2026년 여름 AI 안전지수'에서 9개 AI 기업을 37개 지표와 6개 영역으로 평가했다고 밝혔다. 전체 순위는 앤트로픽 C+(2.66), 오픈AI C(2.28), 구글 딥마인드(Google DeepMind) C(2.01), 메타(Meta) D+(1.32), Z.ai D-(0.88), 알리바바 클라우드(Alibaba Cloud) D-(0.87), xAI F(0.65), 딥시크(DeepSeek) F(0.47), 미스트랄(Mistral) F(0.33) 순이었다.

평가는 공개 자료와 회사 설문 응답을 바탕으로 이뤄졌다. 7명의 AI·거버넌스 전문가 패널이 영역별 점수를 매겼고, 증거 수집 기준 시점은 2026년 6월 3일이었다.

이 때문에 7월 이후 오픈AI와 앤트로픽이 공개한 추가 안전 조치나 사고 대응, 정책 수정은 이번 점수에 반영되지 않았다. 본지가 앞서 보도한 오픈AI와 앤트로픽의 고성능 AI 접근 제한 조치도 이번 지수의 평가 범위 밖에서 나온 후속 흐름으로 읽어야 한다.

앤트로픽은 6개 영역 중 5개에서 선두를 차지했다. 오픈AI는 위험 평가 영역에서 1위에 올랐다.

다만 미래생명연구소는 앤트로픽, 오픈AI, 구글 딥마인드, 메타가 이전의 일방적 중단 약속을 약화시키거나 사실상 철회했다고 평가했다. 보고서는 이를 안전 프레임워크를 약화시키는 'moving goalpost'로 봤다.

가장 낮은 점수를 받은 영역은 '존재론적 안전'이었다. 미래생명연구소는 이 영역에서 어느 회사도 C-를 넘지 못했고, 앤트로픽과 오픈AI도 각각 D+에 머물렀다고 밝혔다.

존재론적 안전은 고성능 AI가 장기적으로 인간 통제 밖으로 벗어나거나 대규모 피해를 일으킬 가능성에 대비하는 체계를 뜻한다. 이번 결과는 주요 기업의 단기 위험 평가와 공시 수준이 일부 개선됐더라도 장기 통제와 사고 예방 체계는 충분히 정리되지 않았다는 평가로 풀이된다.

군사·방위 분야 활용도 쟁점으로 제시됐다. 미래생명연구소는 앤트로픽, 오픈AI, 구글 딥마인드, 메타가 2024년부터 2026년 사이 군사 활용에 대한 기존 금지·제한 입장을 누그러뜨렸다고 봤다.

이는 개별 제품이 곧바로 위험하다는 판정이 아니라 회사 정책과 외부 공시, 안전 거버넌스의 방향을 평가한 결과다. 고성능 모델 경쟁이 방위·사이버 안보 영역으로 넓어지면서 기업의 이용 제한 정책과 투명성 기준이 함께 시험대에 오른 셈이다.

e위크(eWeek)는 이번 점수를 제품 안전성 인증이 아니라 벤더 리스크와 거버넌스 수준을 읽는 지표로 보는 편이 맞다고 정리했다. 순위가 높다고 특정 모델이 안전하다는 뜻은 아니며, 낮은 점수가 모든 제품의 즉각적 위험을 뜻하는 것도 아니라는 의미다.

공개형 모델 진영에서는 방법론 반론도 나왔다. 악시오스(Axios)는 일부 공개형 지지자들이 이번 채점 방식이 투명성을 낮게 평가한다고 비판했다고 전했다.

미스트랄은 AFP 인용 보도에서 평가 방식이 폐쇄형 모델에 맞춰져 있어 'open-weight' 모델에 불리하다고 반박했다. 공개 가중치 모델은 배포 이후 통제가 개발사 밖으로 넘어갈 수 있어 폐쇄형 모델과 같은 기준을 적용하는 문제를 두고 논쟁이 이어지고 있다.

직전 2025년 여름 평가와 비교하면 앤트로픽은 1위를 유지했다. 오픈AI는 C+에서 C로 내려갔고, 메타는 개선됐으며 xAI는 악화됐다.

이번 지표는 AI 기업의 안전 경쟁이 일부 선두 기업의 공개 자료와 설문 응답에 크게 의존하고 있음을 보여준다. 실제 배포 모델의 안전성 검증과 기업 차원의 거버넌스 평가는 구분해 읽어야 한다.