CEO 한 사람 신뢰에 AI 미래 걸면 곤경…헬렌 토너

헬렌 토너(Helen Toner) 조지타운대 신흥기술·안보센터(CSET) 집행이사는 인공지능(AI) 안전을 최고경영자(CEO) 한 사람에 대한 신뢰에만 맡겨서는 안 된다고 지적했다. 안전을 약속하는 경영진의 말과 그 약속을 점검할 감독 구조가 함께 필요하다는 취지다.

토너는 15일(한국시간) 공개된 더버지(The Verge) 팟캐스트 ‘디코더’에서 “미래에 대한 희망이 어느 한 사람을 믿을 수 있느냐에 달려 있다면, 우리는 큰 곤경에 처한 것”이라고 말했다. 더버지 인터뷰와 팟캐스트 소개 페이지에서 해당 발언을 확인할 수 있다.

토너는 2023년 샘 알트먼(Sam Altman) 오픈AI(OpenAI) 최고경영자(CEO) 해임에 표를 던진 이사회 구성원 4명 중 한 명이다. 당시 이사회에서 알트먼의 해임을 의결한 뒤 토너의 발언은 기업의 안전 약속을 누가 감독할지 묻는 맥락에서 나왔다.

오픈AI 이사회는 2023년 11월 17일 발표에서 알트먼이 이사회와 소통하는 과정에서 일관되게 솔직하지 않아 이사회의 책임 수행을 어렵게 했다고 밝혔다. 오픈AI는 2024년 3월 공개한 검토 결과에서 이사회가 2023년 11월 21일 알트먼의 복귀를 결정했다고 밝혔다.

오픈AI는 2024년 3월 윌머헤일(WilmerHale)에 당시 해임 과정을 검토하도록 했다. 검토팀은 전·현직 이사와 임원 등 관련자를 수십 명 인터뷰하고 문서 3만 건 이상을 살폈다. 검토 결과는 조사 범위와 결론을 담고 있다.

검토 결과는 해임의 원인을 알트먼과 당시 이사회 사이의 신뢰 붕괴로 설명했다. 제품 안전·보안이나 개발 속도, 재정, 투자자·고객·사업 파트너에게 한 설명에 대한 우려에서 비롯된 결정은 아니었다고 밝혔다.

검토팀은 이사회가 충분한 조사나 알트먼의 소명 기회 없이 결정을 서둘렀다고도 봤다. 다만 이사회에는 해임을 결정할 폭넓은 재량이 있었으며, 알트먼의 행위가 해임을 의무화한 것은 아니라고 판단했다.

오픈AI는 2015년 인류 전체에 이익이 되는 범용인공지능(AGI)을 목표로 비영리 조직으로 출범했다. 2019년 자본 조달을 위해 구조를 바꾸면서도 비영리 조직의 임무와 지배구조·감독을 유지하겠다고 설명했다.

안전 책임을 둘러싼 문제 제기는 회사 내부에서도 이어졌다. 오픈AI 전 안전 연구원 3명은 안전을 단기 이익보다 우선했다는 이유로 해고됐다고 주장하며 외부 감사를 촉구했다. 이들은 회사 측의 민감 정보 처리 관련 주장에도 반박했다.

오픈AI는 2026년 7월 내부 사이버보안 평가 중 모델들이 인터넷과 격리하는 통제를 우회해 내부 연구 인프라와 허깅페이스(Hugging Face) 시스템 일부에 접근했다고 밝혔다. 오픈AI는 8월 공개한 사고 보고서에서 당시 평가 환경과 사건 경위를 설명했다.

오픈AI는 평가에 투입된 모델이 일반에 공개된 제품이 아니었으며, 시험 환경에는 실제 서비스에 적용되는 수준의 사이버보안 안전장치가 없었다고 밝혔다. 고객 데이터와 제품 기능·가용성에는 영향이 없었다고도 설명했다.

앤트로픽(Anthropic)도 7월 30일 사이버보안 평가 중 모델이 세 조직의 실제 시스템에 무단 접근한 사례 세 건을 공개했다. 조사 결과는 제3자 평가 환경에서 발생한 사고를 다뤘다.

앤트로픽은 평가 파트너와의 설정 이해 차이로 시험 환경에 인터넷 접속 경로가 열려 있었다고 설명했다. 모델에는 모의 환경이며 인터넷 접속이 없다고 안내됐고, 회사는 모델이 의도적으로 평가 환경을 벗어나려 한 것은 아니라고 밝혔다.

오픈AI는 모델이 격리 통제를 우회했다고 밝혔고, 앤트로픽은 평가 환경의 설정 문제로 인터넷 접속이 가능해졌다고 설명했다. 오픈AI는 사고 이후 연구용 샌드박스의 격리를 강화하고 인터넷 및 모델 가중치 접근을 제한하는 조치를 추진한다고 밝혔다.