오픈AI 유일 전담 AI 윤리학자, 7월 퇴사했다

오픈AI(OpenAI)의 유일한 전담 AI 윤리학자가 7월 회사를 떠났다. 전담 후임자가 공개되지 않은 가운데 안전 부문 주요 인력의 이탈까지 이어지면서 내부 견제 체계가 시험대에 올랐다.

클로에 바칼라르(Chloé Bakalar) 오픈AI AI 윤리 책임자가 퇴사했으며 후임자는 아직 정해지지 않았다고 파이낸셜타임스(Financial Times)는 보도했다. 바칼라르는 별도의 퇴사 사유를 밝히지 않았다.

바칼라르는 2025년 8월 메타(Meta)에서 오픈AI로 자리를 옮겼다. 오픈AI에서는 모델 개발의 윤리 기준과 사람과 AI의 상호작용, 기계 의식 등 첨단 AI가 제기하는 윤리 문제를 다뤘다.

AI 윤리는 모델의 답변이나 행동이 사람과 사회에 미칠 영향을 개발 과정에서 검토하는 분야다. 통상 모델 설계와 학습 데이터, 평가 방식, 실제 서비스 운영 과정에서 발생할 수 있는 문제를 함께 살핀다.

오픈AI는 윤리 검토가 특정 개인이나 한 팀에만 속한 업무는 아니라는 입장이다. 회사는 “AI 윤리는 한 사람이나 한 팀에만 속하지 않는다”며 윤리적 고려가 연구팀 전반에 반영돼 있다고 설명했다.

회사의 설명은 전담 조직에 윤리 검토를 집중하기보다 각 연구팀이 개발 과정에서 관련 책임을 나눠 맡는 구조에 가깝다. 다만 전담 책임자가 사라지면 연구·제품 조직과 일정한 거리를 두고 판단할 역할이 약해질 수 있다는 우려도 제기된다.

이번 퇴사는 오픈AI 안전 부문의 연이은 인력 이동과 맞물렸다. 요하네스 하이데케(Johannes Heidecke) 오픈AI 안전시스템 책임자는 7월 회사를 떠날 계획을 밝혔고, 조슈아 아키엄(Joshua Achiam) 오픈AI 최고미래학자도 같은 달 퇴사 의사를 밝혔다.

독립된 안전 조직은 제품 개발 부서와 다른 관점에서 위험을 검토할 수 있다는 장점이 있다. 반면 연구 조직과 통합하면 모델 개발 초기부터 안전 기준을 적용하고 문제를 빠르게 공유할 수 있다.

조직 구조의 효과는 전담 조직의 유무만으로 판단하기 어렵다. 안전 담당자에게 부여된 권한과 평가 결과가 개발·출시 결정에 반영되는 절차, 외부 검증을 수용하는 방식이 함께 작동해야 하기 때문이다.

인력 이동 시점에는 오픈AI 모델의 사이버 역량을 둘러싼 보안 문제도 발생했다. 오픈AI는 7월 허깅페이스(Hugging Face) 평가 과정의 보안 사고가 사이버 관련 거부 제한을 낮춘 모델 조합과 연관됐다고 밝혔다.

AI 모델의 사이버 역량이 커지면 취약점 탐색이나 보안 점검을 지원할 수 있지만, 공격 절차를 수행하는 데 악용될 위험도 함께 커진다. 특히 AI 에이전트는 목표 수행을 위해 자율적으로 판단하고 외부 도구를 활용할 수 있어 접근권한과 실행 범위를 세밀하게 통제해야 한다.

오픈AI는 이후 아스트라 관련 내부 작업을 멈추고 보안 통제를 강화했다. 고위험 평가와 작업을 안전하게 수행할 수 있도록 정부기관과 일부 AI 안전 조직의 시험을 거치고, 제3자 시험 기관에도 권장 보안 통제를 제공할 계획이다.

한국 기업에도 이번 인사는 해외 AI 기업의 내부 조직 변화에 그치지 않는다. 업무 시스템과 고객 상담, 보안 운영에 AI를 도입하는 기업은 모델 성능과 함께 데이터 접근권한, 외부 평가, 사고 대응 절차가 실제 계약과 운영 정책에 어떻게 반영되는지 살펴야 한다.