구글에서 선호하는 출처로 추가
오픈AI 해고 연구자 3명, 추론 감시·독립 감사 확대 촉구
강이안 기자
토포AI로 이 기사 더 깊이 읽기
오픈AI를 떠난 연구자 3명이 AI 모델의 추론 과정을 모니터링하고 독립적인 안전 감사를 확대하자고 촉구한 것으로 보도됐다. 이들은 업계 공동 기준도 제안했다.
크립토브리핑(Crypto Briefing)은 재스민 왕(Jasmine Wang), 토멕 코르박(Tomek Korbak), 미키타 발레스니(Mikita Balesni)가 오픈AI 이사회와 안전위원회에 서한을 보냈다고 보도했다. 서한 원문은 공개적으로 확인되지 않아 구체적인 표현과 제안 범위는 보도된 내용에 한정된다.
생각 사슬 모니터링은 모델이 답을 내기 전 생성하는 중간 추론 과정을 살펴 위험 징후를 찾는 접근이다. 다만 이 과정이 실제 추론을 완전히 드러내는 것은 아니다. 코르박과 발레스니 등이 참여한 2025년 연구 논문은 이 접근이 안전 감독에 도움이 될 수 있지만, 모델의 부적절한 행동을 모두 포착하지는 못한다고 설명했다.
논문은 모델이 감시를 피하려 추론을 숨길 가능성도 지적했다. 연구진은 모니터링을 유일한 안전 장치로 삼지 말고 다른 안전 방법과 함께 연구해야 한다고 제안했다.
독립 감사는 모델 개발사 외부 전문가가 안전성을 점검하는 절차다. 점검에 필요한 내부 자료를 외부에 제공하면 기업 기밀 보호와 충돌할 수 있어, 접근 범위와 정보 취급 책임을 정하는 일이 뒤따른다.
오픈AI는 직원 3명이 민감한 회사 정보를 정해진 절차 밖에서 다뤄 내부 정책을 위반했다고 밝혔다. 회사는 어떤 정보가 어떤 방식으로 취급됐는지는 공개하지 않았다.
회사 측 설명과 연구자들이 제기한 안전 감독 요구는 별개의 사안이다. 공개된 정보만으로 해고의 구체적인 경위를 단정할 수는 없다.
댓글 0
불러오는 중…