오데일리에 따르면 인공지능 기업 앤트로픽은 AI의 재귀적 자기개선(RSI)이 중대한 위험을 초래할 수 있다고 경고했다.
앤트로픽은 자사 AI 모델 클로드가 현재 회사 코드의 약 80%를 생성하고 있다며, 이는 AI가 사람의 개입 없이 차세대 AI 시스템 설계에 관여하는 단계로 진입했음을 보여주는 신호라고 설명했다.
앞서 오픈AI는 지난달 샌프란시스코에서 관련 회의를 열고 AI 자기개선의 가능성과 위험을 논의했다. 앤트로픽은 AI 성능이 빠르게 높아지는 만큼 예측 불가능한 행동을 감시하고 안전장치를 마련하는 일이 시급하다고 밝혔다.


