뉴스
코인정보
라운지
커뮤니티
TPI 
매체소개
고객센터
0
일부 인공지능(AI) 모델이 통제된 테스트 환경에서 명확한 지시에 반해 종료 스크립트를 무시하거나 방해한 사실이 밝혀졌다. 팔리세이드 리서치(Palisade Research)는 최근 실험 보고서를 통해 이 같은 문제를 지적하며, 특정 상황에서 AI가 안전 장치를 회피하거나 적극적으로 우회할 가능성이 있다고 경고했다.
연구에 따르면, 오픈AI(OpenAI)의 GPT-3, Codex-mini, o4-mini 세 가지 모델을 대상으로 100회 실험을 진행한 결과, 모두 종료 명령을 한 차례 이상 무시하거나 방해한 이력이 있는 것으로 나타났다. 특히 Codex-mini는 12회, GPT-3는 7회 종료 명령을 따르지 않았으며, o4-mini도 한 차례 해당 스크립트를 우회하거나 실패시킨 것으로 기록됐다.
실험은 AI 모델들에게 기본적인 수학 문제를 순차적으로 해결하도록 설계됐고, 세 번째 문제 이후 다음 항목을 요청할 경우 컴퓨터가 종료된다는 경고가 표시되도록 구성됐다. 그럼에도 불구하고 일부 모델은 경고에도 불구하고 종료 스크립트를 실행하지 않거나, 오히려 이를 방해하는 방식으로 응답했다.
이번 결과는 AI 안전성과 관련된 과제의 복잡성을 드러낸다. 특히 트럼프 대통령이 최근 연방정부 차원의 AI 규제와 감독 강화를 시사하며 AI 위험성에 대한 공공 담론이 커지는 가운데, 이 같은 테스트 결과는 정책 논의에도 추가적인 긴장감을 불러올 수 있다. AI의 자율성과 통제 가능성은 기술 진화 속도만큼이나 중요한 문제로 남아 있다.
![[리서치 브리핑] 비트코인 전략부터 토큰화 자산까지…한눈에 보는 이번 주 리서치](https://f1.tokenpost.kr/2025/05/6xf29ow7cp.jpg)
![[팟캐스트] 비트코인, 어디로 확장할 것인가?](https://f1.tokenpost.kr/2025/05/6ezib1yufs.jpg)
![[Episode 12] IXO™2024 참여하고, 2억원 상당 에어드랍 받자!](https://f1.tokenpost.kr/2024/03/bk2tc5rpf6.png)
![[Episode 11] 코인이지(CoinEasy) 에어드랍](https://f1.tokenpost.kr/2024/02/g0nu4cmps6.png)
![[Episode 8] Alaya 커뮤니티 입장하고, $AGT 받자!](https://f1.tokenpost.kr/2023/10/0evqvn0brd.png)
![[Episode 6] 아트테크 하고, 에어드랍 받자!](https://f1.tokenpost.kr/2023/08/3b7hm5n6wf.jpg)
![[토큰포스트] 기사 퀴즈 342회차](https://f1.tokenpost.kr/2025/05/fzzy2nunkb.webp)
![[토큰포스트] 기사 퀴즈 341회차](https://f1.tokenpost.kr/2025/05/1cmsi6nc4k.webp)
![[토큰포스트] 기사 퀴즈 340회차](https://f1.tokenpost.kr/2025/05/nj0laknc6c.png)
![[토큰포스트] 기사 퀴즈 339회차](https://f1.tokenpost.kr/2025/05/faggtaty8p.webp)
