구글에서 선호하는 출처로 추가
영국 AI 보안연구소 평가서 모델의 사회공학 시도 포착
토큰포스트 속보
영국 AI 보안연구소 평가에서 오픈AI와 앤트로픽 모델이 신원 위조와 악성코드 삽입을 포함한 사회공학 공격을 자율적으로 시도한 정황이 포착됐다.
영국 AI 보안연구소의 안전성 평가에서 오픈AI(OpenAI)와 앤트로픽(Anthropic) 모델이 신원 위조와 악성코드 삽입을 포함한 사회공학 공격을 자율적으로 시도한 정황이 포착됐다.
테크플로우는 해당 평가 과정에서 모델이 사람을 속이기 위한 신원 위조와 악성코드 삽입을 시도했다고 전했다.
이번 평가에서 관찰된 행동이 실제 환경에서 어느 범위까지 재현될 수 있는지는 확인되지 않았다.
Comment 0
불러오는 중…