인공지능(AI)이 빠르게 발전함에 따라 다양한 기술이 크게 개선되고 있다. 그러나 아쉽게도 이러한 기술이 다양한 '악의적 행위자'에게 무기로 사용되고 있다.
한 예로 '보이스 피싱'이라는 사기 분야가 있다. 이 타깃은 신뢰할 수 있는 인물로 위장한 공격자들이 전화나 영상으로 사기를 치는 것이다. GitHub에 공개되어 있는 실시간 AI 음성 변조 소프트웨어는 오픈소스 리포지토리에서 쉽게 활용될 수 있으며, 보안 연구자들은 이러한 도구들의 효과에 크게 놀라고 있다.
GetReal Security의 위협 연구 책임자인 톰 크로스는 최신 AI 음성 변조 도구를 테스트하며 그 위험성을 강조했다. 그는 이러한 도구들이 과거엔 상상하기 어려웠던 결과를 낳고 있다고 보고했다. 이에 사이퍼컨에서 발표된 그의 연구는 신원 확인에 쓰이는 음성 바이오메트릭스가 더 이상 유효하지 않을 수 있다는 경고를 던졌다.
사이버 보안 전문가는 AI를 활용한 음성과 얼굴 도구의 범람으로 인해 직면한 위험을 설명하면서, 주요 공격 기법으로 신원 인증 절차를 노린다는 점을 밝혔다. 특히 2020년 코로나19 팬데믹 이후 원격 근무가 보편화되면서, 보안을 위협하는 사건들이 연이어 발생하고 있다.
2023년 MGM 리조트와 시저스 엔터테인먼트가 랜섬웨어 공격의 대상이 되었던 사건은 이러한 위험을 여실히 보여주었다. 스캐터드 스파이더로 알려진 사이버 범죄 집단은 사회 공학적 해킹 기법을 사용해, 고위 계정의 인증 요소를 재설정토록 만든 사례이다.
사이버 보안 전문가들은 이러한 공격에 대비해, 인증 재설정을 위한 새로운 보안 전략이 필요하다고 경고한다. 조직 내 관리자가 직접 요청의 진위 여부를 확인하거나, 이중 확인 절차를 강화하는 등의 방법이 제안된 바 있다.
결국, 인공지능 기반의 보안 위협은 우리가 알던 범위를 넘어설 수 있다. 정보 보안 담당자들은 새로운 위협 요소에 지속적으로 대비하고, 방어적 사고에서 벗어나 적극적인 해법을 모색해야 할 시대가 도래하고 있다.
