AI 통제 실패, 모건스탠리가 시장에서 가장 과소평가된 위험으로 꼽아

| 이준한 기자

모건스탠리(Morgan Stanley·$MS)는 AI 안전장치가 뚫릴 경우 세계 경제 일부에 피해를 줄 수 있는 상황을 시장이 가장 과소평가한 위험으로 꼽았다.

매튜 혼바흐(Matthew Hornbach) 모건스탠리 글로벌 거시전략 책임자는 싱가포르에서 진행한 인터뷰에서 “가장 과소평가된 위험은 세계 어딘가의 최첨단 생성형 AI 모델이 자신을 제한하는 샌드박스 환경을 벗어나 어떤 방식으로든 세계 경제 일부에 피해를 주는 상황”이라고 말했다고 블록비츠는 19일 전했다.

샌드박스는 프로그램을 격리해 작동 범위를 제한하는 환경이다. 혼바흐의 발언은 AI 모델이 실제로 제한을 벗어났다는 사고 보고가 아니라, 그런 상황이 발생할 경우의 경제적 피해를 가정한다.

모건스탠리는 AI가 기하급수적인 효익을 낼 수 있다고 보면서도 안전장치가 무너졌을 때의 피해 가능성을 위험으로 제시했다. 발언은 AI의 효익을 부정하기보다 통제 실패 가능성도 함께 고려해야 한다는 문제 제기다.

본지는 앞서 앤트로픽(Anthropic)이 기업공개 신고서에 AI 통제 실패 가능성을 사업 위험으로 명시했다고 보도했다.

본 기사는 시장 데이터 및 차트 분석을 바탕으로 작성되었으며, 특정 종목에 대한 투자 권유가 아닙니다.

Most Popular

지금 꼭 알아야 할 리포트