AI 통제 실패, 모건스탠리가 시장에서 가장 과소평가된 위험으로 꼽아
매튜 혼바흐는 최첨단 생성형 AI 모델이 샌드박스를 벗어나면 세계 경제 일부에 피해를 줄 수 있다는 시나리오를 제시했다.
토포AI로 이 기사 더 깊이 읽기
모건스탠리(Morgan Stanley·$MS)는 AI 안전장치가 뚫릴 경우 세계 경제 일부에 피해를 줄 수 있는 상황을 시장이 가장 과소평가한 위험으로 꼽았다.
매튜 혼바흐(Matthew Hornbach) 모건스탠리 글로벌 거시전략 책임자는 싱가포르에서 진행한 인터뷰에서 “가장 과소평가된 위험은 세계 어딘가의 최첨단 생성형 AI 모델이 자신을 제한하는 샌드박스 환경을 벗어나 어떤 방식으로든 세계 경제 일부에 피해를 주는 상황”이라고 말했다고 블록비츠는 19일 전했다.
샌드박스는 프로그램을 격리해 작동 범위를 제한하는 환경이다. 혼바흐의 발언은 AI 모델이 실제로 제한을 벗어났다는 사고 보고가 아니라, 그런 상황이 발생할 경우의 경제적 피해를 가정한다.
모건스탠리는 AI가 기하급수적인 효익을 낼 수 있다고 보면서도 안전장치가 무너졌을 때의 피해 가능성을 위험으로 제시했다. 발언은 AI의 효익을 부정하기보다 통제 실패 가능성도 함께 고려해야 한다는 문제 제기다.
본지는 앞서 앤트로픽(Anthropic)이 기업공개 신고서에 AI 통제 실패 가능성을 사업 위험으로 명시했다고 보도했다.

이준한 기자 




Comment 0
불러오는 중…