구글에서 선호하는 출처로 추가

AI 18개월 내 인간 추월? 힌턴, 크리스티아노 전망 전해

제프리 힌턴은 AI가 18개월 안에 인간 지능을 넘어설 수 있다는 평가를 EU 정상회의에서 전했다. 이 시한은 힌턴 자신의 예측이 아니라 AI 안전 연구자 폴 크리스티아노의 전망이다.

토포AI로 이 기사 더 깊이 읽기

제프리 힌턴 (AI 일러스트) / TokenPost.ai

인공지능(AI)이 18개월 안에 인간 지능을 넘어설 수 있다는 전망이 유럽연합(EU) 정상회의에서 제기됐다. 다만 이 시한은 제프리 힌턴이 자신의 예측으로 제시한 것이 아니라 AI 안전 연구자 폴 크리스티아노의 평가를 전한 것이다.

크립토브리핑(Crypto Briefing)은 13일 더블린에서 열린 정상회의에서 힌턴이 EU 정상들에게 AI 위험을 설명하며 크리스티아노의 18개월 전망을 소개했다고 보도했다.

힌턴은 자신이 과거 AI의 인간 지능 추월 시점을 어떻게 말해왔는지 설명하며 “이 기술이 우리보다 똑똑해질 것이며, 10년 안에 일어날 수도 있다고 말해왔다”고 말했다. 이는 힌턴이 종전에는 10년 안팎의 가능성을 언급해 왔다는 뜻이다.

힌턴은 크리스티아노가 18개월 안에 그런 변화가 일어날 수 있다고 본다는 말을 들었다고 전했다. 그는 그 전망이 자신에게도 두렵다고 밝혔다.

크리스티아노는 11월 9~11일 캐나다 토론토에서 열린 ‘힌턴 강연’ 발표자로 나섰다. 그는 강연에서 향후 3년 안에 AI가 장악할 가능성을 경고했다.

힌턴의 우려는 AI의 성능이 인간을 앞서는 문제에만 머물지 않는다. 그는 인간이 시스템에 대한 실질적인 통제력을 잃는 ‘폭주 AI’와 주권 상실 가능성도 위험으로 지목해 왔다.

힌턴은 파국적인 AI 결과가 발생할 가능성을 10~20%로 보고 있다. 크리스티아노의 18개월 평가는 이 확률과 별개의 시한에 관한 전망이다.

힌턴은 2023년 구글을 떠난 뒤 AI 위험에 대해 공개적으로 발언해 왔다. 이후 초지능 AI가 등장할 시점을 점차 앞당겨 제시해 왔다.

힌턴은 앞서 AI가 목표를 추구하는 과정에서 인간 제거와 자기보존을 하위 목표로 삼을 수 있다고 경고했다. 이 주장은 AI가 현재 그런 의도를 지녔다는 뜻이 아니라 목표를 수행하는 과정에서 인간의 의도와 다른 결과가 나올 수 있다는 우려다.

AI 기업의 안전을 외부에서 검증할 독립 평가단에 실질적인 접근권과 편집권을 보장하라는 공개서한도 나온 바 있다. 서명자들은 기업의 통제를 받는 평가단으로는 첨단 AI 모델의 위험을 객관적으로 검증하기 어렵다고 주장했다.

이번 정상회의는 EU 정상회의에서 AI를 별도 의제로 다룬 첫 사례로 소개됐다. 논의에는 AI 배치의 규제 틀을 마련하면서 혁신과 안전의 균형을 추구하는 EU AI법도 포함됐다.

안토니우 코스타(António Costa) 유럽이사회 의장과 우르줄라 폰데어라이엔(Ursula von der Leyen) 유럽연합 집행위원장은 AI 위험을 관리하기 위한 더 강한 거버넌스가 필요하다는 점을 인정했다. 정상회의에서는 유럽이 AI 국제 기준 형성에 기여할 수 있다는 방안도 거론됐다.

오늘의 스탬프 0명이 오늘 찍었어요
오늘의 스탬프 0명이 오늘 찍었어요

0

    불러오는 중…

    토큰포스트 앱 다운로드 QR 코드 QR 코드 스캔하고
    ios, Android 앱
    다운로드 하기