알렉스 카프(Alex Karp) 팔란티어(Palantir·$PLTR) CEO가 인공지능(AI)의 위험을 논할 때 개발사의 목표가 고객 이익과 공익에 부합하는지 살펴야 한다고 주장했다.
카프는 2일(현지시간) 공개한 3분기 주주서한에서 “정렬 문제는 분명히 존재하며 심각하다”고 밝혔다. 그는 핵심 과제가 기술의 목표를 인간의 이익에 맞추는 데 그치지 않고, AI 개발사의 목표와 고객 이익, 공익을 일치시키는 것이라고 설명했다.
정렬은 AI가 추구하는 목표를 사람이 원하는 방향에 맞추는 문제다. 카프는 AI 개발사의 목표와 고객·사회 전체의 이익이 일치하는지도 살펴야 한다고 강조했다.
카프가 이전부터 제기해 온 쟁점은 고객 데이터와 ‘알파’다. 그는 알파를 고객 기업이 쌓은 기술적 우위라는 뜻으로 사용하며, AI 개발사가 고객의 핵심 데이터와 알파를 자체 AI에 흡수하려 한다고 비판해왔다.
카프는 앞서 일본 민간 기업도 지식재산을 지키려면 AI 모델을 직접 개발·학습하고 통제해야 한다고 말했다. 이전 인터뷰에서는 AI 규제에 집행 가능한 가이드라인이 필요하다고도 밝혔다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular