팔란티어 CEO "AI 주권, 모델보다 응용 계층 통제가 핵심"

팔란티어 CEO가 국가와 기업의 AI 주권은 단순히 모델을 고르는 문제가 아니라 데이터, 응용 계층, 보안 구조를 함께 통제하는 문제라고 강조했다. 핵심 산업 정보를 외부 모델 제공사로 흘려보내는 방식은 주권 확보와 반대 방향이라는 지적이다.

알렉스 카프 팔란티어 최고경영자(CEO)는 9월 2일(현지시간) G20 혁신장관회의에서 진행된 하워드 러트닉 미국 상무장관과의 대담에서 AI 생태계에서 각국이 미국 기업과 자국 기업이 맡을 기술 구조의 범위를 정해야 한다며, 실제 주권은 전문성과 폐쇄형 운용 환경을 갖춘 응용 계층에서 확보된다고 말했다.

팔란티어 CEO는 AI 기술이 모든 나라에 같은 방식으로 적용되는 선형 기술이 아니라고 설명했다. 국가마다 문화와 산업 구조가 다르기 때문에 "무엇이 작동하고 왜 작동하는지, 무엇이 작동하지 않는지"를 점검할 수 있는 사적 공간이 필요하다는 것이다.

그는 중국을 제외한 대부분의 국가는 AI 기술 구조 중 어느 부분을 미국 기업이 담당하고, 어느 부분을 자국 기업과 현지 전문가가 맡을지 결정해야 한다고 말했다. 해당 전문성은 매우 드물며, 팔란티어가 도울 수는 있지만 궁극적으로 각국이 스스로 보유해야 할 지식이라고 설명했다.

팔란티어 CEO는 AI 생태계를 연산 인프라, 최첨단 모델, 비최첨단 모델, 개방형 모델, 응용 계층으로 나눠 설명했다. 그는 특정 용도에서는 비최첨단 개방형 모델도 훈련을 통해 최첨단 모델처럼 활용될 수 있다고 평가했다.

공급망 최적화 사례도 제시했다. 한 국가나 기업이 신뢰하기 어려운 국가에 대한 의존도를 파악하고, 특정 부품을 다른 공급처로 대체할 때 비용과 영향을 계산하려면 모델의 답변만으로는 부족하다는 설명이다. 카프 CEO는 "응용 계층이 없는 모델은 답을 줄 수 있지만, 그 답은 100% 정확하지 않고 시간이 지나며 성능도 저하된다"고 말했다.

그는 국가 지도자나 기업 경영자가 AI 답변을 의사결정에 쓰려면 질문과 답변에 깔린 모든 가정을 분해해 검증할 수 있어야 한다고 지적했다. 이를 위해서는 독점 데이터를 어떤 방식으로 모델에 반영할지 이해하고, 폐쇄형 모델을 추가 훈련하거나 개방형 모델을 폐쇄 환경에서 필요한 질문과 답변에 맞게 훈련해야 한다고 설명했다.

아울러 기업의 제조 방식이나 핵심 공급망 정보가 대형 AI 연구소나 모델 제공사로 이전되는 상황을 경계해야 한다고 말했다. 그는 광고 캠페인에는 덜 신뢰하는 모델을 쓸 수 있어도 원자로 작동 방식 같은 핵심 산업 영역에는 같은 접근을 적용해서는 안 된다고 강조했다.

팔란티어의 역할에 대해서는 응용 계층과 통합 계층, 온톨로지를 통해 모델을 통제하고 데이터 외부 유출을 막는 구조를 제공한다고 설명했다. 다만 그는 팔란티어 제품 사용 여부와 관계없이 AI를 제대로 작동시키고 안전하게 만들려면 이런 구조가 필요하다고 말했다.

규제와 관련해서는 미국 밖의 AI 규제에서 기술 전문가의 역할이 부족하다고 비판했다. 팔란티어 CEO는 대규모 언어모델 배포를 돕는 일부 기업이 의도하지 않게 고객의 경쟁 우위를 모델 제공사로 넘기고 있다며 "이것은 주권이 아니라 반주권"이라고 말했다.

그는 AI 개발을 누가 감시할지도 어려운 문제라고 평가했다. 전문성이 필요하지만 동시에 그 전문가가 특정 기업의 이해관계를 대변하는지 확인해야 한다는 것이다. 카프 CEO는 많은 전문가가 실제로는 특정 기업을 대표하고 있다며, 규제와 감시 모두 기술적 이해를 바탕으로 설계돼야 한다고 강조했다.

TokenPost AI 유의사항 TokenPost.ai 기반 언어 모델을 사용하여 작성된 기사입니다. 본문의 주요 내용이 제외되거나 사실과 다를 수 있습니다.