앤트로픽 IPO 뒤에도 AI 속도조절…아모데이 “압력에 안 굴복”

앤트로픽은 기업공개(IPO) 이후에도 인공지능(AI) 모델의 학습과 배포 속도를 안전성 검증에 맞추겠다고 밝혔다. 상업적·정치적 압력보다 AI 시스템이 인간 통제 아래 안전하게 작동하는지 확인하는 데 필요한 시간을 우선하겠다는 방침이다.

다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 19일 나스닥 개장 행사에서 “AI 시스템이 안전하고 인간 통제 아래 남는다는 확신이 들 때까지 필요한 만큼 시간을 들이겠다”며 “상업적·정치적 압력에 굴복하지 않겠다”고 말했다고 테크크런치(TechCrunch)는 전했다. IPO 뒤에도 모델 개발 속도를 안전 기준에 맞추겠다는 기존 입장을 다시 밝힌 것이다.

아모데이는 IPO로 회사의 재무 상태가 더 강해졌고 올바른 결정을 내리겠다는 결의도 강화됐다고 말했다. 재무 기반을 넓힌 뒤에도 안전 판단의 기준은 유지하겠다는 설명이다.

아모데이는 9월 12일 공개한 글에서 AI 모델 성능 개선 속도를 늦춰 안전장치와 독립 검증이 따라잡을 시간을 확보하자고 제안했다. 그는 업계 공동 안전 기준과 제3자 평가자의 상시 참여를 통해 개발 과정에 외부 시선을 두자고 주장했다.

그가 말한 속도 조절은 AI 개발을 멈추자는 의미가 아니다. 안전장치와 외부 평가가 모델 성능 향상을 따라잡을 시간을 확보하자는 뜻이며, 독립 평가자가 모델 개발 과정에 지속적으로 접근하는 방안도 포함한다.

아모데이는 안전을 놓고 경쟁하는 '상향 경쟁'을 강조했다. 앤트로픽이 특정 시점에 선두인지와 관계없이 업계 전체가 더 높은 안전 기준을 채택하게 하자는 취지다.

그는 충분히 강력한 AI와 인간이 협력하면 한 세기의 과학·의학 발전을 10년으로 압축할 수 있다고 봤다. 다만 현재 성과는 초기 단계이며 실험과 임상시험에는 시간이 필요하다고 설명했다.

아모데이는 고객들이 AI를 경제 성장 촉진, 빈곤 탈출, 민주주의와 자유사회 보호, 일상 공공서비스 개선에 활용하고 있다고 말했다. AI가 과학·의학뿐 아니라 경제와 공공 영역에도 기여할 수 있다는 설명이다.

동시에 개인이나 국가의 악용, 경제적 혼란, AI 시스템 통제 상실을 실제 위험으로 꼽았다. 그는 이런 위험이 불가피한 것은 아니며 AI를 만드는 이들의 선택에 달렸다고 말했다.

앤트로픽은 △생물·사이버 위험 방어 △정렬 학습과 테스트 △모델 내부를 관찰하고 행동을 유도하는 해석 기술을 추진한다고 밝혔다. 회사는 이 방법들이 AI의 행동을 이해하고 인간 통제 아래 두기 위한 장치라고 설명했다.

AP통신은 IPO 이후 앤트로픽이 주주들의 수익 확대 요구와 안전 원칙 사이에서 긴장을 맞게 됐다고 전했다. 아모데이도 안전과 AI 발전 속도의 충돌을 회사의 '중심 긴장'으로 설명했다.

앤트로픽의 IPO 설명서에는 공익법인(PBC)으로서 주주 이익과 공익 목적을 함께 고려하도록 한 지배구조가 담겼다. 상장 뒤 주주 요구와 공익 목표를 함께 다루기 위한 제도적 틀이다.

장기공익신탁(LTBT)은 이사회 과반 이사를 선임·해임할 권한을 갖는다. 공동창업자들이 만든 Founder LLC는 일반 주주 의결권의 50.1%를 행사한다.

앤트로픽은 이 구조가 첨단 AI의 책임 있는 개발과 인류의 장기 이익을 함께 고려하기 위한 것이라고 설명했다. PBC와 LTBT, Founder LLC의 권한 배분은 상장 이후에도 안전 원칙을 지배구조에 남겨두는 방식으로 제시됐다.

아모데이는 기업공개가 장기 컴퓨팅 구매·임대 약정에 대응할 현금 완충 수단이라고 설명했다. 본지는 앞서 장기 컴퓨팅 구매·임대 약정에 대응해 IPO를 현금 완충 수단으로 설명한 내용을 보도했다. 구체적인 AI 학습·배포 속도와 외부 안전 평가 결과는 회사의 후속 공개 자료에서 확인될 사안이다.

본 기사는 시장 데이터 및 차트 분석을 바탕으로 작성되었으며, 특정 종목에 대한 투자 권유가 아닙니다.

Most Popular

지금 꼭 알아야 할 리포트