베니오프 “AI, 소셜미디어 실패 반복하지 말아야”

마크 베니오프 세일즈포스($CRM) 최고경영자가 인공지능(AI) 산업에 소셜미디어의 실패를 반복하지 말고 강력해지는 AI 모델을 책임 있게 개발해야 한다고 촉구했다.

베니오프는 15일 미국 샌프란시스코에서 열린 세일즈포스 연례 행사 ‘드림포스’와 CNBC 인터뷰에서 AI 안전과 기업의 사회적 책임을 강조했다.

마크 베니오프(Marc Benioff) 세일즈포스($CRM) 최고경영자는 “소셜미디어로 많은 기업과 개인이 피해를 봤다”며 “AI에서는 그런 일이 일어나지 않기를 바란다”고 말했다. 과거 소셜미디어 기업이 사회적 영향을 충분히 고려하지 못한 사례를 AI 산업의 경고로 제시한 것이다.

베니오프는 AI 개발 자체를 중단하거나 늦춰야 한다고 주장하지는 않았다. 기술을 개발하는 기업이 AI가 초래할 수 있는 광범위한 결과를 고려하고, 실제 사용 과정에서 발생하는 문제에도 책임을 져야 한다고 강조했다.

그는 “AI가 이런 문제를 책임 있게 처리하고 윤리적으로 행동하도록 해야 한다”며 “윤리의 핵심은 책임”이라고 말했다. AI의 영향력이 커질수록 기업이 제품 성능뿐 아니라 지역사회와 사회 전체에 미치는 결과까지 살펴야 한다는 뜻이다.

베니오프는 이어 “이 기술은 매우 강력하다”며 기업들이 지역사회와 세계를 대하는 방식에서 윤리적으로 행동해야 한다고 말했다. 구체적인 규제안이나 업계 공동 기준을 제시한 발언은 아니었다.

이번 발언은 AI 안전 논쟁이 커지는 가운데 나왔다. 다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 최첨단 AI 모델 개발 속도를 늦춰 안전 조치가 따라잡을 시간을 확보해야 한다는 취지의 제안을 내놨다.

아모데이는 드림포스 무대에도 등장했다. 그는 베니오프의 책임론에 대해 업계가 모범을 보이고 계속 개선해야 한다는 취지로 말했다.

베니오프는 아모데이의 속도 조절론을 공식 지지하거나 특정 AI 기업을 비판하지는 않았다. 두 사람의 발언은 AI 개발 속도와 안전장치 확보 사이에서 기업이 어떤 책임을 져야 하는지를 둘러싼 논쟁이 업계 경영진 사이에서도 이어지고 있음을 보여준다.

세일즈포스가 AI 위험을 언급한 시점은 앤트로픽과의 협력을 확대하는 가운데서다. 양사는 앤트로픽의 클로드(Claude) 추론 기능을 세일즈포스의 기업 데이터와 업무 규칙에 연결하는 ‘클로드포스(Claudeforce)’를 공개했다.

클로드포스는 고객이 세일즈포스에 저장한 데이터를 클로드가 활용해 이메일 작성과 기록 업데이트 같은 업무를 수행하도록 돕는 협력 서비스다. 기업 데이터와 업무 흐름, 권한 체계를 AI 활용 환경에 연결하는 구조가 핵심이다.

세일즈포스가 드림포스에서 기업 데이터와 업무 흐름을 AI 에이전트에 연결하는 전략을 앞세운 것과도 이어지는 대목이다. 세일즈포스는 AI를 별도 기능이 아니라 CRM과 데이터, 업무 실행 체계에 결합하는 방향으로 확장하고 있다.

이 같은 구조에서는 모델 성능만큼 기업 내부 데이터에 대한 접근 권한과 업무 규칙, 결과를 검토하는 통제 체계가 중요해진다. AI가 기업 시스템에서 실제 업무를 수행할수록 오류나 오용이 발생했을 때 책임 주체를 어떻게 정할지도 함께 다뤄야 한다.

세일즈포스 주가는 15일 직전 거래일의 4.5% 이상 상승분 일부를 반납했다. 주가는 6월 말 기록한 52주 최저가 146달러보다 50% 이상 높은 수준으로 올라온 상태지만, 이번 발언이 주가 방향을 바꿨다고 단정할 수 있는 수치는 제시되지 않았다.

베니오프의 발언은 AI 개발 속도를 둘러싼 논쟁에서 세일즈포스가 기술 확산을 멈추기보다 책임과 윤리를 제품 운영의 핵심 조건으로 보고 있음을 확인한 사례다. 클로드포스의 공개 베타는 2026년 9월로 예고돼 있어, 기업 데이터와 업무 권한을 AI에 연결하는 과정에서 안전 원칙이 어떻게 적용될지 지켜볼 필요가 있다.