AI 에이전트 확장, '검증 체계' 없인 실패한다…전문가들이 꼽은 핵심 리스크는?
벤처비트 트랜스폼 2025에서 기업들은 AI 에이전트 확산에 따른 성과와 동시에 검증 체계 구축의 중요성을 강조했다. 전문가들은 복잡한 운영 환경 속 안정성과 품질을 확보하려면 LLM 기반 AI의 고유한 불확실성에 맞춘 평가 인프라가 필수라고 말했다.
벤처비트 트랜스폼 2025에서 기업들은 AI 에이전트 확산에 따른 성과와 동시에 검증 체계 구축의 중요성을 강조했다. 전문가들은 복잡한 운영 환경 속 안정성과 품질을 확보하려면 LLM 기반 AI의 고유한 불확실성에 맞춘 평가 인프라가 필수라고 말했다.
AI 기반 로봇의 저가화와 스테이블코인의 금융 인프라 편입이 본격화되며 산업구조 개편이 가속화되고 있다. 메타는 오픈AI 인재를 파격 조건으로 영입, AI 인재 전쟁에 본격 뛰어들었다.
뉴렐릭 CEO는 AI 에이전트의 확대에 따라 실시간 시스템 관측이 핵심 역량이 됐다고 밝혔다. 기술 기업들은 자동화 관측 플랫폼을 통해 AI의 성능을 비즈니스로 이어가려는 기반을 강화 중이다.
Klein Labs는 Port3가 AI 실행을 위한 소셜 데이터 인프라를 바탕으로 Web3 시장 내 핵심 인프라 기업으로 성장하고 있다고 밝혔다. 핵심 모듈 Rankit은 실시간 커뮤니티 감정 분석을 통해 온체인 활동 예측까지 가능하게 한다.
AI 업무 자동화 스타트업 FileAI가 비정형 데이터 처리 플랫폼을 앞세워 미국 시장에 본격 진출했다. 다양한 산업에서 6,000만 달러의 업무 비용 절감을 이뤘다고 밝혔다.
브라이트 데이터가 메타와 X를 상대로 한 법정 다툼에서 승리한 뒤, AI 인프라 제품군을 공개하며 데이터 독점에 맞서 AI 시장 진출을 본격화했다.
미국 벤처 투자금의 68%가 캘리포니아 본사 스타트업에 집중되며 기술 주도권이 강화됐다. 특히 오픈AI 등 생성형 AI 기업들이 대규모 투자를 견인했다.
사용자가 챗GPT 대화 데이터를 직접 업로드하고 활용 방향을 결정할 수 있는 분산형 프로젝트가 출범했다. 데이터 보상과 투표권이 부여되며 프라이버시 중심의 AI 생태계를 지향한다.
파이네트워크가 AI 기반 앱 개발 플랫폼 '파이 앱 스튜디오'를 공개하며 7,900개 이상의 앱이 생성되는 등 생태계 실사용 확장이 가속화되고 있다. 이에 따라 파이 코인 가격도 상승세를 보이고 있다.
넷앱이 AI 기반 하이브리드 클라우드 전략을 강화하며 전사적 체질 개선에 돌입했다. 고객 중심 데이터 접근성과 유연성을 강조하며 미래형 인프라 전환에 나섰다.