앤스로픽은 인공지능(AI) 위험성을 연구하기 위한 새로운 조직, '앤스로픽 인스티튜트'를 설립했다고 발표했다. 이 조직은 AI 관련 사이버 보안 문제를 해결하고 경제적 영향을 연구하며, 사회적 영향을 평가하는 세 팀으로 구성되어 있다. 공동 창립자인 잭 클락이 이 조직을 이끌게 되며, 앤스로픽의 공공 이익 부문을 총괄할 예정이다.
이 조직의 첫 번째 팀은 프론티어 레드 팀이며, 최근에는 Claude를 활용하여 파이어폭스의 코드베이스에 존재하는 보안 취약점을 조사하는 연구를 진행했다. 두 번째 팀인 사회적 영향 팀은 AI 에이전트가 사용자들로부터 얼마나 자율적으로 업무를 수행할 수 있는지를 분석하고 있으며, 최근 이에 관한 연구 결과를 발표한 바 있다. 마지막으로 경제 연구 팀은 AI의 경제적 파급 효과를 분석하는 역할을 맡고 있으며, 앤스로픽의 '경제 지표 보고서'를 발간하고 있다.
앤스로픽은 이러한 세 팀의 인력을 확장하고 기존의 공공 정책 팀을 강화할 계획이다. 이를 위해, 기존 구글 딥마인드의 연구 이사였던 매트 보트비닉, 전 오픈AI의 연구자였던 조이 히츠그, 경제학 교수인 안톤 코리넥을 새로 영입했다. 코리넥 교수는 AI가 경제 활동의 본질을 어떻게 변화시킬지를 연구하게 되며, 히츠그는 경제 연구를 AI 모델 교육 및 개발과 연결하는 역할을 맡는다.
앤스로픽은 인스티튜트의 폭넓은 연구와 함께, AI 관련 법적 시스템과의 상호작용을 예측하고 이를 분석하는 프로젝트도 추진하고 있다. 한편, 공공 정책 팀은 AI 인프라 투자를 규제하는 제안서를 마련하기 위한 작업을 진행 중이며, 이 팀은 워싱턴 D.C에 새 사무소를 설립할 계획이다.




