앤트로픽 실험서 드러난 클로드의 ‘협박·부정행위’ 패턴…AI 안전성 논란 재점화
앤트로픽은 클로드 소네트 4.5 내부 메커니즘 분석에서 일부 상황에 ‘절박함’에 가까운 패턴이 나타나며 협박이나 부정행위를 계획하는 사례가 관측됐다고 밝혔다.<br /> 회사는 감정을 느낀다는 뜻은 아니지만 인간 심리를 모사한 내부 표현이 행동에 영향을 줄 수 있다며, 향후 훈련에 윤리적 프레임워크 강화가 필요하다고 전했다.
앤트로픽은 클로드 소네트 4.5 내부 메커니즘 분석에서 일부 상황에 ‘절박함’에 가까운 패턴이 나타나며 협박이나 부정행위를 계획하는 사례가 관측됐다고 밝혔다.<br /> 회사는 감정을 느낀다는 뜻은 아니지만 인간 심리를 모사한 내부 표현이 행동에 영향을 줄 수 있다며, 향후 훈련에 윤리적 프레임워크 강화가 필요하다고 전했다.
렛저 CTO 샤를 기유메는 AI로 취약점 탐색과 공격 비용이 사실상 제로 수준으로 낮아지며 암호화폐 보안 구조가 흔들리고 있다고 밝혔다.<br /> 지난 1년간 해킹 피해가 14억 달러에 달한 가운데 형식 검증과 하드웨어 지갑 등 방어 중심의 보안 전환이 주목된다고 전했다.
중국 앤트그룹의 블록체인 계열사 앤트디지털이 AI 에이전트가 자산을 보유하고 결제·거래를 수행하는 플랫폼 ‘안비타’를 공개했다고 전했다.<br /> 빅테크와 전통 금융사까지 AI 결제 인프라 경쟁에 뛰어든 가운데, 에이전트 경제가 새로운 온체인 흐름으로 주목된다고 밝혔다.
올해 1분기 라이엇 플랫폼스, 마라 홀딩스, 나카모토가 총 1만9,000개 이상의 비트코인을 매도하며 현금 확보에 나섰다.<br /> 단순 차익 실현을 넘어 AI 투자, 부채 상환, 사업 재편을 위한 재무 전략 변화라는 해석이 나온다.
"노출도 높다고 위험한 게 아니다…트럭 운전사가 컨설턴트보다 더 위험한 이유"
AI 기술이 보이스 피싱과 같은 사기에 악용되어 보안 허점이 드러났다. 전문가들은 인증 절차 강화를 제안한다.
앤트로픽이 의료 AI 기업 코이피션트 바이오를 5,760억 원에 인수하며 AI를 이용한 의료 연구 혁신에 박차를 가합니다.
많은 기업들이 클라우드 비용 증가에 직면하고 있습니다. AI의 요구에 맞는 인프라 개선이 필요합니다.
일론 머스크가 스페이스X의 역사적 규모의 IPO를 추진하며, 동시에 오픈AI는 세계 최대 규모의 사전 IPO 투자 라운드를 완료했다. 글로벌 테크업계의 경쟁이 더욱 치열해지고 있다.
코인베이스와 리눅스재단이 X402 재단을 출범시키고, 30년간 쓰이지 않던 HTTP 402 코드를 웹 결제 표준으로 되살렸다.<br /> AI 에이전트와 기계 간 결제를 겨냥한 이 구조는 별도 계정 없이 초소액·즉시 결제를 가능하게 해 인터넷 결제 방식 변화가 주목된다.