200만 달러 탈취… 이더리움 'MEV 공격' 막을 F3B 프로토콜 출격

2026년 2월 11일 00:16:34 | 서도윤 기자

MEV 대응 위한 새로운 무기…‘트랜잭션별 암호화’ 설계된 F3B 프로토콜

이더리움(Ethereum)에서 악성 MEV(Maximal Extractable Value) 공격이 하루 평균 2,000건이나 발생하며, 매달 200만 달러(약 29억 1,840만 원) 이상이 탈취되고 있다. 이를 방지하기 위한 방안으로 ‘트랜잭션별 암호화’를 적용한 새로운 프로토콜 ‘Flash Freezing Flash Boys(F3B)’가 주목받고 있다.

기존 블록체인은 투명성을 기반으로 해 거래 정보가 사전 공개되며, 이를 악용한 '샌드위치 공격' 등 MEV 수익 모델이 성행해왔다. 이전에는 에폭(일정 블록 단위) 기반 암호화로 이를 방지하려 했으나, 일부 미포함 거래가 함께 복호화되며 여전히 취약점이 남았다. 이에 연구진은 한 건의 거래에 한 번씩 암호화, 복호화를 적용하는 방식의 F3B를 제안했다.

F3B의 작동 방식: 트랜잭션마다 다르게 암호화

F3B는 하나의 트랜잭션을 암호화하고 이를 ‘비밀 관리 위원회(SMC)’가 복호화하는 구조를 갖는다. 사용자는 대칭키로 트랜잭션을 암호화한 뒤, 이 키를 다시 SMC만 복호화할 수 있도록 임계값 암호화(threshold encryption)를 거친다. 이 암호화된 트랜잭션은 합의 그룹에 제출되며, 트랜잭션이 블록에 포함되고 확정된 직후에만 복호화가 이뤄진다. 이 과정은 프론트러닝(선행매매) 등의 MEV 공격을 막는 데 핵심적인 역할을 한다.

F3B는 이전까지 비현실적이었던 트랜잭션별 암호화를 가능하게 만든다. 전체 트랜잭션을 암호화하는 것이 아니라, 트랜잭션을 암호화하는 대칭키만 임계값 암호화 방식으로 보호하면서 계산 비용을 획기적으로 줄였다. 이를 통해 단순 스왑 거래 기준 약 10배 가량 암호화 데이터 양이 감소한다.

TDH2 vs PVSS: 두 가지 암호화 방식 비교

F3B는 두 가지 방식으로 구현될 수 있다. 하나는 ‘TDH2(Threshold Diffie-Hellman 2)’, 다른 하나는 ‘PVSS(Publicly Verifiable Secret Sharing)’이다.

TDH2는 고정된 SMC 위원들이 분산키 생성(DKG)을 수행하고 공통 공개키를 만들어 대칭키를 암호화한다. 복호화 단계에서는 NIZK(비대화식 영지식 증명)를 동반한 복호화 조각이 제출돼야 하며, 이는 잘못된 복호화를 막는다. 이 구조는 효율적이지만 유연성은 낮다.

반면 PVSS는 유연성을 높인다. 사용자가 자율적으로 위원을 지정할 수 있으며, 각 위원은 장기 개인키와 공개키를 보유한다. 복호화 조각은 영지식 증명과 함께 공개되기 때문에 제3자도 유효성을 검증할 수 있다. 단점은 암호화 데이터 크기 증가와 계산량 부담이다.

두 방식 모두 실제 이더리움 환경에서 시뮬레이션했을 때 지연시간은 매우 낮았다. 128명의 위원을 기준으로 블록 확정 후 200ms 이내에 복호화 가능했으며, 이는 이더리움 확정 시간의 0.03% 미만이다. 저장공간 측면에서도 TDH2는 트랜잭션당 80바이트의 부담만 추가된다.

정직한 행위 유도 위한 보상·징벌 구조

F3B는 위원들이 정직하게 행동하게 하기 위한 인센티브-페널티 메커니즘을 갖고 있다. SMC 위원들은 일정 지분을 예치하고, 이를 토대로 활동하면서 위배 행위가 발견되면 이 지분 일부 또는 전부를 자동으로 삭감(slashing) 당한다.

특정 위원이 트랜잭션을 조기 복호화하려다가 증거가 잡힐 경우, TDH2에서는 복호화 조각 자체가 증거가 되고, PVSS에서는 해당 조각과 함께 제공되는 증명이 징벌 근거가 된다. 다만, 오프체인에서 몰래 조각을 모아 복호화하는 행위는 탐지하기 어려워 위원 다수의 정직한 행동을 전제로 한다는 점은 여전히 과제로 남는다.

F3B는 또 다른 잠재적 공격 가능성도 고려한다. 예를 들어, 악의적인 사용자가 수많은 암호화된 트랜잭션을 제출해 블록 확정 지연을 유도할 수 있다. 이를 방지하기 위해 사용자는 트랜잭션당 일정 보증금을 예치해야 하고, 거래가 정상적으로 처리될 때 일부만 환급된다.

F3B의 이더리움 도입 가능성과 확장성

F3B는 기존 이더리움 스마트계약과 호환되면서도 합의 레이어 변경 없이 MEV를 근본적으로 완화할 수 있는 혁신적 설계다. 그러나 구현을 위해 실행 레이어에서 암호화 트랜잭션과 지연 실행 구조를 수용할 필요가 있어, 머지(The Merge) 이후 최대 규모의 하드포크가 요구된다.

그럼에도 F3B는 MEV 방지 목적을 넘어서 실용적 확장 가능성을 제시한다. 예를 들어, 입찰 마감 후에야 공개되는 ‘봉인 입찰 경매’ 스마트계약에 적용하는 것이 가능하다. 참가자는 암호화된 입찰서를 제출하고, 경매 종료 후에만 복호화되어 실행되므로 사전 정보 유출이나 조작이 원천차단된다.

결과적으로 F3B는 이더리움 외 다양한 블록체인에 활용 가능한 미래형 보안 프로토콜로 평가된다. 실행 지연이 짧고 고성능 위원회를 확보할 수 있다면, 초당 수많은 블록이 생성되는 속성의 신생 체인이나 앱에서도 충분히 경쟁력을 발휘할 수 있다.

💡 "MEV, 막을 수 있다… 진짜 보안은 트랜잭션 구조를 읽는 힘"

F3B 프로토콜이 주목받는 이유는 단순한 패치 수준이 아니라, '트랜잭션별 암호화'라는 완전히 다른 구조로 MEV 공격을 원천 차단하기 때문입니다.

이처럼 복잡한 암호화 흐름과 구조적 원리를 이해하려면, 토큰포스트 아카데미의 실전 커리큘럼이 해답이 될 수 있습니다.

토큰포스트 아카데미 수강 신청하기

커리큘럼 하이라이트: