미리보기

WebFlux 기반 BFF API 설계 및 Redisson 분산락을 활용한 캐쉬 스탬피드 문제 개선

요기요 앱의 BFF 시스템 개발 중, 높은 트래픽 상황에서 캐시 데이터가 만료되었을 때 다수의 요청이 동시에 내부 도메인 API로 집중되는 캐쉬 스탬피드현상이 발생하여 응답 지연 문제가 발생했던 경험이 있습니다.

Redisson의 분산락 기능을 적용하여 동일한 캐시 키에 대해 첫 번째 요청이 내부 도메인 API 호출을 통해 데이터를 응답 받는 동안 다른 요청들은 대기 상태로 유지되도록 하였습니다. 이를 통해 캐시 재생성 요청이 여러 번 반복되지 않고 한 번만 처리되도록 개선했습니다. 추가로 응답 지연 문제 완화를 위해 lock wait-time을 설정하고 이를 실제 서비스의 응답 시간을 기준으로 모니터링하여 최적화했습니다.

그 결과 캐쉬 스탬피드 현상을 효과적으로 방지하여 서비스 응답 지연을 현저히 감소시키고 BFF 시스템을 거쳐 내부 도메인 서버로 유입되는 부하를 감소시켰을 뿐만 아니라 높은 트래픽 환경에서도 서비스 안정성을 유지할 수 있었습니다. 최종적으로 latency가 기존 대비 70% 이상 개선되어 평균 2,000 RPS 이상의 트래픽을 무리 없이 처리할 수 있는 시스템을 구축했습니다.

서비스 초기 단계 참여 경험

서비스의 초기 단계에서부터 참여한 경험으로는 요기요 앱 리뉴얼 프로젝트가 있습니다. 이 프로젝트는 기존 앱의 구조를 완전히 재설계하여 BFF 패턴과 Server-Driven UI 기술을 도입하는 것을 목표로 하고 있었습니다. 제가 이 프로젝트의 초기 설계 단계에서부터 참여하여 프로젝트 구조 설계, 기술 스택 선정, 팀원 온보딩 등을 주도했습니다.

특히 WebFlux를 처음 도입하는 프로젝트였기에, 팀원들의 기술적 격차를 빠르게 해소하기 위해 스켈레톤 프로젝트를 미리 구축하여 팀원들이 빠르게 적응하고 효율적으로 작업할 수 있는 환경을 마련했습니다. 또한, 프로젝트 초반부터 다양한 성능 최적화 작업을 병행하며 초기 트래픽 테스트를 수행하여 잠재적인 성능 문제를 미리 파악하고 해결했습니다.

이러한 적극적인 참여와 리드를 통해 프로젝트의 초기부터 안정적인 기술적 기반을 구축할 수 있었고 그 결과 프로젝트는 성공적으로 런칭하여 높은 안정성과 사용자 경험 개선을 이루었습니다. 초기 단계에서부터 참여하며 서비스 전체를 바라보는 시야와 문제 해결 역량을 크게 성장시킬 수 있었습니다.

확장 가능한 시스템을 설계

기존 즉시할인쿠폰 서비스는 타 도메인과 높은 의존성으로 인해 동기적 및 배치성 처리 방식이 많았고, 이로 인해 유지보수가 어렵고 성능이 매우 떨어졌습니다. 또한 확장성이 제한되는 문제도 있었습니다. 저는 이 문제를 해결하기 위해 Kafka 기반의 Event-Driven Architecture(EDA)를 도입하여 시스템을 재설계했습니다. 서비스 간 직접 호출을 제거하고 이벤트 기반으로 통신하도록 변경하여 결합도를 낮췄고, 배치성이 아닌 실시간으로 데이터가 전달될 수 있게 되었으며 각 도메인이 독립적으로 동작할 수 있는 구조를 구축했습니다. 쿠폰 도메인은 발급, 수정, 삭제 시 Kafka 이벤트를 발행하고, 통계 등 후속 처리가 필요한 도메인에서는 Kafka Consumer를 통해 해당 이벤트를 비동기적으로 처리할 수 있도록 구성했습니다. 메시지 유실과 중복 처리 문제를 방지하기 위해 Outbox 패턴과 At-Least-Once 메시징 전략을 적용했으며, 각 이벤트에 UUID 기반 식별자를 부여해 멱등성도 보장했습니다. 이로 인해 기존 대비 유지보수성이 크게 향상되었고, 통계 API 응답 속도 역시 평균 5초에서 1초 이내로 단축되었습니다. 또한 새로운 도메인의 구독이 필요한 경우 기존 시스템에 영향을 주지 않고 확장할 수 있는 유연한 구조가 마련되어 고가용성과 확장성을 모두 갖춘 시스템으로 전환할 수 있었습니다.