Spring Cloud란?

정의

• Spring Cloud는 마이크로서비스 개발을 위해 다양한 도구와 서비스를 제공하는 스프링 프레임워크의 확장

• 마이크로서비스 아키텍처 (MSA)를 쉽게 구현하고 운영할 수 있도록 도움

• 주요 기능

  • 서비스 등록 및 디스커버리: Eureka, Consul, Zookeeper
  • 로드 밸런싱: Ribbon, Spring Cloud LoadBalancer
  • 서킷 브레이커: Hystrix, Resilience4j
  • API 게이트웨이: Zuul, Spring Cloud Gateway

    현업에서는 Zuul 사용이 잦다. Spring Cloud Gateway는 버전 업이 잦기 때문.

  • 구성 관리: Spring Cloud Config
  • 분산 추적: Spring Cloud Sleuth, Zipkin
  • 메시징: Spring Cloud Stream

Spring Cloud 주요 모듈

서비스 등록 및 디스커버리

Eureka

• 넷플릭스가 개발한 서비스 디스커버리 서버로, 마이크로서비스 아키텍처에서 각 서비스의 위치를 동적으로 관리

• 주요 특징:
  - 서비스 레지스트리: 모든 서비스 인스턴스의 위치를 저장하는 중앙 저장소
  - 헬스 체크(Health check): 서비스 인스턴스의 상태를 주기적으로 확인하여 가용성을 보장
  

로드 밸런싱

Ribbon

• 넷플릭스가 개발한 클라이언트 사이드 로드 밸런서로, 서비스 인스턴스 간의 부하를 분산

• 주요 특징:

  • 서버 리스트 제공자: Eureka로부터 서비스 인스턴스 리스트를 제공받아 로드 밸런싱에 사용
  • 로드밸런싱 알고리즘: 라운드 로빈, 가중치 기반 등 다양한 로드 밸런싱 알고리즘 지원
  • Failover: 요청 실패 시 다른 인스턴스로 자동 전환

서킷 브레이커

참고
MSA에서는 호출한 서비스의 장애가 다른 서비스로 전파될 가능성이 있다.
이를 방지하기 위해 장애가 발생한 서비스를 탐지하고, 요청을 보내지 않도록 차단할 필요가 있다. 서킷 브레이커 패턴은 클라이언트 측면에서 장애를 방지하기 위한 도구로써, 실패할 수 있는 작업을 계속 시도하지 않도록 방지한다.

Hystrix

• 넷플릭스가 개발한 서킷 브레이커 라이브러리로, 서비스 간의 호출 실패를 감지하고 시스템의 전체적인 안정성을 유지

• 주요 특징:
  - 서킷 브레이커 상태: 클로즈드, 오픈, 하프-오픈 상태를 통해 호출 실패를 관리
  - Failback: 호출 실패 시 대체 로직을 제공하여 시스템 안정성 확보
  - 모니터링: Hystrix Dashboard를 통해 서킷 브레이커 상태 모니터링
  

Resilience4j

• Resilience4j는 자바 기반의 경량 서킷 브레이커 라이브러리로, 넷플릭스 Hystrix의 대안으로 개발

• 주요 특징:

  • 서킷 브레이커: 호출 실패를 감지하고 서킷을 열어 추가적인 호출을 차단하여 시스템의 부하를 줄임
  • Failback: 호출 실패 시 대체 로직을 실행하여 시스템의 안정성을 유지
  • 타임아웃 설정: 호출의 응답 시간을 설정하여 느린 서비스 호출에 대응할 수 있음
  • 재시도: 재시도 기능을 지원하여 일시적인 네트워크 문제 등에 대응할 수 있음

Spring Cloud 구성 요소의 활용

API 게이트웨이

Zuul

• 넷플릭스가 개발한 API 게이트웨이로, 모든 서비스 요청을 중앙에서 관리
• 주요 특징:
  • 라우팅: 요청 URL에 따라 적절한 서비스로 요청 전달
  • 필터: 요청 전후에 다양한 작업을 수행할 수 있는 필터 체인 제공
  • 모니터링: 요청 로그 및 메트릭을 통해 서비스 상태 모니터링 할 수 있음

Cloud Gateway

• 클라우드 게이트웨이는 스프링 클라우드에서 제공하는 API 게이트웨이로, 마이크로서비스 아키텍처에서 필수적인 역할
• 주요 특징:
  • 루팅 및 필터링: 요청을 받아 특정 서비스로 라우팅하고 필요한 인증 및 권한 부여를 수행
  • 보안: 외부 요청으로부터 애플리케이션을 보호하고, 보안 정책을 적용함
  • 효율성: 마이크로서비스 아키텍처에서 필요한 요청 처리 및 분산 환경의 관리를 효율적으로 수행

구성 관리

Spring Cloud Config

참고 > 구현까지 설명되어 있음

• Spring Cloud Config는 분산된 환경에서 중앙 집중식 설정 관리를 제공

분산 시스템에서 외부화된 설정 정보를 서버 및 클리이언트에게 제공하는 시스템
설정 정보를 외부로 분리한 후, 설정 정보를 변경하였을 때 별도로 재배포가 필요없음
설정 정보를 분리함으로써 보안적인 측면 강화

Spring Cloud Config Server 는 Client 와 설정 정보 저장소 간의 중간 다리 역할 이라고 볼 수 있다.

• 주요 특징:

  • Config 서버
    : 중앙에서 설정 파일을 관리하고 각 서비스에 제공
    : 저장소에 변경 사항 발생 시 Config Server에서 탐지 가능

  • Config 클라이언트: Config 서버에서 설정을 받아서 사용하는 서비스

  • 설정갱신: 설정 변경 시 서비스 재시작 없이 실시간으로 반영

Spring Cloud의 적용 사례

Netflix

배경

• 넷플릭스는 2000년대 후반 데이터 베이스 장애를 통해 심각한 서비스 장애를 겪게 됩니다.
• 사용자가 급격히 증가 함에 따라 기존 모놀리틱 아키텍처로는 빠르게 증가하는 트래픽과 사용자 요구를 감당하기 어려워졌습니다.
• 또한 신뢰성 높고 수평 확장이 가능한 클라우드 시스템으로 이전할 필요성을 느꼈습니다.
• 폭발적인 사용자 증가, 빈번한 서비스 장애, 인프라 확장의 어려움, 빠른 기능 배포의 필요성, 클라우드 전환 등의 계기로 인해 MSA 전환이 시작되었습니다.

MSA로의 전환 이유

• 확장성(Scalability): 넷플릭스는 글로벌 서비스를 제공하며, 수백만 명의 사용자가 동시 접속할 수 있는 인프라가 필요했습니다.
• 신뢰성(Reliability): 한 부분의 장애가 전체 시스템에 영향을 미치지 않도록 해야 했습니다.
• 개발 속도(Speed of Development): 새로운 기능을 빠르게 배포하고, 독립적인 팀이 동시에 작업할 수 있는 환경이 필요했습니다.

전환 과정

• 서비스 분리: 넷플릭스는 기존 모놀리식 애플리케이션을 여러 개의 독립적인 마이크로서비스로 분리했습니다.
• 자동화 도구 도입: CI/CD 파이프라인을 구축하여 코드의 빌드, 테스트, 배포 과정을 자동화했습니다. 이를 통해 개발 속도를 크게 향상시켰습니다.
• 자체 도구 개발: 넷플릭스는 Hystrix, Eureka, Ribbon 등의 도구를 개발하여 서비스 간 통신, 장애 복구, 로드 밸런싱 등을 효율적으로 처리했습니다.
• 클라우드 인프라 활용: AWS와 같은 클라우드 인프라를 활용하여 서비스 확장성을 높였습니다.

결과

- **향상된 확장성:** 넷플릭스는 MSA 전환 이후 수천 개의 마이크로서비스를 운영하며, 글로벌 사용자 증가에 유연하게 대응할 수 있었습니다.
- **높은 가용성:** 서비스 장애 시 다른 서비스에 영향을 미치지 않고 독립적으로 복구할 수 있어, 사용자에게 지속적인 서비스를 제공할 수 있었습니다.
- **빠른 배포 주기:** 새로운 기능을 신속하게 개발하고 배포할 수 있어, 사용자 요구에 빠르게 대응할 수 있었습니다.

이해를 위한 추가 지식

Service Discovery

참고
MSA에서 여러 서비스를 호출한다. 서비스 호출 시 IP주소, Port를 이용하는데, 서비스가 동적으로 변경되는 일이 잦아 IP가 동적으로 변경되는 일이 잦아졌다. 그래서 한 서비스가 다른 서비스를 호출할 때 서비스의 위치 (IP & Port) 를 알아낼 수 있는 기능이 필요하다.
이를 서비스 디스커버리 Service Discovery 라고 한다.

구현 방식

참고
Client Side : 클라이언트가 서비스 호출 시 클라이언트가 디스커버리 서버에 서비스의 위치 확인
Server Side : 클라이언트가 로드 밸런서 (=proxy 서버) 호출 시 로드 밸런서가 디스커버리 서버에 서비스의 위치 확인

Service Registry

서비스 레지스트리는 서비스의 위치 (IP & Port) 정보를 저장하는 데이터베이스이며, 항상 최신 정보를 유지해야하며 고가용성이 필요하다

로드 밸런서

참고
서버에 가해지는 부하(=로드)를 분산(=밸런싱)해주는 장치 또는 기술

블로그 내에 scale-up, scale-out, 로드밸런싱 알고리즘 등 정보 있음

정리

+) Spring 페이지의 Learn, reference 통해 학습해보자!

SNAPSHOT 버전은 개발 중이므로 웬만하면 사용 지양

버전 읽는 법
x.x.xx
첫번째 자리 : 이전 버전과 다른 업데이트, 버전 수정 시 호환되지 않을 가능성
두번째 자리 : 새로운 기능의 추가
마지막 자리 : 패치 버전 (오류 개선 등)

Spring Initializr사이트 에서 스프링 프로젝트를 생성하면 버전에 맞게 dependency (build.gradle 파일), 언어 등등 생성해준다.

IntelliJ에서도 제공되는 기능이지만 다른 프로그램 사용 시 제공되지 않을 수도 있다.