6.6 Data Center Networking

Data Center Network 구성

• Blade

  • 컴퓨터 호스트를 blade라고 부르며, 대체적으로 CPU, memory, disk storage를 갖추고 있다.

• Rack

  • blade들은 rack에 쌓여있으며, 각 rack은 보통 20 ~ 40 개의 blade를 가지고 있다.

• Top of Rack (TOR) switch

  • rack 맨 위에는 TOR 스위치가 있다.
  • 이 스위치는 rack에 있는 호스트들을 서로에게, 그리고 데이터 센터에 있는 다른 스위치들과 연결되도록 한다.
  • 더 구체적으로 말하자면, rack에 있는 각 호스트는 TOR switch와 연결되는 network interface card를 가지고 있으며, TOR switch는 다른 switch와 연결될 수 있는 여러 포트를 가지고 있다.
  • 최근 호스트들은 주로 그들과 연결된 TOR switch와 40 Gbps Ethernet connection를 가지고 있다.

• Border Router

  • 데이터 센터 네트워크는 두 종류의 트래픽을 지원한다
  • 하나는 외부 클라이언트들과 내부 호스트들 사이에 이루어지는 트래픽, 다른 하나는 내부 호스트들 간 트래픽이다.
  • 외부 클라이언트들과 내부 호스트들 사이에 이루어지는 트래픽을 가능케 하려면 데이터 센터 네트워크를 인터넷에 연결해야 하는데, 바로 이 border router가 그 역할을 한다
  • 데이터 센터 네트워크는 하나 이상의 border router를 가지며, 해당 네트워크를 인터넷에 연결하는 역할을 한다.

• Access router

  • 대규모 데이터 센터 네트워크는 주로 위 그림처럼 Hierarchial topolgy를 사용한다.
  • 이런 구조에서는 access router가 top-tier switch와 연결되고, 각 Top-tier switch는 여러 second-tier switch와 load balancer랑 연결된다.
  • 그리고 각 second-tier switch는 TOR switch를 이용해 여러 rack들과 연결된다.

Load Balancing

클라우드 데이터 센터는 검색, 이메일, 비디오와 같은 다양한 애플리케이션을 제공하며, 각 애플리케이션은 클라이언트가 요청을 보내고 응답을 받을 수 있는 공개 IP 주소와 연결되어 있다. 데이터 센터 내부에서 외부 요청은 먼저 로드 밸런서로 전달된다. 로드 밸런서는 클라이언트의 요청을 받으면 여러 호스트에 분산시켜 부하를 균형 있게 관리한다. 대규모 데이터 센터에는 특정 클라우드 애플리케이션 세트에 전념하는 여러 로드 밸런서가 있는 경우가 많다. 로드 밸런서는 목적지 IP 주소와 포트 번호를 기반으로 요청을 적절한 호스트로 전달하며, 응답도 클라이언트에게 다시 전달합니다. 그래서 로드 밸런서는 'layer-4 switch'라고도 부른다. 로드 밸런서는 호스트 간의 작업 부하를 균형 있게 분산시킬 뿐만 아니라, 공개 외부 IP 주소를 적절한 호스트의 내부 IP 주소로 변환하고, 반대 방향으로 다시 변환하는 NAT와 같은 기능도 제공한다. 이는 클라이언트가 호스트와 직접 연락하는 것을 방지하여 내부 네트워크 구조를 숨기고 클라이언트가 호스트와 직접 상호 작용하는 것을 방지하는 보안 이점을 제공한다.

Limited Host-to-Host Capacity

이는 네트워크 환경에서 특정 호스트(서버나 컴퓨터) 간의 데이터 전송 용량이 제한되어 있는 상태를 의미한다. 이는 여러 요인으로 인해 발생할 수 있으며, 네트워크 성능과 효율성에 영향을 미친다.

주요 요인

• 네트워크 대역폭
  • 호스트 간의 연결 대역폭이 제한적일 때 발생할 수 있습니다. 예를 들어, 네트워크 케이블, 스위치, 라우터 등의 물리적 장비가 지원하는 최대 전송 속도보다 많은 데이터를 전송하려 할 때 용량이 제한될 수 있습니다.
• 네트워크 혼잡
  • 네트워크 상의 다른 트래픽이 많아질 경우, 호스트 간의 전송 용량이 줄어들 수 있습니다. 이는 데이터 충돌과 지연을 발생시켜 호스트 간의 통신 용량을 제한하게 됩니다.
• 네트워크 토폴로지
  • 네트워크 구조에 따라 호스트 간의 전송 용량이 제한될 수 있습니다. 예를 들어, 다수의 중간 노드를 거쳐야 하는 복잡한 네트워크 구조에서는 데이터 전송 속도가 느려질 수 있습니다.

이것에 대한 해결책으로는 대역폭 확장으로 더 높은 대역폭의 스위치나 라우터를 사용하는 것이다. 그러나 이 방안은 엄청난 비용을 요구하기에 현실적으로 실행하기 어려운 방안이다.

Trends in Data Center Networking

그리하여 최근 limited host-to-host capacity를 해결하려는 새로운 방안들이 나오고 있다. 한 트렌드는 전통적인 계층형 설계의 단점을 극복하기 위해 새로운 상호 연결 아키텍처와 네트워크 프로토콜을 배포하는 것이다. 이러한 접근 방식 중 하나는 fully connected topology이다.

Fully Connected Topology

• 이 방식은 스위치와 라우터의 계층 구조를 완전히 연결된 토폴로지로 대체하는 것이다.
• 이렇게 하면 호스트 간 트래픽이 스위치 계층을 넘지 않게 하고, 두 스위치 간의 여러 경로를 제공하여 호스트 간 용량을 크게 개선할 수 있다
• 예를 들어, 네 개의 경로가 40 Gbps의 총 용량을 제공하여 호스트 간 용량 제한을 완화하고, 데이터 센터 내의 위치에 관계없이 동일한 통신 환경을 만든다.

container–based modular data centers (MDCs)

다른 트렌드는 컨테이너 기반 모듈형 데이터 센터(MDC)이다. MDC는 표준 12미터 컨테이너에 미니 데이터 센터를 구축하여 데이터 센터 위치로 배송하는 방식이다. 각 컨테이너는 수천 대의 호스트로 구성되며, 성능 저하를 고려한 설계로 고장 시 교체가 용이하다. MDC는 컨테이너 내부 네트워크와 컨테이너 간 핵심 네트워크로 구성되며, 저렴한 기가비트 이더넷 스위치로 내부 네트워크를 구축할 수 있지만, 컨테이너 간 높은 대역폭을 제공하는 핵심 네트워크 설계는 여전히 도전 과제이다. 이를 위해 hybrid electrical/optical switch architecture가 제안되었습니다.