🎯 EKS 노드 운영 효율화: 빌드 노드와 운영 노드 분리로 리소스 최적화하기

현재 우리는 개발 환경에서 Amazon EKS(Elastic Kubernetes Service)를 적극적으로 활용하고 있습니다. 다양한 용도의 서버—테스트, 사내용, 개발, 그리고 빌드 작업—를 단일 EKS 클러스터 내에서 운영하고 있었고, 클러스터에는 총 5대의 노드가 구성되어 있었습니다.

하지만 실제 사용량을 분석해 본 결과, 기대보다 훨씬 낮은 리소스 활용률을 보이고 있었습니다. 이에 따라 리소스 오버프로비저닝(over-provisioning)을 의심하게 되었고, 본격적으로 최적화 작업을 진행하게 되었습니다.

---

📊 리소스 사용률 진단 결과

우선 각 노드의 평균 사용률을 모니터링해보았습니다.

• CPU 사용률: 대부분의 노드가 2% 내외의 매우 낮은 수준
• 메모리 사용률: 30% 이내로 안정적인 수준
• 예외 상황: 빌드 작업이 실행될 때 한 노드에서만 일시적으로 CPU 100% 사용

즉, 지속적인 고부하 상황은 없으며, 대부분의 리소스가 유휴 상태로 남아 있는 구조였습니다.

---

🧩 빌드 노드와 운영 노드의 분리 전략

이를 바탕으로, 운영 노드와 빌드 노드를 분리하는 방식으로 구조를 재설계하기로 결정했습니다.

우리는 Terraform과 Argo Workflow를 활용해 인프라 및 워크플로우를 구성하고 있었습니다. 다음과 같은 작업을 통해 분리 작업을 수행했습니다:

🛡️ Taint와 Toleration을 활용한 노드 제어

Kubernetes의 taint는 특정 노드에 일반적인 파드가 스케줄되지 않도록 막는 기능입니다.

즉, “이 노드는 특별한 목적에만 사용할 것이니 아무 파드나 들어오지 마라”는 의미를 설정하는 것입니다.

이와 함께 사용하는 toleration은 파드가 특정 taint를 무시하고 해당 노드에 들어가도 되는 권한을 설정하는 방식입니다.

✅ 예시: Terraform에서 빌드 노드에 taint 설정

hcl
복사편집
resource "aws_eks_node_group" "build_nodes" {
  node_group_name = "build-group"
  ...
  taints {
    key    = "workload"
    value  = "build"
    effect = "NO_SCHEDULE"
  }
}

✅ 예시: Argo Workflow 템플릿에서 빌드 파드에 toleration 설정

yaml
복사편집
- name: build-job
  template: build
  nodeSelector:
    purpose: build
  tolerations:
    - key: "workload"
      operator: "Equal"
      value: "build"
      effect: "NoSchedule"

이렇게 하면, build 파드는 오직 taint가 적용된 빌드 노드에서만 스케줄되며,

운영 파드는 해당 노드에 절대 올라가지 않게 됩니다.

---

🔧 노드 수 감축으로 리소스 절감

초기에는 Required 수가 4로 설정된 운영 노드 그룹을 3대로 줄이기로 했습니다. 현재 구조는 다음과 같습니다:

• 운영 노드: 3대
• 빌드 전용 노드: 1대

인스턴스 타입이 동일하다는 전제하에, 전체 노드 수는 5 → 4대로 20% 감소했으며, 운영에 전혀 지장이 없었습니다.

---

💡 다음 단계: 리소스 비용 최적화

아직 최적화할 여지는 더 많습니다. 다음 단계는 다음과 같습니다:

1. 예약된 리소스(CPU/Memory) 재점검
   • 실제 요청량 대비 너무 크게 잡혀 있는 request/limit 설정 확인
2. 노드 인스턴스 타입 변경 검토
   • 운영 노드는 메모리 중심, 빌드 노드는 CPU 중심으로 적절한 인스턴스 유형 변경 고려

---

✅ 결론

이번 구조 개선을 통해 단순한 노드 분리와 수 조정만으로도 20%의 비용 절감 효과를 얻을 수 있었습니다.

또한, 역할 기반 노드 분리를 통해 리소스 활용의 예측 가능성과 인프라의 유지보수성 역시 향상되었습니다.

taint와 toleration을 적절히 활용하면 EKS 환경을 더욱 유연하게 제어할 수 있으며, 이는 클라우드 인프라 운영의 중요한 전략 포인트가 됩니다.