kube gpt

kube-gpt❓

• Kubernetes 환경에서 AI 기반으로 클러스터 운영을 지원하는 도구
• Kubernetes 리소스 분석 및 자동화된 문제 해결을 돕는 역할
  
  

기능

• Kubernetes 클러스터 상태 분석 : AI를 활용하여 클러스터 내 문제를 감지하고 해결책을 제안
• 자연어 기반 Kubernetes 쿼리 : Kubernetes 상태를 자연어로 질의 가능 (예: "내 파드가 왜 죽었어?")
• 자동 문제 해결 : 로그 분석, 이벤트 감지 후 AI 추천을 제공
  
  
  
  

설치 방법

# 1. k8sgpt 내부 반입
# 2. k8sgpt 설치
$ helm install k8sgpt k8sgpt/k8sgpt-operator -n k8sgpt-operator-system --create-namespace

# 3-1. OpenAI API 키 설정
export OPENAI_TOKEN="sk-..."
kubectl create secret generic k8sgpt-sample-secret --from-literal=openai-api-key=$OPENAI_TOKEN -n k8sgpt-operator-system

# 3.2 로컬 LLM 사용하기 (Ollama는 API 키가 필요 없음)
kubectl create secret generic k8sgpt-ollama-secret --from-literal=openai-api-key="" -n k8sgpt-operator-system

추가로, 로컬 LLM(Local Language Model)을 백엔드로 사용하고자 한다면, 'Ollama'와 같은 도구를 활용하여 로컬에서 모델을 서빙하고 'k8sgpt'와 연동할 수 있습니다.

# 4. CRD yaml 작성
apiVersion: core.k8sgpt.ai/v1alpha1
kind: K8sGPT
metadata:
  name: k8sgpt-sample
  namespace: k8sgpt-operator-system
spec:
  ai: # Open API인 경우
    enabled: true
    model: gpt-3.5-turbo
    backend: openai
    secret:
      name: k8sgpt-sample-secret
      key: openai-api-key
  ai: # Ollama인 경우
    enabled: true
    model: mistral
    backend: ollama
    baseUrl: http://localhost:11434
    secret:
      name: k8sgpt-ollama-secret
      key: openai-api-key
  noCache: false
  repository: ghcr.io/k8sgpt-ai/k8sgpt
  version: v0.3.8

kubectl apply -f k8sgpt-crd.yaml

사용법

# 클러스터 문제 분석
k8sgpt analyze

# 특정 네임스페이스 분석
k8sgpt analyze --namespace kube-system

# 특정 리소스만 검사
k8sgpt analyze --filter=Pod

# 이전 분석 기록 보기
k8sgpt list

# 문제 해결 가이드
k8sgpt explain

# AI 모델 변경
k8sgpt config set ai-model gpt-4
k8sgpt config set ai-backend ollama

# 지속적으로 클러스터 모니터링 (실시간 감지)
k8sgpt watch

# Prometheus 메트릭을 분석하여 리소스 사용량 문제
k8sgpt analyze --prometheus http://prometheus-server.default.svc:9090

회사에서 적용해볼 예정 ~~