26Y19a4
방금 구축한 Polars & LLM 기반의 2차 정밀 워크로드 분석 스크립트는 기존 파이프라인 흐름에서 비어 있던 step5_llm_diagnoser.py 자리에 배치하는 것이 아키텍처적으로 가장 완벽합니다.
이 단계는 앞단 step2가 정제해 둔 고해상도 분산 융합 데이터(daily_enriched_*.parquet)를 소스로 삼아 동작하며, 결과물인 마크다운 보고서(daily_cloud_native_behavior_report.md)는 최종 step6의 엑셀 차트 리포트나 Slack 보고서의 ‘상세 SRE 종합 의견(Executive Summary)’으로 연동되기 때문입니다.
전체 플랫폼 파이프라인의 데이터 흐름과 정렬 위치를 도식화한 아키텍처 맵입니다.
🏗️ 멀티 클러스터 SRE 오케스트레이션 전체 파이프라인 블루프린트
[Thanos / MinIO AIStor] (1분 단위 원천 징수 레이어)
│
▼
┌────────────────────────────────────────────────────────┐
│ step1_prom_fetch.py (데이터 수집 엔진) │
└────────────────────────────────────────────────────────┘
│
▼ [1시간 단위 prom_raw_*.parquet 로컬 캐시]
┌────────────────────────────────────────────────────────┐
│ step2_pipeline.py (Polars 스트리밍 정산 엔진) │
│ - 4대 SRE 유도 특징량 계산 & 일일 통계 롤업 집계 │
└────────────────────────────────────────────────────────┘
│
├───────────────────────────┼───────────────────────────┐
▼ [daily_enriched_*.parquet] ▼ [daily_enriched_*.parquet] ▼ [daily_enriched_*.parquet]
┌───────────────────────────┐ ┌───────────────────────────┐ ┌───────────────────────────┐
│ step3_analytics.py │ │ step4_governance_analyzer.py│ │ step5_llm_diagnoser.py │
│ (시각화 엔진) │ │ (정량 가버넌스 룰 엔진) │ │ (정성 LLM 추론 엔진) │
│ - 23종 영문 인프라 차트 │ │ - 위험/낭비/아노말리 분류 │ │ - 스택별 연계 병목 진단 │
└───────────────────────────┘ └───────────────────────────┘ └───────────────────────────┘
│ │ │
│ ▼ [gov_*.parquet 시트 소스] ▼ [behavior_report.md]
│ ┌────────────────────────────────────┘
▼ ▼
┌────────────────────────────────────────────────────────┐
│ step6_excel_builder.py (마스터 리포트 컴파일 레이어) │
│ - step4의 수치 데이터와 step3의 차트 이미지 엑셀 임베딩 │
│ - step5의 LLM 요약문을 리포트 커버/본문에 자동 바인딩 │
└────────────────────────────────────────────────────────┘
🔍 단계별 스코프 분할 및 통합 정당성
1) 왜 step2 직후, step3/step4와 병렬 배치인가?
- 데이터 의존성(Data Dependency): 이번에 리팩토링한 2차 Deep-Dive 스크립트는
step2가 최종 파일시스템에 저장한daily_enriched_*.parquet자산만 읽어서 작동합니다. - 따라서
step2가 끝나기만 하면step3(시각화),step4(정량 룰 필터링),step5(LLM 정성 분석)는 서로를 기다릴 필요 없이 완전한 병렬(Parallel) 구조로 동시에 기동할 수 있어 전체 배치 타임라인을 대폭 단축할 수 있습니다.
2) step6 및 최종 아웃풋 레이어와의 결합
- 기존
step6엔진이 CPU/Mem 관련 엑셀 시트와 차트만 그리고 있었다면,step5에서 도출된daily_cloud_native_behavior_report.md텍스트 파일은 다음과 같이 활용되어 파이프라인을 닫습니다.
- Excel 첫 번째 시트(Cover): "금일 인프라 종합 SRE 아키텍처 진단 의견" 영역에 LLM이 생성한 마크다운 텍스트를 인라인 삽입.
- Slack 웹훅 연동: n8n이나 쉘 스크립트의 마지막 단계에서
step6엑셀 파일을 파일 첨부(Attachment)로 밀어 넣을 때, Slack 메시지 본문(Context Block)에step5가 작성한 스택별 위험 징후 요약본을 파싱하여 발송.
💻 파이프라인 자동화를 위한 마스터 가동 쉘 스크립트 구성안
매일 새벽 크론탭(Crontab)이나 n8n 인프라에서 순차 구동할 마스터 통합 트리거 예시입니다. step3, step4, step5를 병렬로 쏘고 백그라운드 프로세스가 모두 끝나는 시점(wait)에 step6를 구동시키는 SRE 프로덕션 표준 제어 방식입니다.
#!/bin/bash
# master_sre_pipeline.sh — 일일 인프라 마감 및 LLM 진단 마스터 트리거
set -e
export MINIO_ENDPOINT="http://minio-service.internal.zone:9000"
export INTERNAL_LLM_API_KEY="your-sre-token-here"
echo "⏰ [Phase 1] Thanos 원천 데이터 1분 해상도 고속 수집 가동..."
python3 step1_prom_fetch.py --days 1
echo "⚡ [Phase 2] Polars 256MB 가드레일 기반 다차원 융합 및 특징량 정산..."
python3 step2_pipeline.py --cluster ALL
echo "🚀 [Phase 3] 시각화, 정량 가버넌스 룰 필터링, LLM 정성 추론 병렬 기동..."
# COMPUTE 클러스터 병렬 제어
python3 step3_analytics.py --cluster COMPUTE &
python3 step4_governance_analyzer.py --cluster COMPUTE &
python3 step5_llm_diagnoser.py & # ◀ 이번에 마이그레이션한 Polars LLM 스크립트
# STORAGE 클러스터 병렬 제어
python3 step3_analytics.py --cluster STORAGE &
python3 step4_governance_analyzer.py --cluster STORAGE &
echo "⏳ 백그라운드 SRE 연산 프로세스 동기화 중 (wait)..."
wait
echo "📊 [Phase 4] step6 엑셀 컴파일러 구동 및 step5 LLM 텍스트 요약문 결합..."
# step6 실행 시 내부적으로 step5의 마크다운 결과나 step4의 아노말리 시트를 취합하도록 구성
python3 step6_excel_builder.py
echo "🏁 === [전사 배포 완료] 금일 자원 효율화 및 클라우드 네이티브 연계 진단 보고서 생성이 성료되었습니다. ==="
이 구조로 배치 체계를 안착시키면, 엔지니어는 출근하자마자 step6가 이쁘게 포장해 둔 엑셀 시트와 함께 step5 LLM 브레인이 Cilium eBPF 레이어 및 DirectPV 스토리지 백프레셔까지 낱낱이 해부해 둔 깊이 있는 아키텍처 진단서를 한눈에 받아볼 수 있게 됩니다.
engineer