Daily plan

🌞오전

- SQL 코드카타 98, 99 ,100번
- 11시 스탠다드 강의

🔥 오후

- 14시 QCC
- 15시 30분 QCC 해설

🌝 저녁

- TIL 제출해 !!!!

To Do

• ✅ SQL 코드카타 98~100
• ✅ QCC + 해설
• ✅ 스탠다드 강의

이번주 목표

• 통계학 강의 완강 ✅
• 시각화&전처리 강의 완강
• 데이터분석 파이썬 종합반 5주차 정리
• 통계 라이브세션 정리&복습 밀리지 않기! ✅
• 파이썬 스탠다드반 정리&복습 밀리지 않기! ✅
• 파이썬 베이직반 내용 공부 (헷갈리거나 처음보는 내용들만 정리)
• 지난 프로젝트 빨리 정리해서 업로드하자...
• SQL 코드카타 100번 찍기!✅

---

SQL 코드카타

Q98 - Game Play Analysis IV

select *, min(event_date)
from activity
group by player_id

Q99 - User Activity for the Past 30 Days I

select activity_date as day,
    count(distinct user_id) active_users
from activity
where activity_date between '2019-06-27' and '2019-07-27'
group by activity_date

• 기간에 대한 조건문 작성시에는 부등호보다 between and를 사용하는 게 더 정확
• date('2019-06-27')로 date format임을 표시하면 더 명확하게 작성 가능함

Q100 - Number of Unique Subjects Taught by Each Teacher

select teacher_id,
     count(distinct subject_id) cnt
from teacher
group by teacher_id

---

Python Standard

sklearn으로 머신러닝 모델 다루기

• XGBoost
• CatBoost

머신러닝 모델 선택 시 고려 사항

• 예측 정확도
• 학습 속도/ 예측 속도
• 과적합 방지 능력
• 결측치 처리 가능 여부
• 카테고리형 데이터 처리 능력
  • 결측치 처리나 카테고리형 데이터 처리는 전처리 과정에서도 할 수 있지만 모델 내에서 자동으로 처리 가능함

예측 정확도가 높을수록 좋지만, 정확도가 높아질수록 과적합 우려도 커지므로 적절히 균형을 맞추어야 함

트리 기반 모델

• 의사결정나무 (Decision Tree): 질문을 던지며 데이터를 나누는 구조
  • 앙상블 기법을 많이 사용함: 여러 나무를 합쳐서 더 강한 모델을 만드는 방법
  • XGBoost, CatBoost와 같은 모델들이 이에 해당

XGBoost (eXtreme Gradient Boosting)

• 부스팅: 약한 모델들을 순차적으로 학습시켜 강한 모델을 만드는 방식
• 빠르고 정확하며 대회에서 자주 사용
• 특징
  • 정형 데이터에 강력
  • 과적합 방지 기능을 가짐 (regularization: 규제)
  • 결측치 자동 처리 가능

from xgboost import XGBClassifier
from sklearn.datasets import load_breast_cancer
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score

# 데이터 로딩 
X, y = load_breast_cancer(return_X_y=True)
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 모델 학습
xgb = XGBClassifier(use_label_encoder=False, eval_metric='logloss')
xgb.fit(X_train, y_train)

# 예측 및 평가
y_pred = xgb.predict(X_test)
accuracy_score(y_test, y_pred)

CatBoost (Category+Boosting)

• Yandex에서 개발한 gradient boosting 라이브러리
• 특징
  • 카테고리 처리에 매우 강력하며, Label encoding을 안해도 됨
  • 하이퍼파라미터 튜닝을 적게 하거나 없이도 좋은 성능을 가짐
  • 결측치 자동 처리 가능

from catboost import CatBoostClassifier
from sklearn.datasets import load_breast_cancer
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score

# 데이터 로딩
X, y = load_breast_cancer(return_X_y=True)
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 모델 학습
cat = CatBoostClassifier(verbose=0)
cat.fit(X_train, y_train)

# 예측 및 평가
y_pred = cat.predict(X_test)
accuracy_score(y_test, y_pred)

XGBoost vs CatBoost

항목	XGBoost	CatBoost
카테고리 처리	수동 인코딩 필요	자동 처리
결측치 처리	자동 처리	자동 처리
학습 속도	빠름	다소 느릴 수 있음
초보자 친화성	중간	높음(튜닝 영향이 적음)
모델 해석력	중간	중간

• 두 모델 모두 feature importance를 제공하므로 이를 통해 해석 가능
• 두 모델 모두 sklearn의 fit, predict와 완벽하게 호환됨
• GridSearchCV 또는 RandomizedSearchCV로 하이퍼파라미터 튜닝도 가능함

주요 하이퍼파라미터

• 공통 파라미터
  • n_estimators: 트리 개수
  • learning_rate: 학습률 (클수록 빠르게 수렴)
  • max_depth: 트리의 최대 깊이
• XGBoost 전용 파라미터
  • subsample: 각 트리마다 사용할 샘플 비율
  • colsample_bytree: 각 트리마다 사용할 특성 비율
  • gamma: 정보 획득이 얼마 이상일 때 split
  • reg_alpha: L1 규제
  • reg_labmda: L2 규제
• CatBoost 전용 파라미터
  • depth: 트리 깊이
  • l2_leaf_reg: L2 규제
  • iterations: 트리 수 (n_estimators와 동일함)
  • bagging_temperature: 랜덤성 조절
  • random_strength: 특성 선택 랜덤성

GridSearchCV로 하이퍼파라미터 튜닝

• XGBoost Grid Search 예시

from sklearn.model_selection import GridSearchCV
from xgboost import XGBClassifier

param_grid = {
	'n_estimators': [100,300],
    'learning_rate': [0.05, 0.1],
    'max_depth': [3, 5],
    'subsample':[0.8, 1.0]
}

xgb = XGBClassifier(use_label_encoder=Flase, eval_metric='logloss')

grid_xgb = GridSearchCV(estimator=xgb,
						param_grid=param_grid,
                        cv=3,
                        scoring='accuracy,
                        n_jobs=-1)
                        
grid_xgb.fit(X_train, y_train)

grid_xgb.best_params_ # 최적 파라미터
grid_xgb.best_score_  # 최고 정확도

• use_label_encoder

  • 기본값: True (구버전 호환성 유지)
  • 최근에는 deprecation waring이 발생하므로 항상 False로 설정하는 것을 추천
  • XGBClassifier(use_label_encoder=False)

• CatBoost Grid Search 예시

from catboost import CatBoostClassifier
from sklearn.model_selection import GridSearchCV

cat = CatBoostClassifier(verbose=0)

param_grid = {
	'iterations':[100,300],
    'learning_rate':[0.05,0.1],
    'depth':[4,6],
    'l2_leaf_reg':[1,3]
}

grid_cat = GridSearchCV(estimator=cat,
					param_grid=param_grid,
                    cv=3,
                    scoring='accuracy',
                    n_jobs=-1)
 
grid_cat.fit(X_train,y_train)

grid_cat.best_params_ #최적 파라미터
grid_cat.best_score_  #최고 정확도

### 주의!!!
# CatBoost는 fit() 호출 시 cat_features를 지정해야 할 수 있음 (범주형이 있을 때만)    

CatBoost의 GPU 사용 방법

• GPU 설정 예시

from catboost import CatBoostClassifier

model = CatBoostClassifier(task_type="GPU", devices="0", verbose=0)

• task_type="GPU": GPU 사용 명시
• devices="0": GPU 번호 지정 (멀티 GPU일 경우 "0:1" 등도 가능함)
• GPU를 사용하면 학습 속도가 몇 배 빨라지며, 수천 개 이상의 샘플에서 특히 성능 차이가 크게 나타남

정리

• XGB, CatBoost 모두 기초 하이퍼파라미터는 비슷
• CatBoost는 튜닝 없이도 성능이 괜찮은 편임
• GridSearchCV는 학습 시간이 길 수 있으므로 범위를 좁혀서 시작하는 게 좋음
• 더 빠른 튜닝을 위해서는 RandomizedSearchCV도 좋음

---

QCC

1번

select region_name, max(sales) highest_sales
from stores
group by region_name
having count(store_id)>1
order by region_name

2번

select a.name as name_x, b.name as name_y, count(distinct a.cart_id) orders
from cart_products a
	cross join cart_products b
on a.cart_id = b.cart_id
and a.name!=b.name
group by 1,2
order by 1,2

cross join까지는 생각했는데 그 이후에 어떻게 해야할지 너무 막막해서 한참을 헤맸다ㅜㅜ
join에서 a.name!=b.name 이 조건 하나 더 걸어주는 걸 왜 생각 못했을까... 바보다 바보..

3번

select count(distinct o.user_id)
from orders o 
  left join payments p
  on p.user_id = o.user_id
where p.user_id is null 
  or pay_date>order_date

아니 문제 제대로 안 읽니????
'첫번째' 결제일보다 이전에 상품을 주문한 사용자 출력하라고.....'첫번째'!!!!

with first_payment as(
	select user_id, min(pay_date) first_payment_date
    from payments
    group by 1
)
select count(distinct o.user_id)
from orders o 
  left join first_payments fp
  on fp.user_id = o.user_id
where fp.user_id is null 
  or first_payment_date>order_date

---

일기

아 우리 아까 짝꿍놀이 한 거 사진 다날라감....;;;
velog 자동저장 해주는 줄 알았는데 이렇게 날 배신하네...
코드카타 한 것도 날라가고 스탠다드 강의 정리한 것도 다 날라감;;;;;

사진 얻어왔다 ㅜ.ㅜ

우리조 오늘의 이슈 브리핑

• 짝꿍 놀이
• 사칭을 멈춰주세요
• 오늘은 야외수업....^^

휴,, 오늘은 공부도 손에 안잡히고 열 많이 받는 하루였다^^
주말 동안 꼭 머신러닝 강의 다 들어야지!!