TIL - 2023.06.05

배엘리·2023년 6월 5일
0

TIL

목록 보기
5/23

오늘은 샌드위치 날이라서 그런가 사람들이 정말 많이 오지 않았다.
9시에 시작인데 딱 50명 있었나? 그정도로 사람이 많지 않아 나도 기분이 굉장히 해이했다. 집중하기도 힘들고...
오늘부터 중요한 XGBoost 같은 개념을 나간다고 해서 정말 탈주하고 싶었지만 ㅎㅎ 참았다.
나의 신념인 '자더라도 학교에서 자자!'를 여전히 잘 실천하고 있는 중이다.


📝 오늘 공부한 내용

Boosting

이전 트리를 보완하는 방식으로 학습되는 앙상블 기법

Bagging: 다양한 트리 모델들을 합쳐 오차를 줄여나가 general한 모델을 만들자.
Boosting: Sequential / 이전 모델이 잘못한 부분을 이번 모델에서 고치자.

Gradient Boosting Machine

Boosting + Gradient Descent Algorithm

  • 앞선 모델이 틀린 정도를 직접 개선
    How?

    treej+treej+1tree_j + tree_{j+1}

    tree 2개를 써서 loss를 줄여준다.

🌷 느낀점

드디어 자주 쓰인다는 XGBoost에 발을 내딛게 되어서 행복하다.
정말 많이 배워가고 이 시간 매초마다 소중하게 생각하면서 공부해야지.
앞으로는 캐글도 많이 풀어보면서 여러 ML모델에 익숙해지는게 우선이라고 생각한다.
이론을 너무 빠삭하게 아는 것도 좋지만 강사님 말씀대로 코드를 모르면 정말 아무것도 할 수 없으니..

1개의 댓글

comment-user-thumbnail
2023년 6월 18일

샌드위치날 ㅋㅋㅋㅋㅋ 정말 멋져 배엘리... 게으른 나 반성합니다.

답글 달기