👉 오늘 한 일

• CoC(Code of Conduct). 행동 강령 리마인드
• 캐글 타이타닉 경진대회 실습 이어서

CoC(Code of Conduct)

스포카 크리에이터 행동 강령 소개
https://spoqa.github.io/2018/06/28/code-of-conduct.html

파이썬 행동 강령
https://www.python.org/psf/conduct/

타이타닉 실습

💡 Name 전처리

• train 에만 등장하는 데이터는 학습을 해도 test 에 없기 때문에 예측에 큰 도움이 되지 않음. train 에만 등장하는 데이터를 피처로 만들어 주게 되면 피처의 개수가 늘어나는데 불필요한 피처가 생기기도 하고 데이터의 크기도 커지기 때문에 학습에도 시간이 더 걸림. 또한, train과 test의 피처 개수가 다르면 오류가 발생함.

• 원핫인코딩을 할 때 train, test 피처의 개수와 종류가 같은지 확인이 필요함. 예를 들어 train 피처는 수학인데 test 피처는 국어라고 하면 피처의 개수가 같더라도 다른 종류 값이기 때문에 제대로 학습할 수 없음. 피처를 컬럼명으로 만들 때도 제대로 만들어지지 않음.

ipython 단축키 - ESC + F : find & replace

💡 Cabin 전처리

요금의 평균으로 T 객실의 요금과 비슷한 객실로 이니셜 값 변경

• 값을 대체할 때는 도메인 지식을 활용해야 하지만 일단 기존 데이터의 Fare를 참고함

💡 One-hot-encoding

• pandas에서는 Ordinal-Encoding을 category 타입에 대해서 cat 속성의 codes 속성으로 지원함

• pandas에서는 One-Hot-Encoding을 get_dummies 메서드로 지원함

• sklearn에서는 Ordinal-Encoding을 OrdinalEncoder 객체로 지원함

• sklearn에서는 One-Hot-Encoding을 OneHotEncoder 객체로 지원함
  
  
  

• sklearn 을 사용하게 되면 일단 학습을 해서 전처리를 하게됨.

  • test에 없는 값이라도 test에 해당 피처를 생성해줌

• pandas 의 get_dummies 를 사용하면 각각 전처리를 하기 때문에 다른 값이 있다면 다른 컬럼으로 생성이 됨

  • 이 부분도 피처가 만들어지고 나서 다른 컬럼은 제외해 주는 방법도 있음

• Ordinal-Encoding은 순서가 있는 데이터에 사용. 순서가 없는데 사용하면 의도치 않은 연산이 될 수 있음
  • 순서가 없는 데이터라면 One-Hot-Encoding 사용

💡 결측치 대체

• 결측치가 있으면 머신러닝 알고리즘 내에서 연산을 할 수 없어 오류가 발생하기 때문에 결측치가 있는 피처를 사용하려면 사이킷런에서는 꼭 결측치를 대체해야 함

• 현실 세계에서 분석하는 데이터는 결측치 채우는 것을 주의해서 해야 함

• 머신러닝 알고리즘에서 오류가 발생하지 않게 하기 위해 결측치를 채운것이라 분석할 때도 채운다고 오해하면 안됨

• train 에는 결측치가 없지만, test에 결측치가 있어서 새로운 변수를 만들어 채우고자 한다면 train 에도 test와 같은 변수를 만들어 주어야 함

• interpolate(보간법)

  • 이전 값이나 다음 값을 활용해 결측치를 채울 수 있는데 이런 방법은 대부분 시계열 데이터에서 데이터가 순서대로 있을 때 사용
  • .interpolate(method='linear', limit_direction='both')
  • 선형방정식을 이용해 채우거나, polynomial(다항방정식)을 이용해 채움
  • limit_direction은 채울 방향을 설정

💡 cross validation

sklearn.model_selection

• cross_val_score() : cv 조각별 스코어 출력

• cross_validate() : 조각별 fit_time, score_time, 스코어 출력

• cross_val_predict() : 실제 예측값 출력

• 보통 cross_val_predict()를 사용해 직접 계산해봄

제출 파일 이름에 cv로 측정한 train set에 대한 검증 점수를 함께 기입하면 캐글에서 test set의 점수와 비교해볼 수 있음

🤔validation score와 kaggle score가 다른 이유?
=> vaild는 train 데이터셋에서 검증한것이고, 캐글에 있는 정답셋과 다시 비교하기 때문

💡 캐글 제출

• 캐글 타이타닉 경진대회 200위 근처의 점수를 보면 0.82~0.81 정도인데 이 정도가 머신러닝의 다양한 기법을 사용해서 풀어볼 수 있는 현실적인 스코어 구간이라고 볼 수 있음

• 캐글에서 좋은 솔루션 찾는 법
  1) Top 키워드로 검색
  2) 솔루션에 대한 투표수가 많은 것
  3) 프로필 메달의 색상

💡 JD
DX를 진행하는 전통적인 산업군으로 지원해보는 것도 추천
경력직을 뽑는 곳이라도 지원해보기

📌오늘의 회고(3F)

• 사실(Fact) : 타이타닉 데이터를 전처리하고 기본 의사결정나무 모델을 활용해 예측한 값을 직접 캐글에 제출했다.
• 느낌(Feeling) : 전처리하는 방법에 따라서 베이스라인 모델의 성능이 천차만별인 것 같다.
• 교훈(Finding) : 하이퍼 파라미터 튜닝으로도 편리하게 모델의 성능을 올릴 수 있지만, 전처리에 조금 더 신경쓰자.