2025/01/24 TIL

‘다중공선성’은 ‘회귀 분석’(분류 문제 X)에서 독립 변수들 간에 강한 선형관계가 나타날 때 발생하고,
모델링의 목적과 적용하려는 모델의 종류에 따라 다르게 처리해야 하는 문제에요.

‘Feature Engineering’에는 다양한 방법이 있지만(ex. 파생변수 생성), 어떤 데이터이든 적용할 수 있는, 변수 변환 방법이 있어요.
수치형 변수이냐 범주형 변수이냐에 따라 다르게 기법들을 적용해야해요.

원핫 인코딩 : 범주형 변수, 특정 변수의 고유값 개수가 적을 때

라벨 인코딩 : 범주형 변수, 특정 변수의 고윳값 개수가 많을 때 (단, 순서가 있는 범주는 주의)

ordinal 인코딩 : 범주형 변수, 라벨 인코딩 + 순서의 의미릴 보존