Linear Models II

Handling Categorical Input Variables

범주형 변수(Categorical Variables) : 숫자가 아닌 텍스트나 레이블로 표현되는 데이터

Binary Category (이진 변수) : 선택지가 두 가지

텍스트로 된 범주형 변수는 먼저 숫자로 변환
ex. 주차 공간(Parking space)

선형 회귀식 : $y = \beta_0 + \beta_1 x_1 + \beta_2 x_2 + \cdots + \beta_k x_k$

$β_1$ : 주차 공간 여부에 따른 가격 변화량
→ $x_1$이 0이면 주차 공간이 없고,
1이면 주차 공간이 있어 $β_1$ 만큼 가격이 상승하는 효과를 보여줌

• 다중 범주형 변수의 처리

→ Label Encoding의 문제점
: 숫자 0, 1, 2를 그대로 사용하면 모델은
Town house와 Studio, Apartment 사이에 순서가 있다고 잘못 해석

ex. 만약 $β_2$가 음수라면,
Studio: $β_2$×1=−200M
Apartment: $β_2$×2=−400M
숫자가 커질수록 집값에 미치는 영향이 비례적으로 커지게 됨.

One-Hot Encoding

하나의 범주형 변수 $x_2$를 여러 개의 이진(binary) 변수로 바꿔줌

각 범주마다 별도의 변수를 만들어 해당 범주에 속하면 1, 아니면 0으로 표시

• 각 주택 유형에 해당하는 회귀 계수(집값 기여도)

모델은 주택 유형이 가격에 얼마나 기여하는지를 학습

Dummy Variable 방식

하나의 범주를 기준으로 설정하고,
그 범주에 해당하는 변수는 모델에 포함하지 않음

Town house : 기준 범주(baseline)이므로, $x_{\text{studio}}=0, \beta_{\text{apartment}}$일 때, 절편으로 나타남
Studio : $x_{\text{studio}}=1$일 때 추가적인 효과 $\beta_{\text{studio}}$ 가 더해져 집값에 영향을 줌
Apartment : $x_{\text{apartment}}=1$일 때 추가적인 효과 $\beta_{\text{apartment}}$가 추가되어 영향을 나타냄