Logistic Regression

로지스틱 회귀분석은 일반화 선형모형(Generalized Linear Model, aka.GLM)이라 불리는 범주의 통계모형 모델링 방법 중 하나
어제 공부한 선형회귀 모델이랑 비슷하지만 다른 부분이 있다.

GLM에 관한 자세한 설명
참고자료: Must Learning with R

• 로지스틱 회귀분석에서 선형화 시키는 대상
  ->범주에 속할 확률
• 확률 ; 일반적으로 예측자들에 따라 비선형적으로 분포되어 있고, 형태는 S자를 그리고 있는 경우가 많음
  

  여기에 선형 회귀 모델을 추가하면
  https://wikidocs.net/images/page/34032/로지스틱_point_lm_00.png
  빨간 동그라미; 확률이 가질 수 없는 값 추정
  초록 네모; 확률값으로 추정되고 있음

• 선형 회귀 모델이 나쁘진 않지만, 같은 회귀선을 이용하여 새 데이터를 예측하다 보면 훨씬 많은 예측값이 벗어날 가능성이 있음..

비선형적인 모형 적합시

S자 형태를 띠는 비선형적인 회귀곡선

로짓의 개념

• 오즈비 ; 실패확률 대비 성공확률
  $오즈비(odds ratio) = \frac{P}{1-P}$
  예) 주사위에서 3이상의 눈이 나올 확률
• 3이상(3,4,5,6) ; 4/6 =0.667
• 나머지(1,2) ; 2/6 =0.333
• 오즈비: 0.333/0.667 =0.499

BUT,오즈비는 바로 쓸 수 없음!!
=> P ; 확률 값으로 $0≤ P ≤1$ 사이
P가 증가할수록 오즈비가 급격하게 증가
= 선형적이지 못하게 됨
~> $log()$활용하여 완화
$Logit = log(\frac{P}{1-P})$

로짓의 그래프가 오즈비보다 더 선형적인 그림을 나타내어 선형회귀의 기본식을 활용할 수 있음
= '로지스틱 회귀'

• 로짓의 장점: 반드시 특정 사건이 일어날 확률이 0과 1사이로 들어오게 함!

• 로지스틱 함수 더 알아보기

실습

Rule Base(룰 베이스) - 로지스틱 회귀는 아님!!

로지스틱회귀 예시 - titanic data

다중 로지스틱 회귀 예시

기타

로지스틱 회귀를 실