로지스틱 회귀는 선형 회귀 방식을 분류에 적용한 알고리즘
사건이 일어나고(1) 일어나지 않고(0)를 예측하는 것이 로지스틱 회귀 모델의 목표
<예시>
- 화재가 발생했을 때, 산소가 X만큼 부족해지면 '사망한다 or 사망하지 않는다.'
- 교통사고가 발생했을 때, 충격량이 X일 때 '중상을 입는다 or 입지 않는다.'
- 타이타닉에서 사고가 벌어졌을 때, X라는 조건이 주어지면 '사망한다 or 사망하지 않는다.'
Sigmoid Function (시그모이드 함수)
-
신경망에서 자주 이용하는 활성화 함수.
-
Logistic Regression 또는 Neural network의 Binary classification(이진분류) 마지막 레이어의 활성함수로 사용하는 함수.
-
함수값이 (0,1)로 제한됨.
-
중간 값은 1/2.
-
매우 큰 값을 가지면 함수값은 거의 1이며, 매우 작은 값을 가지면 거의 0임.
Linear vs Logistic
단순히 선형회귀 모델을 사용하지 않고, 굳이 시그모이드 함수를 사용해야 하는 이유는
사건이 발생하고, 발생하지 않는 결과를 선형으로 표현하게 됐을 때 문제점이 발생하기 때문
(새로운 값의 추가가 기존 분류 모델에 큰 영향을 미치게 되는 문제점)
로지스틱 회귀가 선형 회귀와 다른 점은 학습을 통해 선형 함수의 회귀 최적선을 찾는 것이 아니라 시그모이드(Sigmoid) 함수 최적선을 찾고 이 시그모이드 함수의 반환 값의 확률에 따라 분류를 결정한다는 것
Logistic Regression 이란 Binary classifcation 문제의 아웃픗을 표현하기 위한 알고리즘으로서, Sigmoid 함수를 Activation Function으로 사용하며 그 결과값은 0~1사이의 확률 값으로 표현이 된다.
