Logistic Regression
All results are represented to true / false or 0 / 1
로지스틱이라는 것은 논리이며, 논리는 참과 거짓을 판별하는 것을 말한다.
데이터 분포 형태에 맞는 함수로 regression 을 진행해야 한다.
- Binary step function 의 경우 모양은 가장 일치하지만, 미분 불가능하고 수학적 함수식으로 나타낼 수 없다.
- Sigmoid 함수 (Logistic Function) 를 거의 가장 많이 쓴다.
Classification
- Class estimation
- Spam detector : Spam or not
- Face Recognition : Face of A,B,C,D
Classification 은 "경계를 나누는 것" 이라고 할 수 있다.
Logistic Function 을 여기에 Regression 하는 것이다.
여기서 Cost function 이 최솟값을 가지는 Logistic Function 의 파라미터를 찾으면, 그 부분이 경계가 되는 것이다.
Logistic Regression -> Classification
Convex 형태가 아니기 때문에 Gradient Descent 를 쓸 수가 없다.
- The choices we can make :
- Using another optimization (cost minimization) method instead of Gradient Descent
2. Using another cost function instead of MSE - Using another hypothesis instead of logistic function
C(H(x),y) <- 이것을 binary cross entropy 라고 한다.
