Lec 05-1: Logistic Regression/Classification

Logistic Regression

Regression은 데이터를 잘 설명하는 선을 긋는 것(Cost의 최적화)

(Binary) Classification은 0, 1로 예측을 수행하는 것

• 하지만 H(x) = Wx + b 의 식을 갖고 있는 Linear Regression으로는 불가능하다
• 그래서 나온 것이 시그모이드 함수이다. (수업에서는 g(z)로 표현)

Linear Regression(좌)과 Logistic Regression(우)의 코스트 펑션의 모양이 다름

Linear.R은 항상 어디에서 시작하든 최소값을 찾는 것이 보장됨

Logistic.R은 선형적인 함수가 아님. 따라서 모양이 구불구불하게 변화하며, 잘못하면 로컬 미니멈에 빠지고 글로벌 미니멈을 못찾을 수 있음 -> 따라서 코스트 함수를 바꿔야함

바뀐 코스트 함수

• exponetial 함수와 상극인 것이 로그 함수임. 그리고 로그 함수가 우리가 원하는 모양을 갖고 있음

위의 수식을 텐서플로우로 구현하려면, if문이 항상 있어야한다. 그것을 해결하기 위해 다음과 같이 수식을 변경한다.

W는 GradientDescentOptimizer 함수가 구해줌