[ML] 3주차-3 : Multiclass Classification

Machine Learning by professor Andrew Ng in Coursera

1) Multiclass Classification : One-vs-all

Binary Classification의 경우 regression을 통해 얻은, 그림에서의 파란색 직선과 같은 것을 통해 두 개의 클래스로 분류를 했다.
Multi class는 어떻게 할까 ?

One-vs-all (one-vs-rest)

---

Class1과 나머지 분류 (Class1만 양성 나머지는 음성으로 분류)
Class2와 나머지 분류
Class3와 나머지 분류
로 생각한다.

각 Class 마다 hypothesis function을 얻을 수 있다.

이때 hypothesis function의 값은 주어진 x가 class i에 속할 확률을 나타낸다.
즉,

• 각 class $i$에 들어갈 확률 $P(y=i)$을 구하기 위해 regression classifier $h_\theta^{(i)}(x)$를 train한다.
• 새로운 데이터 x가 주어지면 $h_\theta^{(i)}(x)$ 값이 최대가 되는 class $i$를 선택한다.