[ML] Multiclass Classifier (다중 분류)

1. Multiclass Classifier (다중 분류기)

• 둘 이상의 class 구별

• SGD Classifier, Randomforest Classifier, Naive Bayes Classifier는 여러 개의 class를 직접 처리 가능

• Logistic Regression, Support Vecter Machine Classifier는 이진 분류만 가능 → 이진 분류기를 여러 개 사용하여 다중 class를 분류

🔥 이중 분류기를 여러개 사용하여 다중 class를 분류하는 전략

• OvR(One-versus-the-rest) or OvA(One-versus-all) 전략 : 분류할 때 각 분류기의 결정 점수 중에서 가장 높은 것을 class로 선택하는 것
• OvO(One-versus-one) 전략 : 각 class의 조합마다 이진 분류기를 훈련시킴 → if class가 $N$개이면 분류기는 $N \times (N - 1)/2$개가 필요

⭐️ OvO 전략의 장점 : 각 분류기의 훈련에 전체 훈련 세트 중 구별할 두 class에 해당하는 샘플만 필요 (SVM 같은 알고리즘은 training set 크기에 민감하여 큰 training set에서 적은 분류기를 훈련시키는 것보다는 작은 training set에서 많은 분류기를 훈련시키는 것이 빠름)
⭐️ BUT 대부분의 이진 분류 알고리즘에서는 OvR을 선호

2. Multilabel classification (다중 레이블 분류)

• 여러 개의 class에 대해 이진 출력하는 분류 시스템

• 얼굴 인식 분류기에서 같은 사진에 여러 사람이 등장하면 [1, 0, 1]을 출력
  
  

3. Multioutput classification (다중 출력 분류)

• 다중 레이블 분류에서 한 레이블이 다중 class가 될 수 있도록 일반화 한 것

• 이미지의 잡음을 제거하는 시스템

• 분류기의 출력이 다중 레이블(픽셀당의 레이블이 1개) / 각 레이블은 값을 0~255까지 다양하게 가질 수 있음)

Reference

https://wannabenice.tistory.com/11
핸즈온 머신러닝 2판