KNN(k-최근접 이웃)

k-최근접 이웃: 게으른 학습 알고리즘

기존의 알고리즘처럼 훈련데이터에서 판별함수를 학습하는 것이 아니라 훈련데이터셋을 메모리에 저장하는 것.

*출처: 머신 러닝 교과서 with 파이썬, 사이킷런, 텐서플로

• 위 과정처럼 최근접 이웃을 뽑아 다수결 투표로 진행 > 동점 처리는 물음표에 더 가까운 이웃으로

[모수 모델 VS. 비모수 모델]

모수 모델(Parametric Model)은 데이터가 특정한 분포를 따른다고 가정하고, 이 분포를 설명하기 위한 한정된 수의 파라미터로 모델을 구성하는 방식
ex) 퍼셉트론, 로지스틱 회귀, 선형 SVM

비모수 모델(Non-parametric Model)은 데이터에 특정한 분포를 가정하지 않고, 모델의 구조가 데이터의 크기나 특성에 따라 자유롭게 결정
ex) 결정트리, 랜덤 포레스트, 커널 SVM, KNN