-
Parametric model: The model has a fixed number of parameters. 모델의 파라미터 수가 정해져 있다.
Linear regression, Logistic regression, Neural Network(CNN, RNN등) 모델이 학습해야하는 것이 명확히 정해져있기 때문에 속도가 빠르고 모델을 이해하기가 쉽다는 장점.
But 데이터 분포가 특정한 분포를 따른다는 가정을 해야하기 때문에 flexibility가 더 낮고, 간단한 문제를 푸는데에 더 적합하다는 단점을 가지고 있다.
-
Non-parametric model: The number of parameters grow with the amount of training data. 파라미터의 수가 학습 데이터의 크기에 따라 달라진다.
데이터가 특정한 분포를 따른다는 가정을 하지 않기 때문에 더 flexibility하다는 장점이 있으나,
더 큰 데이터를 필요로 하는 경우가 있으며, 모델이 왜 그런 형태가 되었는지에 대한 명확한 설명을 하기가 쉽지 않다.
즉, parametric model은 데이터가 특장 분포를 따른다고 가정하고, 우리가 학습을 하면서 결정해야하는 파라미터의 종류와 수가 명확하게 정해져있다. 데이터가 얼마나 많든 간에 우리가 결정해야할 파라미터의 수는 변하지 않는 것이다.
그러므로 parametric model은 우선 모델의 형태를 정하고, 이 모델의 파라미터를 학습을 통해 발전시켜나가는 식으로 알고리즘이 진행된다.
반면에 non-parametric model은 데이터가 특정 분포를 따른다는 가정이 없기 때문에 우리가 학습에 따라 튜닝해야 할 파라미터가 명확하게 정해져 있지 않은 것이다.
그러므로 non-parametric model은 우리에게 data에 대한 사전 지식이 전혀 없을 때 유용하게 사용될 수 있다.
