머신러닝을 공부하기 시작하면, 여러가지 용어들이 정확히 무엇을 지칭하는 것인지 헷갈릴 수 있다. 이러한 용어들을 정리하고, 머신러닝 모델들을 배우기 위한 사전지식들도 간략하게 핵심들로 정리해 보았다.
의사 결정 트리란 무언가를 결정할 수 있는 기준들을 학습하는 모델이다.
베이즈 정리는 조건부 확률에 사전확률(prior)을 활용하여 통계적 추론을 하는 방법이다.
선형회귀(Linear regression) 학습과정 임의의 파라미터 값을 설정해서 선형모델을 가정한다. train data로 학습한다. loss, cost를 사용해서 MSE를 구한다. ...
기저란 백터공간 V에 대하여 임의의 벡터집합 S가 ① 서로 1차 독립이면서 ② 벡터공간 V를 생성하면 S는 V의 기저이다.
모든 학습 데이터를 사용하여 비용함수의 기울기를 계산한다. 일반적인 경사하강법은 이 배치 경사하강법을 의미한다. 전체 데이터를 사용하기 때문에 안정적이지만, 효율적이지 않다.
MLE ; Maximum Likelihood Estimation ; 최대 가능도 추정법