MLE는 Maximum Likelihood Estimation(최대 가능도 추정)의 약자이다. 최대 가능도 추정은 확률 분포의 파라미터 값을 추정하는 통계적 방법 중 하나이다.
MLE는 주어진 관측 데이터에 기반하여 가장 가능성이 높은 파라미터 값을 찾는 것을 목표로 한다. 이때, 데이터가 어떤 분포에서 나왔다고 가정하고, 해당 분포의 파라미터 값을 추정한다. 즉, 주어진 데이터가 주어진 분포에서 나올 가능성이 가장 큰 파라미터 값을 찾는 것이 MLE의 핵심 아이디어이다.
일반적으로 MLE는 확률 분포의 로그 가능도(log-likelihood)를 최대화하는 파라미터 값을 찾는다. 로그 가능도를 사용하는 이유는 로그 함수가 단조 증가 함수이기 때문에 최대화 문제를 편리하게 다룰 수 있기 때문이다.
MLE는 많은 통계적 모델링과 추정에서 사용된다. 예를 들어, 선형 회귀에서는 잔차의 분포를 가정하고 MLE를 사용하여 회귀 계수를 추정한다. 또한, 분류 문제에서는 로지스틱 회귀 모델에서 MLE를 사용하여 클래스 확률을 추정하고, 나이브 베이즈 분류에서도 MLE를 사용하여 클래스의 사전 확률과 조건부 확률을 추정한다.
최대 가능도 추정은 통계학에서 널리 사용되는 방법 중 하나이며, 파라미터 추정에 대한 일반적인 프레임워크를 제공한다.
