Likelihood(가능도함수)

Likelihood function

가능도함수는 고전 통계학, 베이지안 통계학에서 자주 등장합니다. 추론을 한다는 의미에서 자주 쓰이는데 예를 들어 한번 설명해 보겠습니다. 동전을 던질때 앞면이 나올 확률을 말해보라 하면 1/2(50%)이다 라고 잘 대답할 것입니다. 그렇다면 동전을 10번 던졌을때 앞면이 7번 나올 확률은 이항분포를 이용해 계산합니다.


동전 앞면이 나올 확률 : $p=0.5$
이항 분포 : $\begin{pmatrix} n \\x \end{pmatrix}p^x(1-p)^{(n-x)}$ => $\begin{pmatrix} 10\\7 \end{pmatrix}0.5^7\:0.5^{3} = 0.1172$

결과는 0.1172로 11.72%가 나옵니다.
여기서 계산 값은 동전 앞면이 나올 확률이 0.5라는 전제가 이미 들어가 있습니다. 때문에 이 확률값은 $p$에 따라 얼마든지 바뀔 수 있으며 통계학에서 이 $p$를 모수라고 부릅니다.

그래서 우도함수에 대해서 생각해본다면 p를 추정해본다고 생각할 수 있습니다. 우리가 동전 던지기에서 동전을 10번 던지고 앞면이 7번 나왔는데, 이 결과를 가지고 동전 앞면이 나올 확률을 추정해 보는 것입니다. 직관적으로 우리는 동전 앞뒷면이 나올 확률이 50%라는것을 알지만 그 가정을 없애고 생각한다면 동전을 10번 던지고 앞면이 7번 나왔을 때, 직관적으로 앞면이 나올 확률이 70% 라고 생각 할 수 있습니다. 이 과정을 식으로 보여드리겠습니다.

이항 분포의 우도함수는 확률질량함수와 같습니다. 여기서 우리가 찾는값은 $p$이기 때문에 n=10, x=7로 고정시킵니다.

여기서 중요하게 생각해야 될 점이 확률질량함수와 가능도함수의 형태는 같다는 점입니다.다만 확률질량함수는 모수$p$를 고정시키고 시행횟수와 성공횟수를 이용해서 확률을 얻었고, 반대로 우도함수는 고정된 시행횟수와 성공횟수에 대해 모수$p$를 입력하여 가능도를 얻은 것입니다. 여기서 변하는 p에 따라 값을 구해 본다면 $p$가 0.7일 때 가장 큰 값을 갖는다는 것을 알 수 있습니다.

결국 정리하자면..

• 확률함수: 고정된 모수에서 그 확률을 얻는다.
• 가능도함수: 횟수를 고정시키고 해당 모수를 추측한다.