적률 생성함수

Kiwoong Park·2022년 2월 9일

적률생성함수(MGF, moment generating function)

적률이란?

통계학에서 적률은 영어로 moment, 물리학에서 다루는 모멘트는 어떤 물리량에다가 어떤 정점 혹은 축에서 물리량의 위치까지의 거리를 곱한 것으로 정의되는 용어이다. 즉, 하나의 물리량 뿐만 아니라 물리량의 분포상태에 따라 달라지는 값을 표현한다고 생각할 수 있다.
통계에서 모멘트 역시 확률변수에서 변수값 뿐만 아니라 확률분포상태를 고려한 값을 정의하는 것이라고 할 수 있겠다.
양수 n에 대해 확률변수 $X_n$ 의 기댓값 E(X^n)을 확률변수 X의 원점에 대한 n차 적률이라고 한다.

\mu_n=E(X^n)

이산확률변수: $\sum_{x}x^nf(x)$
연속확률변수: $\int_{-\infin}^{\infin}x^nf(x)dx$
$f(x)$ 는 확률질량함수 또는 확률밀도함수

적률생성함수가 왜 필요할까?

위의 식에서 연속확률변수의 적률 계산의 경우 적분을 해야하는데 계산이 어려울 수도 있고, 불가능한 경우도 생길 수 있다. 이런 상황을 막기 위해 생긴 것이 적률생성함수(moment generating function)이다.

적률생성함수

적률생성함수의 정의는,
확률변수 X의 적률생성함수 $M_x(t)=E(e^{tx})$

M_x(t)=E(e^{tx})=\begin{cases} 이산확률변수: \sum_{x}e^{tx}f(x) \\ 연속확률변수: \int_{-\infin}^{\infin}e^{tx}f(x)dx \end{cases}

그리고 $M_x(0)=1$ 이다.

적률을 생성할 수 있는 함수라는 의미로
위 식에서 좌변을 t로 n번 미분하면 적률이 미분의 결과로 도출될 수 있다. 이때 테일러급수를 이용한다.

\cfrac{d^n\mu_x(t)}{dt^n}|_{t=0} = E(x^n)

$e^{tx}$ 의 테일러급수는,

e^{tx} = 1+tx+\cfrac{1}{2!}t^2x^2+\cfrac{1}{3!}t^3x^3 + ...,

기대값을 취하면

\mu_x(t) = E(e^{tx}) = 1+tE(x)+\cfrac{1}{2!}t^2E(x^2)+\cfrac{1}{3!}t^3E(x^3) + ...,

이므로 t에 대해서 n차 미분을 하고 t=0을 대입하면 1차 적률은 두번째항인 $E(x)$ , 2차 적률은 $E(x^2)$ , 이런식으로 적률이 미분의 결과로 산출된다.

Kiwoong Park

You matter, never give up

이전 포스트

푸아송 분포와 그 외 관련 분포들

다음 포스트