[Mathematical Statistics] 2. Independent random variables

2.4 Independent random variables

이전까지는 A, B 독립인 사건에 대한 확률을 다뤘다면, 이젠 독립인 확률변수들을 다루도록 하자. 독립인 확률변수에 대한 정의는 다음과 같다.

Definition
Let random variables $X$ and $Y$ have a joint $p d f(p m f) f_{X, Y}(x, y)$ and marginal pdfs (pmfs) $f_{X}(x)$ and $f_{Y}(y)$. $X$ and $Y$ are said independent (독립) if $f_{X, Y}(x, y)=f_{X}(x) f_{Y}(y)$ for every $(x, y) \in \operatorname{supp}(X) \times \operatorname{supp}(Y)$.

x,y가 취할 수 있는 모든 점에 대해, joint pdf 가 marginal pdfs (pmfs)의 곱과 같은 form이라면 X와 Y는 독립이라고 부른다. 벡터공간에서 X와 Y는 수직이며, 내적 = 0 인데 깊게 다루진 않고 다음과 같은 독립을 나타내는 Notation이 있다는 것 정도만 알아보자.

• Notation: $X \perp Y$

그러나 이렇게 독립을 정의하고, pdf 가 주어질 때 독립을 체크하려면 joint pdf 에서 적분해서 각각의 marginal pdf 를 구한 후 이들의 각각의 곱이 joint pdf 와 같은지 확인해야 한다. 그러나.. 이보다 간단한 방법이 아래 있다.

Theorem $X$ and $Y$ are independent if and only if

joint pdf 만 가지고 독립을 체크할 수 있다! joint pdf 가 x와 y에 대한 어떤 함수들의 곱으로 인수분해된다면, if and only if 로 독립성이 보장된다.

where $g(x)$ is function of $x$ only and $g(y)$ is function of $y$ only.

이에 대한 proof 를 보자.

$(\Leftarrow)$ Assume $f_{X, Y}(x, y)=g(x) h(y)$. Then,

• 출발은 joint pdf 가 x와 y에 대한 각각의 함수 곱으로 이루어졌다는 걸 가정하고,
• 이로부터 pdf of X와 pdf of Y가 = x와 y에 대한 각각의 함수 곱 = joint pdf 임을 보이면 된다.
• key 는 pdf of X와 pdf of Y의 notation에 c1, c2 가 도입되는데, c1c2 = 1이므로 다른 영향이 없기 때문.

(Examples)

• example. Let $f_{X, Y}(x, y)=(x+y) I(0<x<1,0<y<1)$ be the joint pdf of $X$ and $Y$. Are $X$ and $Y$ indep.?

각 x와 y의 pdf 를 구해 이들의 곱이 x+y와 같지 않는다는 걸 보여도 좋고, x+y가 x와 y에 대한 함수로 인수분해 되지 않는다는 걸 생각하면, 더 쉽다.

• example. x{2}\right)=\frac{1}{384} x{1}^{2} x{2}^{4} \exp \left(-x{2}-x{1} / 2\right)$ for $x{1}>0$ and $x_{2}>0$. Are $X_{1}$ and $X_{2}$ independent random variables?

이것도 역시나... 따로 pdf 를 구할 것 없이 form만 봐도 x1, x2로 분리가 가능해보인다. 독립!