확률 변수의 독립성, 확률 변수의 변환(이변량)

STATS·2023년 6월 25일

수리통계학

목록 보기

11/40

확률 변수 $X, Y$ 의 독립은 CDF, MGF, PMF/PDF를 이용해 확인할 수 있다.

X \perp Y \\ \iff F_{X, Y}(x, y) = F_X(x)F_Y(y) \\ \iff f_{X, Y}(x, y) = f_X(x)f_Y(y) \\ \iff (if \ MGF\ exist) \ M_{X, Y} (t_1, t_2) = M_X(t_1)M_Y(t_2)

일변량 확률 변수의 함수와 마찬가지로, 확률 변수가 두 개인 경우의 확률변수의 함수, 예를 들면
$Y_1 = 2X_1 + 3X_2, Y_2 = -4X_1$ 같은 경우에서 $Y_1, Y_2$ 의 결합 분포 함수를 구하고 싶다면 확률 변수의 변환 테크닉을 이용하면 된다.

$Y_1 = f(X_1, X_2), Y_2 = g(X_1, X_2)$ 일 때, $F_{Y_1, Y_2}(y_1, y_2)$ 는 다음 과정을 통해 도출할 수 있다.

F_{Y_1, Y_2}(y_1, y_2) = P(Y_1 \le y_1, Y_2 \le y_2) = P(f(X_1, X_2) \le y_1, g(X_1, X_2) \le y_2) \\ = P(X_1 \le h(X_2, y_1), X_2 \le u(X_1, y_2)) = F_{X_1, X_2}(h(X_2, y_1), u(X_1, y_2))

즉 $f(X_1, X_2) \le y_1, g(X_1, X_2) \le y_2$ 부등식에 적절한 변형을 가해 $X_1$ 과 $X_2$ 에 대한 부등식으로 만든 후, $X_1$ 과 $X_2$ 의 결합 누적 분포 함수를 이용해 CDF를 도출할 수 있다.

변환하려는 변수들의 갯수와 변환되는 변수들의 갯수가 일치할 경우, 자코비안을 이용한 변수 변환을 시도해 볼 수 있다.

Y_1 = aX_1 + bX_2, Y_2 = cX_1 + dX_2

$f_{X_1, X_2}(x_1, x_2)$ 를 알고 있고, $Y_1, Y_2$ 의 확률 함수를 알고 싶으면 경우, 다음의 과정을 거치면 된다.

Let \ A = \left[\begin{matrix} a & b \\ c & d \\ \end{matrix} \right] \\ \left[ \begin{matrix} Y_1 \\ Y_2 \\ \end{matrix} \right] = A \left[\begin{matrix} X_1 \\ X_2 \\ \end{matrix} \right] \\ {} \\ \Rightarrow \left[\begin{matrix} X_1 \\ X_2 \\ \end{matrix} \right] = A^{-1}\left[ \begin{matrix} Y_1 \\ Y_2 \\ \end{matrix} \right] \\ {} \\ J = \begin{vmatrix} \frac{\partial X_1}{\partial Y_1} & \frac{\partial X_1}{\partial Y_2}\\ \frac{\partial X_2}{\partial Y_1} & \frac{\partial X_2}{\partial Y_2} \\ \end{vmatrix} =det(A^{-1}) = \frac{1}{det(A)} = \frac{1}{ad-bc} \\ {} \\ f_{Y_1, Y_2}(y_1, y_2) = f_{X_1, X_2}(A^{-1}_{11}y_1 + A^{-1}_{12}y_2, A^{-1}_{21}y_1 + A^{-1}_{22}y_2)\cdot \lvert J \rvert

$det(A) = 0$ 인 경우는 $A$ 가 Full-Rank가 아니기 때문에, $Y_1$ 과 $Y_2$ 가 선형종속 관계에 있게 된다. 이 경우에는 자코비안을 이용한 변수 변환을 사용할 수 없다.