확률 변수의 함수와 변환 (일변량)

확률 변수의 함수와 변환

확률 변수 $X$의 확률 함수나 분포 함수를 알고 있다고 할 때, $X$에 관한 함수 $Y = g(X)$의 분포를 알고 싶은 경우가 있다. $X$의 분포 정보를 바탕으로 $g(X)$의 분포를 알아내는 과정을 확률 변수의 변환이라고 한다.

확률 변수의 변환은 다양한 분포를 다루기 위한 효과적인 방법이며, 복잡한 분포를 더 단순한 형태로 변환하는 데 유용하게 사용된다.

대표적인 경우로 $X$를 평균과 표준 편차로 표준화 시킬 때, $Y = \frac{X-\mu}{\sigma}$라는 X에 대한 함수를 이용한다. 여기서는 $g(X) = \frac{X - \mu}{\sigma}$가 될 것이다.
표준화를 할 경우 $Y$의 값은 $X$가 평균으로부터 몇 표준편차 떨어져 있는지로 해석할 수 있다. 즉 표준편차라는 단위가 생기므로 서로 다른 자료라도 각각의 표준편차를 이용해 비교할 수 있게 된다.

확률 변수의 변환은 확률 변수가 이산형인지, 연속형인지에 따라 방법이 조금씩 다르다. 따라서 각 케이스에 따라 살펴보자.

이산형 확률 변수

1. $g(X)$가 단조함수인 경우
   $g(X)$가 단조함수이면 각각의 $X$값과 $g(X)$값이 하나씩 대응된다. 그리고 $g(X)$의 역함수가 존재하기 때문에 다음이 성립한다.

예를 들어 $P(X = x) = \binom{3}{x}(\frac{2}{3})^x(\frac{1}{3})^{3-x}I(x \in \{0, 1, 2, 3\})$라고 하자.
이 때 $Y = X^2$라고 하면 일반적으로 $Y$의 역함수는 존재하지 않는다. 그러나 $X$의 서포트가 $\{0, 1, 2, 3\}$ 이므로, $X = g^{-1}(Y) = \sqrt{Y}$가 성립한다.

따라서 $P(Y = y) = P(X = \sqrt{Y})$이므로, $Y$의 확률 함수는 다음과 같다.

2. $g(X)$가 단조함수가 아닌 경우
   $g(X)$가 단조함수가 아닌 경우에 보편적으로 쓸 수 있는 방법론은 없다. 대신 $X$의 서포트의 모든 원소를 각각 $g(X)$에 넣어 $Y$의 서포트를 완성하고, $P(Y = y)$를 각각의 $y$마다 계산해서 구해야 한다.

예를 들어 $P(X = x) = \frac{1}{4}I(x \in \{-2, 0, 1, 2\})$라고 하고, $Y = X^4$라고 하자.

$X^4$는 역함수가 존재하지 않고, $X$의 서포트의 원소도 음수와 양수를 모두 포함하므로 첫번째 방법을 사용할 수 없다.

따라서 $Y$의 서포트를 구하면 $R_Y = \{0, 1, 16\}$이고, $P(Y = y)$는 다음과 같다.

연속형 확률 변수

연속형 확률 변수의 변환은 분포 함수와 확률 함수가 미분과 적분으로 표현 가능하다는 것을 이용한다.

1. $g(X)$가 단조함수인 경우
   이 경우 g(X)의 역함수가 존재하기 때문에 역함수의 미분법을 이용해 확률변수의 변환을 할 수 있다.

이 부분에 주의할 점은, $g(X)$가 단조증가냐 단조감소냐에 따라 부등호의 방향이 바뀐다는 것이다.

만약 단조증가라면 위와 같이 $Y$의 분포 함수를 구할 수 있다.
따라서 $Y$의 확률 함수는 다음과 같다.

단조감소인 경우의 $Y$의 분포함수는 아래와 같다. 이를 y에 대해 미분하면 단조증가의 경우와 마찬가지로 $Y$의 확률 함수를 구할 수 있다.

2. $g(X)$가 단조함수가 아닌 경우
   예를 들어 $Y=X^2$인 경우를 살펴보자. $Y$의 분포 함수는 다음과 같이 구할 수 있다.

따라서 $g(X)$의 역함수가 존재하지 않는 경우는 X와 y에 관한 부등식을 조작해서 $F_X(h(y))$꼴로 만들어 $Y$의 분포 함수를 구한다.