표집분포와 중심극한정리

Wackerly et al., Mathematical Statistics with Applications을 읽고
책 내용을 정리하였습니다.

7.1 서론

통계량

아래 식에서 $\bar{Y}$는 통계량(statistic)
$\bar{Y} = (1/n)\sum_{i=1}^{n}Y_i$

통계량은 표본에서 관측할 수 있는 확률변수들과 알고 있는 상수의 함수

표집분포

모든 통계량은 확률변수이므로 그들의 표집분포(sampling distribution)라고 하는 확률분포를 가지고 있음

7.2 정규분포에 관련된 표집분포

정규분포에 관련된 표집분포

$Y_1, Y_2, ..., Y_n$은 평균이 $\mu$이고 분산이 $\sigma^2$인 정규분포에서의 크기 $n$인 확률표본이라 하자
그러면
$\bar{Y} = \frac{1}{n}\sum_{i=1}^nY_i$
는 평균이 $\mu_{\bar{Y}} = \mu$이고 분산이 $\sigma^2_{\bar{y}} = \sigma^2/n$인 정규분포를 따른다.

독립인 표준정규확률변수들의 제곱의 합에 대한 표집분포

$Y_1, Y_2, ..., Y_n$은 평균이 $\mu$이고 분산이 $\sigma^2$인 정규분포에서의 크기 $n$인 확률표본이라 하자
그러면 $Z_i = (Y_i - \mu) / \sigma, i = 1,2,...,n$는 독립이며, 표준정규확률변수이고
$\sum_{i=1}^nZ_i^2 = \sum_{i=1}^n(\frac{Y_i - \mu}{\sigma})^2$
는 자유도가 $n$인 $\chi^2$분포를 따른다.

통계량 $S^2$의 함수에 대한 확률분포

$Y_1, Y_2, ..., Y_n$은 평균이 $u$이고 분산이 $\sigma^2$인 정규분포에서의 확률표본이라고 하면
$\frac{(n-1)S^2}{\sigma^2} = \frac{1}{\sigma^2}\sum_{i=1}^n(Y_i - \bar{Y})^2$
는 자유도가 $(n-1)$인 $\chi^2$분포를 따른다. 또한 $\bar{y}$와 $S^2$은 독립인 확률변수이다.

스튜던트 t분포

• 간단히 t분포라고도 한다
• $Z$는 표준정규확률변수이고 $W$는 자유도가 $\nu$인 $\chi^2$분포를 따르는 확률변수라고 하자.
  만일 Z와 W가 독립이면

  $T = \frac{Z}{\sqrt {W/V}}$

는 자유도가 $\nu$인 t 분포(t distribution)을 따른다고 한다.

• 자유도가 n-1인 스튜던트 t 분포
  $T = \frac{Z}{\sqrt {W/V}} = \frac{\sqrt{n}(\bar{Y} - \mu) / \sigma}{\sqrt{([(n-1)S^2/\sigma^2]/(n-1)}} = \sqrt{n}(\frac{\bar{y} - \mu}{S})$

F분포

$W_1$과 $W_2$가 독립이며 자유도가 각각 $\nu_1, \nu_2$인 $\chi^2$ 분포를 따르는 확률변수라 하자.
그러면

$F = \frac{W_1/\nu_1}{W_2/\nu_2}$
는 분자의 자유도가 $\nu_1$이고 분모의 자유도가 $\nu_2$인 F분포를 따른다고 한다.

• 분자의 자유도가 $(n_1 - 1)$, 분모의 자유도가 $(n_2 - 1)$인 F분포
  $F = \frac{W_1/\nu_1}{W_2/\nu_2} = \frac{([(n_1-1)S^2/\sigma^2]/(n_1 - 1)}{([(n_2-1)S^2/\sigma^2]/(n_2 - 1)} = \frac{S_1^2 \sigma_1^2}{S_2^2 \sigma_2^2}$

7.3 중심극한정리

중심극한정리

$Y_1, Y_2, ... Y_n$은 $E(Y_1) = \mu$이고 $V(Y_1) = \sigma^2 < \infin$인 독립이며 동일하게 분포된 확률변수라 하자.

$U_n = \frac{\sum_{i=1}^{n}Y_i -n\mu}{\sigma\sqrt{n}} = \frac{\bar{y} - \mu}{\sigma/\sqrt{n}}$, 여기서 $\bar{y} = \frac{1}{n}\sum_{i=1}^nY_i$

로 정의하면
$U_n$의 분포함수는 $n$이 무한으로 수렴할때 표준정규분포함수에 수렴한다.
즉 모든 $\mu$에 대해

$\lim_{n \to \infty}P(U_n \leq \mu) = \int_{-\infin}^{\mu} \frac{1}{\sqrt{2\pi}}e^{-t^2/2} dt$

7.4 중심극한정리의 증명(선택)

$Y$와 $Y_1, Y_2, Y_3, ...$은 각각 적률생성함수 $m(t)$와 $m_1(t), m_2(t), m_3(t), ...$를 갖는 확률변수라 하자
만일 모든 실수 $t$에 대해
$\lim_{n \to \infty}m_n(t) = m(t)$
이면 $n \to \infty$일 때 $Y_n$의 분포함수는 $Y$의 분포함수에 수렴한다.

7.5 이항분포에 대한 정규근사

$U_n = Y/n$의 평균은 $\mu_U = p$ 분산은 $\sigma_U^2 = p(1-p)/n$

7.6 요약