신뢰 구간 : 예시

$X \sim N(\mu, \sigma^2)$일 때의 신뢰 구간

$X_1, X_2, ..., X_n$을 $N(\mu, \sigma^2)$를 따르는 랜덤 표본이라고 하자.
$\bar{X}$, $s^2$이 각각 표본 평균, 표본 분산일 때, 다음과 같은 T분포 확률 변수를 생각할 수 있다.

우리의 목표는 표본 평균과 표본 분산으로 $\mu$의 신뢰 구간을 완성하는 것이고, $T$의 분포를 아는 상황이므로 $T$를 피봇 변수로 이용해 신뢰 구간을 도출한다.

중심극한정리 (CLT)

$X_1, X_2, ..., X_n$ iid Random sample
$\lvert \mu \rvert < \infin$, $\lvert \sigma^2 \rvert < \infin$

$W_n = \frac{\bar{X} - \mu}{\sigma/\sqrt{n}} \rightarrow N(0,1)$

$Z_n = \frac{\bar{X} -\mu}{S/ \sqrt{n}} \rightarrow N(0,1)$

as $n \rightarrow \infin$

$X$가 정규 분포를 따른다는 가정이 없을 때의 신뢰구간

$X$의 정규성 가정이 없다면 $T$분포를 사용할 수 없다. 이 경우에는 중심극한정리를 적용해 표본 크기가 커질수록 표본 평균의 정규화 분포가 근사적으로 $N(0,1)$을 따른다는 것을 이용한다.

이 신뢰구간은 CLT를 사용하기 때문에 근사적인 신뢰 구간이며, CLT의 가정에 따라 표본 크기가 충분히 큰 경우에만 사용할 수 있다.

두 분포의 평균 차에 대한 신뢰구간

$X_1, X_2, ..., X_{n_1}$을 $X$의 랜덤 표본, $Y_1, Y_2, ..., Y_{n_2}$를 $Y$의 랜덤 표본이라고 하자. 이 때 $X_i \perp Y_j$이다.

두 확률변수의 평균의 차에 대한 신뢰 구간을 얻기 위해서 위와 같이 CLT를 이용할 수 있다.

$\bar{X} - \bar{Y}$는 $\mu_1 - \mu_2$의 점 추정량 역할을 한다. 또한 CLT에 의해 다음 결과가 도출된다.

$W$를 피봇 변수로 사용해 신뢰 구간을 도출하면 다음과 같다.

Location model

만약 $X \sim N(\mu_1, \sigma^2), Y \sim N(\mu_2, \sigma^2)$이라면, CLT를 이용한 근사된 신뢰 구간이 아닌 정확한 신뢰 구간을 구할 수 있다. 두 확률 변수가 동일한 분산을 가져야 하기 때문에 Location model이라고도 부른다.

$X, Y$가 정규분포를 따르기 때문에 $\bar{X} \sim N(\mu_1, \frac{\sigma^2}{n_1})$, $\bar{Y} \sim N(\mu_2, \frac{\sigma^2}{n_2}) \\ \Rightarrow (\bar{X} - \bar{Y}) \sim N(\mu_1 - \mu_2, \frac{\sigma^2}{n_1} + \frac{\sigma^2}{n_2})$이다. ($\bar{X} \perp \bar{Y}$)

$Z$는 $T$ 통계량을 만들 때 분자로 사용된다.

$X$와 $Y$의 분산이 동일할 때, $\sigma^2$의 점 추정량으로는 pooled estimator를 사용한다.