모집단으로부터 추출한 표본에 근거하여 모집단에 관한 결정을 내리는 것을 통계적 결정(statistical decision) 이라 한다. 통계적 결정을 하려면 우선 모집단에 대한 가설을 세워야 하는데, 이러한 가설은 참(truth)일 수도 거짓(falsity)일 수도 있다. 가설을 부정할 때는 그 가설을 기각(reject) 한다고 하며, 부정하지 못할 때는 그 가설을 채택(accept) 한다고 한다.
이와 같은 진위를 결정하는 과정을 가설검정(hypothesis test) 이라 한다. 가설검정은 모집단의 분포를 규정하는 두 가설을 세우고, 이 중 어느 것이 참인지를 모집단으로부터 얻은 표본 정보로 판단하는 것이다.
일반적으로 가설은 반증적인 방법으로 증명하기 위해 기각되길 바라면서 가설을 세우는데, 이러한 가설을 귀무가설(null hypothesis) 이라 하며, H0로 표기한다. 귀무가설과 대립되거나 이를 부정하는 가설을 대립가설(alternative hypothesis) 이라 하며, H1으로 표기한다. 따라서 입증하고자 하는 가설을 대립가설로 세우고, 기각되기를 바라는 가설을 귀무가설로 세운다.
예를 들어 ‘치킨 가게 종업원의 평균 업무 시간은 3시간이다.’라는 주장은 그 타당성을 입증해야 할 귀무가설이고 이를 다음과 같이 나타낸다.
H0:μ=3시간
그러면 이와 반대되는 대립가설은 귀무가설이 참이 아니라는 주장으로 다음과 같이 나타낸다.
H1:μ=3시간
일반적으로 귀무가설은 기호 ≤, =, ≥ 등을 사용하고, 대립가설은 이와 반대되는 >, =, < 등을 사용한다.
하나의 귀무가설과 대립가설을 설정하고 이들의 참과 거짓을 결정할 때, 그 판단의 기준으로 임의의 표본으로부터 얻은 표본통계량을 사용한다. 이 표본통계량을 검정통계량(test statistic)이라 하며, 검정통계량의 관측값에 따라 귀무가설 H0를 기각하거나 채택한다.
만일 H0가 참인 결과를 얻으면 귀무가설 H0를 ‘채택한다’고 한다. 그 의미는 ‘귀무가설 H0가 사실이다.’를 증명한 것이 아니라, H0가 사실이 아니라고 보기에 표본 결과가 충분한 타당성을 갖지 못한다는 것으로서 ‘귀무가설 H0가 틀렸다고 볼 수 없다.’는 의미이다.
반대로 H0가 거짓인 결과를 얻으면 귀무가설 H0를 ‘기각한다’고 한다. 그 의미는 ‘귀무가설 H0가 사실이 아니다.’를 증명한 것이 아니라, H0가 사실이 아니라고 보기에 표본 결과가 충분한 타당성을 가지고 있다는 의미이다.
이때 귀무가설 H0를 기각하게 하는 검정통계량 관측값의 영역을 기각역(rejection region) 이라 한다. 반대로 귀무가설 H0를 채택하게 하는 검정통계량 관측값의 영역을 채택역(acceptance region) 이라 한다. 그리고 그 경계를 임계값(critical value) 이라 한다.
다시 말해 가설검정이란 모집단의 모수 값이나 확률분포에 대하여 어떤 가설을 설정하고, 이 가설의 참과 거짓 여부를 표본통계량에 의해 확률적으로 확정하여 통계적 결정을 내리는 것이다.
오류
가설검정은 귀무가설이 참이라는 가정에서 실시하므로 귀무가설을 채택하거나 기각한다는 한 가지 결론을 얻는다. 그러나 이런 결론은 모집단을 이용한 것이 아니라 불완전한 표본을 이용한 것이므로 항상 잘못된 결론을 얻을 가능성이 있다. 따라서 가설검정에는 두 가지 오류가 있다.
귀무가설 H0가 참임에도 귀무가설을 기각함으로써 발생하는 오류를 제1종 오류(type I error) 라 한다. 제1종 오류를 범할 확률의 최대허용한계를 유의수준(significance level) 또는 위험률(critical rate)이라 하며, α로 표기한다.
α=P(H0기각∣H0참)
그리고 귀무가설 H0가 거짓임에도 불구하고 귀무가설을 채택하여 발생하는 오류를 제2종 오류(type II error) 라 한다. 제2종 오류를 범할 확률은 β로 표기하며, (1−β)를 검정력함수(power function)라 한다. 검정력 함수값을 검정력(power)이라 하는데, 이는 귀무가설이 틀린 경우에 이를 기각할 확률을 의미한다.
β=P(H0채택∣H0거짓)
실제 상황과 표본에 의한 검정 결과에 따라 다음과 같이 네 가지 결과를 얻을 수 있다.
제1종 오류와 제2종 오류
검정 결과
H0가 참
H1이 참
H0를 채택
올바른 결정 (1−α)
제2종 오류 (β)
H1을 채택
제1종 오류 (α)
올바른 결정 (1−β)
예를 들어 ‘H0:μ=3’이 참이지만 검정 결과 H0를 기각한다면 제1종 오류를 범하고, 반대로 ‘H0:μ=3’이 거짓이지만 검정 결과 H0를 채택한다면 제2종 오류를 범하게 된다.
제1종 오류와 제2종 오류를 동시에 줄이는 검정이 바람직하지만, 표본 크기가 고정되어 있을 때는 제1종 오류를 줄이면 제2종 오류가 커진다. 이런 경우에 두 종류의 오류를 모두 줄이기 위해서는 표본의 크기가 커야 한다. 일반적으로 통계적 가설검정에서는 유의수준 α를 고정하고, 제2종 오류를 범할 확률을 최소화하는 것이 보편적이다.
특히 유의수준 α는 실제로 H0가 참임에도 H0를 기각하여 발생하는 오류를 범할 확률의 최대허용한계를 나타내는 것으로, 주로 α=0.01(1%), 0.05(5%), 0.1(10%) 등과 같이 단순한 수치를 주로 사용한다. 이는 추정에서 사용하는 신뢰수준 99%, 95%, 90%와 비교된다.
예를 들어 유의수준 α=0.05는 귀무가설 H0가 참이지만 H0를 기각함으로써 발생하는 오류를 20회의 검정에서 최대 1회까지만 허용함을 의미한다. 이는 구간추정에서 사용하는 신뢰도 95%와 반대되는 개념으로 생각할 수 있다.
한쪽검정과 양쪽검정
귀무가설 H0에 대해 대립가설 H1이 한쪽으로 주어지는 경우의 가설검정을 한쪽검정(one-sided test) 또는 단측검정이라 한다. 특히 대립가설이 θ>θ0와 같은 형태를 취하는 경우에는 오른쪽 한쪽검정 또는 상단측검정이라 하고, 대립가설이 θ<θ0와 같은 형태를 취하는 경우에는 왼쪽 한쪽검정 또는 하단측검정이라 한다. 한편, 대립가설이 θ=θ0로 주어지는 경우에는 양쪽검정(two-sided test) 또는 양측검정이라 한다.
일반적으로 모수 θ에 대한 가설 형태를 정리하면 다음과 같다.
모수 θ에 대한 가설 형태
오른쪽 한쪽검정
왼쪽 한쪽검정
양쪽검정
H0:θ=θ0 또는 θ≤θ0
H0:θ=θ0 또는 θ≥θ0
H0:θ=θ0
H1:θ>θ0
H1:θ<θ0
H1:θ=θ0
대립가설 형태에 따라 기각역도 비슷한 형태를 취하는데, 오른쪽 한쪽검정일 때는 검정통계량 분포의 오른쪽에, 왼쪽 한쪽검정일 때는 왼쪽에, 양쪽검정일 때는 양쪽에 기각역이 설정된다. 즉 유의수준을 α라 하고 θ^을 가설의 검정통계량이라 할 때, 각각의 기각역은 다음과 같다.
오른쪽 한쪽검정일 때의 기각역: θ^>c1
왼쪽 한쪽검정일 때의 기각역: θ^<c2
양쪽검정일 때의 기각역: θ^>c3 또는 θ^<c4
여기서 c1은 검정통계량 θ^이 귀무가설 H0에서 오른쪽 확률을 α로 가질 때의 임계값이고, c2는 θ^이 귀무가설 H0에서 왼쪽 확률을 α로 가질 때의 임계값이다. 또한 c3는 θ^이 오른쪽 확률을 2α로 가질 때의 임계값이며, c4는 θ^이 왼쪽 확률을 2α로 가질 때의 임계값이다.
일반적으로 유의수준을 이용하여 가설을 검정하는 방법은 두 가지이다. 첫 번째는 기각역을 이용하는 것으로, 유의수준 α에 따라 기각역을 설정하여 귀무가설 H0의 기각 여부를 판단한다. 두 번째는 검정통계량을 이용하여 귀무가설 H0를 기각할 확률에 근거하여 가설을 검정하는 것으로, p-값을 이용한다.
기각역을 이용한 가설검정 절차
귀무가설 H0와 대립가설 H1을 설정한다.
검정통계량을 선택하고 이를 계산한다.
유의수준 α에 따른 기각역을 구한다.
검정통계량이 기각역 안의 값을 가지면 H0를 기각하고, 그렇지 않으면 H0를 채택한다.
p-값
예를 들어 어떤 동전을 네 번 던져서 네 번 모두 앞면이 나왔다고 할 때 이 동전은 앞면이 많이 나오는 동전이라고 볼 수 있는지 유의수준 α=0.05와 α=0.1로 각각 검정해보자.
동전의 앞면이 나올 확률을 p라 하자. 일반적인 동전의 앞면이 나올 확률은 0.5이다. 또 앞면이 많이 나오는 동전일 경우의 확률은 p>0.5이므로 귀무가설과 대립가설을 다음과 같이 나타낼 수 있다.
H0:p=0.5
H1:p>0.5
네 번 모두 앞면이 나올 확률은
21×21×21×21=(0.5)4=0.0625
이다. 유의수준 α=0.05에서는 0.05<0.0625이므로 H0를 채택한다. 이 동전은 앞면이 많이 나오는 동전이라고 볼 수 없다. 그러나 유의수준 α=0.1에서는 0.1>0.0625이므로 H0를 기각한다. 이 동전은 앞면이 많이 나오는 동전이라고 볼 수 있다. 즉 유의수준 α=0.05에서는 앞면이 많이 나오는 동전이라고 볼 수 없고, 유의수준 α=0.1에서는 앞면이 많이 나오는 동전이라고 볼 수 있다. 따라서 동일한 가설검정 문제에서 유의수준을 어떻게 설정하느냐에 따라 검정 결과는 달라질 수 있다.
이러한 모호함을 보완하기 위해 p-값을 이용하여 가설을 검정한다. p-값(p-value)은 귀무가설 H0를 기각할 수 있는 최소한의 유의수준을 나타내는 것으로, 관찰된 유의수준(observed significance level) 또는 유의확률(significance probability)이라고도 한다. 즉 귀무가설 H0의 타당성 또는 신빙성에 대한 척도를 나타내는 p-값을 사용한다. p-값이 작을수록 H0에 대한 신빙성은 낮아진다.
다시 말해, 유의수준이 작을 때 H0를 기각하는 것은 유의수준이 클 때 H0를 기각하는 것보다 H1이 참이라는 증거를 더 확신할 수 있다. 따라서 p-값이 작을수록 H0에 대한 신빙성은 낮아지므로 H1이 참이라고 할 수 있는 가능성은 높아진다.
일반적으로 p-값이 유의수준 0.05보다 작으면 귀무가설 H0에 대한 신빙성은 낮아지는 반면에, 대립가설 H1에 대한 신빙성은 높아진다. 이에 따라 귀무가설 H0는 기각되고 대립가설 H1은 채택된다. 그러나 p-값이 유의수준 0.1보다 크면 귀무가설 H0에 대한 신빙성은 높아지는 반면에, 대립가설 H1에 대한 신빙성은 낮아진다. 이에 따라 귀무가설 H0는 채택되고 대립가설 H1은 기각된다.
p-값을 이용한 가설검정 절차
귀무가설 H0와 대립가설 H1을 설정한다.
적당한 검정통계량을 선택하고 이를 계산한다.
유의수준 α를 정한다.
p-값을 구한다.
(p-값)<α이면 귀무가설을 기각하고, (p-값)≥α이면 귀무가설을 채택한다.
먼저 모평균을 검정해보자. 여기에서는 모분산 σ2을 아는 경우와 모르는 경우로 나누어서 모평균의 검정을 살펴본다.
모분산 σ2을 아는 경우
다음과 같은 귀무가설을 검정한다고 할 때, 이를 모평균의 검정이라고 한다.
H0:μ=μ0
이때 μ0는 어떤 정해진 값이다. 귀무가설 H0:μ=μ0에 대하여 대립가설 H1:μ<μ0를 설정하자. 크기가 n인 표본으로부터 표본평균의 관측값 x0를 얻었다고 하면 귀무가설 H0:μ=μ0가 참이라는 조건 아래 검정통계량 X에 대하여 Z-검정통계량은 다음과 같이 표준정규분포를 따른다.
한편, 왼쪽 한쪽검정인 경우에 p-값은 검정통계량의 관측값 z0에 대하여 다음과 같이 정의한다.
p-값=P(Z≤z0)=Φ(z0)
같은 방법으로 오른쪽 한쪽검정 H1:μ>μ0와 양쪽검정 H1:μ=μ0에 대한 기각역을 구하면 각각 다음과 같다.
오른쪽 한쪽검정의 기각역
R:Z≥zα
또는
R:X≥μ0+zαnσ
양쪽검정의 기각역
R:∣Z∣≥zα/2
또는
R:X≤μ0−zα/2nσ
또는
R:X≥μ0+zα/2nσ
따라서 이들 검정 방법에 대한 p-값은 각각 다음과 같다.
오른쪽 한쪽검정의 p-값
P(Z≥z0)=1−Φ(z0)
양쪽검정의 p-값
P(Z≤−∣z0∣)+P(Z≥∣z0∣)=2Φ(−∣z0∣)
모분산 σ2을 아는 경우 모평균 μ=μ0의 가설검정 절차
귀무가설 H0와 대립가설 H1을 설정한다.
검정통계량 X에 대하여 Z-검정통계량과 그 확률분포를 구한다.
Z=σ/nX−μ0∼N(0,1)
검정 방법에 따라 주어진 유의수준 α에 대한 임계값과 기각역을 구한다.
표본으로부터 검정통계량의 관측값 z0 또는 p-값을 구하고, 기각역 또는 유의수준과 비교하여 귀무가설 H0의 기각 또는 채택을 결정한다.
모분산을 아는 경우 모평균의 가설검정 방법
검정 방법
귀무가설 H0
대립가설 H1
H0의 기각역 R
p-값
왼쪽 한쪽검정
μ=μ0 또는 μ≥μ0
μ<μ0
R:Z≤−zα
Φ(z0)
오른쪽 한쪽검정
μ=μ0 또는 μ≤μ0
μ>μ0
R:Z≥zα
1−Φ(z0)
양쪽검정
μ=μ0
μ=μ0
$R:
Z
이와 같이 검정하고자 하는 가설의 검정통계량이 정규분포를 따를 때, 가설의 기각역은 정규분포를 이용하여 구한다. 이러한 검정을 정규분포 검정(normal distribution test) 또는 Z-검정(Z-test)이라 한다. 모집단 분포가 정규분포이든 또는 임의의 분포이든 간에 표본의 크기 n이 큰 경우에는 모평균 μ에 대한 가설검정의 검정통계량과 이에 따른 기각역을 구할 때 앞에서 설명한 방법을 그대로 사용한다.
모분산 σ2을 모르는 경우
모분산 σ2을 모를 때 정규분포 N(μ,σ2)을 따르는 모집단에서 표본의 크기 n이 소표본(n<30)일 경우, 검정통계량은 Z-검정통계량에서 σ 대신 표본표준편차 S를 대입한 다음의 T-검정통계량이다.
T=S/nX−μ0
T-검정통계량은 자유도 (n−1)인 t-분포를 따른다. 따라서 모분산 σ2을 모르는 경우에 모평균 μ=μ0에 대한 가설검정은 T-검정통계량을 이용하고, 검정 과정은 Z-검정과 동일하다.
모분산 σ2을 모르는 경우 모평균 μ=μ0에 대한 가설검정 절차
귀무가설 H0와 대립가설 H1을 설정한다.
검정통계량 X에 대하여 T-검정통계량과 그 확률분포를 구한다.
T=S/nX−μ0∼t(n−1)
검정 방법에 따라 주어진 유의수준 α에 대한 임계값과 기각역을 구한다.
표본으로부터 검정통계량의 관측값 t0 또는 p-값을 구하고, 기각역 또는 유의수준과 비교하여 귀무가설 H0의 기각 또는 채택을 결정한다.
모분산을 모르는 경우 모평균의 가설검정 방법
검정 방법
귀무가설 H0
대립가설 H1
H0의 기각역 R
p-값
왼쪽 한쪽검정
μ=μ0 또는 μ≥μ0
μ<μ0
R:T≤−tα(n−1)
P(T≤t0)
오른쪽 한쪽검정
μ=μ0 또는 μ≤μ0
μ>μ0
R:T≥tα(n−1)
P(T≥t0)
양쪽검정
μ=μ0
μ=μ0
$R:
T
귀무가설 H0:μ=μ0와 대립가설 H1:μ=μ0에 대하여 양쪽검정에서 귀무가설 H0를 기각하는 경우와 채택하는 경우의 유의수준 α와 기각역, p-값의 관계를 확인할 수 있다.
이와 같이 검정하려는 가설의 검정통계량이 t-분포를 따를 때, 가설의 기각역은 t-분포를 이용하여 구한다. 이를 t-분포 검정(t-distribution test) 또는 T-검정(T-test)이라 한다.
한편, 표본의 크기 n이 대표본(n≥30)일 경우, 표본분산 S2이 모분산 σ2에 근사함을 이미 살펴보았다. 또한 표본의 크기가 충분히 크면 중심극한정리에 의해 표본평균 X의 확률분포는 정규분포에 가까워진다. 따라서 유한인 미지의 모분산을 가지는 임의의 모집단에서 모평균에 대한 주장을 표본표준편차를 이용하여 다음과 같이 정규근사할 수 있다.
S/nX−μ≈N(0,1)
물론 모분산 σ2이 알려진 경우에는 다음이 성립한다.
σ/nX−μ∼N(0,1)
따라서 모집단이 임의의 분포를 따르는 경우에 대표본(n≥30)을 추출하여 모평균에 대한 주장의 진위를 검정할 수 있다. 또한 유의수준 α에 대한 임계값과 근사 기각역, p-값은 다음과 같다.
대표본(n≥30)에서 모평균의 가설검정 방법
검정 방법
귀무가설 H0
대립가설 H1
H0의 기각역 R
p-값
왼쪽 한쪽검정
μ=μ0 또는 μ≥μ0
μ<μ0
R:Z≤−zα
Φ(z0)
오른쪽 한쪽검정
μ=μ0 또는 μ≤μ0
μ>μ0
R:Z≥zα
1−Φ(z0)
양쪽검정
μ=μ0
μ=μ0
$R:
Z
구간추정과 가설검정의 관계
모분산 σ2을 아는 경우, 정규분포 N(μ,σ2)에서 모평균 μ에 대한 구간추정과 가설검정의 관계를 살펴보자.
귀무가설 H0:μ=μ0, 대립가설 H1:μ=μ0와 같은 양쪽검정에 대하여 유의수준 α로 H0를 기각하지 못하는 영역, 즉 H0를 채택하는 영역은 다음과 같다.
∣Z∣<zα/2
이 식에 관측값 z0를 대입하면 다음과 같다.
∣z0∣<zα/2
⟺−zα/2<σ/nX−μ0<zα/2
⟺X−zα/2nσ<μ0<X+zα/2nσ
여기서
X−zα/2nσ=μL
는 신뢰하한이고,
X+zα/2nσ=μU
는 신뢰상한이다.
즉 귀무가설 H0와 대립가설 H1을 유의수준 α로 검정하는 대신 μ의 100(1−α)% 신뢰구간 (μL,μU)를 구해
μ0∈/(μL,μU)
이면 H0를 기각해도 됨을 의미한다.
따라서 신뢰구간을 구하는 것과 가설을 검정하는 것은 하나의 문제를 서로 다른 각도에서 보는 것으로, 둘은 서로 쌍대 관계라고 할 수 있다.
모비율의 검정
다음과 같은 귀무가설을 검정한다고 할 때, 이 검정을 모비율의 검정이라고 한다.
H0:p=p0
이때 p0는 어떤 고정값이다. 모비율 p의 검정에서는 이항확률변수 X나 표본비율 p^을 이용하는데, 이를 위해서는 확률변수 X나 p^의 분포를 알아야 한다.
확률변수 X가 이항분포 B(n,p)를 따르면 표본비율
p^=nX
는 np0>5, n(1−p0)>5인 경우에 근사적으로 다음과 같은 정규분포를 따른다.
Z=p(1−p)/np^−p≈N(0,1)
이때 모비율에 대한 귀무가설 H0:p=p0의 가설검정은 검정통계량
p^=nX
에 대하여 다음과 같은 Z-검정통계량을 이용한다.
Zp0(1−p0)/np^−p0=np0(1−p0)X−np0
따라서 유의수준 α에 따른 임계값과 기각역은 표준정규분포로부터 같이 얻을 수 있다. 모비율에 대한 가설검정은 모평균의 가설검정 방법과 동일하다.
모비율의 가설검정 방법
검정 방법
귀무가설 H0
대립가설 H1
H0의 기각역 R
p-값
왼쪽 한쪽검정
p=p0 또는 p≥p0
p<p0
R:Z≤−zα
Φ(z0)
오른쪽 한쪽검정
p=p0 또는 p≤p0
p>p0
R:Z≥zα
1−Φ(z0)
양쪽검정
p=p0
p=p0
$R:
Z
특히 H0:p=p0에 대한 H1:p=p0를 검정하기 위한 p-값은
2Φ(−∣z0∣)
이고,
z0=np0(1−p0)x−np0
이므로 표본의 크기가 충분히 큰 경우에는 다음과 같이 변경할 수 있다.
z0>0또는x>np0이면, p-값=2P(Z>z0)
z0<0또는x<np0이면, p-값=2P(Z<z0)
따라서 표본의 크기가 작은 경우에는 X∼B(n,p0)로부터 다음이 성립한다.
x>np0또는p^>p0이면, p-값=2P(X≥x)
x<np0또는p^<p0이면, p-값=2P(X≤x)
모평균 차의 검정
각각 정규분포 N(μ1,σ12)과 N(μ2,σ22)을 따르면서 서로 독립인 두 모집단에 대하여, 모분산 σ12과 σ22을 아는 경우와 모르는 경우로 나누어서 모평균 차의 검정을 살펴본 후 짝비교 방법에 의한 모평균 차의 검정을 알아보자.
두 모분산 σ12과 σ22을 아는 경우
다음과 같은 귀무가설을 검정한다고 할 때, 이 검정을 모평균 차의 검정이라고 한다.
H0:μ1=μ2
또는
H0:μ1−μ2=δ0
두 모평균 차 μ1−μ2의 검정에서는 추정량 X1−X2를 이용하고, 이를 위해서는 X1−X2의 분포를 알아야 한다.
각각 정규분포 N(μ1,σ12), N(μ2,σ22)을 따르는 두 모집단으로부터 추출한 크기 n1, n2의 서로 독립인 확률표본의 표본평균을 각각 X1, X2라 하면 통계량 X1−X2는 다음 정규분포를 따른다.
유의수준 α에서 μ1−μ2=δ0에 대한 검정 방법과 그에 따른 기각역, p-값은 표 7-7과 같다.
두 모분산을 아는 경우 모평균 차의 가설검정 방법
검정 방법
귀무가설 H0
대립가설 H1
H0의 기각역 R
p-값
왼쪽 한쪽검정
μ1−μ2=δ0 또는 μ1−μ2≥δ0
μ1−μ2<δ0
R:Z≤−zα
Φ(z0)
오른쪽 한쪽검정
μ1−μ2=δ0 또는 μ1−μ2≤δ0
μ1−μ2>δ0
R:Z≥zα
1−Φ(z0)
양쪽검정
μ1−μ2=δ0
μ1−μ2=δ0
$R:
Z
두 모분산 σ12과 σ22을 모르는 경우
표본의 크기 n1, n2가 소표본(n1<30,n2<30)이고 σ12과 σ22을 모르지만 σ12=σ22=σ2이며 서로 독립인 두 정규 모집단 N(μ1,σ2)과 N(μ2,σ2)을 가정할 때, 모평균 차 μ1−μ2에 대해 이미 설정된 귀무가설 H0:μ1−μ2=δ0의 검정 방법을 살펴보자.
이 경우에 공통분산 σ2의 합동표본분산은 다음과 같다.
Sp2=n1+n2−2(n1−1)S12+(n2−1)S22
이미 설정된 귀무가설 H0를 검정하기 위해 T-검정통계량을 이용하는데, 특히 합동표본분산 Sp2에 대하여 다음 식이 성립한다.
즉 두 모분산이 동일하지만 그 값을 모르는 경우에 모평균 차 μ1−μ2=δ0에 대한 검정은 T-검정을 이용하고, 그 검정 방법은 표 7-8과 같이 유의수준 α에 대한 기각역이나 p-값을 구하여 검정한다.
두 모분산을 모르는 경우 모평균 차의 가설검정 방법 (n1<30,n2<30)
검정 방법
귀무가설 H0
대립가설 H1
H0의 기각역 R
p-값
왼쪽 한쪽검정
μ1−μ2=δ0 또는 μ1−μ2≥δ0
μ1−μ2<δ0
R:T≤−tα(n1+n2−2)
P(T≤t0)
오른쪽 한쪽검정
μ1−μ2=δ0 또는 μ1−μ2≤δ0
μ1−μ2>δ0
R:T≥tα(n1+n2−2)
P(T≥t0)
양쪽검정
μ1−μ2=δ0
μ1−μ2=δ0
$R:
T
한편, 두 정규 모집단 N(μ1,σ12)과 N(μ2,σ22)에서 모평균의 차를 검정하려고 할 때, 두 모분산 σ12과 σ22은 모르지만 표본의 크기 n1, n2가 대표본(n1≥30,n2≥30)이면 모표준편차 σ1과 σ2 대신에 표본표준편차 S1과 S2를 대입한 다음과 같은 검정통계량을 사용한다. 이에 따른 기각역은 모분산 σ12과 σ22을 아는 경우와 동일하다.
z0=n1S12+n2S22X1−X2
또한 서로 독립인 두 정규 모집단 N(μ1,σ12)과 N(μ2,σ22)의 두 모분산 σ12과 σ22이 서로 다르고 그 값을 모를 때, μ1−μ2를 검정하기 위해 각각 크기가 n1, n2인 표본을 추출하면 다음과 같이 정의되는 T-검정통계량이 자유도 k인 t-분포를 따름을 이미 6장에서 살펴보았다.
따라서 유의수준 α에서 μ1−μ2=δ0에 대한 가설검정은 T-검정법을 따르며 검정 방법과 그에 따른 기각역 및 p-값은 표 7-9와 같다.
두 모분산이 서로 다르고, 그 값을 모르는 경우 모평균 차의 가설검정 방법
검정 방법
귀무가설 H0
대립가설 H1
H0의 기각역 R
p-값
왼쪽 한쪽검정
μ1−μ2=δ0 또는 μ1−μ2≥δ0
μ1−μ2<δ0
R:T≤−tα(k)
P(T≤t0)
오른쪽 한쪽검정
μ1−μ2=δ0 또는 μ1−μ2≤δ0
μ1−μ2>δ0
R:T≥tα(k)
P(T≥t0)
양쪽검정
μ1−μ2=δ0
μ1−μ2=δ0
$R:
T
짝비교에 의한 모평균 차의 검정
두 모평균의 비교에 있어서 두 모집단이 서로 독립이 아닌 경우에는 짝비교 방법을 사용한다. 각 짝의 실험 단위에는 처리 1(X1)을, 다른 실험 단위에는 처리 2(X2)를 적용하여 각 짝에서 얻은 관측값의 차(D=X1−X2)를 이용해 모평균 차를 검정해보자.
짝비교 방법
짝
처리 1(X1)
처리 2(X2)
차 (D=X1−X2)
1
X11
X21
D1=X11−X21
2
X12
X22
D2=X12−X22
⋮
⋮
⋮
⋮
n
X1n
X2n
Dn=X1n−X2n
두 확률변수 X1과 X2가 정규분포를 따른다고 가정할 때, Di=X1i−X2i는 정규분포
N(μ1−μ2,σD2)
을 따른다. 이때 σD2을 알고 있다고 가정한다.
D1,D2,⋯,Dn의 표본평균
D=n1i=1∑nDi
는 정규분포
N(μ1−μ2,nσD2)
을 따르고, 이를 표준화한 다음 Z-검정통계량은 표준정규분포 N(0,1)을 따른다.
Z=σD/nD−(μ1−μ2)
그러므로 귀무가설이 참이라는 가정 아래 얻은 검정통계량을 이용한 모평균 차 μ1−μ2의 가설검정 방법은 다음과 같다.
H1:μ1>μ2일 때, Z≥zα이면 H0를 기각한다.
H1:μ1<μ2일 때, Z≤−zα이면 H0를 기각한다.
H1:μ1=μ2일 때, ∣Z∣≥zα/2이면 H0를 기각한다.
실제로 σD2을 모르는 경우에는 다음과 같은 T-검정통계량을 이용한다.
T=SD/nD−(μ1−μ2)
이 통계량 T는 자유도 (n−1)인 t-분포를 따른다. 그러므로 귀무가설 H0:μ1=μ2가 참이라는 가정 아래 얻은 검정통계량을 이용한 모평균 차 μ1−μ2의 가설검정 방법은 다음과 같다.
H1:μ1>μ2일 때, T≥tα(n−1)이면 H0를 기각한다.
H1:μ1<μ2일 때, T≤−tα(n−1)이면 H0를 기각한다.
H1:μ1=μ2일 때, ∣T∣≥tα/2(n−1)이면 H0를 기각한다.
모비율 차의 검정
다음과 같은 귀무가설을 검정한다고 할 때, 이 검정을 모비율 차의 검정이라고 한다.
H0:p1=p2
이 검정은 두 제조 과정에서 불량률에 차이가 있는지, 또는 두 치료 방법에 따른 완치율에 차이가 있는지 등을 알아보고자 할 때 쓰인다. 모비율 차 p1−p2의 검정에서는 추정량 p^1−p^2을 이용하는데 이를 위해서는 p^1−p^2의 분포를 알아야 한다.
이항분포를 따르는 두 모집단으로부터 크기가 n1, n2이면서 서로 독립인 확률표본의 표본비율을 각각 p^1, p^2이라 하자. 그러면 다음이 성립한다.