Inferences on a Population Mean (2)

8.2 Hypothesis Testing

가설검증은 명제나 가설에 대해 타당성(plausibility)을 평가할 수 있게 해준다.

Null hypothesis : 귀무가설, 타당성을 평가하는 대상으로 명제 혹은 가설이다.

Alternative hypothesis : 대립가설, 귀무가설을 기각했을 때 채택하는, 타당하다고 인정받는 가설이다.

위 예시들은 two-sided이며 one-sided에서는 부등호로 나타낸다.

p-Value

귀무가설의 타당성은 이 p-value로 측정된다.

p-value가 작을수록 귀무가설의 타당성도 작아진다.

p-value는 확률이기 때문에, 0과 1사이이며, 나중에 설명할 유의수준과 비교하여 귀무가설의 타당성을 결정한다.

p-value의 해석

일반적으로 p-value가 0.01보다 작다면 귀무가설을 타당하지 않다고 보고 기각하여 대립가설이 진실이라고 받아들이며,

0.1보다 크다면 귀무가설을 기각할 충분한 증거가 없다고 보고 귀무가설을 채택하게 된다.

그러나 귀무가설을 채택한다고 해서 귀무가설이 타당하다는 것이지, 증명된 진실이라는 것은 아니다.

때문에 보통 내가 증명하고 싶은 내용을 대립가설로 두고, 귀무가설을 기각하도록 가설검증을 하는 것이 일반적이다.

p-value의 계산

앞서 본 t-statistic으로 귀무가설과 data set의 모순을 측정할 수 있다.

표본평균이 𝜇0와 같다면 모순이 가장 작고, t-statistic은 0이 된다.

t의 절댓값이 올라갈수록 모순은 커진다.

t의 절댓값이 0에 수렴할 때 p-value는 최대값인 1이 된다.

t의 절댓값이 작아질수록 p-value가 커지므로 모순이 줄어든다.

t는 좌우 대칭이므로 다음과 같이 간단한 식으로 표현된다.

Two-Sided t-Test by p-Value

일반적으로 p-value의 값이 0.1보다 크면 귀무가설을 채택하고, 0.01보다 작으면 귀무가설을 기각하여 대립가설을 받아들인다.

One-Sided t-Test by p-Value

one-sided는 부등호 방향에 따라 p-value의 방향이 달라지므로 판단하는 것에 어려움이 있을 수 있다.

먼저

이 경우에서는 모평균이 𝜇0보다 작거나 같은 것이 귀무가설이다.

표본 평균이 𝜇0보다 작을수록 t는 음수가 되어 그래프 상에서 왼쪽으로 갈 것이다.

𝜇0보다 작을수록 귀무가설을 만족하기 때문에 p-value는 커져야 하므로, t의 오른쪽 영역이 p-value인 것으로 이해할 수 있다.

아니면 단순히 대립가설의 부등호 방향을 보면 > 이므로 오른쪽에 있음으로 알 수 있다.

부등호의 방향이 반대인 경우에도 마찬가지로 해석하면 된다.

표본평균이 𝜇0보다 클수록 귀무가설을 만족하기 때문에 p-value는 커져야 하므로, t의 왼쪽 영역이 p-value인 것을 이해할 수 있다.

Significance Levels

지금까지 p-value를 0.01과 0.1을 기준으로 평가했는데, 다른 기준으로도 평가할 수 있으며 그것이 유의수준이다.

일반적으로 유의수준 α = 0.01, 0.05, and 0.1 이다.

Two-Sided Hypothesis의 해석

two-sided에서 p-value는

n-1의 자유도에서 t-distribution에서 critical point와 confidence level의 관계는 다음과 같았다.

따라서 유의수준 α와 p-value의 비교는, t-statistic과 critical point의 비교와 같으므로

t의 절댓값이 critical point보다 왼쪽에 있다는 것은 유의수준보다 p-value의 영역이 더 크다는 것을 의미한다.

결국 신뢰구간으로도 가설검증을 평가할 수 있는데, 𝜇0가 신뢰구간 안에 포함된다면 p-value가 유의수준보다 크므로 귀무가설을 만족하게 되는 것을 알 수 있다.

따라서 유의수준과 p-value를 비교, t-statistic과 critical point를 비교, 신뢰구간 안에 𝜇0의 포함 여부,
이렇게 총 3가지의 방법으로 가설검증을 할 수 있는 것이다.

One-Sided Hypothesis의 해석

one-sided도 마찬가지이므로 표본평균이 𝜇0보다 작거나 같을 때는 t의 오른쪽이 p-value이므로 t가 critical point보다 작을 때 결국 유의수준보다 p-value가 커지게 되므로 귀무가설을 만족한다.

신뢰구간의 lower bound보다 작으면 critical point보다 t값이 더 큰 것과 같다.

표본평균이 𝜇0보다 크거나 같을 때는 critical point는 항상 양수이므로 영역은 항상 오른쪽에 위치한다.

p-value의 영역이 지금은 왼쪽에 위치하므로 critical point를 뒤집어 같은 기준으로 놓고 비교하려면,

critical point의 음의 값보다 t가 크면 p-value가 α보다 크므로 귀무가설을 만족한다.

𝜇0가 신뢰구간에 포함된다면 귀무가설을 만족한다.

이를 정리하면 다음과 같다.