#확률분포를 이용해 불확실성을 어떻게 표현하는지
#구간추정과 가설검정의 차이
#p-value의 의미와 올바른 해석
1. 통계적 추론이란?
표본(sample)을 이용해 모집단(population)의 특성을 추론하는 과정이다.
현실에서는 모집단 전체를 관측할 수 없기 때문에, 무작위 표본을 기반으로 평균·비율·분산 등을 확률적으로 추정한다.
2. 정규분포와 68–95–99 규칙
정규분포에서는 다음이 성립한다.
- 평균 ±1σ → 약 68%
- 평균 ±2σ → 약 95%
- 평균 ±3σ → 약 99%
관측값이 평균에서 2표준편차 이상 벗어나면 비교적 드문 사건으로 해석한다.
3. 왜 ±1.96인가?
표준정규분포 Z ~ N(0,1)에서
P(-1.96 ≤ Z ≤ 1.96) ≈ 0.95
따라서 95% 수준의 구간을 만들 때 ±1.96이 사용된다.
4. 예언구간(Prediction Interval) vs 신뢰구간(Confidence Interval)
예언구간 (Prediction Interval)
- 개별 관측값 하나가 들어갈 범위
- 개인 수준의 불확실성
신뢰구간 (Confidence Interval)
- 모집단 평균이 들어갈 범위
- 평균 추정의 불확실성
수식 비교
95% 신뢰구간(평균)
x̄ ± z * (s / √n)
95% 예언구간(개별값)
x̄ ± z * s
예언구간이 항상 더 넓다.
5. 동전 100번 던지기 예시
- 앞면 기대값 μ = 50
- 표준편차 σ = √(100 × 0.5 × 0.5) = 5
95% 예언구간
50 ± 1.96 × 5 = (40.2 , 59.8)
해석:
동전을 100번 던지면 앞면 개수는 대략 40~60개 사이가 될 가능성이 약 95%.
6. 핵심 철학
- 구간이 넓어질수록 → 맞을 확률 증가, 정보량 감소
- 구간이 좁아질수록 → 맞을 확률 감소, 정보량 증가
짧으면서도 자주 맞는 구간을 찾는 것이 목표.
7. 큰 수의 법칙과 중심극한정리
큰 수의 법칙(LLN)
표본 수가 커질수록 표본평균은 모집단 평균에 수렴한다.
중심극한정리(CLT)
모집단 분포와 무관하게 표본 크기가 충분히 크면 표본평균의 분포는 정규분포로 근사된다.
8. Z 분포 vs t 분포
| 상황 | 사용 분포 |
|---|---|
| 모집단 분산을 알고 있음 | Z |
| 모집단 분산을 모름, 표본 작음 | t |
t분포는 표본 수가 커질수록 Z분포에 가까워진다.
9. 가설검정의 기본 구조
- 귀무가설(H0): 효과나 차이가 없다
- 대립가설(H1): 효과나 차이가 있다
통계는 대립가설을 증명하는 것이 아니라, 귀무가설을 기각할 수 있는지 판단한다.
10. p-value의 의미
귀무가설이 참이라고 가정했을 때,
현재 관측된 결과와 같거나 더 극단적인 결과가 나올 확률.
p-value가 작을수록 귀무가설 세계에서는 보기 힘든 데이터이다.
11. 판단 규칙
유의수준 α = 0.05일 때
p ≤ α → H0 기각
p > α → H0 기각 못함(보류)
보류는 H0가 참이라는 의미가 아니다.
증거가 부족하다는 뜻이다.
12. p-value가 큰 경우의 해석
- 실제 효과가 없다
- 표본 수가 적다
- 변동성이 크다
- 측정이 부정확하다
중 하나일 수 있다.
13. 1종 오류와 2종 오류
| 구분 | 의미 |
|---|---|
| 1종 오류 | H0가 참인데 기각 |
| 2종 오류 | H0가 거짓인데 채택 |
유의수준 α는 1종 오류 확률이다.
14. 검정력(Power)
실제 효과가 있을 때 이를 발견할 확률.
표본 수 증가, 노이즈 감소, 설계 개선으로 높일 수 있다.
15. 신뢰구간과 가설검정의 관계
- 95% 신뢰구간에 귀무가설 값(예: 0)이 포함되면 → 기각 못함
- 포함되지 않으면 → 기각
16. 실무에서 기억할 점
- p-value 하나만 보지 말 것
- 효과 크기와 함께 해석할 것
- 표본 설계(무작위성, 독립성)가 매우 중요
요약
- 통계는 숫자 하나가 아니라 구간으로 말한다
- 신뢰구간은 평균의 불확실성
- 예언구간은 개별값의 불확실성
- p-value는 귀무가설 세계에서의 희귀도
- 기각 못함은 효과 없음이 아니다
- 표본 수와 설계가 결과의 절반이다
질문
Q1. 표본 수가 커질수록 신뢰구간 폭이 줄어드는 이유는?
Q2. p-value와 효과 크기가 서로 다른 결론을 줄 때 어떻게 해석해야 할까?
Q3. 동일한 데이터에서 신뢰구간과 가설검정을 동시에 제시하면 어떤 장점이 있을까?
