"왜 데이터가 적어도 30개 이상 있어야 할까?"에 대해서 정규분포와 중심극한정리(Central Limit Theorem, CLT)는 실제로 연관이 있습니다.
1. 중심극한정리(CLT)란?
중심극한정리는 다음과 같은 내용입니다:
어떤 분포를 가진 모수(모집단)든지, 표본을 반복해서 뽑아 평균을 계산하면, 그 평균값의 분포는 점점 정규분포에 가까워진다.
(단, 표본 개수가 충분히 크면.)
즉, 모집단이 정규분포가 아니어도 괜찮고, 표본 평균의 분포가 정규분포에 가까워진다는 게 핵심이에요.
2. "30개 이상"이 왜 기준이 되는가?
- 경험적으로, 표본 수가 30개 이상이면 CLT가 잘 적용되어
정규분포 근사가 꽤 정확하다고 알려져 있어요. - 그래서 통계나 머신러닝 기초에서 자주 나오는 “n ≥ 30”은
CLT에 기반한 경험적인 규칙이에요. 절대적인 건 아니지만 꽤 일반적으로 쓰여요.
3. 그런데 딥러닝에서 꼭 30개 이상이어야 할까?
- 딥러닝에서는 반드시 "30개 이상이어야 정규분포를 따르므로 학습 가능하다"는 건 과도한 단순화예요.
- 다만, Batch Normalization이나 통계 기반 기법들에서는
미니배치의 평균/분산이 안정적이기 위해 batch size ≥ 30 정도가 좋다고 보는 경우가 많아요.
→ 이건 중심극한정리의 적용과 관련이 있죠.
정리하자면:
| 질문 | 답변 |
|---|---|
| 30개 이상이 필요한 이유? | 중심극한정리 덕분에 평균이 정규분포에 가까워지기 때문 (통계적으로 안정적) |
| 딥러닝에서 꼭 30개 이상이어야 함? | 꼭 그렇진 않지만, BN 같은 기법에서는 batch size가 너무 작으면 통계가 불안정해서 성능이 떨어질 수 있음 |
| 중심극한정리와 관련 있음? | 네, 관련 깊어요. 특히 BN 같은 평균/분산 기반 정규화에 중요함 |
AI developer