모집단이 평균이 이고 표준편차가 인 임의의 분포 를 이룬다고 할 때, 이 모집단으로부터 추출된 표본의 크기 n이 충분히 크다면 표본 평균들이 이루는 분포는 평균이 이고 표준편차가 /인 정규분포에 근접한다.
여기서 표본 평균들이 이루는 분포란 모집단에서 표본크기가 n인 표본을 반복추출했을 때, 각각의 표본 평균들이 이루는 분포를 말한다.
모집단의 모양과 분포에 상관없이 표본의 크기가 충분히 크다면, 표본 평균들의 분포가 모집단의 모수를 기반으로한 정규분포를 이룬다는 점을 이용해서 반대로 수집한 표본의 통계량을 이용해 모집단의 모수를 추정할 수 있는 수학적 근거를 마련해준다.