Intro.

데이터 과학에서 통계를 공부하다 보면 가장 많이 나오는 용어 중 하나가 "큰 수의 법칙"과 "중심 극한 정리"이다. 인터넷 상에서는 왜인지 이 두가지가 하나로 묶여져 정규분포라는 카테고리에서 자주 설명된다. 왜 그런지 이해 안 되는건 아니지만 재고해볼 필요는 있다.

큰 수의 법칙.

큰 수의 법칙은 엄연히 말하면 정규 분포와는 관계가 없다. 큰 수의 법칙은 "통계적 확률의 시행 횟수가 많아지면 수학적 확률과 같아진다"는 법칙이다. 여기서 수학적 확률이란 동전을 던졌을 때 앞면이 나올 확률 $1/2$이나 주사위를 던졌을 때 1이 나올 확률 $1/6$같은 것을 의미한다. 굳이 깊게 생각하지 않아도 우리는 직관적으로 딱 떨어지는 숫자로 표현할 수 있다는 것이다.

그런데, 정말 주사위를 6번 던진다고 했을 때 1은 1번 나오게 될까? 아마, 아닐것이다. 5번이 나올수도 1번도 나오지 않을 수도 있다. 우리는 N번 시행 했을 때의 1이 나오는 확률을 통계적 확률이라 말한다.

결국, 큰 수의 법칙은 시행 횟수 N이 무한히 커질 경우 주사위에서 1이 나오는 횟수는 전체 N번의 시행 횟수 중 $N/6$이 된다는 법칙이다. 시행 횟수가 충분히 클 때, 통계적 확률을 수학적 확률이라 여겨도 된다는 뜻이다.

이러한 큰 수의 법칙은 여러 통계적 증명이나 활용에서 넓게 사용된다. 정규분포도 그 중 하나이기 때문에 큰 수의 법칙은 정규분포라는 영역에 종속 되는 것이 아닌 통계 전반에 영향을 끼치는 법칙이다.

중심 극한 정리.

중심 극한 정리는 "모집단의 분포와 상관 없이 표본의 크기가 커질수록 표본 평균의 분포가 정규분포에 가까워진다"는 이론이다.

통계란 것이 결국 모집단 추정을 위한 부분이 많은데 중심 극한 정리는 모집단의 분포를 신경 쓸 필요 없이(정규 분포든 아니든) 표본만으로 특정 사건에 대한 확률 값을 계산할 수 있다는 것이고 이는, 모집단과 표본의 관계를 증명할 수 있게 해준다.

여기서, 표본 평균 분포란 모집단에서 표본의 크기가 n인 표본을 여러번 반복해서 추출 했을 때의 각각의 표본 평균들이 이루는 분포를 이야기 한다.

이러한 이론은 수집한 표본의 통계량으로 모집단의 모수를 추정할 수 있는 수학적 근거를 마련해 줄 수 있다는 점에서 큰 가치를 가진다.