확률통계 공식모음

코드짜는침팬지·2023년 11월 25일

확률통계

좋은 블로그

https://mustlearning.tistory.com/47

https://m.blog.naver.com/PostView.naver?isHttpsRedirect=true&blogId=mykepzzang&logNo=220834864348

1. 이항 분포 (Binomial Distribution)

공식: $P(X = k) = \binom{n}{k} p^k (1-p)^{n-k}$
기대값: $E(X) = np$
분산: $Var(X) = np(1-p)$
기본 정보: 고정된 수의 독립적인 베르누이 시행에서 성공의 횟수를 모델링합니다.
예제: 10번의 동전 던지기에서 앞면이 나오는 횟수. 동전의 앞면이 나올 확률이 0.5이고, 10번 던진다고 할 때, 앞면이 정확히 6번 나올 확률을 계산할 수 있습니다.

2. 정규 분포 (Normal Distribution)

공식: $P(X = x) = \frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x-\mu)^2}{2\sigma^2}}$
기대값: $E(X) = \mu$
분산: $Var(X) = \sigma^2$
기본 정보: 연속 확률 분포의 한 종류로, 자연 및 사회 현상에서 발생하는 많은 무작위 변수들의 분포를 잘 나타냅니다.

문제

IQ 점수가 평균 100, 표준편차 15인 정규 분포를 따른다고 가정하고, IQ 점수가 100 이상 115 이하일 확률 계산하기

평균 (μ) = 100
표준편차 (σ) = 15
구해야 할 확률: P(100 ≤ X ≤ 115)

정규 분포의 확률 밀도 함수

정규 분포의 확률 밀도 함수는 다음과 같습니다:
$f(x) = \frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x-\mu)^2}{2\sigma^2}}$

누적 분포 함수(CDF)

정규 분포의 누적 분포 함수는 특정 값 이하의 확률을 나타냅니다. 표준 정규 분포 표 또는 계산 도구를 사용하여 이를 계산할 수 있습니다.

계산 과정

표준화(Z-Score 변환): 우리가 구하고자 하는 확률은 X 값이 100과 115 사이에 있을 확률입니다. 먼저 이 값을 표준 정규 분포로 변환합니다.
- $Z = \frac{X - \mu}{\sigma}$
- $Z_{100} = \frac{100 - 100}{15} = 0$
- $Z_{115} = \frac{115 - 100}{15} \approx 1$
CDF 사용: 이제 표준 정규 분포 표를 사용하여 $Z = 0$ 과 $Z = 1$ 에 해당하는 값을 찾습니다. 이 값들은 각각 X가 100과 115 이하일 확률을 나타냅니다.
확률 계산: $P(100 ≤ X ≤ 115) = P(Z ≤ 1) - P(Z ≤ 0)$
이 계산은 이미 코드를 통해 수행했으며, 결과는 약 34.13%로 나왔습니다. 이는 수학적 계산과 코드를 통한 계산이 일치함을 보여줍니다. 표준 정규 분포 표를 직접 참조하지 않고도, 현대의 통계 소프트웨어나 라이브러리를 사용하여 이러한 계산을 수행할 수 있습니다.

3. 포아송 분포 (Poisson Distribution)

공식: $P(X = k) = \frac{e^{-\lambda} \lambda^k}{k!}$
기대값: $E(X) = \lambda$
분산: $Var(X) = \lambda$
기본 정보: 일정한 시간 또는 공간 내에서 발생하는 드문 사건의 횟수를 모델링하는 데 사용됩니다.
예제: 하루에 평균 2번의 전화가 오는 상황에서, 하루에 전화가 3번 오는 확률을 계산할 수 있습니다.

4. 지수 분포 (Exponential Distribution)

공식: $f(x) = \lambda e^{-\lambda x}$ (x ≥ 0)
기대값: $E(X) = \frac{1}{\lambda}$
분산: $Var(X) = \frac{1}{\lambda^2}$
기본 정보: 어떤 사건이 발생할 때까지의 대기 시간 또는 수명을 모델링하는 데 사용됩니다.
예제: 평균 수명이 10년인 전구의 수명. 이 경우, 전구가 최소 5년 동안 작동할 확률을 구할 수 있습니다.

5. 균등 분포 (Uniform Distribution)

공식: $f(x) = \frac{1}{b-a}$ (a ≤ x ≤ b)
기대값: $E(X) = \frac{a+b}{2}$
분산: $Var(X) = \frac{(b-a)^2}{12}$
기본 정보: 모든 값이 일정한 범위 내에서 동일한 확률을 가지는 분포입니다.
예제: 0과 1 사이의 임의의 수를 선택할 때, 0.2와 0.5 사이의 숫자가 선택될 확률을 계산할 수 있습니다.

6. 감마 분포 (Gamma Distribution)

공식: $f(x) = \frac{\beta^\alpha}{\Gamma(\alpha)} x^{\alpha - 1} e^{-\beta x}$ (x > 0)
기대값: $E(X) = \frac{\alpha}{\beta}$
분산: $Var(X) = \frac{\alpha}{\beta^2}$
기본 정보: 지수 분포를 일반화한 형태로, 일정 시간 동안 발생하는 사건의 횟수를 모델링합니다.
예제: 평균 수명이 5년인 전자 부품. 이 경우, 부품이 최소 3년 이상 지속될 확률을 계산할 수 있습니다.

7. 베타 분포 (Beta Distribution)

공식: $f(x) = \frac{x^{\alpha-1}(1-x)^{\beta-1}}{B(\alpha, \beta)}$ (0 < x < 1)
기대값: $E(X) = \frac{\alpha}{\alpha + \beta}$
분산: $Var(X) = \frac{\alpha \beta}{(\alpha + \beta)^2(\alpha + \beta + 1)}$
기본 정보: 비율이나 확률과 같은 0과 1 사이의 값을 모델링하는 데 사용됩니다.
예제: 어떤 이벤트의 성공 확률이 0.4에서 0.6 사이일 때, 이 확률이 실제로 0.5를 초과할 확률을 계산할 수 있습니다.

8. 카이제곱 분포 (Chi-Squared Distribution)

공식: $f(x) = \frac{1}{2^{\frac{k}{2}}\Gamma(\frac{k}{2})} x^{\frac{k}{2}-1} e^{-\frac{x}{2}}$ (x > 0)
기대값: $E(X) = k$
분산: $Var(X) = 2k$
기본 정보: 독립적인 표준 정규 분포의 제곱 합으로 구성됩니다. 주로 통계적 검정에 사용

됩니다.

예제: 10개의 독립적인 표준 정규 분포를 제곱하여 더한 값. 이 값이 특정 임계값을 초과할 확률을 구할 수 있습니다.

9. t-분포 (t-Distribution)

공식: $f(x) = \frac{\Gamma(\frac{\nu+1}{2})}{\sqrt{\nu\pi}\Gamma(\frac{\nu}{2})} \left(1+\frac{x^2}{\nu} \right)^{-\frac{\nu+1}{2}}$
기대값: $E(X) = 0$ (ν > 1)
분산: $Var(X) = \frac{\nu}{\nu-2}$ (ν > 2)
기본 정보: 소규모 표본에서 정규 분포의 평균을 추정할 때 사용됩니다.
예제: 10개의 데이터 포인트를 가진 표본에서의 평균이 특정 값보다 큰지 여부를 검정할 때 사용될 수 있습니다.

10. F-분포 (F-Distribution)

공식: $f(x) = \frac{\sqrt{\frac{(d_1 x)^{d_1} d_2^{d_2}}{(d_1 x + d_2)^{d_1 + d_2}}}}{x B(\frac{d_1}{2}, \frac{d_2}{2})}$
기대값: $E(X) = \frac{d_2}{d_2-2}$ (d2 > 2)
분산: $Var(X) = \frac{2d_2^2(d_1 + d_2 - 2)}{d_1(d_2-2)^2(d_2-4)}$ (d2 > 4)
기본 정보: 두 개의 서로 독립적인 분산 추정치의 비율을 모델링하는 데 사용됩니다.
예제: 두 그룹의 분산이 다른지 여부를 검정할 때 사용됩니다. 예를 들어, 두 가지 다른 교육 방법의 효과를 비교할 때 적용할 수 있습니다.

11. 기하 분포 (Geometric Distribution)

기하 분포는 베르누이 시행에서 첫 성공이 나타나기까지의 실패 횟수를 모델링하는데 사용됩니다. 여기서 말하는 '베르누이 시행'이란 오직 두 가지 결과(성공 또는 실패)만을 가지는 실험입니다.

공식: $P(X = k) = (1-p)^{k}p$
- 여기서 $X$ 는 첫 번째 성공이 나타나기까지의 실패 횟수, $p$ 는 각 시행에서의 성공 확률을 나타냅니다.
기대값: $E(X) = \frac{1-p}{p}$
분산: $Var(X) = \frac{1-p}{p^2}$

예제

"동전을 던져 처음으로 앞면이 나오기까지 필요한 뒷면의 수"를 생각해 볼 수 있습니다. 동전 던지기에서 앞면이 나올 확률이 $p = 0.5$ 라고 하면, 이 기하 분포는 $P(X = k) = (0.5)^{k+1}$ 로 표현됩니다. 첫 성공까지 평균적으로 필요한 시행 횟수는 $\frac{1-0.5}{0.5} = 1$ 이 됩니다.

표준화(Standardization)는 정규 분포에만 국한되지 않고 다양한 통계적 분석과 데이터 처리에서 널리 사용됩니다. 표준화는 데이터를 평균이 0이고 표준편차가 1인 분포로 변환하는 과정을 말합니다. 이는 데이터가 원래 어떤 분포를 따르든 상관없이 적용할 수 있습니다.

확률과 통계학에서 기대값, 분산, 표준편차, 공분산 및 공분산 행렬은 데이터의 분포와 변동성을 분석하는 데 중요한 도구입니다. 각 개념에 대해 예제와 함께 설명하겠습니다.

표준화의 목적

비교 용이성: 서로 다른 단위 또는 범위를 가진 변수들을 비교하기 쉽게 만듭니다.
알고리즘의 효율성 향상: 머신러닝과 같은 알고리즘에서 성능을 향상시킵니다.
이상치 영향 감소: 데이터의 이상치로부터 영향을 줄입니다.

표준화 공식

표준화는 각 데이터 포인트에서 평균을 빼고, 그 결과를 표준편차로 나누어 계산합니다. 수학적으로 표현하면 다음과 같습니다:

$Z = \frac{X - \mu}{\sigma}$

여기서:
- $X$ 는 원래 데이터 값입니다.
- $\mu$ 는 데이터의 평균입니다.
- $\sigma$ 는 데이터의 표준편차입니다.
- $Z$ 는 표준화된 결과값입니다.

표준화의 적용 예

데이터 분석: 서로 다른 스케일의 변수들을 비교할 때 유용합니다. 예를 들어, 한 변수가 센티미터로 측정되고 다른 변수가 킬로그램으로 측정될 때, 이들을 표준화하여 동일한 기준으로 비교할 수 있습니다.
머신 러닝: 많은 머신 러닝 알고리즘이 데이터가 표준화되었을 때 더 잘 작동합니다. 예를 들어, 경사 하강법을 사용하는 알고리즘은 표준화된 데이터에서 더 빠르고 안정적으로 수렴합니다.
통계적 모델링: 회귀 분석과 같은 통계적 모델에서 변수들의 영향력을 비교할 때 표준화된 변수를 사용하기도 합니다.

표준화는 데이터를 더 일반적이고 비교 가능한 형태로 변환하는 강력한 도구이며, 데이터 사이언스와 통계 분야에서 널리 활용됩니다.

1. 기대값 (Expectation)

정의: 확률변수의 평균적인 값.
공식: $E(X) = \sum x P(X=x)$ (이산 확률 변수의 경우), $E(X) = \int x f(x) dx$ (연속 확률 변수의 경우)
예제: 주사위를 던질 때 나오는 눈의 기대값은 $E(X) = \frac{1}{6}(1 + 2 + 3 + 4 + 5 + 6) = 3.5$ .

2. 분산 (Variance)

정의: 확률변수의 값이 기대값으로부터 얼마나 벗어나 있는지 측정하는 값.
공식: $\text{Var}(X) = E[(X - E(X))^2] = E(X^2) - [E(X)]^2$
예제: 위의 주사위 예제에서 분산은 $\text{Var}(X) = \frac{1}{6}[(1-3.5)^2 + (2-3.5)^2 + (3-3.5)^2 + (4-3.5)^2 + (5-3.5)^2 + (6-3.5)^2]$ .

3. 표준편차 (Standard Deviation)

정의: 분산의 제곱근으로, 데이터가 평균에서 얼마나 퍼져 있는지 측정.
공식: $\text{SD}(X) = \sqrt{\text{Var}(X)}$
예제: 위의 주사위 예제에서 표준편차는 $\text{SD}(X) = \sqrt{\text{Var}(X)}$ .

4. 공분산 (Covariance)

정의: 두 확률변수가 함께 변하는 정도를 측정.
공식: $\text{Cov}(X, Y) = E[(X - E(X))(Y - E(Y))]$
예제: 확률변수 (X)와 (Y)가 있을 때, (X)가 1일 때 (Y)도 1, (X)가 2일 때 (Y)도 2라고 하면, $\text{Cov}(X, Y)$ 를 계산할 수 있습니다.

5. 공분산 행렬 (Covariance Matrix)

정의: 여러 확률변수 간의 공분산을 행렬 형태로 표현.
공식: 다변량 확률변수 $\mathbf{X} = [X_1, X_2, ..., X_n]$ 에 대해, 공분산 행렬은 $\text{Cov}(\mathbf{X}) = [\text{Cov}(X_i, X_j)]$ , 여기서 $1 \le i, j \le n$ .
예제: 두 확률변수 (X_1, X_2)의 공분산 행렬은 $\begin{bmatrix} \text{Var}(X_1) & \text{Cov}(X_1, X_2) \\ \text{Cov}(X_2, X_1) & \text{Var}(X_2) \end{bmatrix}$ 입니다.

이러한 개념들은 데이터의 중심적 경향, 분포의 폭 및 변수들 간의 관계를 이해하는 데 필수적입니다. 데이터 분석, 머신러닝, 금융 모델

링 등 다양한 분야에서 중요하게 활용됩니다.

변수 (X)와 (Y)에 대한 선형 조합 (2X - Y)의 분산을 계산하는 방법은 다음과 같습니다.

분산의 성질 활용

분산의 선형성질을 활용하여 계산할 수 있습니다. 일반적으로 분산에 대한 다음과 같은 성질이 있습니다:

$\text{Var}(aX) = a^2 \text{Var}(X)$ (여기서 $a$ 는 상수)
$\text{Var}(X + Y) = \text{Var}(X) + \text{Var}(Y) + 2\text{Cov}(X, Y)$ (여기서 $X$ 와 $Y$ 는 확률변수)

$\text{Var}(2X - Y)$ 계산

이제 이 성질들을 사용하여 $\text{Var}(2X - Y)$ 를 계산할 수 있습니다:

[ \text{Var}(2X - Y) = \text{Var}(2X) + \text{Var}(-Y) + 2\text{Cov}(2X, -Y) ]

이제 각 항목을 분해하여 계산합니다:

$\text{Var}(2X) = 4\text{Var}(X)$ (분산의 스케일링 규칙에 의해)
$\text{Var}(-Y) = \text{Var}(Y)$ (분산은 음수를 고려하지 않으므로)
$\text{Cov}(2X, -Y) = 2\text{Cov}(X, -Y) = -2\text{Cov}(X, Y)$ (공분산의 선형성질에 의해)

따라서:

[ \text{Var}(2X - Y) = 4\text{Var}(X) + \text{Var}(Y) - 4\text{Cov}(X, Y) ]

이 공식을 사용하여 (X)와 (Y)의 분산 및 공분산 값을 알고 있다면 $\text{Var}(2X - Y)$ 를 계산할 수 있습니다.

확률과 통계학에서 기대값, 분산, 공분산, 표준편차, 그리고 공분산 행렬의 성질을 이해하는 것은 데이터 분석과 추정에 매우 중요합니다. 각각의 성질에 대해 설명하겠습니다.

기대값의 성질

선형성: $E(aX + bY) = aE(X) + bE(Y)$ , 여기서 $a, b$ 는 상수, $X, Y$ 는 확률변수입니다.
상수: $E(a) = a$ , 여기서 $a$ 는 상수입니다.

분산의 성질

비음성: $\text{Var}(X) \ge 0$
스케일링: $\text{Var}(aX) = a^2 \text{Var}(X)$ , 여기서 $a$ 는 상수입니다.
상수의 분산: $\text{Var}(a) = 0$ , 여기서 $a$ 는 상수입니다.
독립성: 두 확률변수 $X$ 와 $Y$ 가 독립적일 경우, $\text{Var}(X + Y) = \text{Var}(X) + \text{Var}(Y)$ .

공분산의 성질

측정: $\text{Cov}(X, Y)$ 는 $X$ 와 $Y$ 사이의 선형 관계를 측정합니다.
상관관계: $\text{Cov}(X, X) = \text{Var}(X)$ .
스케일링: $\text{Cov}(aX, bY) = ab \text{Cov}(X, Y)$ , 여기서 $a, b$ 는 상수입니다.

표준편차의 성질

비음성: $\text{SD}(X) \ge 0$ .
스케일링: $\text{SD}(aX) = |a| \text{SD}(X)$ , 여기서 $a$ 는 상수입니다.

공분산 행렬

정의: 다변량 확률변수 벡터 $\mathbf{X} = [X_1, X_2, ..., X_n]$ 에 대한 공분산 행렬은 각 변수 쌍 간의 공분산을 요소로 하는 행렬입니다.
표현: $\text{Cov}(\mathbf{X}) = [\text{Cov}(X_i, X_j)]$ (여기서 $1 \le i, j \le n$ ).
대각선 요소: 대각선 요소는 해당 확률변수의 분산입니다 ( $\text{Cov}(X_i, X_i) = \text{Var}(X_i)$ ).

공분산과 공분산 행렬의 차이

공분산은 두 확률변수 간의 선형 관계의 강도를 나타내는 단일 값입니다.
공분산 행렬은 여러 확률변수 간의 선형 관계를 포괄하는 행렬 형태로, 모든 변수 쌍 간의 공분산을 포함합니다. 공분산 행렬은 다변량 데이터의 전체적인 구조와 관계를 이해하는 데 사용됩니다.

이러한 성질들은 데이터의 분포와 관계를 이해하고, 예측 모델을 구축하며, 데이터를 분석하는 데 필수적인 요소입니다.

중심극한정리

중심극한정리(Central Limit Theorem, CLT)는 확률론과 통계학에서 매우 중요한 개념입니다. 이 정리는 독립적이고 동일하게 분포된(i.i.d.) 무작위 변수들의 합(또는 평균)이 충분히 큰 표본 크기에서 정규 분포에 가까워진다는 것을 말합니다. 이 과정에서 표준화는 중요한 역할을 합니다.

중심극한정리(CLT)의 기본 개념

전제조건: 여러 개의 독립적이고 동일하게 분포된(i.i.d.) 무작위 변수들이 있습니다.
주요 내용: 이러한 변수들의 합(또는 평균)은 표본 크기가 커질수록 정규 분포에 근사합니다.
중요성: 이는 많은 자연 현상이나 실험 데이터가 근본적으로 정규 분포를 따른다고 가정하는 이유를 설명합니다.

표준화와 중심극한정리

표준화는 중심극한정리를 적용할 때 특히 중요한 역할을 합니다. 변수들의 합이나 평균을 정규 분포로 근사하기 위해서는, 그 합이나 평균을 표준화하여 표준 정규 분포로 변환하는 것이 일반적입니다.

표준화 과정

평균의 계산: 무작위 변수들의 합이나 평균을 계산합니다.
표준화: 계산된 합이나 평균을 표준화합니다. 표준화된 변수는 다음과 같이 계산됩니다:
$Z = \frac{\bar{X} - \mu}{\sigma/\sqrt{n}}$
여기서:
- $\bar{X}$ 는 표본 평균입니다.
- $\mu$ 는 모평균입니다.
- $\sigma$ 는 모표준편차입니다.
- $n$ 은 표본 크기입니다.

예시

예를 들어, 어떤 공장에서 생산되는 제품의 무게가 평균 50kg, 표준편차 5kg인 정규 분포를 따른다고 가정해 봅시다. 30개의 제품을 무작위로 선택했을 때, 이들의 평균 무게는 중심극한정리에 따라 정규 분포에 가까워집니다. 이 평균 무게를 표준화하면, 표준 정규 분포를 이용해 특정 범위 내에 평균 무게가 있을 확률을 계산할 수 있습니다.

결론

중심극한정리는 실제 세계에서 관측되는 많은 데이터가 정규 분포를 따르는 경향이 있는 이유를 설명해 줍니다. 표준화는 이러한 정규 분포의 특성을 활용하여, 다양한 통계적 분석과 추론을 가능하게 하는 핵심적인 단계입니다.

수리통계학

수리통계학(Mathematical Statistics)은 통계학의 한 분야로, 확률 이론을 기반으로 하여 데이터 분석 및 추론의 이론적 근거를 제공합니다. 이 분야는 데이터에서 정보를 추출하고, 결론을 도출하는 방법에 대한 수학적 원리와 방법론을 다룹니다.

주요 내용 및 개념

확률 이론: 수리통계학의 기초이며, 확률 변수, 확률 분포, 기대값, 분산 등의 개념을 포함합니다.
추정 이론: 모수(모집단의 특성을 나타내는 수치)를 추정하는 방법에 대해 다룹니다. 점추정, 구간추정 등이 여기에 속합니다.
가설 검정: 특정 가설이 주어진 데이터에 기반하여 타당한지 여부를 판단하는 방법론을 포함합니다.
회귀 분석: 변수들 간의 관계를 모델링하고 분석하는 방법을 다룹니다.
실험계획법: 데이터를 수집하는 실험 또는 조사의 설계 방법에 대해 연구합니다.

수리통계학의 중요성

이론적 근거 제공: 통계적 방법론에 대한 강력한 이론적 기반을 제공합니다.
정량적 분석 가능: 데이터를 이용한 정량적이고 객관적인 결정을 가능하게 합니다.
다양한 분야의 응용: 과학, 공학, 경제학, 사회과학 등 다양한 분야에서의 응용이 가능합니다.

기술 통계학과의 차이

수리통계학은 기술 통계학(Descriptive Statistics)과 구분됩니다. 기술 통계학은 데이터를 요약하고 설명하는 데 초점을 맞추는 반면, 수리통계학은 데이터를 이용하여 결론을 도출하고 예측하는 데 필요한 이론과 방법론을 개발하는 데 중점을 둡니다.

학습과 응용

학습: 대학 수준의 고급 수학 및 통계학 과정에서 주로 다룹니다. 이론적 통계학, 확률론, 고급 수학적 기법이 포함됩니다.
응용: 실제 문제 해결에 있어서 데이터 분석, 모델링, 추론 방법을 제공합니다. 머신러닝, 데이터 사이언스, 금융공학 등 현대의 많은 분야에서 필수적인 기초가 됩니다.

수리통계학은 데이터를 이해하고 해석하는 데 필요한 강력한 도구를 제공하며, 복잡한 현실 세계의 문제를 해결하는 데 있어 중요한 역할을 합니다.

죄송합니다, 제가 한국어로 답변을 드리겠습니다. 여기서 언급하신 '모집단과 개체, 표본과 통계량'은 수리통계학에서 매우 중요한 개념들입니다. 이들에 대해 수학적으로 설명해 드리겠습니다.

1. 모집단(Population)과 개체(Individual)

모집단: 연구하고자 하는 전체 대상 또는 객체의 집합을 말합니다. 예를 들어, 어떤 나라의 전체 성인 인구, 특정 공장에서 생산되는 모든 제품 등이 모집단이 될 수 있습니다.
개체: 모집단을 구성하는 하나하나의 원소입니다. 예를 들어, 모든 성인 인구 중 한 사람, 모든 제품 중 하나의 제품 등이 개체에 해당합니다.
수학적 특성: 모집단은 일반적으로 너무 크거나 접근하기 어려워서 전체를 조사하는 것이 불가능하거나 비효율적일 수 있습니다. 따라서 모집단의 특성을 추정하기 위해 표본을 이용합니다.

2. 표본(Sample)과 통계량(Statistic)

표본: 모집단에서 선택된 부분 집합입니다. 표본은 모집단을 대표할 수 있도록 무작위로 선택되어야 합니다. 예를 들어, 전체 성인 인구 중 무작위로 선택된 1000명의 사람들이 표본이 될 수 있습니다.
통계량: 표본 데이터로부터 계산된 수치입니다. 표본 평균, 표본 표준편차, 표본 중앙값 등이 여기에 속합니다.
수학적 특성: 통계량은 표본으로부터 얻은 정보를 요약하고, 이를 이용해 모집단의 매개변수(예: 모평균, 모분산)를 추정합니다.

수학적 관점에서의 의미

수리통계학에서 이러한 개념들은 데이터를 수집하고 분석하는 데 있어 기본적인 출발점입니다. 예를 들어, 모집단의 평균(모평균)이나 분산(모분산)과 같은 매개변수를 추정하기 위해 표본 평균이나 표본 분산과 같은 통계량을 사용합니다. 이러한 추정 과정은 확률 이론과 추정 이론을 통해 수학적으로 정의되고, 다양한 방법론(예: 최소제곱법, 최대우도추정법 등)을 통해 수행됩니다.

표본이 모집단을 얼마나 잘 대표하는가는 표본의 크기와 선택 방법에 크게 의존합니다. 또한, 통계량의 분포(예: 표본 평균의 분포)를 연구함으로써, 모집단 매개변수에 대한 추정의 정확도와 신뢰도를 평가할 수 있습니다. 이러한 과정들은 수리통계학에서 핵심적인 역할을 하며, 복잡한 실제 문제를 해결하는 데 필수적

인 도구가 됩니다.

수리통계학에서의 정규분포와 일반적인 정규분포 개념 사이에는 기본적으로 차이가 없습니다. 정규분포는 수리통계학뿐만 아니라 다양한 분야에서 중요한 역할을 합니다. 그러나 수리통계학에서 정규분포를 다루는 방식은 보다 수학적이고 이론적인 접근을 포함합니다.

일반적인 정규분포

정의: 정규분포는 평균(μ)과 표준편차(σ)로 정의되는 종 모양의 연속 확률 분포입니다.
수학적 형태: 정규분포의 확률 밀도 함수는 다음과 같습니다:
$f(x) = \frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x-\mu)^2}{2\sigma^2}}$
용도: 데이터 분석, 공학, 자연과학, 사회과학 등 다양한 분야에서 실제 데이터의 분포를 모델링하는 데 널리 사용됩니다.

수리통계학에서의 정규분포

이론적 기반: 수리통계학에서 정규분포는 확률 이론의 일부로 다루어지며, 확률 변수들의 합의 분포, 추정, 가설 검정 등의 문제를 해결하는 데 사용됩니다.
중심극한정리(CLT): 수리통계학에서는 CLT를 통해 여러 독립적인 확률 변수들의 합(또는 평균)이 정규분포에 근사한다는 점을 강조합니다. 이는 표본의 크기가 커질수록 그 효과가 두드러집니다.
통계적 추론: 정규분포는 모수의 추정(예: 최대우도추정)과 가설 검정(예: t-검정, F-검정)에서 중요한 역할을 합니다.

결론

따라서, 정규분포 자체는 수리통계학과 다른 분야에서 동일하게 정의되고 사용됩니다. 차이점은 주로 정규분포를 적용하는 맥락과 수학적 접근 방식에 있습니다. 수리통계학에서는 정규분포를 확률 이론과 통계적 추론의 기본 도구로 사용하여, 보다 복잡하고 추상적인 문제들을 해결하는 데 초점을 맞춥니다.

통계학에서 자주 사용되는 여러 부등식 중에서 네 가지 중요한 부등식을 소개하겠습니다. 이 부등식들은 확률론과 통계학에서 불확실성을 다루고, 확률 변수의 특성을 이해하는 데 중요합니다.

1. 마르코프 부등식 (Markov's Inequality)

설명: 양의 확률 변수 (X)와 양의 상수 (a)에 대해, (X)가 (a) 이상의 값을 가질 확률은 $\frac{E(X)}{a}$ 이하입니다.
공식: $P(X \ge a) \le \frac{E(X)}{a}$
용도: 이 부등식은 확률 변수의 기대값과 확률 변수가 특정 임계값을 초과할 확률 사이의 관계를 설정합니다.

2. 체비셰프 부등식 (Chebyshev's Inequality)

설명: 임의의 확률 변수 (X)와 그 평균 $\mu$ 및 분산 $\sigma^2$ 에 대해, (X)가 평균으로부터 (k) 표준편차 이상 떨어져 있을 확률은 $\frac{1}{k^2}$ 이하입니다.
공식: $P(|X - \mu| \ge k\sigma) \le \frac{1}{k^2}$
용도: 분산이나 표준편차를 사용하여 확률 변수의 값이 평균에서 얼마나 멀리 떨어질 확률이 있는지를 추정합니다.

큰 수의 법칙

위의 그래프들은 이항 분포와 정규 분포의 수렴 과정을 나타냅니다. 각 그래프는 이항 분포의 시도 횟수 $n$ 이 각각 10, 50, 100일 때의 분포를 보여주며, 각 경우에 해당하는 정규 분포와 비교되고 있습니다.

이항 분포 (Binomial Distribution): 파란색 막대로 표시되어 있으며, 성공 확률 $p = 0.5$ 로, 성공 횟수에 따른 확률 분포를 나타냅니다.
정규 분포 (Normal Distribution): 빨간색 선으로 표시되어 있으며, 이항 분포의 평균과 표준편차를 기반으로 합니다. 평균은 $\mu = np$ 이고, 표준편차는 $\sigma = \sqrt{np(1-p)}$ 입니다.

시도 횟수$ n$이 증가함에 따라 이항 분포의 모양이 정규 분포에 점점 더 가까워지는 것을 볼 수 있습니다. 이는 중심극한정리의 한 예로, 큰 수의 법칙에 따라 충분히 큰 표본 크기에서 많은 확률 분포들이 정규 분포에 수렴한다는 것을 보여줍니다. 이러한 성질은 통계적 추론에서 이항 분포를 정규 분포로 근사하여 계산하는 데 자주 활용됩니다.

베르누이의 큰 수의 법칙과 킨친의 큰 수의 법칙은 확률론에서 매우 중요한 원리입니다. 이 두 법칙은 확률 변수의 평균이 장기적으로 어떻게 수렴하는지 설명합니다.

베르누이의 큰 수의 법칙 (Bernoulli's Law of Large Numbers)

설명: 베르누이의 큰 수의 법칙은 동일한 확률 실험을 반복했을 때, 성공 확률이 일정한 독립적인 시행에서, 성공 횟수의 비율이 장기적으로 해당 확률에 수렴한다는 것을 의미합니다.
수학적 표현: 동일한 확률 $p$ 로 성공하는 독립적인 베르누이 시행을 $n$ 번 수행했을 때, 성공 횟수의 비율 $\frac{X_n}{n}$ 은 $n$ 이 증가함에 따라 $p$ 에 수렴합니다.
예시: 동전을 던질 때 앞면이 나올 확률이 0.5라고 할 때, 동전을 많이 던질수록 앞면이 나오는 비율은 0.5에 점점 가까워집니다.

킨친의 큰 수의 법칙 (Khintchine's Law of Large Numbers)

설명: 킨친의 큰 수의 법칙은 더 일반적인 상황에 적용됩니다. 이 법칙에 따르면, 임의의 확률 변수들의 시퀀스가 독립적이고 동일하게 분포하며(독립 동일 분포, i.i.d.), 기대값이 존재할 때, 이들의 샘플 평균은 장기적으로 그 기대값에 수렴합니다.
수학적 표현: i.i.d. 확률 변수들 $X_1, X_2, ..., X_n$ 에 대해, $E(X_i) = \mu$ 라 할 때, 샘플 평균 $\frac{1}{n} \sum_{i=1}^{n} X_i$ 는 $n$ 이 커짐에 따라 $\mu$ 에 수렴합니다.
예시: 어떤 주사위를 던져서 나오는 숫자들의 평균을 계산한다고 할 때, 주사위를 많이 던질수록 평균은 3.5(주사위 숫자의 기대값)에 가까워집니다.

이 두 법칙은 확률과 통계학에서 중요한 개념입니다. 그들은 큰 수의 시퀀스에 대해 평균값이 어떻게 안정적인 값에 수렴하는지를 보여줍니다. 이는 장기적으로 확률적 현상이 일정한 패턴을 보인다는 것을 의미하며, 통계적 추정이나 모델링에서 중요한 근거가 됩니다.

드모아브르-라플라스의 중심극한정리(De Moivre-Laplace Central Limit Theorem)는 중심극한정리의 특별한 경우 중 하나입니다. 이것은 이항 분포의 합이 정규 분포로 수렴하는 조건과 방식을 설명합니다. 이 정리는 특히 이항 분포가 큰 수의 법칙과 정규 분포와 어떻게 관련되는지 보여주는 데 중요합니다.

드모아브르-라플라스의 중심극한정리

정의: 이 정리는 이항 분포 $B(n, p)$ 를 따르는 확률변수의 합이나 평균이 $n$ 이 충분히 클 때 정규 분포로 근사할 수 있음을 나타냅니다.
수학적 표현: 이항 분포 $B(n, p)$ 에 대하여, $X$ 가 이항 분포를 따르는 확률변수라고 할 때, $n$ 이 크면 $X$ 의 분포는 근사적으로 정규 분포 $N(np, np(1-p))$ 를 따릅니다. 즉, $X$ 의 표준화된 형태인 $Z = \frac{X - np}{\sqrt{np(1-p)}}$ 는 표준 정규분포 $N(0,1)$ 에 가까워집니다.
예시: 만약 동전을 100번 던져서 앞면이 나오는 횟수를 $X$ 라고 한다면, $X \sim B(100, 0.5)$ 입니다. $n$ 이 100과 같이 충분히 크므로, $X$ 의 분포는 정규 분포 $N(50, 25)$ 로 근사될 수 있습니다.

의의 및 활용

드모아브르-라플라스 중심극한정리는 확률론과 통계학에서 중요한 발전을 이뤘으며, 이항 분포와 정규 분포 간의 관계를 설명하는 데 사용됩니다. 또한, 이 정리는 이항 확률을 계산할 때 복잡한 이항 계수를 사용하는 대신 정규 분포를 사용하여 근사값을 찾는 데 유용합니다. 이는 큰 숫자의 이항 실험에서 확률을 계산할 때 특히 도움이 됩니다.

이 정리는 아브라함 드모아브르에 의해 처음으로 제시되었고, 나중에 피에르시몽 라플라스가 확장하였습니다. 그들의 이름을 따서 드모아브르-라플라스 중심극한정리라고 부릅니다.

큰 수의 법칙에 따르면, 독립 동일 분포(i.i.d.)를 가진 확률 변수들의 평균은 장기적으로 그 확률 변수들의 기대값으로 수렴합니다. 여기서 주어진 조건에 따라 확률 변수 (X_n)의 가능한 값들은 (-\sqrt{\ln n})과 (\sqrt{\ln n})이며, 각각의 확률은 0.5입니다.

우선, 확률 변수 (X_n)의 기대값 (E(X_n))을 계산해 보겠습니다.

$E(X_n) = 0.5(-\sqrt{\ln n}) + 0.5(\sqrt{\ln n}) = 0$

이 결과는 확률 변수 (X_n)의 대칭성 때문에 얻어진 것입니다. 이제, (n)개의 독립적인 (X_n) 확률 변수들의 샘플 평균 (\bar{X}_n)을 고려해 봅시다.

$\bar{X}_n = \frac{1}{n}\sum_{i=1}^{n}X_{n_i}$

큰 수의 법칙에 따르면, (n)이 커짐에 따라 (\bar{X}_n)은 확률 변수 (X_n)의 기대값으로 수렴해야 합니다. 위에서 계산한 기대값은 0이므로, (\bar{X}_n)도 0으로 수렴해야 합니다.

큰 수의 법칙을 증명하기 위해서는 (\bar{X}_n)의 분산이 (n)이 증가함에 따라 0으로 수렴함을 보여야 합니다. 이를 위해 분산을 계산해 보겠습니다.

$\text{Var}(\bar{X}_n) = \text{Var}\left(\frac{1}{n}\sum_{i=1}^{n}X_{n_i}\right)$

$\text{Var}(\bar{X}_n) = \frac{1}{n^2}\sum_{i=1}^{n}\text{Var}(X_{n_i})$

$\text{Var}(\bar{X}_n) = \frac{1}{n^2} \cdot n \cdot \text{Var}(X_n)$

$\text{Var}(\bar{X}_n) = \frac{1}{n} \cdot \text{Var}(X_n)$

$\text{Var}(X_n) = 0.5(-\sqrt{\ln n})^2 + 0.5(\sqrt{\ln n})^2 - [E(X_n)]^2$

$\text{Var}(X_n) = \ln n$

따라서,

$\text{Var}(\bar{X}_n) = \frac{\ln n}{n}$

이제 (n)이 증가함에 따라 (\text{Var}(\bar{X}_n))가 0으로 수렴함을 보여주겠습니다.

$\lim_{n \to \infty} \frac{\ln n}{n} = 0$

이 결과는 큰 수의 법칙을 만족한다는 것을 증명합니다. (n)이 커짐에 따라, (X_n)의 샘플 평균 (\bar{X}_n)은 기대값인 0으로 수렴하고, 분산은 0으로 수렴하여, 결과적으로 확률 변수의 샘플 평균은 확률 변수의 기대값으로 수렴합니다.

확률과 통계학에서 $S$ 는 일반적으로 표본 분산(sample variance) 또는 표본 표준편차(sample standard deviation)를 나타내는 데 사용되는 기호입니다. 표본 분산은 다음과 같이 계산됩니다:

$S^2 = \frac{1}{n-1} \sum_{i=1}^{n} (X_i - \bar{X})^2$

여기서 $n$ 은 표본 크기, $X_i$ 는 각 표본 데이터 포인트, 그리고 $\bar{X}$ 는 표본 평균입니다.

공식 $E(S^2) = \frac{(n-1)\sigma^2}{n}$ 는 표본 분산의 기대값(expectation of the sample variance)에 관한 것으로, 여기서 $\sigma^2$ 는 모분산(population variance)을 나타냅니다. 이 공식은 표본 분산이 편향되지 않은(unbiased) 모분산의 추정치임을 나타내며, 다음과 같이 유도됩니다:

표본 분산 $S^2$ 은 모분산 $\sigma^2$ 의 편향되지 않은 추정치이기 때문에, 기대값 $E(S^2)$ 은 $\sigma^2$ 에 해당합니다. 하지만 $S^2$ 는 $\frac{1}{n-1}$ 의 계수를 가지기 때문에, $n$ 개의 독립적인 표본에 대해 계산될 때 $\frac{(n-1)}{n}$ 배로 스케일링됩니다. 이는 표본 분산이 실제 모분산보다 약간 작게 추정될 수 있음을 보정하기 위한 것입니다. 따라서 표본 분산의 기대값을 구할 때 $\frac{n-1}{n}$ 을 곱해주게 됩니다.

이는 또한 표본 분산이 그 자체로 모분산의 완벽한 추정치가 아니라는 것을 의미합니다. $n$ 이 큰 경우에는 $\frac{n-1}{n}$ 이 1에 가까워지므로, $S^2$ 는 $\sigma^2$ 에 매우 근접한 추정치가 됩니다.

표준정규분포에서 사용되는 식 (2\left(1 - \Phi\left(\frac{\mu - x}{\phi}\right)\right))는 특정 값 (x)에 대한 양측 확률을 계산하는 데 사용됩니다. 여기서 $\Phi$ 는 표준정규분포의 누적분포함수(Cumulative Distribution Function, CDF)를 나타내고, $\mu$ 는 평균(mean), $\phi$ 는 표준편차(standard deviation)를 나타냅니다.

이 식은 다음과 같은 상황에서 사용됩니다:

(x)가 평균 $\mu$ 보다 클 때, $\frac{\mu - x}{\phi}$ 는 음수가 됩니다. 이 경우 $\Phi$ 함수는 (x)가 $\mu$ 보다 클 확률을 제공합니다.
(2\left(1 - \Phi\left(\frac{\mu - x}{\phi}\right)\right)) 식은 (x)의 값이 평균 $\mu$ 보다 멀리 떨어져 있을 때, 즉 (x)보다 크거나 $\mu - (x - \mu)$ 보다 작은 경우의 전체 확률을 계산합니다. 이것은 (x)가 평균에서 얼마나 떨어져 있는지에 따른 양측 꼬리 확률을 나타냅니다.

이 식은 통계학에서 어떤 값이 평균에서 상당히 벗어날 확률을 계산할 때 사용됩니다. 예를 들어, 통계적 가설 검정에서 사용되는 p-값을 계산할 때 이 식이 사용될 수 있습니다.

그러나 식에 주어진 $\mu$ 와 $x$ , $\phi$ 가 표준정규분포의 맥락에서 정확히 어떻게 적용되는지에 대한 추가 정보가 없으면, 이 식이 표준정규분포와 어떻게 연관되는지 정확히 설명하기 어렵습니다. 표준정규분포는 $\mu = 0$ 과 $\phi = 1$ 을 가정합니다. 그리고 보통 표준정규분포에서의 양측 확률은 (2\left(1 - \Phi(|z|)\right)) 형태로 표현됩니다. 여기서 (z)는 표준화된 변수입니다 (예: $z = \frac{x - \mu}{\phi}$ ).

"抽样分布"(추출분포, sampling distribution)는 통계학에서 매우 중요한 개념입니다. 이 용어는 주어진 통계량의 모든 가능한 표본으로부터 계산된 값의 분포를 나타냅니다. 간단히 말해서, 어떤 모집단에서 표본을 무작위로 추출할 때, 그 표본에 대한 통계량(예를 들어 표본평균, 표본분산 등)이 따르는 확률 분포입니다.

추출분포의 중요성:

추정의 정확성: 추출분포는 모집단 매개변수(예: 모평균, 모분산)의 추정이 얼마나 정확한지를 이해하는 데 도움이 됩니다.
가설 검정: 추출분포는 가설 검정에서 표본 데이터가 모집단 매개변수에 대해 어떤 결론을 내릴 수 있는지 판단하는 기준을 제공합니다.
신뢰 구간: 모집단 매개변수에 대한 신뢰 구간을 계산할 때 추출분포를 사용합니다.

추출분포의 예:

표본평균의 분포: 모집단에서 무작위로 추출된 표본들의 평균은, 표본의 크기가 충분히 클 경우(중심극한정리에 의해), 근사적으로 정규 분포를 따릅니다.
t-분포: 표본평균 주위의 분포로서, 모분산이 알려져 있지 않고 표본 크기가 작을 때 주로 사용됩니다.
카이제곱 분포: 모분산의 추정치인 표본분산의 분포로서, 모집단이 정규 분포를 따를 때 사용됩니다.
F-분포: 두 개의 독립적인 표본분산의 비율의 분포로서, 두 모집단 분산이 같은지 비교하는 데 사용됩니다.

추출분포는 모집단의 분포가 어떠한지에 관계없이, 표본 크기가 커질수록 정규 분포에 접근한다는 점에서 중요합니다. 이는 큰 수의 법칙과 중심극한정리에 근거합니다. 따라서, 추출분포는 모집단의 특성을 표본을 통해 추론하는 데 있어서 필수적인 도구입니다.

"독립 동일 분포"(Independent and Identically Distributed, i.i.d.)와 "추출분포"(Sampling Distribution)는 서로 다른 개념입니다. 각각의 의미와 차이점을 설명하겠습니다.

독립 동일 분포 (i.i.d.)

정의: '독립 동일 분포'는 확률변수들이 서로 독립적이며, 같은 확률분포를 따르는 것을 의미합니다. 즉, 이들 확률변수들은 서로에게 영향을 미치지 않으며, 모두 같은 분포 특성(예: 같은 평균, 같은 분산)을 가집니다.
예시: 예를 들어, 동일한 동전을 여러 번 던지는 경우, 각 던지기는 독립적이며, 모든 던지기가 같은 확률분포(앞면이 나올 확률 0.5, 뒷면이 나올 확률 0.5)를 따릅니다.

추출분포 (Sampling Distribution)

정의: '추출분포'는 모집단에서 무작위로 추출한 표본에 대해 계산된 통계량(예: 표본평균, 표본분산)의 분포를 말합니다. 이 분포는 특정 통계량이 어떻게 변동할 수 있는지를 보여줍니다.
예시: 예를 들어, 특정 인구에서 무작위로 선택한 100명의 평균 키를 여러 번 계산할 때, 이러한 표본평균들의 분포가 추출분포입니다.

차이점

적용 대상의 차이: 독립 동일 분포는 개별 확률변수들의 독립성과 분포의 동일성에 초점을 맞추는 반면, 추출분포는 이러한 확률변수들로부터 계산된 통계량의 분포를 설명합니다.
목적의 차이: i.i.d.는 확률변수들이 어떻게 관련되어 있는지를 기술하는 데 사용되며, 추출분포는 통계적 추론과 가설 검정에 있어서 표본 통계량이 어떻게 분포하는지를 나타냅니다.

따라서, 독립 동일 분포는 데이터 생성 과정의 특성을 나타내는 반면, 추출분포는 표본 통계량이 모집단 매개변수에 대해 어떤 정보를 제공하는지를 나타냅니다.

위의 그래프들은 각각 카이제곱 분포(Chi-Squared Distribution), t 분포(t-Distribution), 그리고 F 분포(F-Distribution)의 확률 밀도 함수를 시각적으로 나타냅니다. 각 분포의 특징과 용도는 다음과 같습니다:

카이제곱 분포 (Chi-Squared Distribution)

자유도: 4
특징: 카이제곱 분포는 독립적인 표준 정규 분포를 따르는 변수들의 제곱 합의 분포입니다.
용도: 주로 분산 분석, 카이제곱 적합도 검정, 독립성 검정 등에 사용됩니다.

t 분포 (t-Distribution)

자유도: 10
특징: t 분포는 정규 분포의 평균을 추정할 때 모분산이 알려져 있지 않고 표본 크기가 작은 경우에 사용됩니다.
용도: 주로 작은 표본에서의 평균 추정, 가설 검정에 사용됩니다.

F 분포 (F-Distribution)

자유도: 분자 5, 분모 10
특징: F 분포는 두 분산의 비율의 분포로, 두 독립적인 카이제곱 분포를 따르는 변수들의 비율로 나타납니다.
용도: 주로 두 표본 분산이 같은지를 비교하는 데 사용됩니다 (예: 분산 분석).

이러한 분포들은 통계적 추정과 가설 검정에서 중요한 역할을 합니다. 그들은 표본 데이터를 통해 모집단의 특성을 이해하고, 통계적 결론을 도출하는 데 필수적인 도구입니다.

자유도(degree of freedom)는 통계학에서 중요한 개념으로, 데이터 내에서 독립적으로 변할 수 있는 값의 수를 의미합니다. 자유도는 주로 표본의 크기(sample size)와 관련 있는 제약이나 조건의 수에 의해 결정됩니다.

자유도의 의미와 중요성

제약 조건: 데이터 셋에서 계산되는 통계량(예: 평균)에 제약이나 조건을 적용할 때, 자유도가 감소합니다. 예를 들어, 표본 평균을 사용하여 표본 분산을 계산할 때, 마지막 데이터 포인트는 나머지 데이터와 표본 평균에 의해 간접적으로 결정되므로 자유도가 하나 감소합니다.
표본 크기와의 관계: 일반적으로 자유도는 표본 크기에서 특정 조건의 수를 뺀 값입니다. 예를 들어, (n)개의 데이터 포인트로부터 표본 분산을 계산할 때, 자유도는 (n - 1)이 됩니다. 여기서 (1)은 표본 평균이라는 하나의 조건 때문입니다.
통계 분포에서의 역할: 자유도는 t 분포, 카이제곱 분포, F 분포 등 여러 통계 분포에서 중요한 역할을 합니다. 분포의 형태와 범위는 자유도에 따라 달라집니다.

예시

t 분포: t 분포는 표본 크기가 작을 때 정규 분포의 평균을 추정하는 데 사용됩니다. 여기서 자유도는 (n-1)로, 표본 크기에서 1을 뺀 값입니다.
카이제곱 분포: 카이제곱 분포는 독립적인 표준 정규 분포를 따르는 변수들의 제곱 합의 분포로, 여기서 자유도는 해당 변수의 수입니다.

자유도와 표본 크기 및 편차치

표본 크기: 자유도는 표본 크기에 직접적으로 영향을 받습니다.
편차치: 편차치는 각 데이터 포인트가 평균으로부터 얼마나 벗어나 있는지를 나타내는 값입니다. 편차치와 자유도는 서로 다른 개념입니다. 편차치는 데이터 포인트 개별의 변동성을 나타내는 반면, 자유도는 전체 데이터 세트에서 독립적으로 변할 수 있는 값의 수를 나타냅니다.

자유도는 통계적 추론과 가설 검정에서 중요한 역할을 하는 개념으로, 데이터 분석의 정확성과 신뢰성을 결정하는 데 중요한 요소입니다.

중심극한정리(Central Limit Theorem, CLT)와 큰 수의 법칙(Law of Large Numbers, LLN)은 모두 확률론과 통계학에서 매우 중요한 이론들이지만, 그들이 설명하는 현상은 서로 다릅니다. 각 이론의 핵심을 간단히 요약하면 다음과 같습니다:

큰 수의 법칙 (Law of Large Numbers)

핵심: 큰 수의 법칙은 확률변수의 평균이 샘플의 크기가 커질수록 모집단의 기대값에 수렴한다는 이론입니다.
종류: 큰 수의 법칙에는 두 가지 형태가 있습니다: 강한 법칙과 약한 법칙. 강한 법칙은 거의 확실하게 수렴을 보장하고, 약한 법칙은 확률적으로 수렴을 보장합니다.
예시: 예를 들어, 동전을 던지는 실험에서 앞면이 나올 확률은 0.5입니다. 큰 수의 법칙에 따르면, 동전을 많이 던질수록 앞면이 나오는 비율은 0.5에 점점 더 가까워집니다.

중심극한정리 (Central Limit Theorem)

핵심: 중심극한정리는 독립적이고 동일하게 분포된(i.i.d.) 확률변수들의 합(또는 평균)이 샘플의 크기가 커질수록 정규분포에 수렴한다는 이론입니다.
조건: 이 이론은 확률변수들이 독립적이고, 기대값과 분산이 유한한 분포를 가질 때 적용됩니다.
예시: 예를 들어, 0과 1 사이의 값을 무작위로 선택하는 실험을 많이 반복한다고 할 때, 이 값들의 평균은 샘플의 크기가 커질수록 정규분포에 접근합니다.

차이점

수렴하는 대상: 큰 수의 법칙은 평균이나 합이 기대값에 수렴함을 말합니다. 반면, 중심극한정리는 평균이나 합의 분포가 정규분포에 수렴함을 말합니다.
분포의 형태: 큰 수의 법칙은 분포의 형태에 대해서는 언급하지 않지만, 중심극한정리는 분포가 특정 형태(정규분포)를 띄게 됨을 말합니다.

이 두 이론은 통계적 추론과 데이터 분석에서 매우 중요하며, 큰 수의 데이터를 다룰 때 핵심적인 역할을 합니다.

코드짜는침팬지

학과 꼴찌 공대 호소인

이전 포스트

3D-UNET을 이용한 CT,MRI Image segmentation 3. 코드 돌리기

다음 포스트