본 글은 칸아카데미의 확률과 통계 에 대해서 공부하고 정리한 글입니다.
1. 확률변수
확률변수는 어떠한 확률에 대한 결과를 수치로 나타내는 변수이며,
확률 변수는 크게 이산확률변수 와 연속확률변수 두 가지 종류로 나눌 수 있다.
1-1. 이산확률변수
이산확률변수(Discrete Random Variable) 는 특정한 개수의 값만을 가질 수 있는 확률변수이다.확률질량함수(PMF, Probability Mass Function) 로 나타낸다.
P ( X = x ) = p ( x ) P(X = x) = p(x) P ( X = x ) = p ( x ) 1-2. 연속확률변수
연속확률변수(Continuous Random Variable) 는 연속적인 값을 가질 수 있는 확률변수이다.확률밀도함수(PDF, Probability Density Function) 로 나타낸다.
f X ( x ) = d d x F X ( x ) f_{_X}(x) = \frac{d}{dx}F_{_X}(x) f X ( x ) = d x d F X ( x ) 2. 확률변수의 통계량
확률변수에서도 마찬가지로 평균/분산 등과 같은 통계량을 구할 수 있다.
2-1. 확률변수의 평균(기댓값)
평균 또는 기댓값은 확률변수의 중심 위치를 나타내는 통계량 중 하나이다.
이산확률변수:
E [ X ] = μ X = ∑ i = 1 N x i ⋅ p ( x i ) E[X] = \mu_{_X} = \sum_{i=1}^{N} x_i \cdot p(x_i) E [ X ] = μ X = i = 1 ∑ N x i ⋅ p ( x i ) 연속확률변수:
E [ X ] = μ X = ∫ − ∞ ∞ x ⋅ f X ( x ) d x E[X] = \mu_{_X} = \int_{-\infty}^{\infty} x \cdot f_{_X}(x) dx E [ X ] = μ X = ∫ − ∞ ∞ x ⋅ f X ( x ) d x 2-2. 확률변수의 분산/표준편차
분산은 확률변수가 평균으로부터 얼마나 퍼져있는지를 나타내며,
분산:
V a r ( X ) σ X 2 = E [ ( X − E [ X ] ) 2 ] = E [ X 2 ] − ( E [ X ] ) 2 = 1 N ∑ i = 1 N ( x i − μ X ) 2 ⋅ p ( x i ) \begin{aligned} Var(X) \sigma_{_X}^2&= E[(X - E[X])^2] = E[X^2] - (E[X])^2 \\ &= \frac{1}{N}\sum_{i=1}^{N} \big(x_i - \mu_{_X}\big)^2 \cdot p(x_i) \end{aligned} V a r ( X ) σ X 2 = E [ ( X − E [ X ] ) 2 ] = E [ X 2 ] − ( E [ X ] ) 2 = N 1 i = 1 ∑ N ( x i − μ X ) 2 ⋅ p ( x i ) 표준편차:
σ X = V a r ( X ) \sigma_{_X} = \sqrt{Var(X)} σ X = V a r ( X ) 2-3. 확률변수 합과 차의 평균
두 확률변수 X와 Y가 존재할 때, 두개의 합과 차의 평균은 다음과 같이 구할 수 있다.
E [ X + Y ] = E [ X ] + E [ Y ] E [ X − Y ] = E [ X ] − E [ Y ] E[X + Y] = E[X] + E[Y] \\\,\\ E[X - Y] = E[X] - E[Y] E [ X + Y ] = E [ X ] + E [ Y ] E [ X − Y ] = E [ X ] − E [ Y ] 2-4. 확률변수 합과 차의 분산/표준편차
만약 X와 Y가 독립인 확률변수라면, 두개의 합과 차의 분산은 다음과 같이 구할 수 있다.
σ X + Y 2 = σ X − Y 2 = σ X 2 + σ Y 2 \sigma_{_{X+Y}}^2 = \sigma_{_{X-Y}}^2 = \sigma_{_X}^2 + \sigma_{_Y}^2 σ X + Y 2 = σ X − Y 2 = σ X 2 + σ Y 2 여기서 왜 확률변수를 더했을때와 뺐을 때의 분산이 같은걸까?
σ X − Y 2 = σ X + ( − Y ) 2 = σ X 2 + σ − Y 2 σ − Y 2 = E [ ( − Y − E [ − Y ] ) 2 ] = E [ ( − 1 ) 2 ( Y + E [ − Y ] ) 2 ] = E [ ( Y + E [ − Y ] ) 2 ] = E [ ( Y − E [ Y ] ) 2 ] = σ Y 2 \begin{aligned} \sigma_{_{X-Y}}^2 &= \sigma_{_{X+(-Y)}}^2 = \sigma_{_{X}}^2 + \sigma_{_{-Y}}^2 \\\,\\ \sigma_{_{-Y}}^2 &= E[(-Y - E[-Y])^2] \\ &= E[(-1)^2(Y + E[-Y])^2] \\ &= E[(Y + E[-Y])^2] \\ &= E[(Y - E[Y])^2] \;=\; \sigma_{_{Y}}^2 \end{aligned} σ X − Y 2 σ − Y 2 = σ X + ( − Y ) 2 = σ X 2 + σ − Y 2 = E [ ( − Y − E [ − Y ] ) 2 ] = E [ ( − 1 ) 2 ( Y + E [ − Y ] ) 2 ] = E [ ( Y + E [ − Y ] ) 2 ] = E [ ( Y − E [ Y ] ) 2 ] = σ Y 2 또한 표준편차는 위의 분산에 제곱근을 함으로써 구할 수도 있고, 아래와 같이 구할 수도 있다.
σ X + Y = σ X − Y = σ X 2 + σ Y 2 \sigma_{_{X+Y}} = \sigma_{_{X-Y}} = \sqrt{\sigma_{_X}^2 + \sigma_{_Y}^2} σ X + Y = σ X − Y = σ X 2 + σ Y 2 3. 베르누이 시행
이는 성공과 실패 두 가지 결과만을 가지는 단일 실험 또는 시행을 말한다.
3-1. 베르누이 시행의 조건
베르누이 시행은 다음의 조건을 갖추어야 하고,
결과의 유형이 2가지이다.
각 시행은 모두 독립적이다.
각 시행의 성공 확률은 동일해야 한다.
3-2. 베르누이 시행의 확률분포
베르누이 시행에서 발생하는 확률변수 (X)는 성공을 1, 실패를 0으로 나타내는 이산확률변수이다.
P ( X = k ) = { p if k = 1 (성공할 확률) 1 − p if k = 0 (실패할 확률) P(X=k) = \begin{cases} p & \text{if } k=1 \quad\text{(성공할 확률)}\\ 1-p & \text{if } k=0 \quad\text{(실패할 확률)} \end{cases} P ( X = k ) = { p 1 − p if k = 1 ( 성공할 확률 ) if k = 0 ( 실패할 확률 ) 3-3. 베르누이 분포의 통계량
베르누이 분포의 주요 통계량은 다음과 같다:
평균 : E ( X ) = p E(X) = p E ( X ) = p 분산 : V a r ( X ) = p ( 1 − p ) Var(X) = p(1-p) V a r ( X ) = p ( 1 − p ) 표준편차 : σ = p ( 1 − p ) \sigma = \sqrt{p(1-p)} σ = p ( 1 − p )
4. 이항확률변수
이항확률변수(Binomial Random Variable)는
4-1. 이항확률분포
이항확률분포는 이항확률변수가 따르는 확률분포이며,n n n p p p
P ( X = k ) = ( n k ) p k ( 1 − p ) n − k , ( k = 0 , 1 , 2 , … , n ) P(X=k) = \binom{n}{k} p^k (1-p)^{n-k} \quad,\quad (k=0,\;1,\;2,\;\ldots,\;n) P ( X = k ) = ( k n ) p k ( 1 − p ) n − k , ( k = 0 , 1 , 2 , … , n ) ※ 여기서 ( n k ) \binom{n}{k} ( k n ) n n n k k k
[ 문제 ] 동전을 5번 던질 때, 앞면이 3번 나올 확률을 구해보자.
이 경우 n = 5 n=5 n = 5 p = 0.5 p=0.5 p = 0 . 5 k = 3 k=3 k = 3
P ( X = 3 ) = ( 5 3 ) ( 0.5 ) 3 ( 0.5 ) 5 − 3 = 10 × 0.125 × 0.25 = 0.3125 P(X=3) \;=\; \binom{5}{3} (0.5)^3 (0.5)^{5-3} \;=\; 10 \times 0.125 \times 0.25 \;=\; 0.3125 P ( X = 3 ) = ( 3 5 ) ( 0 . 5 ) 3 ( 0 . 5 ) 5 − 3 = 1 0 × 0 . 1 2 5 × 0 . 2 5 = 0 . 3 1 2 5
따라서 동전을 5번 던졌을 때 앞면이 정확히 3번 나올 확률은 약 31.25% 이다.
4-2. 이항확률분포의 통계량
이항확률변수 X ∼ B ( n , p ) X \sim B(n,p) X ∼ B ( n , p )
평균 : E ( X ) = n p E(X) = np E ( X ) = n p 분산 : V a r ( X ) = n p ( 1 − p ) Var(X) = np(1-p) V a r ( X ) = n p ( 1 − p ) 표준편차 : σ = n p ( 1 − p ) \sigma = \sqrt{np(1-p)} σ = n p ( 1 − p )
[ 문제 ] 동전을 100번 던질 때, 앞면이 나오는 횟수의 평균과 표준편차를 구해보자.
이 경우 n = 100 , p = 0.5 n=100,\;p=0.5 n = 1 0 0 , p = 0 . 5
평균 : E ( X ) = 100 × 0.5 = 50 E(X) = 100 \times 0.5 = 50 E ( X ) = 1 0 0 × 0 . 5 = 5 0 표준편차 : σ = 100 × 0.5 × 0.5 = 5 \sigma = \sqrt{100 \times 0.5 \times 0.5} = 5 σ = 1 0 0 × 0 . 5 × 0 . 5 = 5
따라서 평균적으로 50번 의 앞면이 나오며, 표준편차는 5 이다.
5. 기하확률변수
기하확률변수는(Geometric Random Variable)는
5-1. 기하확률분포
기하확률분포의 확률질량함수는 다음과 같다
1) k = 1번째 성공까지의 시행 횟수
P ( X = k ) = ( 1 − p ) k − 1 p , ( k = 1 , 2 , 3 , … ) P(X=k) \;=\; (1-p)^{k-1}p \quad,\quad (k=1, \;2,\; 3,\;\ldots) P ( X = k ) = ( 1 − p ) k − 1 p , ( k = 1 , 2 , 3 , … ) 2) k = 1번째 성공 이전까지의 시행 횟수
P ( X = k ) = ( 1 − p ) k p , ( k = 0 , 1 , 2 , … ) P(X=k) \;=\; (1-p)^{k}p \quad,\quad (k=0, \;1,\; 2,\;\ldots) P ( X = k ) = ( 1 − p ) k p , ( k = 0 , 1 , 2 , … )
[ 문제 ] 6면 주사위가 있을 때, 4번째 시도에서 처음으로 6이 나올 확률을 구해보자.
이 경우 주사위에서 6이 나오는 경우를 성공이라 보고, 이때의 확률은 p = 1 / 6 p=1/6 p = 1 / 6
P ( X = 4 ) = ( 1 − 1 6 ) 4 − 1 × 1 6 = ( 5 6 ) 3 × 1 6 ≈ 0.0965 P(X=4) \;=\; (1-\frac{1}{6})^{4-1} \times \frac{1}{6} \;=\; (\frac{5}{6})^3 \times \frac{1}{6} \;\approx\; 0.0965 P ( X = 4 ) = ( 1 − 6 1 ) 4 − 1 × 6 1 = ( 6 5 ) 3 × 6 1 ≈ 0 . 0 9 6 5
따라서 약 9.65% 의 확률 로 4번째 시도에서 처음 6이 나온다.
5-2. 기하확률분포의 통계량
기하확률변수 X ∼ G e o ( p ) X \sim Geo(p) X ∼ G e o ( p )
평균: E ( X ) = 1 p E(X) = \frac{1}{p} E ( X ) = p 1
분산: V a r ( X ) = 1 − p p 2 Var(X) = \frac{1-p}{p^2} V a r ( X ) = p 2 1 − p
표준편차: σ = 1 − p p \sigma = \frac{\sqrt{1-p}}{p} σ = p 1 − p
[ 예제 ] 앞서 주사위 예제에서 6이 나올 때까지 평균적으로 몇 번의 시도가 필요한지 계산해보자.
평균: E ( X ) = 1 p = 1 1 / 6 = 6 E(X) \;=\; \frac{1}{p} \;=\; \frac{1}{1/6} \;=\; 6 E ( X ) = p 1 = 1 / 6 1 = 6
따라서 평균적으로 6번 의 시도가 필요하다.
