✏️ 데이터 사이언스 스쿨에서 공부한 내용입니다.
사이파이(scipy)는 수치해석기능을 제공하는 파이썬 패키지다. 사이파이에서 확률분포 기능을 사용하려면 우선 해당 확률분포에 대한 확률분포 클래스 객체를 생성한 후에 이 객체의 메서드를 호출해야 한다. 확률분포 객체를 생성하는 명령에는 다음과 같은 것들이 있다.
종류 | 명령 | 확률분포 |
---|---|---|
이산 | bernoulli | 베르누이분포 |
이산 | binom | 이항분포 |
이산 | multinomial | 다항분포 |
연속 | uniform | 균일분포 |
연속 | norm | 정규분포 |
연속 | beta | 베타분포 |
연속 | gamma | 감마분포 |
연속 | t | 스튜던트 t분포 |
연속 | chi2 | 카이 제곱분포 |
연속 | f | F분포 |
연속 | dirichlet | 디리클리분포 |
연속 | multivariate_normal | 다변수 정규분포 |
예를 들어 정규분포 객체는 다음과 같이 생성한다.
import scipy as sp
import scipy.stats
rv = sp.stats.norm()
확률분포 객체를 생성할 때는 분포의 형상을 구체적으로 지정하는 파라미터를 인수로 주어야 한다. 각 확률분포마다 설정할 파라미터가 다르지만 대부분 공통적으로 기댓값(loc
), 표준편차(scale
)를 가진다. 예를 들어 기댓값이 1이고 표준 편차가 2인 정규분포 객체는 다음과 같이 생성한다.
rv = sp.stats.norm(loc=1, scale=2)
메서드 | 기능 |
---|---|
pmf | 확률질량함수(probability mass function) |
pdf | 확률밀도함수(probability density function) |
cdf | 누적분포함수(cumulative distribution function) |
ppf | 누적분포함수의 역함수(inverse cumulative distribution function) |
sf | 생존함수(survival function) = 1 - 누적분포함수 |
isf | 생존함수의 역함수(inverse survival function) |
rvs | 랜덤 표본 생성(random variable sampling) |
✏️ recap: pdf, cdf
pdf
메서드는 연속확률변수의 확률밀도함수의 역할을 한다. 표본 값을 입력하면 해당 표본 값에 대한 확률밀도를 출력한다.
import scipy as sp
import scipy.stats
import numpy as np
import matplotlib.pyplot as plt
rv = sp.stats.norm(loc=1, scale=2)
xx = np.linspace(-8, 8, 100)
pdf = rv.pdf(xx)
plt.plot(xx, pdf)
plt.title("pdf")
plt.xlabel("$x$")
plt.ylabel("$p(x)$")
plt.show()
(1) 기댓값이 0이고 표준 편차가 0.1인 정규분포의 객체를 만들고 확률밀도함수를 그려라.
(2) 이 확률밀도함수의 최대값은 얼마인가?
✏️
정규분포는 기댓값에서 확률밀도함수가 최대값을 갖는다.
scipy 공식 문서 를 참조하면 확률분포 클래스 객체와 메서드 활용법을 볼 수 있다.
import scipy as sp
import scipy.stats
import numpy as np
import matplotlib.pyplot as plt
rv = sp.stats.norm(loc=0, scale=0.1)
print("max = {}".format(rv.pdf(0)))
xx = np.linspace(-1, 1, 10000)
pdf = rv.pdf(xx)
plt.plot(xx, pdf)
plt.title("pdf")
plt.xlabel("$x$")
plt.ylabel("$p(x)$")
plt.show()
max = 3.989422804014327
cdf
메서드는 이산확률변수와 연속확률변수의 누적분포함수의 역할을 한다. 표본 값을 입력하면 해당 표본 값에 대한 누적확률을 출력한다.
import scipy as sp
import scipy.stats
import numpy as np
import matplotlib.pyplot as plt
rv = sp.stats.norm(loc=1, scale=2)
xx = np.linspace(-8, 8, 100)
cdf = rv.cdf(xx)
plt.plot(xx, cdf)
plt.title("cdf")
plt.xlabel("$x$")
plt.ylabel("$F(x)$")
plt.show()
무작위로 표본을 만들 때는 rvs
(random value sampling) 메서드를 사용한다. 이 메서드에서 받는 인수는 다음과 같다.
인수 | 의미 |
---|---|
size | 표본 생성 시 생성될 표본 크기 |
random_state | 표본 생성 시 사용되는 시드(seed)값 |
rv.rvs(size=(3, 5), random_state=0)
array([[ 4.52810469, 1.80031442, 2.95747597, 5.4817864 , 4.73511598], [-0.95455576, 2.90017684, 0.69728558, 0.7935623 , 1.821197 ], [ 1.28808714, 3.90854701, 2.52207545, 1.24335003, 1.88772647]])
import scipy as sp
import scipy.stats
import numpy as np
import matplotlib.pyplot as plt
import seaborn as sns
rv = sp.stats.norm(loc=1, scale=2)
sns.distplot(rv.rvs(size=10000, random_state=0))
plt.title("random value sampling")
plt.xlabel("sample")
plt.ylabel("count")
plt.xlim(-8, 8)
plt.show()
rvs
명령으로 1000개의 정규분포의 표본 데이터를 생성하고 이 표본 데이터로부터 표본평균과 비편향 표본분산을 계산하라. 이 값이 인수로 넣은 기댓값과 분산과 비슷한지 비교하라.
✏️
import scipy as sp
import scipy.stats
import numpy as np
mean = 2
std = 1
normal_dist = sp.stats.norm(loc=mean, scale=std)
sample = normal_dist.rvs(size=1000, random_state=20241123)
sample_mean = np.mean(sample)
sample_std = np.std(sample)
error_mean = (sample_mean - mean) / mean * 100
error_std = (sample_std - std) / std * 100
print(mean, std)
print(sample_mean, sample_std)
print("오차율: {}%, {}%".format(round(error_mean, 3), round(error_std, 3)))
2 1 2.0378822453611685 0.9753175604294679 오차율: 1.894%, -2.468%
시뮬레이션 기능을 사용하면 확률변수의 표본을 가공하여 만들어진 변환(transform) 확률변수의 확률분포도 알 수 있다. 예를 들어 0과 1 사이의 균일분포를 가지는 확률변수에서 두 표본값을 생성하여 이 두 값을 합하면 결과는 어떤 분포를 가질까?
import scipy as sp
import scipy.stats
import numpy as np
rv1 = sp.stats.uniform()
rv2 = sp.stats.uniform()
np.random.seed(0)
N = 50000
x_1 = rv1.rvs(N)
x_2 = rv2.rvs(N)
x_3 = x_1 + x_2
plt.figure(figsize=(12, 5))
plt.subplot(131)
sns.distplot(x_1, kde=False)
plt.title("uniform distribution 1")
plt.xlabel("sample")
plt.xlim(-0.2, 2.2)
plt.subplot(132)
sns.distplot(x_2, kde=False)
plt.title("uniform distribution 2")
plt.xlabel("sample")
plt.xlim(-0.2, 2.2)
plt.subplot(133)
sns.distplot(x_3, kde=False)
plt.title("1 + 2")
plt.xlabel("sample")
plt.xlim(-0.2, 2.2)
plt.show()
균일분포 확률분포에서 두 개가 아닌 10개 표본값을 생성하여 그 값의 합을 구하면 어떤 모양의 분포를 이루는지 시뮬레이션 기능을 사용하여 구하라. 이 때 시뮬레이션은 1000번 반복한다.
✏️
분포를 더 잘 보기 위해 N = 1000000 으로 시뮬레이션 하면 다음과 같다.
import scipy as sp
import scipy.stats
import numpy as np
import matplotlib.pyplot as plt
import seaborn as sns
rv = sp.stats.uniform()
np.random.seed(0)
N = 1000000
x_10 = rv.rvs(size=(10,N))
x_sum = np.sum(x_10, axis=0)
plt.figure(figsize=(8, 6))
sns.distplot(x_sum, kde=False)
plt.title("Sum of 10 Uniform Samples")
plt.xlabel("Sample Sum")
plt.ylabel("Count")
plt.show()
이 분포의 평균과 표준편차는 다음과 같다.
print(np.mean(x_sum), np.std(x_sum))
4.999995596966091 0.9127904386625167
✏️ N개의 독립적인 균일 분포 합은 어떤 분포를 가질까?