3.7 베이즈 정리
- 사전밀도함수: π(θ)
- θ가 주어진 상태에서 X=x가 관측될 조건부 밀도함수: f(x|θ)
- 사후밀도함수:
- θ1, θ2의 사후비(posterior odds)
: 사후밀도함수값의 비율을 이용하여 비교
= π(θ1|x)/π(θ2|x)- 1 보다 크면 θ1이 θ의 추정치로 더 적절하다는 것
3.8 변수의 독립성
: X1, ... Xn이 공통 표본공간을 갖는 변수이고 θ를 미지의 모수라고 하면,
공통 표본공간의 임의의 부분집합 A1,...,An에 대하여
이면 X1, ..., Xn은 θ가 주어졌을 때 조건부 독립이다.
- Xj의 정보가 Xi에 대해 아무런 추가 정보를 주지 않음
- θ가 주어졌을 때 X1, ..., Xn이 조건부 독립이면,
조건부 결합확률밀도함수 = 각 조건부 주변밀도함수의 곱- 만약 Xi가 모두 같은 분포를 따르면 Xi 들은 θ가 주어졌을 때 '조건부 iid'
3.9 교환가능성
교환가능성
: X1, ... Xn의 결합밀도함수 f(x1,...,xn)이 {1,...,n}의 임의의 순열 {π1,...,πn}에 대하여 f(x1,...,xn)=f(xπ1,...,xπn) (=순서에 무관)이면 X1, ... Xn는 교환가능하다.
- 모수 θ가 임의의 사전밀도함수 π(θ)를 갖고 θ가 주어진 상태에서 X1, ... Xn이 서로 조건부 독립이며 동일한 분포를 가지면 X1, ... Xn는 교환가능하다.
- ex.
- X1, ... Xn이 반복실험으로부터의 결과
- X1, ... Xn이 무한모집단으로부터의 비복원추출의 결과
- X1, ... Xn이 유한모집단으로부터의 비복원추출의 결과(모집단의 크기가 표본 크기에 비하여 매우 클 경우)
De Finetti 정리
: 1. 변수 Xi가 모든 같은 표본공간을 갖고, 2. 임의의 n에 대해 X1, ... Xn이 교환가능하면,
X1, ... Xn의 결합밀도함수에 대해 다음을 만족하는 모수 θ와 그 밀도함수 π(θ), 그리고 Xi의 조건부 밀도함수 π(θ|xi)가 존재한다.
Data Analyst | Statistics