Random Process - 확률 공간(Probability Space)의 정의

이 글은 22-2학기 김운경 교수님의 Random Process 강의와 Peyton의 "Probability, Random Variables and Random Signal Principles" 4판을 참고하였음을 밝혀드립니다.

  저번 글에서는, random process에 대한 전반적인 부분에 대해 다루어 보았습니다. 이번 글에서는, 확률 공간의 정의에 대해 이야기해보고자 합니다.

  확률은 모르는 객체를 우리가 아는 것 위주로 표현하는 방법 중 하나입니다. 먼저 어떤 모르는 객체에 대해, 객체가 가질 수 있는 모든 값은 우리가 생각할 수 있다는 공통점이 있습니다. 이 값들을 모아 놓은 것이 바로 객체의 sample space $S$입니다.

Figure 1 빨간 점은 모르는 객체이지만 숫자 7이 나올리가 없다.

  하지만 우리는 $S$의 각 원소가 일어날 가능성에 대해 관심을 가지기보단, outcome이 어떤 특성을 가지는지, 예를 들어 주사위의 outcome이 짝수인지 홀수인지에 대해 관심을 가지는 경우가 더 많습니다. 이는, 그 특성을 가진 모든 원소를 모은 집합을 $A \subset S$라고 할 때, outcome s가 A에 속할 가능성 $P(s \in A)$을 해당 특성을 가질 확률로 정의가 가능합니다.

  이 특성을 나타낼 수 있는 집합이 될 수 있는 모든 후보를 모아놓은 것이 바로 $S$의 power set $\mathcal{P}(S)$입니다. 어떤 책에서는 이를 event space라고 부르며, 이에 대한 각 원소를 event라고 정의합니다.

  마지막으로, 객체가 특성 값을 가질 확률을 정의해야 합니다. 위에서 정의한 것처럼 우리는 outcome 해당 특성을 가질 확률에 관심이 있기 때문에, 각 power set의 원소에 대해 확률값을 mapping하는 함수, 즉 probability measure이 필요합니다. 이 probability measure에는 한 가지 규칙이 있는데요, 모든 event에 대한 확률은 양의 실수로 표현된다는 사실입니다. 이러한 규칙이 없으면, 우리는 확률에 대해 말하는 것 자체가 의미가 없어지기 때문입니다.

  이 세가지를 요약하면 다음과 같습니다.

For any random object:
1. There exists sample space $S$;
2. For $S$, we can define the power set of $S$: $\mathcal{P}(S)$;
3. $P:\mathcal{P}(S) \rightarrow\mathbb{R^+}:E \mapsto P(E)$

  이로써 확률에 대한 기본적인 정의는 완료되었습니다. 우리는 이렇게 정의된 확률 공간(Probability space)을 $(S, \mathcal{P}(S), P)$이라고 표현합니다. 첫 번째는 모르는 객체의 모든 값이 될 수 있는 것들을 모은 sample space $S$, 두 번째는 이 $S$의 부분집합들을 모두 모아놓은 집합인 power set $\mathcal{P}(S)$, 그리고 마지막은 $\mathcal{P}(S)$에 확률 값을 mapping하는 probability measure입니다. 이를 그림으로 표현하면 다음과 같습니다.

Figure 2 그림으로 표현한 Probability space.

  하지만 확률 공간에 대해서 정의하는 것으로 충분하지 않습니다. Probability measure는 함수이기 때문에, 어떤 규칙을 가지고 event를 양의 실수에 mapping하는지에 대해 정하는 과정이 필요하기 때문입니다. 이에 대해서는 다음 포스트에서 다루도록 하겠습니다. 감사합니다!