원본 영상: Lecture 7: Gambler's Ruin and Random Variables | Statistics 110

1. Conditioning: The souls of statistcs.(조건)
2. Random Variable and their distribution.(확률 변수와 분포)

Gambler's ruin problem

=> 뭐에 대해 조건을 세울지 생각해보고 조건을 사용해 문제를 어떻게 푸는 지 살펴보자.

A와 B가 1달러씩 걸고 계속 게임을 반복해서 하고 있다.

• 2명의 Gambler
• 1 달러씩 걸고 파산할 때까지 내기를 반복함.
• p: P(A가 특정 round를 이김), q: 1-p(B가 이길 확률)

A가 게임을 이길 확률을 구하자.(B가 파산할 확률).

• A는 $i를 가지고 시작한다고 가정
• B는 $N-i를 가지고 시작한다고 가정
• N: 총 금액

=> 성공 확률과 실패 확률이 정해져 있는 독립적인 사건을 반복하는 자연스런 문제. 무작위 행보(Random walk)로도 생각할 수 있음.

• 오른쪽으로 갈 확률: $p$
• 왼쪽으로 갈 확률: $q = 1-p$

A에 대한 무작위 행보로 볼 수 있게 된다.(어차피 B는 A가 정해지면 자동으로 정해지기 때문에.)

이 문제는 재귀적인 형태를 띈다.
A가 첫 라운드를 이기거나(오른쪽으로 이동(i+1)) 지는 경우(왼쪽으로 이동(i-1))가 있다.
그리고 첫라운드가 이후에 초기 조건만 다른(i->i+1 or i-1)같은 문제가 되는 형태를 띈다.

-> 적당한 조건을 찾아서 문제를 쉽게 만들자.
Startegic: 첫 단계에 조건을 세우기(첫 단계 분석)

• $P_i = P(A\space wins \space game|A\space starts\space at\space \$i)$ => A가 i달러로 시작했을 때 전체 게임을 이길 확률.

• $P_i =^{LOTP} p*P_{i+1}+q*P_{i-1},\space 1\leq i\leq N-1$

  • $P_0 = 0, P_N = 1$ => 이 2개를 경계 조건이라고 부른다.
  • p: A가 특정한 판을 이길 확률, q: B가 특정할 판을 이길 확률.
  • 이걸 계차 방정식(difference equation)이라고 함.
  • 계차: 어떤 수열의 각 수에서 그 하나 앞의 수를 뺀 차
  • 계차 방정식의 예로 피보나치 수열을 생각하면 좀 더 직관적이다.

  => 그리하여 위의 계차방정식을 풀어주면,

• $P_i=p*P_{i+1}+q*P{i-1}$

• $P_i = X^i$ => 계차를 이런 식으로 추측한다.

• $X^i = p*X^{i+1}+q*X^{i-1}$ => $p*X^2-X+q=0$

• $X= \frac{1\pm \sqrt{1-4pq}}{2p}$ 로 풀 수 있다.

  => 여기서 $q=1-p$라는 점을 이용해서
  $1-4pq=1-4p(1-p)=4p^2-4p-1=(2p-1)^2$로 풀 어낼 수 있다.
  고로,

• $X= \frac{1\pm \sqrt{1-4pq}}{2p}$ $\in{\{1,\frac{2-2p}{2p}=\frac{1-p}{p}=\frac{q}{p}}\}$로 쓸 수 잇게 된다.

이 조건들은 식은 만족하지만, 경계조건을 만족하지는 않는다.
저 조건들을 사용해서 일반해를 구해보면
$P_i = A*1^i+B*(\frac{q}{p})^i ,p \neq q$ 로 나타낼 수 있다.
(계차 방정식의 다항식의 해를 찾았는데 모두 다르다면, 일반해는 그 해의 선형 결합이 된다. 해가 중복되면 조금 더 복잡해짐.)
이제 $P_0=0, P_N=1$을 대입해보면
$P_0 = A+B =0 => A=-B, P_N=A+B(\frac{q}{p})^N=A(1-(\frac{q}{p})^N)=1, A=-\frac{1}{1-(\frac{q}{p})^N}$
이제 A와 B를 위의 $P_i$식에 대입해서 풀어주면,
$P_i = \frac{1-(\frac{q}{p})^i}{1-(\frac{q}{p})^N}, p\neq q,\space P_i=\frac{i}{N}, p=q$

두 번째 식에 대한 증명,
$X=\frac{q}{p}$ => $lim_{X->1}\frac{1-X^i}{1-X^N}$=>로피탈 정리를 사용=>$lim_{X->1}\frac{iX^i}{NX^N}=\frac{i}{N}$

결국, p와 q가 같은 즉, A와 B가 이길 확률이 같다면, A가 총 금액 중 얼마에서 시작하느냐에 대해서 A의 우승 확률이 비례한다.

Ex. $i=N-i$(둘다 같은 금액으로 시작), $p=0.49$(A가 살짝 불리한)
N=20 => 0.40(A가 전체 게임을 이길 확률)
N=100 => 0.20
N=200 => 0.02
이렇게 줄어든다.

우리가 이 문제를 다룰 때, 게임이 무한정으로 진행될 경우는 배제하고 생각하는 걸까? 지금까지 과정에서는 배제하지 않은 것 처럼 보이지만, 사실은 배제한 것이다.
그리고 만약 우리가 B의 입장에서 생각해본다면, 위의 식에서 처음 시작하는 자금을 B의 자금으로 변경해서 생각해보면 된다.
$\frac{N-i}{N}, p=q$
그리고, 이 경우에 A가 이길 확률은 $\frac{i}{N}$이니까 2개를 더하면 1이된다. 한마디로, 이 두 경우만이 존재한다는 뜻이다. => 게임이 무한정 반복되는 경우는 배제했다.

Random Variables

• Variable: 다양한 수를 나타낼 수 잇는 기호
  변수가 시간에 따라 변화한다는 것을 표현하고 싶다면 함수가 필요하다.
• random variable: S라고 불리는 실수에 대한 확률 시행이 있는 표본 공간안의 함수

이 강의에서는 확률변수를 일부분(experiment)의 수치적인 요약(numerical summary)이라고 생각한다. 그리고 random variable(확률변수)에서 임의성(random)은 바로 이 확률 시행(random experiment)에서 온다.

확률 시행이 끝나면 특정한 결과를 관찰하게 된다.(ex. Heads, Tail) 그리고 그걸 실수로 대응시키는 것이다. 실수는 다루기 쉬우니까. 고로 전체 표본 공간 S의 전체 확률은 1이된다.

Bernoulli Distribution

확률 변수 x가 베르누이 분포를 따른다는 것 => 베르누이 분포의 정의다.
고로, 만약 x가 0과 1 오직 두 개만의 값을 갖는다면,
Bern(p) 는, P(X=1)=p, P(X=0)=1-p 어떤 결과든 p의 확률로 1을 얻고 1-p의 확률로 0을 얻는다.(Ex. 동전 앞면=1, 뒷면=0)

• X=1: 하나의 사건을 다룬다(동전 앞면)

Binomial(n,p)

=> 성공 횟수의 분포, n개의 독립적인 Bern(p) 동안의 성공 횟수 분포이다.(Ex. n번의 동전 던지기라고 생각할 수 있는 거임, 동전 던지기 자체가 Bern분포를 따르기 때문에)

• 성공: 우리 맘대로 정의 가능.
• 분포: 간단하게 말하면 확률 변수의 청사진과 같다고 한다.
  고로, Binomial분포를 식으로 나타낸다면

  $P(X=k)=\binom{n}{k}*p^k*(1-p)^{n-k}$ 이다.
  => X는 확률 변수이고, 여기서는 성공 횟수로 볼 수 있다. 고로 0~n까지가 될 수 있다.(여기서는 n번 독립시행하기 때문에)

그리고 이건 결국 PMF(Probability Mass Function)를 뜻한다.

*이렇게 보면 뭔가 분포는 확률의 함수으로써 그림으로 보면 그래프로써 나타낸 것이라고 생각할 수 있을 것 같다.(어디까지나 나의 생각)

++
$X\sim Bin(n,p), Y\sim Bin(m,p)$, then $X+Y\sim Bin(n+m, p)$

proof: 그냥 n번의 시도와 m번의 시도를 합친 거라고 생각하면 됨. X는 첫번째 n번의 시도 Y는 그 후 m번의 시도를 했다고 생각하는 것이다.