[하버드] 확률론 기초: Statistics 110

학습목표

베타분포와 감마분포의 관계를 이할 수 있으며, 순서통계량의 분포를 구할 수 있다.

핵심 키워드

학습하기

학습내용

베타분포와 감마분포의 관계

story) 은행-우체국 예시

은행 대기시간을 $\sim Gamma(a, \lambda)$ , 우체국 대기시간을 $\sim Gamma(b, \lambda)$ 이라고 했을 때, ( $X, Y$ 는 서로 독립)

→ 두 곳에서의 총 대기시간: $\sim Gamma(a+b,\space \lambda)$

→ 총 대기시간에서 은행 대기시간이 차지한 비율: $\Large \frac{X}{X+Y}$ $\lambda =1$ 로 가정)

$f_{T,W}(t,w) = f_{X,Y}(x,y) \displaystyle |\frac{d(x,y)}{d(t,w)}|$

$=\space \displaystyle \frac{1}{\Gamma(a)\Gamma(b)}x^a e^{-x}y ^b e^{-y} \frac{1}{xy} |J|$

$\qquad \displaystyle \frac{x}{x+y} = w$

$\qquad y= t-tw$

$∣ J ∣ = t$

$\space \displaystyle \frac{1}{\Gamma(a)\Gamma(b)}w^{a-1} (1-w)^{b-1}t^{a+b}e^{-t}\displaystyle \cdot \frac{1}{t}$

$\space \displaystyle \frac{\Gamma(a+b)}{\Gamma(a)\Gamma(b)} w^{a-1}(1-w)^{b-1} \frac{1}{\Gamma(a+b)} t^{a+b} e^{-t} \frac{1}{t}$

$\Rightarrow$ w의 함수와 t의 함수로 이루어진 식. $\space T$ 은 독립이다

$f_W(w) = \displaystyle \int ^\infty _{-\infty} f_{T, W}(t,w)dt = \frac{\Gamma(a+b)}{\Gamma(a)\Gamma(b)} w^a(1-w)^{b-1}$

$\Rightarrow T \sim Gamma(a+b,\space 1), \quad W\sim Beta(a, \space b)$

$E (W)$ 구하기

방법 1. LOTUS (정석)

방법 2. $\displaystyle E(\frac{X}{X+Y}) = \frac{E(X)}{E(X+Y)}$ $(T, W$ 적용하기)

$\quad W = \space \displaystyle \frac{X}{X+Y}$ 는 서로 독립이므로

$\displaystyle E(\frac{X}{X+Y}) E(X+Y) = E(X)$ 이 성립한다.

따라서, $\displaystyle E(\frac{X}{X+Y}) = \frac{a}{a+b}$

순서통계량 (Order Statistics)

$X_1, ..., X_n \enspace \rightarrow iid$ 분포라 가정했을 때,

정의) 순서통계량 $X_{(1)} \le X_{(2)} \le \cdots\le X_{(n)}$

$X_{(1)} = min(X_1, ..., X_n), \enspace X_{(n)} = max(X_1, ..., X_n))$

$\rightarrow n$ 이 홀수일 때, 중위수는 순서통계량 $\large X_{(\frac{n+1}{2})}$ 로 표현할 수 있다.

특징) - 서로 독립이 아니다.

- 이산확률변수의 경우, 동일한 값의 경우(tie) 순서를 매기기 어려워진다.

분포 구하기)

방법 1. $X_1, ... ,X_n \sim^{iid}$ PDF $f,$ CDF $F$ 한다고 했을 때,

$X_{(j)}$ 의 CDF: $P(X_{(j)} \le x) = P($ 적어도 j개의 $X_i$ 들은 $x$ 보다 작다 $)$

$\displaystyle \sum ^n _{k= j} {n \choose k} F(x)^k (1-F(x) )^{n-k}$

→ PDF: 위 식의 도함수

방법 2. PDF: $f_{X_{(j)}}(x)dx = \space \displaystyle n{{n-1}\choose {j-1}} f(x)dx F(x)^{j-1} (1-F(x))^{n-j}$

$f_{X_{(j)}}(x)dx = \space \displaystyle n{{n-1}\choose {j-1}} F(x)^{j-1} (1-F(x))^{n-j}f(x)$

ex) $U_1, ..., U_n \sim^{iid} Unif(0,1)$ 이라 할 때,

$f_{U_{(j)}} = \space \displaystyle n {{n-1}\choose{j-1}}x^{j-1}(1-x)^{n-j} \qquad(0$

$\Rightarrow U_{(j)} \sim Beta(j, \space n-j+1)$