[하버드] 확률론 기초: Statistics 110

학습목표

아래 네 가지 부등식을 이해할 수 있다.

핵심 키워드

학습하기

학습내용

(27강 조건부 기댓값의 특성 활용 예시)

어떤 가게에 방문하는 고객 수, $X_j:$ j번째 고객이 소비하는 비용 (평균 $\mu$ , 분산 $\sigma ^2$ )

( $X_1, ..., X_n$ $N :$ 은 서로 독립)이라고 할 때,

$\displaystyle \sum ^N _{j=1} X_j$ 의 평균과 분산을 구하여라.

$\displaystyle \sum ^\infty _{n=0}E(X|N=n)P(N=n)$

$\displaystyle \sum ^\infty _{n=0} \mu n P(N=n) = \mu E(N)$

Adam's Law 활용)

$E (X) = E (E (X ∣ N))$

$E(\mu N) = \mu E(N)$

Eve's Law 활용)

$V a r (X) = E (V a r (X ∣ N)) + V a r (E (X ∣ N))$

$\sigma^2)+Var(\mu N)$

$\sigma ^2 E(N) + \mu ^2 Var(N)$

부등식(Inequalities)

(1) 코시-슈바르츠 부등식(Cauchy-Schwartz Inequality):

$\le \sqrt{E(X^2)E(Y^2)}$

( $X, Y$ 가 서로 비상관일 때, $E (X Y) = E (X) E (Y)$ )

$X, Y$ 가 평균 0을 가질 때, $\displaystyle \space |\frac{E(XY)}{\{E(X^2)E(Y^2) \}^{1/2}}| \le 1$

(2) 젠슨 부등식(Jensen's Inequality):

$g$ 가 convex $\ge 0)$ 이라고 할 때, $\ge g(E(X))$

$h$ 가 concave일 때, $\le h(E(X))$

ex) $x$ 가 양수일 때,

$\displaystyle E(\frac{1}{X}) \ge \frac{1}{E(X)}$

$\ge ln(E(X))$

증명) 확률변수 $X$ 에 대하여

$\ge a+bX$ 를 만족할 때,

$\ge a+bE(X) = a+b\mu$

$g(\mu)$

$= g (E (X))$

(3) 마코프 부등식(Markov's Inequality):

$\ge a) \le \space \displaystyle \frac{E(|X|)}{a}\qquad (a>0)$

증명) $a(I_{|X|\ge a}) \le |X|$ 는 성립한다.

$\Rightarrow \enspace aE(I_{|X|\ge a}) \le E(|X|)$

$E(I_{|X|\ge a}) = P(|X|\ge a) \le \displaystyle \space \frac{E(X)}{a}$ (fundamental bridge)

예) 100명의 사람들 중에서 95% 이상의 사람들이 평균 나이보다 어린 경우가 있을 수 있는가? → 예

100명의 사람들 중에서 50% 이상의 사람들이 평균 나이*2 보다 나이가 많은 경우가 있을 수 있는가? → 아니오

(4) 체비셰브 부등식(Chebyshev's Inequality):

$P(|X-\mu| \ge a) \le \space \displaystyle \frac{Var(X)}{a^2} \qquad (\mu = E(X), \enspace a>0)$

$P(|X-\mu| \ge c\cdot sd(X)) \le \displaystyle \space \frac{1}{c^2} \qquad (c>0)$

증명) $P(|X-\mu| \ge a) = P((X-\mu)^2 \ge a^2) \le \space \displaystyle \frac{E(X-\mu)^2}{a^2} = \frac{Var(X)}{a^2}$