마르코프 부등식

확률론에서 마르코프 부등식(영어: Markov’s inequality)은 음이 아닌 확률 변수가 어떤 양의 실수 이상일 확률의 상계를 제시하는 부등식이다. 확률과 기댓값의 관계를 설명하고, 확률 변수의 누적 분포 함수에 대해 느슨한 경우가 많지만 유용한 한계를 제공한다.

정의

측도 공간 ${\displaystyle (X,\Sigma ,\mu )}$ 위의 가측 함수 ${\displaystyle f\colon X\to ({\bar {\mathbb {R} }},{\mathcal {B}}({\bar {\mathbb {R} }}))}$가 주어졌다고 하자. 마르코프 부등식에 따르면, 임의의 양의 실수 ${\displaystyle a\in \mathbb {R} ^{+}}$에 대하여, 다음이 성립한다.^{[1]:83, §3.1, Theorem 3.1.1}

${\displaystyle \mu (\{x\in X\colon |f(x)|\geq a\})\leq {\frac {1}{a}}\int _{X}|f|\mathrm {d} \mu }$

특히, 확률 공간 ${\displaystyle (\Omega ,{\mathcal {F}},\operatorname {Pr} )}$ 위의 확률 변수 ${\displaystyle X\colon \Omega \to ({\bar {\mathbb {R} }},{\mathcal {B}}({\bar {\mathbb {R} }}))}$가 주어졌다고 하자. 그렇다면, 임의의 양의 실수 ${\displaystyle a\in \mathbb {R} ^{+}}$에 대하여, 다음이 성립한다.

${\displaystyle \operatorname {Pr} (|X|\geq a)\leq {\frac {\operatorname {E} (|X|)}{a}}}$

여기서 ${\displaystyle \operatorname {E} (|X|)}$는 기댓값이다.

증명 (측도론의 언어):

${\displaystyle \int _{X}|f|\mathrm {d} \mu \geq \int _{\{x\in X\colon |f(x)|\geq a\}}|f|\mathrm {d} \mu \geq \int _{\{x\in X\colon |f(x)|\geq a\}}a\mathrm {d} \mu =a\mu (\{x\in X\colon |f(x)|\geq a\})}$

증명 (확률론의 언어):

${\displaystyle \operatorname {E} (|X|)\geq \operatorname {E} (|X1_{\{\omega \in \Omega \colon |X(\omega )|\geq a\}}|)\geq \operatorname {E} (a1_{\{\omega \in \Omega \colon |X(\omega )|\geq a\}})=a\operatorname {Pr} (|X|\geq a)}$

따름정리

크라메르 부등식

확률 공간 ${\displaystyle (\Omega ,{\mathcal {F}},\operatorname {Pr} )}$ 위의 확률 변수 ${\displaystyle X\colon \Omega \to ({\bar {\mathbb {R} }},{\mathcal {B}}({\bar {\mathbb {R} }}))}$ 및 증가 가측 함수 ${\displaystyle \phi \colon (\mathbb {R} ^{+},{\mathcal {B}}(\mathbb {R} ^{+}))\to (\mathbb {R} ^{+},{\mathcal {B}}(\mathbb {R} ^{+}))}$가 주어졌다고 하자. 그렇다면, 임의의 양의 실수 ${\displaystyle a\in \mathbb {R} ^{+}}$에 대하여, 다음이 성립한다.^{[1]:84, §3.1, Corollary 3.1.4}

${\displaystyle \operatorname {Pr} (|X|\geq a)\leq {\frac {\operatorname {E} (|\phi (X)|)}{\phi (a)}}}$

증명:

${\displaystyle \operatorname {Pr} (|X|\geq a)=\operatorname {Pr} (|\phi (X)|\geq \phi (a))\leq {\frac {\operatorname {E} (|\phi (X)|)}{\phi (a)}}}$

만약 ${\displaystyle \phi \colon x\mapsto x^{r}}$ (${\displaystyle r\in \mathbb {R} ^{+}}$)일 경우, 이는 다음과 같다.^{[1]:83, §3.1, Corollary 3.1.2}

${\displaystyle \operatorname {Pr} (|X|\geq a)\leq {\frac {\operatorname {E} (|X|^{r})}{a^{r}}}}$

만약 ${\displaystyle \phi \colon x\mapsto \exp(rx)}$ (${\displaystyle r\in \mathbb {R} ^{+}}$)일 경우, 이는 다음과 같다. 이를 크라메르 부등식(영어: Cramer’s inequality)이라고 한다.^{[1]:84, §3.1, Corollary 3.1.5}

${\displaystyle \operatorname {Pr} (|X|\geq a)\leq {\frac {M_{X}(r)}{\exp(ra)}}}$

여기서 ${\displaystyle M_{X}(r)}$는 모멘트 생성 함수이다.

체비쇼프 부등식

 이 부분의 본문은 체비쇼프 부등식입니다.

확률 공간 ${\displaystyle (\Omega ,{\mathcal {F}},\operatorname {Pr} )}$ 위의 적분 가능 확률 변수 ${\displaystyle X\colon \Omega \to ({\bar {\mathbb {R} }},{\mathcal {B}}({\bar {\mathbb {R} }}))}$가 주어졌다고 하자. 그렇다면, 임의의 양의 실수 ${\displaystyle a\in \mathbb {R} ^{+}}$에 대하여, 다음이 성립한다.

${\displaystyle \operatorname {Pr} (|X-\operatorname {E} (X)|\geq a)\leq {\frac {\operatorname {Var} (X)}{a^{2}}}}$

여기서 ${\displaystyle \operatorname {Var} (X)}$는 분산이다.

역사

마르코프 부등식이란 이름은 러시아 수학자 안드레이 마르코프의 이름에서 따온 것이다. 그러나 이 부등식은 마르코프의 스승인 파프누티 체비쇼프가 먼저 발견하였다.