Неравенство Колмогорова

Неравенство Колмогорова — обобщение теоретико-вероятностного варианта неравенства Чебышёва, ограничивающее вероятность того, что частичная сумма конечной совокупности независимых случайных величин не превышает некоторого фиксированного числа. Установлено Андреем Колмогоровым в середине 1920-х годов и применено им для доказательства усиленного закона больших чисел.

Формулировка^[1]: для определённых на общем вероятностном пространстве ${\displaystyle (\Omega ,\ F,\ Pr)}$ независимых случайных величин ${\displaystyle X_{1},\dots ,X_{n}\$ :\Omega \to R} с математическими ожиданиями ${\displaystyle MX_{i}=0,i\leqslant n}$ и дисперсиями ${\displaystyle Var[X_{i}]<+\infty }$ и произвольной величины ${\displaystyle \lambda >0}$ выполнено:

${\displaystyle \Pr \left(\max _{1\leqslant k\leqslant n}|S_{k}|\geqslant \lambda \right)\leqslant {\frac {1}{\lambda ^{2}}}\operatorname {Var} [S_{n}]\equiv {\frac {1}{\lambda ^{2}}}\sum _{k=1}^{n}\operatorname {Var} [X_{i}]}$

(1)

гдe ${\displaystyle S_{k}=X_{1}+\dots +X_{k}}$.

Если к тому же ${\displaystyle \Pr(|X_{i}|\leqslant c)=1,i\leqslant n}$, то

${\displaystyle \Pr \left(\max _{1\leqslant k\leqslant n}|S_{k}|\geqslant \lambda \right)\geqslant 1-{\frac {(\lambda +c)^{2}}{\operatorname {Var} [S_{n}]}}}$

(2)

Доказательство

Обозначим

${\displaystyle A=\{\max _{1\leqslant k\leqslant n}|S_{k}|\geqslant \lambda \}}$

${\displaystyle A_{k}=\{|S_{i}|<\lambda ,i=1,...,k-1,|S_{k}|\geqslant \lambda \},1\leqslant k\leqslant n}$

Тогда ${\displaystyle A=\sum A_{k}}$ и

${\displaystyle MS_{n}^{2}\geqslant MS_{n}^{2}I_{A}=\sum _{k=1}^{n}{MS_{n}^{2}I_{A_{k}}}}$ (Где ${\displaystyle I}$ — индикатор)

Но

${\displaystyle MS_{n}^{2}I_{A_{k}}=M\left(S_{k}+\left(X_{k+1}+...+X_{n}\right)\right)^{2}I_{A_{k}}=}$

${\displaystyle =MS_{k}^{2}I_{A_{k}}+2MS_{k}\left(X_{k+1}+...+X_{n}\right)I_{A_{k}}+M\left(X_{k+1}+...+X_{n}\right)^{2}I_{A_{k}}\geqslant MS_{k}^{2}I_{A_{k}},}$

поскольку ${\displaystyle MS_{k}\left(X_{k+1}+...+X_{n}\right)I_{A_{k}}=MS_{k}I_{A_{k}}M\left(X_{k+1}+...+X_{n}\right)=0}$ в силу предположенной независимости и условий ${\displaystyle MX_{i}=0,i\leqslant n}$ Поэтому

${\displaystyle \sum _{k=1}^{n}Var[X_{i}]=MS_{n}^{2}\geqslant \sum _{k=1}^{n}MS_{n}^{2}I_{A_{k}}\geqslant \sum _{k=1}^{n}MS_{k}^{2}I_{A_{k}}\geqslant \lambda ^{2}\sum _{k=1}^{n}MI_{A_{k}}=\lambda ^{2}\sum _{k=1}^{n}\Pr(A_{k})=\lambda ^{2}Pr(A)}$

что и доказывает неравенство 1.

Для доказательства неравенства 2 заметим, что

${\displaystyle MS_{n}^{2}I_{A}=MS_{n}^{2}-MS_{n}^{2}I_{\bar {A}}\geqslant MS_{n}^{2}-\lambda ^{2}Pr({\bar {A}})=MS_{n}^{2}-\lambda ^{2}+\lambda ^{2}Pr(A)}$

(3)

С другой стороны, на множестве ${\displaystyle A_{k}}$

${\displaystyle |S_{k-1}|\leqslant \lambda ,|S_{k}|\leqslant |S_{k-1}|+|X_{k}|\leqslant \lambda +c}$

и, значит,

${\displaystyle MS_{n}^{2}I_{A}=\sum _{k}MS_{k}^{2}I_{A_{k}}+\sum _{k}M(I_{A_{k}}(S_{n}-S_{k})^{2})\leqslant (\lambda +c)^{2}\sum _{k}Pr(A_{k})+\sum _{k=1}^{n}Pr(A_{k})\sum _{j=k+1}^{n}MX_{j}^{2}\leqslant }$

${\displaystyle \leqslant \Pr(A)\left[(\lambda +c)^{2}+\sum _{j=1}^{n}MX_{j}^{2}\right]=Pr(A)\left[(\lambda +c)^{2}+MS_{n}^{2}\right]}$

(4)

Из (3) и (4) находим, что:

${\displaystyle Pr(A)\geqslant {\frac {MS_{n}^{2}-\lambda ^{2}}{(\lambda +c)^{2}+MS_{n}^{2}-\lambda ^{2}}}=1-{\frac {(\lambda +c)^{2}}{(\lambda +c)^{2}+MS_{n}^{2}-\lambda ^{2}}}\geqslant 1-{\frac {(\lambda +c)^{2}}{MS_{n}^{2}}}=1-{\frac {(\lambda +c)^{2}}{\operatorname {Var} [S_{n}]}}}$