Незміщена оцінка

Незміщена оцінка в математичній статистиці — це точкова оцінка, математичне сподівання якої рівне параметру, що оцінюється.

Означення

• Статистика ${\displaystyle {\hat {\theta }}}$ називається незміщеною оцінкою параметра ${\displaystyle \theta \,}$, якщо^[1]

${\displaystyle \mu _{\hat {\theta }}=\operatorname {E} ({\hat {\theta }})=\theta }$.

В іншому випадку оцінка називається зміщеною, а випадкова величина ${\displaystyle {\hat {\theta }}-\theta }$ називається її зміщенням.

Приклади

• Вибіркове середнє ${\displaystyle {\bar {X}}={\frac {1}{n}}\sum \limits _{i=1}^{n}X_{i}}$ є незміщеною оцінкою математичного сподівання ${\displaystyle X_{i}}$, оскільки якщо ${\displaystyle \mathbb {E} X_{i}=\mu <\infty ,\;\forall i\in \mathbb {N} }$, то ${\displaystyle \mathbb {E} {\bar {X}}=\mu }$.

• Нехай випадкові величини ${\displaystyle X_{i}}$ мають скінченну дисперсію ${\displaystyle \mathrm {D} X_{i}=\sigma ^{2}}$. Побудуємо оцінки : ${\displaystyle S_{n}^{2}={\frac {1}{n}}\sum \limits _{i=1}^{n}\left(X_{i}-{\bar {X}}\right)^{2}}$ — вибіркова дисперсія, і : ${\displaystyle S^{2}={\frac {1}{n-1}}\sum \limits _{i=1}^{n}\left(X_{i}-{\bar {X}}\right)^{2}}$ — виправлена вибіркова дисперсія.

Тоді ${\displaystyle S_{n}^{2}}$ є зміщенною, а ${\displaystyle S^{2}}$ незміщеною оцінками параметра ${\displaystyle \sigma ^{2}}$. Зміщеність ${\displaystyle S_{n}^{2}}$ можна довести таким чином:

${\displaystyle {\begin{aligned}\operatorname {E} [S_{n}^{2}]&=\operatorname {E} {\bigg [}{\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}{\bigg ]}=\operatorname {E} {\bigg [}{\frac {1}{n}}\sum _{i=1}^{n}{\big (}(X_{i}-\mu )-({\overline {X}}-\mu ){\big )}^{2}{\bigg ]}\\&=\operatorname {E} {\bigg [}{\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-\mu )^{2}-2({\overline {X}}-\mu ){\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-\mu )+({\overline {X}}-\mu )^{2}{\bigg ]}\\&=\operatorname {E} {\bigg [}{\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-\mu )^{2}-({\overline {X}}-\mu )^{2}{\bigg ]}=\sigma ^{2}-\operatorname {E} {\big [}({\overline {X}}-\mu )^{2}{\big ]}\\&=\sigma ^{2}-{\frac {1}{n}}\sigma ^{2}={\frac {n-1}{n}}\sigma ^{2}<\sigma ^{2}.\end{aligned}}}$

Де ${\displaystyle \mu }$ і ${\displaystyle {\overline {X}}}$ — середнє і його оцінка відповідно.

Джерела

• Карташов М. В. Імовірність, процеси, статистика. — Київ : ВПЦ Київський університет, 2007. — 504 с.
• Гнеденко Б. В. Курс теории вероятностей. — 6-е изд. — Москва : Наука, 1988. — 446 с.(рос.)
• Гихман И. И., Скороход А. В., Ядренко М. В. Теория вероятностей и математическая статистика. — Київ : Вища школа, 1988. — 436 с.(рос.)
• M. G. Kendall. «The advanced theory of statistics (vol. I). Distribution theory (2nd edition)». Charles Griffin & Company Limited, 1945.
• M. G. Kendall and A. Stuart. «The advanced theory of statistics (vol. II). Inference and relationship (2nd edition)». Charles Griffin & Company Limited, 1967.
• A. Papoulis. Probability, random variables, and stochastic processes (3rd edition). McGrow-Hill Inc., 1991.
• G. Saporta. «Probabilités, analyse des données et statistiques». Éditions Technip, Paris, 1990.
• J. F. Kenney and E. S. Keeping. Mathematics of Statistics. Part I & II. D. Van Nostrand Company, Inc., 1961, 1959.
• I. V. Blagouchine and E. Moreau: «Unbiased Adaptive Estimations of the Fourth-Order Cumulant for Real Random Zero-Mean Signal», IEEE Transactions on Signal Processing, vol. 57, no. 9, pp. 3330-3346, September 2009.
• An Illuminating Counterexample