費雪訊息

數理統計學中，費雪資訊（英語：Fisher Information；有時稱作 information^[1]），或稱費雪訊息數，通常記作${\displaystyle {\mathcal {I}}_{X}(\theta )}$，是衡量觀測所得的隨機變數${\displaystyle X}$攜帶的關於未知母數${\displaystyle \theta }$的訊息量，其中${\displaystyle X}$的機率分布依賴於母數${\displaystyle \theta }$。費雪資訊由統計學家羅納德·費雪在弗朗西斯·伊西德羅·埃奇沃思工作的基礎上提出，現常用於最大概似估計和貝氏統計學中。

定義

隨機變數${\displaystyle X}$的費雪訊息定義為

${\displaystyle {\mathcal {I}}(\theta )=\operatorname {E} \left[\left.\left({\frac {\partial {\mathcal {L}}}{\partial \theta }}\right)^{2}\right|\theta \right]=-\operatorname {E} \left[\left.{\frac {\partial ^{2}{\mathcal {L}}}{\partial \theta ^{2}}}\right|\theta \right]}$

其中${\displaystyle {\mathcal {L}}(X;\theta )}$是${\displaystyle X}$關於母數${\displaystyle \theta }$的對數概似函數，當${\displaystyle X}$的機率密度函數${\displaystyle f(X;\theta )}$已知時

${\displaystyle {\mathcal {L}}(X;\theta )=\ln f(X;\theta )}$