逆威沙特分布

逆威沙特分布，也叫反威沙特分布作是统计学中出现的一类概率分布函数，定义在实值的正定矩阵上。在贝叶斯统计中，逆威沙特分布会用作多变量正态分布协方差矩阵的共轭先验分布。 如果一个正定矩阵 ${\displaystyle {\mathbf {B} }}$ 的逆矩阵 ${\displaystyle \mathbf {B} ^{-1}}$ 遵从威沙特分布 ${\displaystyle W({\mathbf {\Psi } }^{-1},m)}$ 的话，那么就说矩阵 ${\displaystyle {\mathbf {B} }}$ 遵从逆威沙特分布：

${\displaystyle \mathbf {B} \sim W^{-1}({\mathbf {\Psi } },m)}$

逆威沙特分布

参数	${\displaystyle m>p-1\!}$ 自由度 (实数) ${\displaystyle \mathbf {\Psi } >0\,}$ 尺度矩阵 (正定)
值域	${\displaystyle \mathbf {W} \!}$是正定的
概率密度函数	${\displaystyle {\frac {\left|{\mathbf {\Psi } }\right|^{m/2}\left|B\right|^{-(m+p+1)/2}e^{-\mathrm {trace} ({\mathbf {\Psi } }{\mathbf {B} }^{-1})/2}}{2^{mp/2}\Gamma _{p}(m/2)}}}$
期望	${\displaystyle {\frac {\mathbf {\Psi } }{m-p-1}}}$
众数	${\displaystyle {\frac {\mathbf {\Psi } }{m+p+1}}}$[1]:406

概率密度函数

逆威沙特分布的概率密度函数是：

${\displaystyle {\frac {\left|{\mathbf {\Psi } }\right|^{m/2}\left|\mathbf {B} \right|^{-(m+p+1)/2}e^{-\mathrm {trace} ({\mathbf {\Psi } }{\mathbf {B} }^{-1})/2}}{2^{mp/2}\Gamma _{p}(m/2)}},}$

其中 ${\displaystyle {\mathbf {B} }}$ 和 ${\displaystyle {\mathbf {\Psi } }}$ 都是 ${\displaystyle p\times p}$ 的正定矩阵，而Γ_p(·) 则是多变量伽马分布（英语：Multivariate gamma function）。函数

${\displaystyle \mathrm {trace} \;:\quad \mathbf {M} \quad \rightarrow \quad \mathrm {trace} (\mathbf {M} )}$

指的是迹函数。

相关定理

威沙特分布矩阵之逆的概率分布

设矩阵${\displaystyle {\mathbf {A} }\sim W({\mathbf {\Sigma } },m)}$ 并且 ${\displaystyle {\mathbf {\Sigma } }}$ 是${\displaystyle p\times p}$ 的矩阵，那么 ${\displaystyle {\mathbf {B} }={\mathbf {A} }^{-1}}$ 遵从逆威沙特分布：${\displaystyle {\mathbf {B} }\sim W^{-1}({\mathbf {\Sigma } }^{-1},m)}$。它的概率密度函数是：

${\displaystyle p(\mathbf {B} |\mathbf {\Psi } ,m)={\frac {\left|{\mathbf {\Psi } }\right|^{m/2}\left|\mathbf {B} \right|^{-(m+p+1)/2}\exp \left({-\mathrm {tr} ({\mathbf {\Psi } }{\mathbf {B} }^{-1})/2}\right)}{2^{mp/2}\Gamma _{p}(m/2)}}}$

其中 ${\displaystyle \mathbf {\Psi } =\mathbf {\Sigma } ^{-1}}$，而 ${\displaystyle \Gamma _{p}(\cdot )}$ 是多变量伽马分布^[2]。

威沙特分布矩阵之逆的边际与条件分布

设矩阵 ${\displaystyle {\mathbf {A} }\sim W^{-1}({\mathbf {\Psi } },m)}$ 遵从逆威沙特分布。并且假设矩阵 ${\displaystyle {\mathbf {A} }}$ 和 ${\displaystyle {\mathbf {\Psi } }}$ 都有相适合的分块矩阵表示方式：

${\displaystyle {\mathbf {A} }={\begin{bmatrix}\mathbf {A} _{11}&\mathbf {A} _{12}\\\mathbf {A} _{21}&\mathbf {A} _{22}\end{bmatrix}},\;{\mathbf {\Psi } }={\begin{bmatrix}\mathbf {\Psi } _{11}&\mathbf {\Psi } _{12}\\\mathbf {\Psi } _{21}&\mathbf {\Psi } _{22}\end{bmatrix}}}$

其中子矩阵 ${\displaystyle {\mathbf {A} _{ij}}}$ 和 ${\displaystyle {\mathbf {\Psi } _{ij}}}$ 是 ${\displaystyle p_{i}\times p_{j}}$ 的矩阵，那么会有：

甲）${\displaystyle {\mathbf {A} _{11}}}$ 和 ${\displaystyle {\mathbf {A} }_{11}^{-1}{\mathbf {A} }_{12}}$ 与 ${\displaystyle {\mathbf {A} }_{22\cdot 1}}$ 相互独立，其中 ${\displaystyle {\mathbf {A} _{22\cdot 1}}={\mathbf {A} }_{22}-{\mathbf {A} }_{21}{\mathbf {A} }_{11}^{-1}{\mathbf {A} }_{12}}$ 是子矩阵 ${\displaystyle {\mathbf {A} _{11}}}$ 在 ${\displaystyle {\mathbf {A} }}$ 中的舒尔补。

乙） ${\displaystyle {\mathbf {A} _{11}}\sim W^{-1}({\mathbf {\Psi } _{11}},m-p_{2})}$;

丙） ${\displaystyle {\mathbf {A} }_{11}^{-1}{\mathbf {A} }_{12}|{\mathbf {A} }_{22\cdot 1}\sim MN_{p_{1}\times p_{2}}({\mathbf {\Psi } }_{11}^{-1}{\mathbf {\Psi } }_{12},{\mathbf {A} }_{22\cdot 1}\otimes {\mathbf {\Psi } }_{11}^{-1})}$，其中 ${\displaystyle MN_{p\times q}(\cdot ,\cdot )}$ 是矩阵正态分布。

丁）${\displaystyle {\mathbf {A} }_{22\cdot 1}\sim W^{-1}({\mathbf {\Psi } }_{22\cdot 1},m)}$

共轭分布

假设要求先验分布 ${\displaystyle {p(\mathbf {\Sigma } )}}$ 为逆威沙特分布 ${\displaystyle W^{-1}({\mathbf {\Psi } },m)}$ 的协方差矩阵${\displaystyle {\mathbf {\Sigma } }}$。如果观测值 ${\displaystyle \mathbf {X} =[\mathbf {x} _{1},\ldots ,\mathbf {x} _{n}]}$ 是从互相独立的 p-变量正态分布 ${\displaystyle N(\mathbf {0} ,{\mathbf {\Sigma } })}$ 的随机变量得到的，那么条件分布 ${\displaystyle {p(\mathbf {\Sigma } |\mathbf {X} )}}$ 遵从的是逆威沙特分布：${\displaystyle W^{-1}({\mathbf {A} }+{\mathbf {\Psi } },n+m)}$。其中 ${\displaystyle {\mathbf {A} }=\mathbf {X} \mathbf {X} ^{T}}$ 是样本协方差矩阵的${\displaystyle n}$倍。

因此，逆威沙特矩阵是多变量正态分布的共轭先验分布。

矩相关特性

期望：^[2]:85

${\displaystyle E(\mathbf {B} )={\frac {\mathbf {\Psi } }{m-p-1}}.}$

矩阵 ${\displaystyle \mathbf {B} }$ 的每一个系数的方差：

${\displaystyle {\mbox{var}}(b_{ij})={\frac {(m-p+1)\psi _{ij}^{2}+(m-p-1)\psi _{ii}\psi _{jj}}{(m-p)(m-p-1)^{2}(m-p-3)}}}$

对角系数的方差是在上式中令 ${\displaystyle i=j}$ 得到，化简后变成：

${\displaystyle {\mbox{var}}(b_{ii})={\frac {2\psi _{ii}^{2}}{(m-p-1)^{2}(m-p-3)}}.}$

相关分布

当变量数目减到一个的时候，逆威沙特分布会变成特例：逆伽马分布（英语：Inverse-gamma distribution）。也就是说，当 ${\displaystyle p=1}$、${\displaystyle \alpha =m/2}$、${\displaystyle \beta =\mathbf {\Psi } /2}$ 以及 ${\displaystyle x=\mathbf {B} }$ 的时候，逆威沙特分布的概率密度函数是：

${\displaystyle p(x|\alpha ,\beta )={\frac {\beta ^{\alpha }\,x^{-\alpha -1}\exp(-\beta /x)}{\Gamma _{1}(\alpha )}}.}$

这正是逆伽马分布。其中 ${\displaystyle \Gamma _{1}(\cdot )}$ 是通常的伽马函数。

而逆威沙特分布也有推广，其中一个是正态逆威沙特分布（英语：Normal-inverse-Wishart distribution）。

参见

• 威沙特分布
• 矩阵正态分布