順序統計量

在統計學中，樣本的第${\displaystyle k}$順序統計量（英語：Order Statistics）即它從小到大排列時的第${\displaystyle k}$個值，常用於非參數估計與推斷中。常見的順序統計量包括樣本的最大值、最小值、中位數等。

記號

任給樣本${\displaystyle x_{1},x_{2},\cdots ,x_{n}}$，將其從小到大排成一列，記為：$${\displaystyle x_{(1)},x_{(2)},\cdots ,x_{(n)}.}$$則其第一順序統計量（即最小值）為${\displaystyle x_{(1)}}$，第${\displaystyle n}$順序統計量（即最大值）為${\displaystyle x_{(n)}}$。

概率

隨機變量${\displaystyle X_{(k)}}$的累積分布函數${\displaystyle F_{k}(x)}$由下式給出^[1]$${\displaystyle F_{k}(x)=\sum _{j=k}^{n}{\binom {n}{j}}(F(x))^{j}(1-F(x))^{n-j},\quad x\in \mathbb {R} ,}$$ 將累積分布函數求導可得其概率密度函數${\displaystyle f_{k}(x)}$為 $${\displaystyle f_{k}(x)={\frac {n!}{(k-1)!(n-k)!}}(F(x))^{k-1}(1-F(x))^{n-k}f(x),\quad x\in \mathbb {R} .}$$

連續均勻樣本

從單位區間上的連續型均勻分布取得的樣本，其各順序統計量的邊緣分布屬於Β分布族。此外，任意幾個順序統計量的聯合分布也有簡單的表示。本節將作介紹。藉賴累積分布函數（cdf），該些結果亦可推廣到任意連續分佈。

本節中，${\displaystyle X_{1},X_{2},\ldots ,X_{n}}$表示以${\displaystyle F_{X}}$為cdf的一組隨機樣本。記${\displaystyle U_{i}=F_{X}(X_{i})}$，則${\displaystyle U_{1},\ldots ,U_{n}}$是從標準連續均勻分布抽取的對應樣本。由${\displaystyle F_{X}}$的單調性，後者的順序統計量為${\displaystyle U_{(i)}=F_{X}(X_{(i)})}$。

順序統計量${\displaystyle U_{(k)}}$的概率密度函數（pdf）等於^[2]

${\displaystyle f_{U_{(k)}}(u)={n! \over (k-1)!(n-k)!}u^{k-1}(1-u)^{n-k}.}$

換言之，均勻分佈的第${\displaystyle k}$順序統計量遵循Β分布^[2][3]

${\displaystyle U_{(k)}\sim \operatorname {Beta} (k,n+1\mathbf {-} k).}$

證明如下：欲使${\displaystyle U_{(k)}}$介乎${\displaystyle u}$與${\displaystyle u+\mathrm {d} u}$之間，樣本須恰有${\displaystyle k-1}$個元素小於${\displaystyle u}$，並至少有一個介乎${\displaystyle u}$與${\displaystyle u+\mathrm {d} u}$之間。該區間包含多於一個元素的概率已是${\displaystyle O(\mathrm {d} u^{2})}$（使用了大O符號），故衹需計算${\displaystyle (0,u)}$、${\displaystyle (u,u+du)}$、${\displaystyle (u+du,1)}$三區間分別恰有${\displaystyle k-1}$、${\displaystyle 1}$、${\displaystyle n-k}$個元素的概率。此即三項分佈（英語：multinomial distribution）概率

${\displaystyle {n! \over (k-1)!(n-k)!}u^{k-1}\cdot \mathrm {d} u\cdot (1-u-\mathrm {d} u)^{n-k},}$

故上述pdf公式成立。該分佈的平均值為${\displaystyle k/(n+1)}$。