모멘트 생성 함수

확률론과 통계학에서, 임의의 확률변수 X의 기댓값이 존재한다면 X의 적률생성함수(moment generating function, mgf)는 다음과 같이 정의한다.

${\displaystyle M_{X}(t)=E\left(e^{tX}\right)}$, ${\displaystyle \quad t\in \mathbb {R} }$

t = 0 근처에서 적률생성함수가 존재한다고 가정할 때 적률생성함수를 이용하면 확률분포의 적률는 다음과 같이 간단하게 구할 수 있다.

${\displaystyle E\left(X^{n}\right)=M_{X}^{(n)}(0)=\left.{\frac {\mathrm {d} ^{n}}{\mathrm {d} t^{n}}}\right|_{t=0}M_{X}(t).}$

계산

X의 확률밀도함수가 ${\displaystyle f(x)\ }$이면 적률생성함수는 다음과 같이 구한다.

${\displaystyle M_{X}(t)=\int _{-\infty }^{\infty }e^{tx}f(x)\,\mathrm {d} x}$

${\displaystyle =\int _{-\infty }^{\infty }\left(1+tx+{\frac {t^{2}x^{2}}{2!}}+\cdots \right)f(x)\,\mathrm {d} x}$

${\displaystyle =1+tm_{1}+{\frac {t^{2}m_{2}}{2!}}+\cdots ,}$

이때 ${\displaystyle m_{i}\ }$는 i번째 적률이며 ${\displaystyle M_{X}(-t)\ }$는 ${\displaystyle f(x)\ }$의 양측라플라스변환이다.

확률분포가 연속이든 아니든 F가 누적분포함수이면 적률생성함수는 다음과 같은 리만-스틸체스 적분으로 구할 수 있다.

${\displaystyle M_{X}(t)=\int _{-\infty }^{\infty }e^{tx}\,dF(x)}$

n개의 확률변수 ${\displaystyle X_{1},X_{2},...X_{n}\ }$가 동일한 분포를 가질 필요는 없지만 독립적인 분포를 가진다고 가정한다. 이때 상수 ${\displaystyle a_{i}\ }$에 대해서 ${\displaystyle S_{n}=\sum _{i=1}^{n}a_{i}X_{i}}$의 확률분포는 ${\displaystyle X_{i}\ }$ 각자의 확률밀도함수를 합성곱한 것이며, 적률생성함수는 다음과 같다.

${\displaystyle M_{S_{n}}(t)=M_{X_{1}}(a_{1}t)M_{X_{2}}(a_{2}t)\ldots M_{X_{n}}(a_{n}t).}$

예제

다음은 자주 사용되는 확률분포의 적률생성함수와 특성함수의 목록이다.

분포	모멘트생성함수	특성함수
이항 분포 B(n, p)	${\displaystyle \,(1-p+pe^{t})^{n}}$	${\displaystyle \,(1-p+pe^{it})^{n}}$
푸아송 분포 Pois(λ)	${\displaystyle \,e^{\lambda (e^{t}-1)}}$	${\displaystyle \,e^{\lambda (e^{it}-1)}}$
연속균등분포 U(a, b)	${\displaystyle \,{\frac {e^{tb}-e^{ta}}{t(b-a)}}}$	${\displaystyle \,{\frac {e^{itb}-e^{ita}}{it(b-a)}}}$
정규분포 N(μ, σ2)	${\displaystyle \,e^{t\mu +{\frac {1}{2}}\sigma ^{2}t^{2}}}$	${\displaystyle \,e^{it\mu -{\frac {1}{2}}\sigma ^{2}t^{2}}}$
카이제곱 분포 χ2k	${\displaystyle \,(1-2t)^{-k/2}}$	${\displaystyle \,(1-2it)^{-k/2}}$
감마 분포 Γ(k, θ)	${\displaystyle \,(1-t\theta )^{-k}}$	${\displaystyle \,(1-it\theta )^{-k}}$
지수분포 Exp(λ)	${\displaystyle \,(1-t\lambda ^{-1})^{-1}}$	${\displaystyle \,(1-it\lambda ^{-1})^{-1}}$
다변량 정규분포 N(μ, Σ)	${\displaystyle \,e^{t^{\mathrm {T} }\mu +{\frac {1}{2}}t^{\mathrm {T} }\Sigma t}}$	${\displaystyle \,e^{it^{\mathrm {T} }\mu -{\frac {1}{2}}t^{\mathrm {T} }\Sigma t}}$
퇴화분포 δa	${\displaystyle \,e^{ta}}$	${\displaystyle \,e^{ita}}$
라플라스 분포 L(μ, b)	${\displaystyle \,{\frac {e^{t\mu }}{1-b^{2}t^{2}}}}$	${\displaystyle \,{\frac {e^{it\mu }}{1+b^{2}t^{2}}}}$
코시 분포 Cauchy(μ, θ)	정의되지 않음	${\displaystyle \,e^{it\mu -\theta |t|}}$
음이항 분포 NB(r, p)	${\displaystyle \,{\frac {(pe^{t})^{r}}{(1-(1-p)e^{t})^{r}}}}$	${\displaystyle \,{\frac {p^{r}}{(1-(1-p)e^{it})^{r}}}}$

같이 보기

• 확률이론에서 적률생성함수와 같이 변환과 연관된 함수에는 특성함수와 확률생성함수 등이 있다.

• 누율생성함수(cumulant-generating function)은 적률생성함수에 로그를 취한 함수이다.