矩母函數(MGF)簡介
矩母函數(Moment Generating Function,MGF)是概率統計中描述隨機變量分布特征的重要工具。MGF的主要用途是通過導數來計算隨機變量的矩(比如均值、方差等),同時它也能幫助確定隨機變量的分布。
定義
對于隨機變量 X X X,其矩母函數 M X ( t ) M_X(t) MX?(t) 定義為:
M X ( t ) = E [ e t X ] = ∫ ? ∞ ∞ e t x f X ( x ) d x M_X(t) = \mathbb{E}[e^{tX}] = \int_{-\infty}^{\infty} e^{tx} f_X(x) dx MX?(t)=E[etX]=∫?∞∞?etxfX?(x)dx
- t t t 是實數;
- f X ( x ) f_X(x) fX?(x) 是隨機變量 X X X 的概率密度函數(對于離散分布,積分換成求和)。
矩母函數在 t = 0 t=0 t=0 的值總是 1,即 M X ( 0 ) = 1 M_X(0) = 1 MX?(0)=1。
性質
-
矩的生成:隨機變量的 n n n 階原點矩可由 M X ( t ) M_X(t) MX?(t) 的 n n n 階導數得到:
E [ X n ] = M X ( n ) ( 0 ) \mathbb{E}[X^n] = M_X^{(n)}(0) E[Xn]=MX(n)?(0)
即在 t = 0 t=0 t=0 處對 t t t 求 n n n 階導數。 -
分布唯一性:如果兩個隨機變量 X X X 和 Y Y Y 的矩母函數在某個區間內一致,則它們具有相同的分布。
-
獨立性:如果 X X X 和 Y Y Y 獨立,則 Z = X + Y Z = X + Y Z=X+Y 的矩母函數是 X X X 和 Y Y Y 的矩母函數的乘積:
M Z ( t ) = M X ( t ) ? M Y ( t ) M_Z(t) = M_X(t) \cdot M_Y(t) MZ?(t)=MX?(t)?MY?(t)
例子:指數分布的矩母函數
1. 指數分布定義
假設隨機變量 X X X 遵循參數為 λ > 0 \lambda > 0 λ>0 的指數分布,其概率密度函數為:
f X ( x ) = λ e ? λ x , x ≥ 0 f_X(x) = \lambda e^{-\lambda x}, \quad x \geq 0 fX?(x)=λe?λx,x≥0
2. 矩母函數計算
根據矩母函數的定義:
M X ( t ) = E [ e t X ] = ∫ 0 ∞ e t x ? λ e ? λ x d x M_X(t) = \mathbb{E}[e^{tX}] = \int_{0}^{\infty} e^{tx} \cdot \lambda e^{-\lambda x} dx MX?(t)=E[etX]=∫0∞?etx?λe?λxdx
合并指數項 e t x ? e ? λ x = e ? ( λ ? t ) x e^{tx} \cdot e^{-\lambda x} = e^{-(\lambda - t)x} etx?e?λx=e?(λ?t)x,得:
M X ( t ) = λ ∫ 0 ∞ e ? ( λ ? t ) x d x M_X(t) = \lambda \int_{0}^{\infty} e^{-(\lambda - t)x} dx MX?(t)=λ∫0∞?e?(λ?t)xdx
積分結果為:
∫ 0 ∞ e ? a x d x = 1 a , a > 0 \int_{0}^{\infty} e^{-ax} dx = \frac{1}{a}, \quad a > 0 ∫0∞?e?axdx=a1?,a>0
因此,當 t < λ t < \lambda t<λ 時:
M X ( t ) = λ λ ? t M_X(t) = \frac{\lambda}{\lambda - t} MX?(t)=λ?tλ?
而當 t ≥ λ t \geq \lambda t≥λ 時,積分發散,MGF 不存在。
3. 利用 MGF 計算均值和方差
-
均值:隨機變量的均值是矩母函數的導數在 t = 0 t = 0 t=0 處的值:
E [ X ] = M X ′ ( 0 ) \mathbb{E}[X] = M_X'(0) E[X]=MX′?(0)
對 M X ( t ) = λ λ ? t M_X(t) = \frac{\lambda}{\lambda - t} MX?(t)=λ?tλ? 求導:
M X ′ ( t ) = λ ( λ ? t ) 2 M_X'(t) = \frac{\lambda}{(\lambda - t)^2} MX′?(t)=(λ?t)2λ?
當 t = 0 t = 0 t=0 時:
M X ′ ( 0 ) = λ λ 2 = 1 λ M_X'(0) = \frac{\lambda}{\lambda^2} = \frac{1}{\lambda} MX′?(0)=λ2λ?=λ1?
所以,均值 E [ X ] = 1 λ \mathbb{E}[X] = \frac{1}{\lambda} E[X]=λ1?。 -
方差:隨機變量的方差可以由 E [ X 2 ] ? ( E [ X ] ) 2 \mathbb{E}[X^2] - (\mathbb{E}[X])^2 E[X2]?(E[X])2 得到,而 E [ X 2 ] = M X ′ ′ ( 0 ) \mathbb{E}[X^2] = M_X''(0) E[X2]=MX′′?(0)。對 M X ′ ( t ) M_X'(t) MX′?(t) 再求導:
M X ′ ′ ( t ) = 2 λ ( λ ? t ) 3 M_X''(t) = \frac{2\lambda}{(\lambda - t)^3} MX′′?(t)=(λ?t)32λ?
當 t = 0 t = 0 t=0 時:
M X ′ ′ ( 0 ) = 2 λ λ 3 = 2 λ 2 M_X''(0) = \frac{2\lambda}{\lambda^3} = \frac{2}{\lambda^2} MX′′?(0)=λ32λ?=λ22?
所以:
方差?Var ( X ) = E [ X 2 ] ? ( E [ X ] ) 2 = 2 λ 2 ? ( 1 λ ) 2 = 1 λ 2 \text{方差 } \text{Var}(X) = \mathbb{E}[X^2] - (\mathbb{E}[X])^2 = \frac{2}{\lambda^2} - \left(\frac{1}{\lambda}\right)^2 = \frac{1}{\lambda^2} 方差?Var(X)=E[X2]?(E[X])2=λ22??(λ1?)2=λ21?
總結
矩母函數是分析隨機變量特性的重要工具,其計算遵循積分定義。通過矩母函數,能有效推導隨機變量的均值、方差及高階矩等信息。在實際應用中,掌握如何從分布定義出發計算 MGF 是關鍵步驟。