Moment Generating Function(矩生成函數)詳解

在概率統計中，矩作為描述分布特徵的數學工具，特別是高維空間下的矩，利用高維積分容易計算，成為研究分布、檢驗分布假設的中心工具。但是，一般情況下，分布並不是直觀的，即我們無法一眼看出分布的穩定性和形態，因此，引入moment generating function(下文簡稱MGF)可更直觀刻畫分布，有利於分析和計算。

一、MGF概述

矩生成函數是一個分布的特徵函數，可以用來確定唯一的概率分布。它是定義在實數集上的，彼此不同的分布函數具有一個唯一的矩生成函數，而一個矩生成函數可以確定一個唯一的分布函數。

MGF的定義基於以下函數：

moment generating function M_t = E(e^(tx))

其中E表示概率期望，如果指定了t，那麼M(t)是x的某個函數，此時矩函數反映了概率密度函數的特定特徵：它的區間存在的概率以及其期望值，方差等。因此，給定一個分布，我們可以通過MGF計算出分布中的特定特徵，反之，給定MGF，我們也可以唯一地確定一個分布函數。

二、MGF的性質

1、定義區間

通常情況下，MGF只在0的某個鄰域內有定義。在0點附近定義由同時滿足下列兩個條件的參數t組成的區間內：

• 存在零點附近的一個區間，使MGF在t點附近的任意一個值都有定義。
• MGF的某個主要子級數可以被加和和處理。

2、矩的計算

MGF可以用來計算分布的矩。由MGF得到某階矩時，需要對MGF求repeated derivation。

m-th order moment of the distribution = M_t^m (0)

3、MGF的唯一性定理

當兩個隨機變量具有相同的MGF，則它們具有相同的分布函數。

4、矩的線性組合性質

對於兩個相互獨立的隨機變量X和Y，有

M_XY(t) = E[e^(tx+y)] = E[e^(tx)].E[e^(ty)] = M_X(t).M_Y(t)

這表明，對於X和Y的線性組合（如X+Y和X-Y）的MGF可以通過乘積的形式輕鬆地確定。

三、應用示例

1、二項式隨機變量的MGF求解

import numpy as np
from scipy.stats import binom
import sympy as sp
from sympy import oo

n, p, t, x = sp.symbols('n p t x')
MGF = sp.Sum(sp.exp(t*x)*binom(n, x)*p**x*(1-p)**(n-x), (x, 0, n)).doit()
MGF

上述代碼是在Python環境中，使用NumPy、SciPy、SymPy庫對二項式隨機變量的MGF進行求解，其中，n表示試驗次數，p表示事件發生概率。

2、正態分布隨機變量的MGF求解

from sympy.stats import Normal, E

t, mu, var = sp.symbols('t mu var')
X = Normal('X', mu, var)
MGF = E(sp.exp(t*X)).simplify()
MGF

上述代碼是在Python環境中，使用SymPy庫和正態分布隨機變量X求解MGF，其中，mu是均值，var是方差，E是期望。

3、矩的計算

假設隨機變量X滿足均值是$\mu$，方差是$\sigma^2$的正態分布，求它的四階矩。

from sympy.stats import Normal

X = Normal('X', mu, sigma)
m4 = E(X**4).simplify()
m4

上述代碼是在Python環境中，使用SymPy庫和正態分布隨機變量X進行四階矩計算的示例。

四、結論

MGF是一個非常有用的概率統計工具，可以清晰地描述分布的特徵，並且有廣泛的應用。本文介紹了MGF的概述、性質和應用示例，並給出了代碼演示。對於研究和分析各種概率分布的關係和特性，掌握MGF的常見計算方法至關重要。