[UCAS随机过程]6·高斯过程
多元正态分布
\(n\) 元正态分布：设 \(\boldsymbol\xi=(\xi_1,\ldots,\xi_n)^T\) 是 \(n\) 元随机向量，均值为 \(\boldsymbol\mu=(\mu_1,\ldots,\mu_n)^T\)，协方差矩阵为 \(B\). 注意 \(B\) 为半正定对称矩阵，因此有如下两种情形：
若 \(B\) 是正定矩阵，则定义 \(\boldsymbol\xi\) 服从概率分布密度为： \[ f_{\boldsymbol\xi}(\mathbf x)=f_\xi(x_1,\ldots,x_n)=\frac{1}{(2\pi)^{n/2}|B|^{1/2}}\exp\left(-\frac{1}{2}(\mathbf x-\boldsymbol\mu)^TB^{-1}(\mathbf x-\boldsymbol\mu)\right) \] 特征函数为： \[ \Phi_{\boldsymbol\xi}(\mathbf t)=\Phi_{\boldsymbol\xi}(t_1,\ldots,t_n)=\exp\left(j\ \mathbf t^T\boldsymbol\mu-\frac{1}{2}\mathbf t^TB\mathbf t\right) \]
若 \(B\) 不是正定矩阵，则将上述特征函数对应的分布函数定义为 \(n\) 元正态分布。
定理：设 \(\boldsymbol\xi\sim N(\boldsymbol\mu,B)\)，则其任一子向量 \((\xi_{k_1},\ldots,\xi_{k_m})\) 仍然服从正态分布。
定理：\(n\) 元正态分布的随机变量 \(\xi_1,\ldots,\xi_n\) 相互独立的充要条件是它们两两不相关。
前提条件是 \((\xi_1,\ldots,\xi_n)\) 联合正态！分别正态不成立。
正态随机变量的线性变换：
- 设 \(\boldsymbol\xi\sim N(\boldsymbol\mu,B)\)，设 \(\zeta=\mathbf a^T\boldsymbol\xi\)，其中 \(\mathbf a=(a_1,\ldots,a_n)^T\)，则 \(\mathbb E[\zeta]=\mathbf a^T\boldsymbol\mu\)，\(D(\zeta)=\mathbf a^TB\mathbf a\).
- 设 \(\boldsymbol\xi\sim N(\boldsymbol\mu,B)\)，令 \(C=(c_{jk})_{m\times n}\)，则 \(\boldsymbol\eta=C\boldsymbol\xi\sim N(C\boldsymbol\mu,CBC^T)\).
- 设 \(\boldsymbol\xi\sim N(\boldsymbol\mu,B)\)，则存在正交矩阵 \(U\)，使得 \(\boldsymbol\eta=U^T\boldsymbol\xi\) 是一独立正态分布随机向量，均值为 \(U^T\boldsymbol\mu\)，方差为矩阵 \(B\) 的特征值。
正态分布的四阶矩：设 \(X=(X_1,X_2,X_3,X_4)\sim N(0,\Sigma)\)，则： \[ B(X)=\mathbb E[X_1X_2X_3X_4]=\mathbb E[X_1X_2]\mathbb E[X_3X_4]+\mathbb E[X_1X_3]\mathbb E[X_2X_4]+\mathbb E[X_1X_4]\mathbb E[X_2X_3] \]
高斯过程（正态过程）
定义：若随机过程 \(\{\xi(t);t\in T\}\) 的有限维分布均为正态分布，则称此随机过程为高斯过程或正态过程。正态过程是二阶矩过程。
设 \(t_1,\ldots,t_n\in T\)，则由正态过程的定义，有： \[ f_\xi(x_{t_1},\ldots,x_{t_n})=\frac{1}{(2\pi)^{n/2}|B|^{1/2}}\exp\left(-\frac{1}{2}(\mathbf x_t-\boldsymbol\mu_t)^TB^{-1}(\mathbf x_t-\boldsymbol\mu_t)\right) \] 其中： \[ \begin{gather} \boldsymbol\mu_t=(\mu_{t_1},\ldots,\mu_{t_n})^T,\quad \mu_{t_k}=\mathbb E[\xi(t_k)]\\ b_{ki}=\mathbb E[(\xi(t_k)-\mu_{t_k})(\xi(t_i)-\mu_{t_i})]=R_\xi(t_k,t_i)-\mu_{t_k}\mu_{t_i},\quad B=(b_{ki})_{n\times n} \end{gather} \] 定理：设 \(\{\boldsymbol\xi^{(n)};n=1,2,\ldots\}\) 是 \(k\) 维实正态随机向量序列，其中 \(\boldsymbol\xi^{(n)}=(\xi_1^{(n)},\ldots,\xi_k^{(n)})^T\)，且 \(\boldsymbol\xi^{(n)}\) 均方收敛于 \(\boldsymbol\xi=(\xi_1,\ldots,\xi_k)^T\)，则 \(\boldsymbol\xi\) 也是正态分布的随机向量。
定理：若正态过程 \(\{\xi(t);t\in T\}\) 在 \(T\) 上是均方可导的，则 \(\{\xi'(t);t\in T\}\) 也是正态过程。
定理：若正态过程 \(\{\xi(t);t\in T\}\) 在 \(T\) 上是均方可积的，则 \[ \eta(t)=\int_a^t\xi(u)\mathrm du,\quad a,t\in T \] 以及 \[ \eta(t)=\int_a^b\xi(u)h(t,u)\mathrm du \] 也是正态过程。