[UCAS随机过程]4·二阶矩过程、平稳过程和随机分析

本章讨论的随机过程都是复随机过程。

$$$$

二阶矩过程

定义：设有随机过程 $\{X(t),t\in T\}$，若对 $\mathrm{\forall }t\in T$，$X(t)$ 的均值和方差存在，则称随机过程 $\{X(t),t\in T\}$ 为二阶矩过程。

预处理：令 $\tilde{X}(t)=X(t)-{\mu }_X(t)$，则 $\mathbb{E}[\tilde{X}(T)]=0$，并且 $\tilde{X}(t)$ 二阶矩也存在，因此之后讨论的二阶矩过程一般都假定均值函数为零。

二阶矩过程相关函数的性质：

1. 共轭对称性： $$R_{XX}(t_1,t_2)=\overline{R_{XX}(t_2,t_1)},\mathrm{\forall }{t}_1,t_2\in T$$

2. 非负定性（半正定性）： $$\sum _{k=1}^n\sum _{m=1}^n{R}_{XX}(t_k,t_m){\lambda }_k\overline{{\lambda }_m}\ge 0$$

根据上述两条性质可知，二阶矩过程的相关矩阵是一个半正定的 Hermite 矩阵。

平稳过程

严平稳过程

定义：若随机过程 $\{X(t),t\in T\}$ 满足：对于 $\mathrm{\forall }n\in \mathbb{N}$，任选 $t_1<\cdots <t_n$，其中 $t_i\in T$，以及任意的 $\tau$，$x_1,\dots ,x_n\in \mathbb{R}$，都有： $$F_X(x_1,\dots ,x_n;t_1,\dots t_n)=F_X(x_1,\dots ,x_n;t_1+\tau ,\dots ,t_n+\tau )$$ 其中 $F_X(\cdot )$ 是 $n$ 维分布函数，则称此随机过程为严平稳随机过程。

即严平稳过程的任意有限维分布都不随时间推移变化。但注意其数字特征（均值、方差等）并不一定存在。

注 1：严平稳随机过程的一维分布函数与时间 $$ 无关。因此，如果严平稳随机过程的均值函数存在的话，则是一常数。

注 2：严平稳随机过程的任意二维分布函数只与时间差有关。因此，如果严平稳随机过程的二阶矩存在的话，则自相关函数只与时间差有关。

注 3：若上述的定义中的条件不是对于任意的 $$ 满足，而只是对于某个 $$ 满足时，即对于任意的 $$，任意的 $$，有： $$ 而当 $$ 时上式不成立，则称它为 $$ 级平稳的随机过程。如果过程为 $$ 级平稳的，那么当 $$ 时，上面的等式成立。

宽平稳过程

定义：设随机过程 $$ 是二阶矩过程，若其均值函数为常数，自相关函数只是时间差 $$ 的函数，则称此随机过程为宽平稳随机过程。

注 1：宽平稳随机过程是二阶矩过程，但不一定是严平稳随机过程。

注 2：对于严平稳随机过程，只有它二阶矩存在时，它才是宽平稳过程。

注 3：对于正态随机过程来说，严平稳就是宽平稳。

注 4：以下讨论平稳过程指的是宽平稳随机过程。

宽平稳随机过程的性质：

1. $$.
2. $$.
3. $$.
4. 非负定性：$$.

正交增量过程

定义：设随机过程 $$ 是二阶矩过程，若 $$，有： $$ 则称该过程为正交增量过程。

独立增量过程与正交增量过程的关系：均值为常数、二阶矩存在的独立增量过程一定是正交增量过程。

补充（独立增量过程的协方差函数与方差函数的关系）：设 $$ 是一独立增量过程，且 $$，二阶矩存在，则可以证明： $$

从线性空间的角度看待二阶矩存在的随机变量

可以验证，所有二阶矩存在的随机变量构成了一个线性空间； $$ 定义随机变量之间的内积为： $$ 可以验证这种定义方式符合内积的要求，因此构成了一个内积空间。在内积空间中，有定义：

• 范数：$$
• 距离：$$
• 正交：$$

从这个角度就能理解正交增量过程中“正交”的含义了。

随机分析

我们在数学分析中研究过数列的极限、函数的连续性、导数和积分，那么推广到随机过程，也可以研究其极限、连续性、导数和积分，是谓随机分析。

均方极限

定义：设随机序列 $$ 及随机变量 $$ 均存在二阶矩，即 $$，若： $$ 则称随机序列 $$ 均方收敛于 $$，或序列 $$ 的均方极限为 $$，记作： $$ 性质：设 $$，有：

1. $$.
2. $$.
3. $$.
4. $$.
5. 均方极限唯一。
6. 柯西准则：随机序列 $$ 均方收敛的充要条件为 $$.
7. 列维准则：随机序列 $$ 均方收敛的充要条件为 $$，其中 $$ 为复常数。
8. 设 $$ 是一确定性函数，且满足 Lipschitz 条件，又假设 $$ 的二阶矩都存在，则 $$.
9. 对任意有限 $$，有 $$.

均方连续

定义：设二阶矩过程 $$，$$，若： $$ 即 $$，则称 $$ 在 $$ 点均方连续。若对任意 $$，$$ 都均方连续，则称过程均方连续。

判定准则：设二阶矩过程 $$，自相关函数为 $$，则过程在 $$ 处均方连续的充要条件是 $$ 在点 $$ 处连续。另外，如果 $$ 在对角线 $$ 上连续，则在整个 $$ 上连续。

定理：若二阶矩过程 $$ 均方连续，则对于任意 $$，有： $$ 即均值函数连续（注意均值函数是一个确定性函数，“连续”就是普通的连续）。

定理：设 $$ 是宽平稳过程，则以下各条件是等价的：

1. $$ 均方连续；
2. $$ 在点 $$ 处连续；
3. 自相关函数 $$ 在 $$ 上连续；
4. 自相关函数 $$ 在点 $$ 处连续。

其中第四点验证起来最方便。

均方导数

定义：设有随机过程 $$，若： $$ 其中 $$，则称随机过程 $$ 在 $$ 处均方可导，并称 $$ 为过程在 $$ 处的均方导数，记作： $$ 若对于任意 $$，$$ 都均方可导，且： $$ 则称 $$ 为随机过程 $$ 的均方导数。

不要试图“求出”均方导数，一般是无法求出的（除了高斯过程），但可以确定其均值函数和相关函数。

判定准则：设二阶矩过程 $$，自相关函数为 $$，则 $$ 在点 $$ 处均方可导的充要条件为： $$ 在点 $$ 附近存在且在点 $$ 处连续。

导数过程的均值函数： $$ 导数过程的相关函数： $$ 均方导数的性质：

1. 设 $$ 为两个均方可导的随机过程，$$，则 $$ 也均方可导，且： $$

2. 设 $$ 为均方可导的随机过程，$$ 为一确定性函数，则 $$ 也是均方可导的随机过程，且有： $$

平稳过程的均方导数：若 $$ 为平稳过程，即 $$，若 $$ 存在，且在 $$ 处连续，则 $$ 均方可导，且其均方导数的相关函数为： $$ 均值函数为： $$

均方积分

定义：设 $$ 为二阶矩过程，$$ 是定义在 $$ 上的以 $$ 为参数的确定性函数。对 $$ 进行任意 $$ 划分 $$，记 $$，作和式： $$ 若存在随机变量 $$，对任意的划分和任意的 $$，都有： $$ 则称 $$ 均方收敛于 $$，并称 $$ 在 $$ 上可积，记 $$ 的均方极限为 $$，即： $$ 并称为 $$ 在 $$ 上的均方积分。

不要试图“求出”均方积分，一般是无法求出的（除了高斯过程），但可以确定其均值函数和相关函数。

判定准则：$$ 在 $$ 上均方可积的充要条件为： $$ 存在。

积分过程的均值函数： $$ 积分过程的相关函数： $$

计算时均值和积分可以交换。

均方积分的性质：

1. 设 $$ 在 $$ 上均方连续，则对于任意 $$，有： $$

2. 设 $$ 在 $$ 上均方连续，则有： $$

从上文定义的内积空间的角度，上述两条性质可以写作： $$

3. 设 $$ 在 $$ 上均方可积，$$ 为复常数，则： $$ 若 $$，则： $$

4. 设 $$ 在 $$ 上均方连续，记 $$ 则 $$ 在 $$ 上均方连续，均方可导，且 $$.

5. 若 $$ 均方可导，且 $$ 均方连续，则有： $$

性质 4、5 可直接类比确定性函数的变上限积分求导和牛顿-莱布尼兹公式。

小结

随机过程	均值函数	相关函数
$$	$$	$$
$$	$$	$$
$$	$$	$$

• $$ 在 $$ 处均方连续 $$ $$ 在 $$ 处连续
• $$ 在 $$ 上均方连续 $$ $$ 在 $$ 上连续
• $$ 在 $$ 处存在 $$ $$ 在 $$ 处连续
• $$ 存在 $$ $$ 存在

各态历经性

根据试验记录（样本函数）确定平稳过程的均值和相关函数的理论依据和方法。

一般地，计算平稳过程的均值和相关函数有各种不同的方法，如取大量样本函数做平均，但这在实际当中是非常困难的，有时甚至是不可能的。但对平稳过程而言，由于其统计特性是不随时间的推移而变化，因此只要满足一些较宽的条件，那么集平均（均值函数和相关函数）实际上可以用一个样本函数在整个时间轴上的时间平均值来代替。

定义：设 $$ 是均方连续平稳随机过程，如果它沿整个时间轴上的平均值（时间平均）$$ 存在，即： $$ 存在，并且 $$ 则称该随机过程的均值具有各态历经性。

注意 $$ 是一个随机变量，上式表示它与 $$ 几乎处处相等。

定义：设 $$ 是均方连续平稳随机过程，且对于固定的 $$，$$ 也是连续平稳随机过程，称 $$ 沿整个时间轴上的时间平均，即： $$ 为 $$ 的时间相关函数。若： $$ 则称该过程的自相关函数具有各态历经性。

定义：如果 $$ 是一均方连续平稳随机过程，且其均值和相关函数均具有各态历经性，则称该随机过程具有各态历经性，或者说 $$ 是各态历经的，或是遍历的。

定理（均值各态历经定理）：平稳随机过程 $$ 的均值具有各态历经性的充要条件是： $$ 推论：若实平稳随机过程 $$ 的自协方差函数 $$ 满足： $$ 则平稳随机过程 $$ 的均值具有各态历经性。

定理（自相关函数各态历经定理）：平稳随机过程 $$ 的自相关函数具有各态历经性的充要条件是： $$ 其中： $$