v
龚光鲁,钱敏平著 应用随机过程教程 – 及其 在算法和智能计算中的应用
清华大学出版社,2003
目录
前言
符号说明
第 1 章 概率论精要回顾与补充
1 基本框架与 典型分布
1,1 概率
1,2 随机变量
1,3 d 维随机向量
1,4 独立性
1,5 Chebyshev 不等式
1,6 基本极限与基本极限定理 ( 大数 定 律与中心极限定理 )
1,7 典型分布
1,8 次序随机变量的分布
2 条件概率,条件分布,条件 ( 数学 ) 期望
2,1 条件概率
2,2 条件分布
2,3 条件 （ 数学 ） 期望
2,4 期望与方差的 Wald 等式
3 统计简要
3,1 用样本作矩估计
3,2 最大似然估计
3,3 线性模型的最小二乘估计及其推广
习题 １
第 2 章 随机样本生成法
1 一维随机数
1,1 均匀随机变量的 计算机 模拟
1,2 分布函数 F(x) 的随机数
1,3 正态随机数
1,4 Poisson 随机数
1,5 混合分布随机数
1,6 Von Neuman 取舍原则
1,7 Gamma 随机数与 Beta 随机数的生成
2 多维随机数
2,1 连续型多维随机数
2,2 离散型多维随机数
2,3 多维 正态 随机数
2,4 多维 Beta 随机数 （ Dirichlet 随机数 ） 的生成
3,附录 － 用 Matlab 生成随机数
3,1 Matlab 语言的简单提示
3,2 Matlab 生成随机数的语句
习题 ２
vi
第 3 章 随机过程的一般概念与独立增量过程
1 一般 概念
1,1 随机过程与有限维分布族
1,2 独立增量过程
2 Poisson 过程与复合 Poisson 过程
2,1 事故申报 次数 的概率模型与 Poisson 过程
2,2 Poisson 过程与指数流 的关系
2,3 与指数流有关的 一些 随机变量与分布
2,4 常见的推广
2,5 复合 Poisson 过程
3 Brown 运动 (Wiener 过程 ) 及其函数
3,1 历史背景与物理模型
3,2 Brown 运动 ( 数学模型 )
3,3 Brown 运动的简单 性质
3,4 Brown 运动 的反射原理及首达性质
3,5 与 Brown 有关的几个简单随机过程
3,6 漂移 Brown 运动
3,7 几何 Brown 运动
4 简单随机徘徊
4,1 双侧吸收壁的吸收概率
4,2 随机徘徊的对称原理
4,3 随机徘徊的首达时刻
4,4 简单随机徘徊与首达时
习题 ３
第 4 章 更新现象及其理论
1 Stieltjes 积分
2 更新过程的概念
2,1 作为 Poisson 过程推广的更新过程
2,2 更新函数的更新方程
2,3 年龄与剩余寿命
3 更新定理与更新次数的正态近似
3,1 更新定理
* 3,2 更新过程的 正态近似
* 3,3 Blackwell 定理与主更新定理
3,4 更新间隔为正整值随机变量的更新过程
4 更新过程的变种模型
4,1 交错更新过程
4,2 延迟更 新过程
4,3 带酬更新过程
5 再 生 过程与其相系的更新过程
5,1 再 生 过程 的概念
vii
5,2 与再 生 过程相系的更新过程
5,3 比例极限定理在再 生 过程中的应用
5,4 存储模型的一个例子
* 6 E rlang 更新过程
6,1 Erlang 更新过程的定义
6,2 E rlang 更新过程的矩母函数
习题 ４
第 5 章 离散 时间的 Markov 链
1 Markov 链的概念
1,1 定义与 Markov 性质
1,2 概率转移矩阵
1,3 时齐的 Markov 链
1,4 Markov 链的例
2 Markov 链的状态分类
２,１ 首达分解,n 步转移概率的递推式,矩母函数,常返性
２,２ 常返性再访与 Markov 链的基本结构
２,３ 平 均回访时间与正常返性
3 Markov 链的转移概率的极限与不变分布
３,１ 不变分布与平稳 Markov 链
３,２ 有限状态 Markov 链的 的不变分布与极限分布
３,３ 转移矩阵的平均极限
4 Dobrushin 不等式与指数收敛性
4,1 Dobrushin 不等式
4,2 D obrushin 收敛定理
5 与常返态相系的延迟更新流,互通常返 Markov 链的极限定理
５,１ 与常返态相系的延迟更新流
５,２ 互通常返链的极限定理
6 停时与强 Markov 性
６,１ 停时
６,２ 强 Markov 性
7 禁 忌概率与首达分布
７,１ 禁忌概率
７,２ 首达时与首达分布
７,３ 禁忌概率,首达分布与平均首达时间
8 可 逆 Markov 链与可逆分布
８,１ 可逆 Markov 链
８,２ 例
８,３ 可逆初分布存在性判别法
9 分支 Markov 链 (Galton - Watson 简单分支过程 )
习题 ５
第 6 章 连续 时间 的 Markov 链 (Q - 过程 )
1 时间连续的 Markov 链及其转移矩阵
１,1 定义 与 等价性叙述
viii
１,2 连续 时间 的 Markov 链 概率转移矩阵
１,3 连续时间的时齐的 Markov 链
2 Poisson 过程与复合 Poisson 过 程再访
２,１ Poisson 过程作为 Markov 过程转移矩阵与 转移速率阵
２,２ 复合 Poisson 过程的转移矩阵与 转移速率阵
3 由 转移速率矩阵 确定 的连续 时间的 Markov 链
３,１ Kolmogorov 方程及 Master 方程
３,２ 转移速率矩阵的概率含义
4 连续 时间 的 Markov 链 的极限分布
４,１ 连续时间的 Markov 链 的转移矩阵的平均极限
４,２ 连续时间的 Markov 链 的极限分布
5 连续时间的 Markov 链 的转移矩阵 P )(t 的不变分布
５,１ 连续时间的 Markov 链 的转移矩阵 P )(t 及其 嵌入链的不变分布
５,２ 连续时间 Markov 链的遍历极限
５,３ 对称 的 与可逆 的连续时间的 Markov 链
6 例
６,１ 连续时间分支过程
６,２ 有限格点上的 Ising 模型与 Gauber 动力学
６,３ 生灭类过程
６,４ 系统与有效度
7 连续时间的 Markov 链 的模拟 与加速收敛
７,１ 连续时间的 Markov 链 的模拟
７,２ 加速收敛的均匀化方法
习题 ６
第 7 章 排队过程简介
1 排队过程的描述
１,１ 排队系统
１,２ 排队系统的一般框图,输入过程与输出过程
１,３ 可逆性引理
2 最简单排队过程 — Markov 排队过程
２,１ 最简单的排队过程 -- M/M/1 系统
２,２ N 个服务员的简单排队过程 —M/M/N 系统
* ２,３ 序贯排队与排队网络系统
２,４ M ／ M ／ ∞ 排队系统
3 排队系统的一般概念
３,１ 关于排队论的一般注记
３,２ M ／ M ／ N 消失制
* ３,３ M/G/1 排队系统
* ３,４ G/M/1 排队系统
ix
* 4 半 Markov 过程
４,１ 半 Markov 过程
４,２ 半 Markov 过程的渐近 性质
* 5 有限位相型分布 ( PH - 分布 )
５,1 背景
５,2 PH 分布 (有限位相型分布 )
５,3 离散位相型分布
５,4 PH 分布类的封闭性
习题 ７
第 8 章 Markov 链 Monte Carlo 方法
１ 计算积分的 Monte Carlo 方法与采样量估计
１,１ 用频率估计概率来计算积分的 Monte Carlo 方法
１,２ 用样本函数的平均值估计期望来计算积分的 Monte Carlo 方法
１,３ 减少方差的技术
2 Markov 链 Monte Carlo (M C MC)
２,１ Gibbs 采样 ( Gibbs samp ler )
２,２ 按有限状态空间上分布 p 作随机采样 的 Metropolis - Hasting 方法
２,３ 通过条件分布对 分布 p 作随机采样的 Gibbs 方法
2,4 MCMC 应用于 Bayes 参数估计
3 模拟退火
３,１ 模拟退火方法的基本想法
３,２ 有关模拟退火算法的非时齐马氏链的理论背景
第 9 章 以图 像 信息为背景的随机场,迭代 Markov 系统
1 有限格点上的 Markov 随机场与图 像
１,１ 有限格点上的 Markov 随机场
１,２ 相邻系统 Gibbs 随机场 -- 邻位势 Gibbs 场
１,３ 图像 处理的随机过程方法的思路原则简介
１,４ Gibbs 分布的 样本的 Gibbs 采样法
１,５ Gibbs 分布 的模拟退火
2 时间离散状态连续的 Markov 链
２,１ 概率空间再访
２,２ 时间离散状态连续的 Markov 链
２,３ 概率转移核
２,４ 时齐的连续状态 Markov 链
２,５ 例
２,６ dR 上函数 )(xf 的最小值位置与模拟退火算法
２,７ Dobrushin 不等式,指数遍历性与收敛性
3 随机迭代函数系统
３,1 局部相似性的基本想法
３,2 轮廓图 全体组成的 距离空间
３,3 灰度图与随机迭代函数系统
x
4,统计中的 Bayes 方法与 图象的处理,分割 与重建
４,１ Bayes 统计要义
４,２ Baye s 方法在图像中的应用与 观测量不是状态变量时的参数估计
习题 ９
第 10 章 隐马氏模型及其应用
１ 熵与相对熵
１,１ 离散分布的熵与相对熵
１,２ 分布密度的熵与相对熵
２ 隐 Markov 模型
２,１ 一个实例
２,２ 隐 Markov 模型的描述
２,３ 隐 Markov 模型的等价表 述
２,４ 非线性滤波作为 隐 Markov 模型 的特例
２,５ 在应用中研究 隐 Markov 模型 的 主要 方面
３ 解码问题 -- 已知模型与观测时状态的估计
３,1 出现当前的观测的概率 )|( lyYP = 的计算
３,２ 解码问题 -- 已知模型 l 与观测 yY = 时状态 X 的估计
４ 学习问题 - 由观测估计模型参数
４,０ 状态链样本已知时的参数的频率估计
４,１ 模型参数估计的 EM 算法的思想
４,２ 隐 Markov 模型 中 M – 步骤的解
５ 关于 隐 Markov 模型 的评注
５,１ 隐 Markov 模型 包容度大有非常宽的应用面
５,２ 隐 Markov 模型 的更为一般的形式
６ 隐 Markov 模型的应用例子梗概
６,１ 语音的机器识别
６,２ 脱机手写体汉字识别
６,３ DNA 序列片断装配
习题 １０
第 11 章 二阶矩过程,Gauss 系与时间序列
1 全体方差有限的随机变量构成的 Hilbert 空间
1,１ 实值情形
1,２ 复值情形
2 随机变量族的均方信息空间与滤波
2,１ 均方信息空间
2,２ 滤波问题
3 Gauss 系与投影再访
3,１ 定义,等价条件与特性
3,２ Gauss 过程的投影 -- 线性滤波
3,３ 复 Gauss 过程
3,４ G auss 过程的特征泛函
4 平稳性与宽平稳性
xi
4,１ 平稳序列与宽平稳序列
4,２ 渐近平稳序列与渐近宽平稳序列
4,３ 平稳增量序列
5 ARMA 模型
5,１ ARMA (p,q)
5,２ AR 模型的定阶与偏相关系数以及模型参数的估计
5,３ MA 模型的 定阶与参数估计
6 ARCH 模型
6,１ ARCH(p)
6,２ ARCH(p) 的参数估计
* 7 GARCH (p,q) 模型与其它随机方差模型
7,１ GARCH 模型
7,２ 金融证券模型中的 GARCH(1,1)
7,３ GARCH 的参数估计
8 二阶矩序列的滤波再访
8,１ 线性滤波的一般概念
8,２ Kalman - Bucy 滤波
* 9 二阶 自相似时间序列与长程相关
9,１ 统计自相似性
9,２ 二阶自相似性
9,３ 长程相关性
* 10 非线性 AR 模型与二重 ARMA模型
10,１ 非线性 AR 模型 (N on Linear AR,NLAR)
10,２ 非线性 AR 模型的常见例子
10,３ 二重 ARMA 模型
习题 １１
第 12 章 连续状态的 Markov 过程,鞅,Ito 积分与随机微分方程
1 连续时间连续状态的 Markov 过程
１,１ 平稳 Gauss 过程
１,２ 时间与状态都连续的时齐 Markov 过程
2 鞅列与鞅
２,1 条件期望再访
２,2 鞅列
２,3 连续时间参数的鞅
3 Ito 积分 - 对 Brown 运动的积分
３,１ 对 Brown 运动的积分与其特殊性
３,２ Ito 公式
4 随机微分方程与扩散过程简介
４,１ 随机微分方程
４,２ 扩散过程
xii
* ４,３ Girsanov 定理与 Feyman - Kac 公式
5 随机微分方程的解的数值模拟算法
５,１ 随机微分方程在固定时刻附近的 随机 Taylor 展开与解的差分近似
５,２ Ito 过程的一个光滑函数 f 在固定时刻附近的随机 Taylor 展开
５,３ 差分近似模型的改进
习题 １２
第 13 章 金融证券未定权益的定价
1 Black - Scholes 模型的欧式未定权益的定价
１,１ 术语与基本假定
１,２ 套期方法
１,３ 风险中性概率 方法
* １,４ 币值单位与随机折现因子方法
１,５ 倒向随机微分方程方法
１,６ 时变 Black-Scholes 模型
2 二叉模型
２,１ 二叉模型 与 Black-Scholes 模型 的二叉近似
２,２ Black - Scholes 模型的二叉近似
3 二叉模型的美式未定权益简述
３,１ 美式未定权益
３,２ 二叉模型美式未定权益 }),({ NnSf n ≤ 的定价与定价函数组
4 随机利率与 债券 利率的期限结构
４,１?s 零息债券
４,２ 零息债券导出的各种的随机利率概念
４,３ 资产定价基本定理与利率 衍生证券
４,４ 利率的风险中性模型
* 5,基于证券的随机利率的债券为币值单位折现的证券的未定权益的定价
习题 １３
第 14 章 在风险模型中的应用
1 基本概念
１,１ 保险中的利率概念
１,２ 生存模型的寿命分布与精算模型中的余寿
2 集体风险模型与 破产理论
２,１ 盈余过程与永不破产的概率
２,２ 时刻 t 前不破产的概率的公式与估计
２,３ 最终破产概率的上界与调节系数
２,４ 保险费的效 用函数与制定保险费策略
２,５ 最大损失 的分布
* 3 考虑利率与投资的保险模型简述
xiii
第 15 章 与数据建模有关的几个算法
1 EM 算法 – 隐状态变量分布中参数的最大似然估计
１,１ EM 算法的 基本想法
１,２ Rubin 算法
１,３ EM 算法的变通 – 广义 EM 算法
* 2 在数据不完全时,用增补潜在数据,对参数的 Bayes 分布作估计 – Tanner –Wong
的潜变量法
２,１ 基本想法 － 估计后验分布
２,２ 未知参数的 后验分布的 迭代估计
3 几种智能算法
３,１ 背景
３,２ 决定性的人工神经网络
３,３ 随机的人工神经网络
３,４ 演化算法,遗传算法
4 聚类,Kohonen 自组织学习,自适应算法
４,１ k－ 平均聚类
４,２ 自适应聚类的 基本思路
４,３ 固定规模的 Kohonen 网络
４,４ 网络的规模的竞争学习
5 适应最小二乘法 -- 一种适应的变步长的随机逼近
第 16章 状态 连续 的 Markov控制与决策过程简介
1 例
１,１ 随机决策模型的简单例子
１,２ 简单模型的启示
2 动作只依赖当前所处状态的简单决策模型
２,１ 简单模型的一般描述
２,２ 有限时段总报酬准则下的最佳 Markov 决策的构造
２,３ 无穷时段下的总报酬情形
第 17 章 Poisson 随机分析简介
1 非时齐的 Poisson 过程 与非时齐的复合 Poisson 过程与特征泛函 的特征泛函
１,１ 数值函数对 Poisson 过程的积分
１,２ Poisson 过程的特征泛函
１,３ 非时齐 Poisson 过程的统计性质
１,４ 函数对非时齐 Poisson 过程的积分,非时齐的 Poisson 过程的 特 征泛函
１,５ 非时齐的复合 Poisson 过程及其特征泛函
２ 与非时齐的复合 Poisson 过程相系的 Poisson 点过程
２,１ 将非时齐复合 Poisson 过程表示为非时齐 Poisson 过程的积分 （ 时间积分表示 ）
２,２ 将非时齐复合 Poisson 过程表示为 Poisson 点过程的积分 （ 空间积分表示 ）
２,３ 将非时齐复合 Poisson 过程表示为时空 Poisson 过程的积分 （ 时空 积分 表示 ）
３ 过滤的 Poisson 过程
４ Poisson 微积分简介
xiv
４,１ 关于时空 Poisson 点过程 的随机积分
４,２ Poisson 过程和以时空 Poisson 点过程驱动的随机微分方程 与 Poisson
随机微积分的复合函数的 Ito 公式
４,３ 由 Brown 运动和时空 Poisson 过程联合驱动的随机微分方程
５ 自激点过程
５,１ 自激点过程的强度过程与条件计数强度
５,２ 自激点过程的绝对概率
５,３ 自激点过程的事件到达时刻的联合分布
５,４ 具有限记忆的自激点过程
５,５ 对于自激点过程的随机积分
５,６ 二重 Poisson 过程
习题 １７
参考文献
索引
龚光鲁,钱敏平著 应用随机过程教程 – 及其 在算法和智能计算中的应用
清华大学出版社,2003
目录
前言
符号说明
第 1 章 概率论精要回顾与补充
1 基本框架与 典型分布
1,1 概率
1,2 随机变量
1,3 d 维随机向量
1,4 独立性
1,5 Chebyshev 不等式
1,6 基本极限与基本极限定理 ( 大数 定 律与中心极限定理 )
1,7 典型分布
1,8 次序随机变量的分布
2 条件概率,条件分布,条件 ( 数学 ) 期望
2,1 条件概率
2,2 条件分布
2,3 条件 （ 数学 ） 期望
2,4 期望与方差的 Wald 等式
3 统计简要
3,1 用样本作矩估计
3,2 最大似然估计
3,3 线性模型的最小二乘估计及其推广
习题 １
第 2 章 随机样本生成法
1 一维随机数
1,1 均匀随机变量的 计算机 模拟
1,2 分布函数 F(x) 的随机数
1,3 正态随机数
1,4 Poisson 随机数
1,5 混合分布随机数
1,6 Von Neuman 取舍原则
1,7 Gamma 随机数与 Beta 随机数的生成
2 多维随机数
2,1 连续型多维随机数
2,2 离散型多维随机数
2,3 多维 正态 随机数
2,4 多维 Beta 随机数 （ Dirichlet 随机数 ） 的生成
3,附录 － 用 Matlab 生成随机数
3,1 Matlab 语言的简单提示
3,2 Matlab 生成随机数的语句
习题 ２
vi
第 3 章 随机过程的一般概念与独立增量过程
1 一般 概念
1,1 随机过程与有限维分布族
1,2 独立增量过程
2 Poisson 过程与复合 Poisson 过程
2,1 事故申报 次数 的概率模型与 Poisson 过程
2,2 Poisson 过程与指数流 的关系
2,3 与指数流有关的 一些 随机变量与分布
2,4 常见的推广
2,5 复合 Poisson 过程
3 Brown 运动 (Wiener 过程 ) 及其函数
3,1 历史背景与物理模型
3,2 Brown 运动 ( 数学模型 )
3,3 Brown 运动的简单 性质
3,4 Brown 运动 的反射原理及首达性质
3,5 与 Brown 有关的几个简单随机过程
3,6 漂移 Brown 运动
3,7 几何 Brown 运动
4 简单随机徘徊
4,1 双侧吸收壁的吸收概率
4,2 随机徘徊的对称原理
4,3 随机徘徊的首达时刻
4,4 简单随机徘徊与首达时
习题 ３
第 4 章 更新现象及其理论
1 Stieltjes 积分
2 更新过程的概念
2,1 作为 Poisson 过程推广的更新过程
2,2 更新函数的更新方程
2,3 年龄与剩余寿命
3 更新定理与更新次数的正态近似
3,1 更新定理
* 3,2 更新过程的 正态近似
* 3,3 Blackwell 定理与主更新定理
3,4 更新间隔为正整值随机变量的更新过程
4 更新过程的变种模型
4,1 交错更新过程
4,2 延迟更 新过程
4,3 带酬更新过程
5 再 生 过程与其相系的更新过程
5,1 再 生 过程 的概念
vii
5,2 与再 生 过程相系的更新过程
5,3 比例极限定理在再 生 过程中的应用
5,4 存储模型的一个例子
* 6 E rlang 更新过程
6,1 Erlang 更新过程的定义
6,2 E rlang 更新过程的矩母函数
习题 ４
第 5 章 离散 时间的 Markov 链
1 Markov 链的概念
1,1 定义与 Markov 性质
1,2 概率转移矩阵
1,3 时齐的 Markov 链
1,4 Markov 链的例
2 Markov 链的状态分类
２,１ 首达分解,n 步转移概率的递推式,矩母函数,常返性
２,２ 常返性再访与 Markov 链的基本结构
２,３ 平 均回访时间与正常返性
3 Markov 链的转移概率的极限与不变分布
３,１ 不变分布与平稳 Markov 链
３,２ 有限状态 Markov 链的 的不变分布与极限分布
３,３ 转移矩阵的平均极限
4 Dobrushin 不等式与指数收敛性
4,1 Dobrushin 不等式
4,2 D obrushin 收敛定理
5 与常返态相系的延迟更新流,互通常返 Markov 链的极限定理
５,１ 与常返态相系的延迟更新流
５,２ 互通常返链的极限定理
6 停时与强 Markov 性
６,１ 停时
６,２ 强 Markov 性
7 禁 忌概率与首达分布
７,１ 禁忌概率
７,２ 首达时与首达分布
７,３ 禁忌概率,首达分布与平均首达时间
8 可 逆 Markov 链与可逆分布
８,１ 可逆 Markov 链
８,２ 例
８,３ 可逆初分布存在性判别法
9 分支 Markov 链 (Galton - Watson 简单分支过程 )
习题 ５
第 6 章 连续 时间 的 Markov 链 (Q - 过程 )
1 时间连续的 Markov 链及其转移矩阵
１,1 定义 与 等价性叙述
viii
１,2 连续 时间 的 Markov 链 概率转移矩阵
１,3 连续时间的时齐的 Markov 链
2 Poisson 过程与复合 Poisson 过 程再访
２,１ Poisson 过程作为 Markov 过程转移矩阵与 转移速率阵
２,２ 复合 Poisson 过程的转移矩阵与 转移速率阵
3 由 转移速率矩阵 确定 的连续 时间的 Markov 链
３,１ Kolmogorov 方程及 Master 方程
３,２ 转移速率矩阵的概率含义
4 连续 时间 的 Markov 链 的极限分布
４,１ 连续时间的 Markov 链 的转移矩阵的平均极限
４,２ 连续时间的 Markov 链 的极限分布
5 连续时间的 Markov 链 的转移矩阵 P )(t 的不变分布
５,１ 连续时间的 Markov 链 的转移矩阵 P )(t 及其 嵌入链的不变分布
５,２ 连续时间 Markov 链的遍历极限
５,３ 对称 的 与可逆 的连续时间的 Markov 链
6 例
６,１ 连续时间分支过程
６,２ 有限格点上的 Ising 模型与 Gauber 动力学
６,３ 生灭类过程
６,４ 系统与有效度
7 连续时间的 Markov 链 的模拟 与加速收敛
７,１ 连续时间的 Markov 链 的模拟
７,２ 加速收敛的均匀化方法
习题 ６
第 7 章 排队过程简介
1 排队过程的描述
１,１ 排队系统
１,２ 排队系统的一般框图,输入过程与输出过程
１,３ 可逆性引理
2 最简单排队过程 — Markov 排队过程
２,１ 最简单的排队过程 -- M/M/1 系统
２,２ N 个服务员的简单排队过程 —M/M/N 系统
* ２,３ 序贯排队与排队网络系统
２,４ M ／ M ／ ∞ 排队系统
3 排队系统的一般概念
３,１ 关于排队论的一般注记
３,２ M ／ M ／ N 消失制
* ３,３ M/G/1 排队系统
* ３,４ G/M/1 排队系统
ix
* 4 半 Markov 过程
４,１ 半 Markov 过程
４,２ 半 Markov 过程的渐近 性质
* 5 有限位相型分布 ( PH - 分布 )
５,1 背景
５,2 PH 分布 (有限位相型分布 )
５,3 离散位相型分布
５,4 PH 分布类的封闭性
习题 ７
第 8 章 Markov 链 Monte Carlo 方法
１ 计算积分的 Monte Carlo 方法与采样量估计
１,１ 用频率估计概率来计算积分的 Monte Carlo 方法
１,２ 用样本函数的平均值估计期望来计算积分的 Monte Carlo 方法
１,３ 减少方差的技术
2 Markov 链 Monte Carlo (M C MC)
２,１ Gibbs 采样 ( Gibbs samp ler )
２,２ 按有限状态空间上分布 p 作随机采样 的 Metropolis - Hasting 方法
２,３ 通过条件分布对 分布 p 作随机采样的 Gibbs 方法
2,4 MCMC 应用于 Bayes 参数估计
3 模拟退火
３,１ 模拟退火方法的基本想法
３,２ 有关模拟退火算法的非时齐马氏链的理论背景
第 9 章 以图 像 信息为背景的随机场,迭代 Markov 系统
1 有限格点上的 Markov 随机场与图 像
１,１ 有限格点上的 Markov 随机场
１,２ 相邻系统 Gibbs 随机场 -- 邻位势 Gibbs 场
１,３ 图像 处理的随机过程方法的思路原则简介
１,４ Gibbs 分布的 样本的 Gibbs 采样法
１,５ Gibbs 分布 的模拟退火
2 时间离散状态连续的 Markov 链
２,１ 概率空间再访
２,２ 时间离散状态连续的 Markov 链
２,３ 概率转移核
２,４ 时齐的连续状态 Markov 链
２,５ 例
２,６ dR 上函数 )(xf 的最小值位置与模拟退火算法
２,７ Dobrushin 不等式,指数遍历性与收敛性
3 随机迭代函数系统
３,1 局部相似性的基本想法
３,2 轮廓图 全体组成的 距离空间
３,3 灰度图与随机迭代函数系统
x
4,统计中的 Bayes 方法与 图象的处理,分割 与重建
４,１ Bayes 统计要义
４,２ Baye s 方法在图像中的应用与 观测量不是状态变量时的参数估计
习题 ９
第 10 章 隐马氏模型及其应用
１ 熵与相对熵
１,１ 离散分布的熵与相对熵
１,２ 分布密度的熵与相对熵
２ 隐 Markov 模型
２,１ 一个实例
２,２ 隐 Markov 模型的描述
２,３ 隐 Markov 模型的等价表 述
２,４ 非线性滤波作为 隐 Markov 模型 的特例
２,５ 在应用中研究 隐 Markov 模型 的 主要 方面
３ 解码问题 -- 已知模型与观测时状态的估计
３,1 出现当前的观测的概率 )|( lyYP = 的计算
３,２ 解码问题 -- 已知模型 l 与观测 yY = 时状态 X 的估计
４ 学习问题 - 由观测估计模型参数
４,０ 状态链样本已知时的参数的频率估计
４,１ 模型参数估计的 EM 算法的思想
４,２ 隐 Markov 模型 中 M – 步骤的解
５ 关于 隐 Markov 模型 的评注
５,１ 隐 Markov 模型 包容度大有非常宽的应用面
５,２ 隐 Markov 模型 的更为一般的形式
６ 隐 Markov 模型的应用例子梗概
６,１ 语音的机器识别
６,２ 脱机手写体汉字识别
６,３ DNA 序列片断装配
习题 １０
第 11 章 二阶矩过程,Gauss 系与时间序列
1 全体方差有限的随机变量构成的 Hilbert 空间
1,１ 实值情形
1,２ 复值情形
2 随机变量族的均方信息空间与滤波
2,１ 均方信息空间
2,２ 滤波问题
3 Gauss 系与投影再访
3,１ 定义,等价条件与特性
3,２ Gauss 过程的投影 -- 线性滤波
3,３ 复 Gauss 过程
3,４ G auss 过程的特征泛函
4 平稳性与宽平稳性
xi
4,１ 平稳序列与宽平稳序列
4,２ 渐近平稳序列与渐近宽平稳序列
4,３ 平稳增量序列
5 ARMA 模型
5,１ ARMA (p,q)
5,２ AR 模型的定阶与偏相关系数以及模型参数的估计
5,３ MA 模型的 定阶与参数估计
6 ARCH 模型
6,１ ARCH(p)
6,２ ARCH(p) 的参数估计
* 7 GARCH (p,q) 模型与其它随机方差模型
7,１ GARCH 模型
7,２ 金融证券模型中的 GARCH(1,1)
7,３ GARCH 的参数估计
8 二阶矩序列的滤波再访
8,１ 线性滤波的一般概念
8,２ Kalman - Bucy 滤波
* 9 二阶 自相似时间序列与长程相关
9,１ 统计自相似性
9,２ 二阶自相似性
9,３ 长程相关性
* 10 非线性 AR 模型与二重 ARMA模型
10,１ 非线性 AR 模型 (N on Linear AR,NLAR)
10,２ 非线性 AR 模型的常见例子
10,３ 二重 ARMA 模型
习题 １１
第 12 章 连续状态的 Markov 过程,鞅,Ito 积分与随机微分方程
1 连续时间连续状态的 Markov 过程
１,１ 平稳 Gauss 过程
１,２ 时间与状态都连续的时齐 Markov 过程
2 鞅列与鞅
２,1 条件期望再访
２,2 鞅列
２,3 连续时间参数的鞅
3 Ito 积分 - 对 Brown 运动的积分
３,１ 对 Brown 运动的积分与其特殊性
３,２ Ito 公式
4 随机微分方程与扩散过程简介
４,１ 随机微分方程
４,２ 扩散过程
xii
* ４,３ Girsanov 定理与 Feyman - Kac 公式
5 随机微分方程的解的数值模拟算法
５,１ 随机微分方程在固定时刻附近的 随机 Taylor 展开与解的差分近似
５,２ Ito 过程的一个光滑函数 f 在固定时刻附近的随机 Taylor 展开
５,３ 差分近似模型的改进
习题 １２
第 13 章 金融证券未定权益的定价
1 Black - Scholes 模型的欧式未定权益的定价
１,１ 术语与基本假定
１,２ 套期方法
１,３ 风险中性概率 方法
* １,４ 币值单位与随机折现因子方法
１,５ 倒向随机微分方程方法
１,６ 时变 Black-Scholes 模型
2 二叉模型
２,１ 二叉模型 与 Black-Scholes 模型 的二叉近似
２,２ Black - Scholes 模型的二叉近似
3 二叉模型的美式未定权益简述
３,１ 美式未定权益
３,２ 二叉模型美式未定权益 }),({ NnSf n ≤ 的定价与定价函数组
4 随机利率与 债券 利率的期限结构
４,１?s 零息债券
４,２ 零息债券导出的各种的随机利率概念
４,３ 资产定价基本定理与利率 衍生证券
４,４ 利率的风险中性模型
* 5,基于证券的随机利率的债券为币值单位折现的证券的未定权益的定价
习题 １３
第 14 章 在风险模型中的应用
1 基本概念
１,１ 保险中的利率概念
１,２ 生存模型的寿命分布与精算模型中的余寿
2 集体风险模型与 破产理论
２,１ 盈余过程与永不破产的概率
２,２ 时刻 t 前不破产的概率的公式与估计
２,３ 最终破产概率的上界与调节系数
２,４ 保险费的效 用函数与制定保险费策略
２,５ 最大损失 的分布
* 3 考虑利率与投资的保险模型简述
xiii
第 15 章 与数据建模有关的几个算法
1 EM 算法 – 隐状态变量分布中参数的最大似然估计
１,１ EM 算法的 基本想法
１,２ Rubin 算法
１,３ EM 算法的变通 – 广义 EM 算法
* 2 在数据不完全时,用增补潜在数据,对参数的 Bayes 分布作估计 – Tanner –Wong
的潜变量法
２,１ 基本想法 － 估计后验分布
２,２ 未知参数的 后验分布的 迭代估计
3 几种智能算法
３,１ 背景
３,２ 决定性的人工神经网络
３,３ 随机的人工神经网络
３,４ 演化算法,遗传算法
4 聚类,Kohonen 自组织学习,自适应算法
４,１ k－ 平均聚类
４,２ 自适应聚类的 基本思路
４,３ 固定规模的 Kohonen 网络
４,４ 网络的规模的竞争学习
5 适应最小二乘法 -- 一种适应的变步长的随机逼近
第 16章 状态 连续 的 Markov控制与决策过程简介
1 例
１,１ 随机决策模型的简单例子
１,２ 简单模型的启示
2 动作只依赖当前所处状态的简单决策模型
２,１ 简单模型的一般描述
２,２ 有限时段总报酬准则下的最佳 Markov 决策的构造
２,３ 无穷时段下的总报酬情形
第 17 章 Poisson 随机分析简介
1 非时齐的 Poisson 过程 与非时齐的复合 Poisson 过程与特征泛函 的特征泛函
１,１ 数值函数对 Poisson 过程的积分
１,２ Poisson 过程的特征泛函
１,３ 非时齐 Poisson 过程的统计性质
１,４ 函数对非时齐 Poisson 过程的积分,非时齐的 Poisson 过程的 特 征泛函
１,５ 非时齐的复合 Poisson 过程及其特征泛函
２ 与非时齐的复合 Poisson 过程相系的 Poisson 点过程
２,１ 将非时齐复合 Poisson 过程表示为非时齐 Poisson 过程的积分 （ 时间积分表示 ）
２,２ 将非时齐复合 Poisson 过程表示为 Poisson 点过程的积分 （ 空间积分表示 ）
２,３ 将非时齐复合 Poisson 过程表示为时空 Poisson 过程的积分 （ 时空 积分 表示 ）
３ 过滤的 Poisson 过程
４ Poisson 微积分简介
xiv
４,１ 关于时空 Poisson 点过程 的随机积分
４,２ Poisson 过程和以时空 Poisson 点过程驱动的随机微分方程 与 Poisson
随机微积分的复合函数的 Ito 公式
４,３ 由 Brown 运动和时空 Poisson 过程联合驱动的随机微分方程
５ 自激点过程
５,１ 自激点过程的强度过程与条件计数强度
５,２ 自激点过程的绝对概率
５,３ 自激点过程的事件到达时刻的联合分布
５,４ 具有限记忆的自激点过程
５,５ 对于自激点过程的随机积分
５,６ 二重 Poisson 过程
习题 １７
参考文献
索引
