You are on page 1of 263

应用统计学系列教材

应用随机过程
张波 张景肖 编著

清华大学出版社
内 容 简 介

本书是现代应用随机过程教材 , 内容从 入门知 识到学 术前 沿 , 包 括预 备知 识、随机 过


程的基本类型、Poisson 过 程、更 新过 程、Ma rkov 链、鞅、Brown 运 动、随 机积 分、随机 微 分
方程及其应用和 Levy 过程等 .本书 配有大 量与社 会、经 济、金 融、生物等 专业 相关 的例 题
和习题 , 并给出了参考答案 , 方便自学 .
本书可以作为高等院校统计、经济、金融、管理专业 的本科生教 材 , 也可 以作为其他 相
关专业的研究生教材和教学参考书 , 对广 大从事 与随机 现象相 关工作 的实际 工作 者也 极
具参考价值 .

版权所有 , 翻印必究。举报电话 : 010-62782989 13901104297 13801310933

图书在版编目 (CIP)数据

应用随机过程/ 张波 , 张景肖编著 .—北京 : 清华大学出版社 , 2004 .9


( 应用统计学系列教材 )
ISBN 7-302-08940-X

Ⅰ .应… Ⅱ .①张… ②张… Ⅲ .随机过程 - 高等学校 - 教材 Ⅳ .O 211 .6

中国版本图书馆 CIP 数据核字( 2004) 第 062835 号

出 版 者 : 清华大学出版社 地 址 : 北京清华大学学研大厦
h tt p :/ / w ww .t up .com .cn 邮 编 : 100084
社 总 机 : 010-62770175 客户服务 : 010-62776969
责任编辑 : 王海燕
封面设计 : 常雪影
印 刷 者 : 清华大学印刷厂
装 订 者 : 北京市密云县京文制本装订厂
发 行 者 : 新华书店总店北京发行所
开 本 : 170×230 印张 : 16 .5 字数 : 274 千字
版 次 : 2004 年 9 月第 1 版 2004 年 9 月第1 次印刷
书 号 : ISBN 7-302-08940-X/ O・375
印 数 : 1~3000
定 价 : 22 .00 元

本书如存在文字不清、漏印以及缺页、倒页、脱页等 印装质量问 题 , 请与 清华大学出 版


社出版部联系调换 .联系电话 : (010) 62770175-3103 或 (010) 62795704
应用统计学系列教材

编审委员会

主 任 : 吴喜之

委 员: (按姓氏拼音字母排序)

杜子芳 冯士雍 耿 直 何书元 贾俊平

金勇进 易丹辉 袁 卫 张 波 赵彦云


随着社会经济的飞速发展 , 统 计学课 程设置 的不 断调整 , 统


计学教材已经有了很大的变化 .为了适应这些变化 , 我们从 2000
年开始编写面向 21 世 纪统 计 学系 列 教材 , 经过 近 4 年 的实 践 ,
该系列教材取得了较好的效果 , 基 本实现 了预定 的目 标 .然而目
前学科的发展和社 会的 进步 速度 相 当 快 , 其 中的 一 些教 材 已经
需要进一步修订 , 也有部分内容成 熟、适 合教学 需要 的教 材没有
列入编写计划 .
为满足应用统计 科学 和 我国 高 等 教育 迅 速发 展 的需 求 , 清
华大学出版社和施普林格出 版社 ( Springer-Verlag) 合 作 , 倡议出
版这一套“应用统 计 学系 列教 材”, 作为 对 现 有统 计 学教 材 的全
面补充和修订 .这套教材具有以下特点 :
1. 此套丛书属于开放式的 , 一旦有好的选题 , 即可列入出版
计划 .
2. 在教材选择上 , 拓宽了范围 .有些教材主要面向经济类统
计学专业 , 包括金融 统 计、风 险管 理 与 精算 方 面的 教 材 .部 分教
材面向人文社科专业 , 而另外一些 教材则 面向自 然科 学领域 , 包
括生物统计、医学统计、公共卫生统计等 .
3. 本套教材的编写者都是活跃在教学、科研第一线的教师 ,
他们能够积极地、广泛地吸收国内 外最新 的优秀 成果 .能 够在教
学中反复对教材进行补充修订和完善 .
4. 强调与计算机应用的结合 , 在教材编写中 , 注重计算机软
件的应用 , 特别是可编程软件的应 用 .对 于那些 仅限 于应 用方法
的教材 , 充 分 考 虑 读 者 的 需 求 , 尽 量 介 绍 简 单 易 学 的“ 傻 瓜”
Ⅳ 应用随机过程

软件 .
5. 本套教材包括部分优秀国 外教材 译 著 , 对于 目前 急 需 , 而国 内尚 属 空
白的教材 , 选择部分国外具有广泛影响的教材 , 进行翻译出版 .
我们希望这套系列教 材的 出 版能 够 对 我国 应 用统 计 科学 的 教育 和 我 国
统计事业的健康发展起到积极作用 .感谢 参与 教材编 写的 中国人 民大 学统 计
学院和兄弟院校的教师 以及 进行 审 阅 的同 行 专家 .让我 们 大家 共 同 努力 , 创
造我国应用统计学科新的辉煌 .

易丹辉
2004 年 1 月
前 言

本书的初稿曾在中国人民大学统 计学系本 科生 的教 学中多


次使用 , 反映良好 .此次出版 , 我们根 据广 大读者 的反 馈意见 , 对
部分内容进行了 适当 调 整 , 对 Markov 过程 的 讨论 更 加详 尽 , 并
增加了随机微分方程和 Levy 过程等新的内容 .
几十年来 , 由于实际问题的需要 和数 学工作 者的 努力 , 随机
过程无论在理论上 还是 在应 用上 都 有 了蓬 勃 的发 展 .它 的 基本
知识和方法 , 不仅为数学、概率统计专 业所必 需 , 也为 工程技 术、
生物信息及经济领域的应用与研究所 需要 .因此 , 随 机分 析的方
法越来越受到人们的 重 视 , 高 等院 校 的 学生、工程 技 术人 员、金
融工作者 , 更迫切地需要学习和掌 握随机 过程的 知识 .本 书是为
适应这种需求 , 根 据近 年来 讲授 这 门课 的 教 学实 践 所积 累 的资
料 , 参考国内外有关著作编写而成 .由于 随机过 程这 门学 科发展
十分迅速 , 其内容十 分 丰富 , 作为 一 本 大学 本 科生 用 教科 书 , 不
可能包括其全部内容 .因此 , 我们力图根 据经济 类和 管理 类本科
生教学选择素材 .为适应更广泛的读者 , 本书着重于随机过程的
基础知识和基本方法的介绍 , 特别 注重实 际应用 , 尽 量回 避测度
论水平的严格证明 , 只有第 6 章的 部分内 容、第 8 章 和第 9 章不
可避免的用到一些 测度 论知 识 .这 些内 容 初 学者 可 以根 据 各自
的基础进行取舍 , 数学基础稍好、有测度论基础或对数理金融有
兴趣的读者可以选学 .为了方便读 者 , 我 们在第 1 章 中用 很小的
篇幅 , 对概率 测 度 和 积 分 进 行 了 初 步 介 绍 , 希 望 对 读者 有 所 帮
助 .一般读者只要 具有 高等 数学 及 概率 论 的 基础 知 识便 可 阅读
和理解本书的大部分内容 .我们建 议对大 学本科 生以 54 学时讲
授本书前 7 章的内容 .如果 课 程设 置 为 60 学 时以 上 , 则 可 以讲
Ⅵ 应用随机过程

授前 8 章的全部内容 , 并对第 9 章 做简单 介绍 .如 果课 时比较 少 , 教师 可根 据


授课对象适当选择教学内容 .
全书大体可分为 3 个部分 .第 1 部分 是预 备知识 和随 机过程 最基 本的 内
容 , 一般教科书都包含这部分内容 ( 第 1 , 2 , 3 , 5 章 ) .第 2 部分 是更 新过程 , 这
一内容在许多教科书中 没有 单独 讨 论 .考 虑 到它 在 应用 中 的重 要 性 , 特 别 是
在人口学和保险论中的应用 , 故 将它 放 在第 4 章 讲 授 .第 3 部 分包 括第 6 , 7 ,
8 , 9 章 , 鉴于在经济和金融领域 非常广 泛的 应用 , 分别 介绍 鞅、Brown 运 动、随
机微分方程及其 应 用 和 Levy 过 程 .考 虑 到 实 际 问 题 的 需 要 , 本 书 第 一 次 将
Levy 过程写入随机过程的教科书中 .
本书配有一些与社会、经济、金融、管 理以 及生物 等领 域相关 的例 题和 习
题 , 以帮助学生加深理解 , 提高应用随 机过程 理论 解决 问题的 能力 .为 了便 于
自学 , 书末给出了大部分习题的答 案 , 供自学 者参 考 .为了 便于有 兴趣 的读 者
进一步学习 , 我们对主 要内 容 增加 了一 个 文 献评 注 , 同 时 书后 列 出较 多 的 参
考书目 , 为这些读者提供线索 .因此 , 虽然 我们 强调主 要着 眼于经 济管 理类 本
科学生 , 但是对于这些专业的研究生 以及 某些 应用数 学和 其他理 工科 的本 科
生、研究生来说 , 也不难发现使用本书的方便之处 .
本书的编写得到吴 喜之、张 尧廷、易丹 辉、顾 岚、肖 争 艳等 许 多同 仁 的 鼓
励、支持和帮助 ; 宋士吉教授和刘立新 博士分 别在 清华 大学、北京 大学 和对 外
经贸大学使用过本书的初稿 , 并对 本书提 出了 许多 宝贵的 修改 意见 ; 薛芳 , 李
晓明 , 刘晓华 , 吴孟书 , 何艳青 , 胡威等 同学提 供了 习题 参考答 案 .在此 谨表 衷
心谢意 !
同时也要感谢中国人民大学统计 学院 , 使 得笔者 有机 会在教 学实 践中 完
成本书的写 作 和 修 改 .还 要 感 谢 教 育 部 的 支 持 , 将 本 书 列 为 普 通 高 等 教 育
“十五”国家级规划教材 , 使得本书得以顺利出版 .
由于编者水平所限 , 书中的缺点错误在所难免 , 敬请读者批评指正 .

编 者
2004 年 2 月
目 录

第1章 预备知识 …………………………………………… 1

1 .1 概率空间 …………………………………………… 1
1 .2 随机变量和分布函数 ……………………………… 3
1 .3 数字特征、矩母函数与特征函数 …………………… 7
1 .3 .1 数字特征 …………………………………… 7
1 .3 .2 Riemann-Stieltjes 积分 …………………… 8
1 .3 .3 关于概率测度的积分 ……………………… 9
1 .3 .4 矩母函数和特征函数 …………………… 11
1 .4 条件概率、条件期望和独立性 …………………… 13
1 .4 .1 条件概率 ………………………………… 13
1 .4 .2 条件期望 ………………………………… 14
1 .4 .3 独立性 …………………………………… 15
1 .4 .4 独立随机变量和的分布 ………………… 16
1 .5 收敛性 ……………………………………………… 17

第2章 随机过程的基本概念和基本类型 ……………… 20

2 .1 基本概念 …………………………………………… 20
2 .2 有限维分布与 Kolmogorov 定理 ………………… 21
2 .3 随机过程的基本类型 ……………………………… 24
2 .3 .1 平稳过程 ………………………………… 24
2 .3 .2 独立增量过程 …………………………… 30
习题………………………………………………………… 31

第3章 Poisson 过程 ………………………………………… 32

3 .1 Poisson 过程 ……………………………………… 32
Ⅷ 应用随机过程

3 .2 与 P oisson 过程相联系的若干分布 ……………………………… 37


3 .2 .1 Xn 和 T n 的分布 ………………………………………… 37
3 .2 .2 事件发生时刻的条件分布 ……………………………… 39
3 .3 Poisson 过程的推广 ……………………………………………… 42
3 .3 .1 非齐次 Pois son 过程 …………………………………… 42
3 .3 .2 复合 Pois son 过程 ……………………………………… 45
3 .3 .3 条件 Pois son 过程 ……………………………………… 46
习题 ……………………………………………………………………… 48

第4章 更新过程 …………………………………………………………… 50

4 .1 更新过程定义及若干分布 ……………………………………… 50
4 .1 .1 更新过程的定义 ………………………………………… 50
4 .1 .2 N ( t) 的分布及 E[ N( t) ] 的一些性质 …………………… 51
4 .2 更新方程及其应用 ……………………………………………… 54
4 .2 .1 更新方程 ………………………………………………… 54
4 .2 .2 更新方程在人口学中的一个应用 ……………………… 57
4 .3 更新定理 ………………………………………………………… 59
4 .4 Lundberg-Cra mèr 破产论 ………………………………………… 64
4 .5 更新过程的推广 ………………………………………………… 69
4 .5 .1 延迟更新过程 …………………………………………… 69
4 .5 .2 更新回报过程 …………………………………………… 69
4 .5 .3 交替更新过程 …………………………………………… 71
习题 ……………………………………………………………………… 73

第5章 Markov 链 ………………………………………………………… 74

5 .1 基本概念 ………………………………………………………… 74
5 .1 .1 M arkov 链的定义 ……………………………………… 74
5 .1 .2 转移概率 ………………………………………………… 75
5 .1 .3 一些例子 ………………………………………………… 76
5 .1 .4 n 步转移概率 C- K 方程 ……………………………… 81
5 .2 停时与强 Markov 性 ……………………………………………… 84
5 .3 状态的分类及性质 ……………………………………………… 85
5 .4 极限定理及不变分布 …………………………………………… 92
目 录 Ⅸ

5 .4 .1 极限定理 ………………………………………………… 92
5 .4 .2 不变分布与极限分布 ………………………………… 100
5 .5 Ma rkov 链的大数定律与中心极限定理 ……………………… 104
5 .5 .1 大数定律与不变分布 ………………………………… 104
5 .5 .2 M arkov 链的中心极限定理 …………………………… 108
5 .6 群体消失模型与人口模型 ……………………………………… 110
5 .6 .1 群体消失模型 ( 分支过程 ) …………………………… 110
5 .6 .2 人口结构变化的 Ma rkov 链模型 ……………………… 113
5 .7 连续时间 Markov 链 …………………………………………… 115
5 .7 .1 连续时间 Ma rkov 链 …………………………………… 115
5 .7 .2 转移概率 p ij ( t) 和 Kolmogorov 微分方程 …………… 119
5 .8 应用———数据压缩与熵 ………………………………………… 126
习题 ……………………………………………………………………… 130

第6章 鞅 ………………………………………………………………… 133

6 .1 基本概念 ………………………………………………………… 133


6 .2 鞅的停时定理 …………………………………………………… 138
6 .2 .1 停时定理 ……………………………………………… 138
6 .2 .2 Doob 极大不等式 ……………………………………… 144
6 .2 .3 停时定理的应用———关于期权值的界 ……………… 146
6 .3 一致可积性 ……………………………………………………… 149
6 .4 鞅收敛定理 ……………………………………………………… 151
6 .5 连续鞅 …………………………………………………………… 154
习题 ……………………………………………………………………… 156

第7章 Brown 运动 ……………………………………………………… 159

7 .1 基本概念与性质 ………………………………………………… 159


7 .2 Gaus s 过程 ……………………………………………………… 163
7 .3 Brow n 运动的鞅性质 …………………………………………… 165
7 .4 Brow n 运动的 M arkov 性 ……………………………………… 166
7 .5 Brow n 运动的最大值变量及反正弦律 ………………………… 168
7 .6 Brow n 运动的几种变化 ………………………………………… 172
7 .6 .1 Brow n 桥 ……………………………………………… 172
Ⅹ 应用随机过程

7 .6 .2 有吸收值的 Bro wn 运动 ……………………………… 173


7 .6 .3 在原点反射的 Bro wn 运动 …………………………… 174
7 .6 .4 几何 Bro wn 运动 ……………………………………… 174
7 .6 .5 有漂移的 Bro wn 运动 ………………………………… 175
习题 ……………………………………………………………………… 176

第8章 随机积分与随机微分方程 ……………………………………… 178

8 .1 关于随机游动的积分 …………………………………………… 178


8 .2 关于 Brow n 运动的积分 ………………………………………… 179
8 .3 It 积分过程 ……………………………………………………… 183
8 .4 It 公式 …………………………………………………………… 187
8 .5 随机微分方程 …………………………………………………… 191
8 .5 .1 解的存在惟一性定理 ………………………………… 191
8 .5 .2 扩散过程 ……………………………………………… 192
8 .5 .3 简单例子 ……………………………………………… 196
8 .6 应用———金融衍生产品定价 …………………………………… 197
8 .6 .1 Black-Scholes 模型 …………………………………… 197
8 .6 .2 等价鞅测度 …………………………………………… 199
习题 ……………………………………………………………………… 207

第9章 Levy 过程与关于点过程的随机积分简介 …………………… 209

9 .1 Levy 过程 ………………………………………………………… 209


9 .2 关于 P oisson 点过程的随机积分 ……………………………… 210

习题参考答案 ……………………………………………………………… 216

文献评注 …………………………………………………………………… 247

参考文献 …………………………………………………………………… 248


第 1章
预备知识

随机过程通常被视 为 概率 论 的动 态 部 分 .在 概率 论 中研 究 的随 机 现 象 ,
都是在概率空间 ( Ω, F, P) 上的一个 或有 限多个 随机 变量的 规律 性 .在讨 论中
心极限定理时也不过 是对 随机 变 量序 列 的讨 论 .但 在 实 际问 题 中 , 我 们还 需
要研究一些随机现象 的发 展和 变 化过 程 , 即 随 时间 不 断 变化 的 随机 变 量 , 而
且 , 所涉及的随机变量通常是无限多个 , 这就是随机过程 所要研究 的对象 . 随
机过程以概率论作为 其主 要的 基 础知 识 , 为 此 , 我 们 首先 对 在 本书 中 经常 用
到的概率论的基本知识作简要的回顾 .

1 .1 概 率空间

随机试验是概率论的基本 概念 , 试 验的 结果 事先 不 能准 确地 预言 , 但 具
有如下 3 个特性 :
( 1) 可以在相同的条件下重复进行 ;
( 2) 每次试验的结果不止一个 , 但预先知道试验的所有可能的结果 ;
( 3) 每次试验前不能确定哪个结果会出现 .
记随机试验的基本结 果为 ω, 称作 样本 点 , 随 机试 验所 有 可能 结 果组 成
的集合称为这 个试验 的样本 空间 , 记为 Ω .Ω 中的样本 点 ω 也称为 基本事 件 ,
样本空间 Ω称为必然事件 , 空集 称为 不可 能事件 .Ω的 子集 A 由基 本事 件
组成 , 通常称为事件 .但是在实际问 题中 , 人 们一般 不是 对样 本空间 的所 有子
集都感兴趣 , 而是关心某 些事 件 及其 发 生的 可 能性 的 大 小 .我 们用 下 面的 概
念来刻画这种事件 .
2 应用随机过程

定义 1 .1 设 Ω是 一个样本 空间 ( 或任 意一个 集合 ) , F 是 Ω的某些 子集


组成的集合族 .如果满足 :
( 1) Ω∈F;
( 2) 若 A∈F, 则 Ac = Ω\ A∈F;

( 3) 若 An ∈F, n = 1 , 2 , … , 则 ∪ An ∈F .
n=1

则称 F 为σ代数 .( Ω, F) 称为可测空间 , F 中的元素称为事件 .

如果 F 是事件的 σ代数 , 则 ( 1) ∈F; (2 ) 当 An ∈F , n≥1 , ∩ An ∈F .


n≥ 1

定义 1 .2 设 Ω= R .由所有半无限区 间 ( - ∞ , x ) 生 成的 σ代数 ( 即 包含
集族{ ( - ∞ , x ) , x∈ R }的最小 σ代数 ) 称为R 上的 Bor el σ代数 , 记 为 B( R ) ,
n n
其中的元素称为 Borel 集合 . 类似的可定义R 上的 Borel σ代数 B( R ) .

定义 1 .3 设 (Ω, F) 是可测空间 , P( ・ ) 是定义在 F 上的实值函数 .如果


( 1) 任意 A∈F, 0≤ P( A) ≤1 ;
( 2) P(Ω) = 1 ;
( 3) 对两两互不相容事件 A1 , A2 , … ( 即当 i≠ j 时 , A i ∩ A j = ),有
∞ ∞

P ∪i= 1
Ai = ∑ P( A ) ,
i= 1
i

则称 P 是 (Ω, F) 上 的 概 率 , ( Ω, F, P) 称 为 概 率 空 间 , P ( A ) 称 为 事 件 A 的
概率 .
由定义易见 , 事件的概率有如下性质 :
( 1) 若 A , B∈F, 则 P( A∪ B) + P( A∩ B) = P( A) + P( B) .
( 2) 若 A , B∈F, 且 A B, 则 P( A) ≤ P( B) ( 单调性 ) .
( 3) 若 A , B∈F, 且 A B, 则 P( B - A) = P( A) - P( B) .
( 4) 若 An ∈ F, n ≥ 1 , 则 P ∪ n≥ 1
An ≤ ∑ P( An ) .
n≥ 1

( 5) 若 An ∈F, 且 An ↑ A, 即 A n An + 1 , n≥1 , 且 ∪ An = A, 则
n≥ 1

P( A) = n→
lim P( An ) ( 下连续 ) .

( 6) 若 An ∈F, 且 An ↓ A, 即 A n + 1 An , n≥1 , 且 ∩ An = A, 则
n≥ 1

P( A) = n→
lim P( An ) ( 上连续 ) .

如果概率空间 ( Ω, F, P) 的 P-零集 ( 即零概率事件 ) 的 每个子集 仍为事 件 ,


则称为完备的概率空间 .为了避 免 P-零 集的 子集 不是 事 件的 情形 出现 , 我 们
第 1章 预备知识 3

把概率测度完备化 .令 N 代 表 Ω的所有 P-零集的子集 的全体 .由{F, N} 生成


- -

的 σ代数 ( 即包含 F 和 N 的最小σ代数 ) 称为 F 的完备化 , 记为 .中的每个集合


F F

B 都可以表示为 B = A∪ N , 其中 A∈F , N∈N, 且 A∩ N = . 定义


-

( B) =P ( A ∪ N ) = P( A) .
-
P

则 P 就被扩张到 上 .
F
- - -

容易验证 P, 是 上的概率测度 .集函数 称为 P 的完备化 .本书总假定 P 是完


F P

备的概率测度 .

定义 1 .4 设 An ∈F, n≥ 1 . 所有属于无限多个集合 An 的 ω的集合称为


集列{ A n }的上极限 , 记为limn→ ∞sup An . 可以证明
∞ ∞

limn→ ∞sup An = ∩ ∪ An .
k=1 n= k

有时也记为{ A n , i .o .} .集列{ An } 的下极限定义为


lim inf An = {ω∈ Ω: v n0 , " n > n0 ,ω∈ An } .
n→ ∞

容易证明
∞ ∞

lim i nf An = ∪ ∩ An .
n→ ∞ k= 1 n= k

下面看一个例子 .

例 1 .1 设有某人在反复地投掷硬币 , 观察硬 币朝上 的面是正 面或反 面 .


Ω= {所有由投掷结果“ 正面”和“ 反面”组 成的 序列} , F = {Ω 的所 有 子集 } , 记
An 为第 n 次投掷的是“ 正面”的事件 , 则
limn→ ∞sup A n = { 有无限多个投掷结果是“正面”} .

lim i nf An = {除有限多个外 , 投掷结果都是“正面”} .


n→ ∞

1 .2 随机变量和分布函数

定义 1 .5 设 (Ω, F, P) 是 ( 完 备的 ) 概率 空间 , X 是 定义 在 Ω 上 , 取值 于
实数集R 的函数 , 如果对任意实数 x∈R , {ω: X(ω) ≤ x}∈F , 则称 X(ω) 是 F
上的随机变量 , 简称为随机变量 .函数
F( x) = P{ω: X(ω) ≤ x} , - ∞ < x < ∞
应用随机过程
4

称为随机变量 X 的分布函数 .
如果有函数 f ( x ) , 满足
x

F( x) =∫ - ∞
f ( t) d t, (1 .2 .1 )

则称 f ( x) 为随机变量 X 或其分布函数 F ( x) 的分布密度 .如果 X 具有分布密


度 , 则称 X 为 连续型 随机 变量 ; 如果 X 最多 以正 概率 取可数 多个 值 , 则 称 X
为离散型随机变量 .
注 在上面的定义中 , 如果 X 是广义实值函数 , 即 X 可以取∞值 , 则需要
加上条件 : X 是几乎处处有限的 , 即 P{ω: | X(ω) | = ∞} = 0 .否 则 , 会出 现按
上面定义的分布函数是假分布的情况 .

定义 1 .6 两个随机变量 X 与 Y , 如果满足 P{ω∈Ω: X(ω) ≠ Y (ω) } = 0 ,


则称它们是等价的 .
对于两个等价的随机变量 , 我们视为同一 .

定理 1 .1 下列命题等价 :
( 1) X 是随机变量 ;
( 2) {ω: X(ω) ≥ a}∈F, " a∈R ;
( 3) {ω: X(ω) > a}∈F, " a∈R ;
( 4) {ω: X(ω) < a}∈F, " a∈R .
为简单起见 , 习惯上将{ω: X(ω) ≥ a}记为{ X≥ a} , 其他类似记号自明 .

定理 1 .2 (1 ) 若 X , Y 是随 机变 量 , 则 { X < Y} , { X ≤ Y } , { X = Y } 及
{ X≠ Y} 都属于 F;
( 2) 若 X, Y 是随机变量 , 则 X± Y 与 X Y 亦然 ;
( 3) 若{ Xn }是随机变量序列 , 则s up X n , inf X n , lim sup X n 和lim inf Xn 都
n n n→ ∞ n→ ∞

是随机变量 .
映射 X: Ω→ R d , 表示为 X = ( X1 , … , X d ) , 若对 所有的 k, 1≤ k≤ d , Xk
都是随机变量 , 则称 X 为随机向量 .
复值随机变量 Z 定义为两个实值随机变量 X 和 Y 的线性组合 X + iY .
给定随机变 量 X, 可 以 生 成 Ω 上 的 σ代 数 , 即 包 含 所 有 形 如 { X ≤ a} ,
a∈R 的最小 σ代数 , 记为 σ( X) . 类 似的 可定 义由 随机 变 量 X1 , … , X n 生 成
的σ代数σ( X1 , … , Xn ) .
在实际中 , 常用的随机变量有 两种 类型 : 离 散型 随 机变 量和 连续 型随 机
变量 .
第 1章 预备知识 5

离散型随机变量 X 的概率分布用分布列描述 :
pk = P{ X = xk } , k = 1 ,2 ,…,
其分布函数
F( x ) = ∑p
x ≤x
k
k .

连续型随机变量 X 的概率分布用概率密度 f ( x) 描述 , 其分布函数


x

F( x) = ∫ - ∞
f ( t) d t .

对于随机向量 X = ( X1 , … , X d ) , 它的 ( d 维 ) 分布函数 ( 或联合分布函数 )


定义为
F( x1 , … , xd ) = P{ X1 ≤ x1 , … , X d ≤ xd } ,
这里 d≥1 , xk ∈ R , 1 ≤ k≤ d .

定理 1 .3 若 F( x1 , … , x d ) 是联合分布函数 , 则
( 1) F( x1 , … , xd ) 对每个变量都是单调的 ;
( 2) F( x1 , … , xd ) 对每个变量都是右连续的 ;
( 3) 对 i = 1 , 2 , … , d,
lim F( x1 , … , xi , … , xd ) = 0 ,
x →- ∞
i

lim F( x1 , … , x d ) = 1 .
x , … , x →∞
1 d
d
F
如果 f ( x1 , … , xd ) = 对 所 有 的 ( x1 , … , xd ) ∈ R d 存 在 , 则 称 函 数
x1 … xd
f ( x1 , … , xd ) 为 F( x1 , … , x d ) 或 X = ( X1 , … , Xd ) 的联合密度函数 , 并且
x x

∫ ∫
1 d
F( x1 , … , x d ) = … f ( t1 , … , td ) d td … d t1 .
- ∞ - ∞

设 F( x1 , … , xd ) 为 X1 , … , X d 的联合分布函数 , 1≤ k1 < k2 < … < kn ≤ d ,


则 X1 , … , X d 的边际分布 F k1 , … , k n ( xk1 , … , xk n ) 定义为
Fk1 , … , k n ( xk1 , … , xk n )
= F( ∞ , … , ∞ , xk 1 , ∞ , … , ∞ , xk2 , ∞ , … , ∞ , xk n , ∞ , … , ∞ ) .
下面是一些常见的分布 .
离散均匀分布 如果其分布列为

pk = 1 , k = 1 , 2 , … , n,
n
则称之为离散均匀分布 .
二项分布 如果其分布列为 : 对固定的 n 和 0 < p < 1 ,
6 应用随机过程

n k n- k
pk = p ( 1 - p) , k≥ 0,
k
则称之为以 n 和 p 为参数的二项分布 .
几何分布 如果其分布列{ p k }( k≥0 ) 可表示为
k- 1
pk = p q , k≥ 1,
其中 p + q = 1 , 则称之为几何分布 .
Poisson 分布 如果其分布列{ pk } , k≥ 0 可表示为
λk - λ
pk = e , k = 0, 1,…, λ> 0 ,
k!
则称之为参数是 λ的 Poisson 分布 .
连续的均匀分布 ( 简称为均匀分布 ) 如果其密度函数为
- 1
( b - a) , 若 a ≤ x ≤ b,
f ( x) =
0, 其他 ,
其中 a < b, 则称之为区间 [ a, b] 上的均匀分布 .
正态分布 如果其密度函数为
2
1 ( x - μ)
f ( x) = ・exp - 2 , x∈ R ,
σ 2π 2σ
2
则称之为参数为 μ和σ 的正态 分布 , 也 称为 Gauss 分 布 .若随 机变量 X 服从
2
正态分布 , 则记为 X~ N(μ,σ ) .
Γ 分布 如果其密度函数为
λ α - λx
(λx ) e , x > 0,
f ( x) = Γ(α+ 1 )
0, x ≤ 0,
α> - 1 ,λ> 0 则称之为以 α,λ为参数的 Γ 分布 , 这里 Γ 函数定义为

Γ( x) = ∫e
- y
y x - 1 d y, x > 0 .
0

指数分布 如果在 Γ分布中令 α= 0 ,λ> 0 , 即密度函数为


- λx
λe , x > 0,
f ( x) =
0, x ≤ 0,
则称之为指数分布 .
2 1
χ 分布 如果在 Γ 分布中取 α= ( n - 2)/ 2 , n 是正整数 , 并且 λ= ,则
2
- 1
n n ( n-2) x
f( x) = 2 Γ
2 x 2 e- 2 , x > 0,
2
第 1章 预备知识 7

2
称为自由度是 n 的 χ 分布 .
d 维正态分布 设μ = (μ1 , … ,μd ) , Σ是 d 阶 正定对 称阵 , 并且其行 列式
为 | Σ | .如果其联合密度函数为
1
( x - μ)′Σ - 1 ( x - μ) ,
- d/ 2 - 1/ 2
f ( x1 , … , x d ) = ( 2π) | Σ| exp -
2
这里 ( x - μ)′表示向量 ( x - μ) 的转置 , 则称之为 d 维正态分布 .若随机变量 X
服从 d 维正态分布 , 则记为 X~ N (μ,Σ ) .

1 .3 数字特征、矩母函数与特征函数

随机变量完全由它的概率分布 ( 函 数 ) 描述 , 而 确定 其分 布函数 一般 说来
是相当麻烦的 .在实际问题中 , 有时只需知道随机变量的某些特征值就够了 .

1 .3 .1 数字特征

定义 1 .7 (1 ) 取值为 { sk } 的离 散型随 机变 量的数 学期 望 ( 简称 为 期望 )


E X 定义为
EX = ∑s k
k pk = ∑s
k
k P{ X = sk } ,

如果 ∑ | sk | p k < ∞ .
( 2) 连续型随机变量 X 的数学期望 E X 定义为
∞ ∞

EX = ∫ - ∞
xd F( x ) = ∫ -∞
x f ( x) d x,

如果 ∫ -∞
| x | d F( x ) < ∞ , 这里 F( x ) 是 X 的分布函数 , f ( x ) 是其密度

函数 .
( 3) 设 g: R d →R d 为 Borel 可测函数 , 即对任何 b1 , … , bd ∈R , 有
d
{ x ∈ R : g( x ) = ( g1 ( x ) , … , gd ( x ) ) , gi ( x ) ≤ bi ,
d
1 ≤ i ≤ d} ∈ B ( R ) ,
若 F( x1 , … , xd ) 是 ( X1 , … , X d ) 的联合分布函数 , 则

E[ g( X1 , … , X d ) ] = ∫ …∫ g( x , … , x
R R
1 d ) d F( x1 , … , xd ) .
k k
( 4 ) 在 ( 3 ) 中 取 g ( X1 , … , X d ) = X1 1 … X1 d , ki ≥ 0 , 1 ≤ i ≤ d , 则
k k
E( X1 1 … X d d ) 称为 ( X1 , … , X d ) 的 ( k1 , … , kd ) 阶矩 .
8 应用随机过程

( 5) X 的 k 阶中心矩 定义为 mk = ∫ ( x - μ) d F( x) , 这里μ = E X . 二


k

2
阶中心矩称为 X 的方差 , 记为 σ .
2 2
( 6) 对任何 两 个 具 有 有 限 方 差 σX 和 σY 的 随 机 变 量 X 和 Y 的 协 方 差
cov( X , Y ) , 定义为 cov( X , Y ) = E [ ( X - μX ) ( Y - μY ) ] .

1 .3 .2 Riemann-Stieltjes 积分

在 1 .3 .1 节 中 定 义 的 随 机 变 量 的 k 阶 矩 , 用 到 的 积 分 不 再 是 简 单 的
Riem ann 积 分 .我 们 必 须 将 Rie mann 积 分 推 广 到 现 在 所 用 到 的 形 式 , 即
Riem ann-Stieltjes 积分 .
设 g( x) , F( x) 为有限区间 [ a, b] 上 的实 值函 数 , a = x0 < x1 < … < xn = b
为 [ a, b] 的一个分割 , 令
ΔF( xi ) = F( xi ) - F( x i - 1 ) ,ξi ∈ [ xi - 1 , xi ] , 1 ≤ i ≤ n,λ = 1m ax ( xi - xi - 1 ) ,
≤ i≤ n

如果当 λ→0 时 , 极限
n

lim∑ g(ξi )ΔF( x i )


λ→ 0
i= 1

存在 , 且与分割的选择以 及 ξi ∈ [ x i - 1 , xi ] 的取 法无 关 , 则 称 该 极限 值 为函 数
g( x ) 关于 F( x ) 在 [ a, b] 上的 Rie mann-Stieltjes 积分 , 记为
n
b

∫ g ( x ) d F( x )
a λ→ 0 ∑
= lim g(ξi )ΔF( xi ) .
i=1
(1 .3 .1 )
b

易见, 当 F( x) = x 时, 式 (1 .3 .1 ) 成为 Riemann 积分 ∫ g( x)d x; 当 F′( x)


a
=
b

f( x) 存 在 时 , 式 (1 .3 .1 ) 成 为 Riemann 积 分 ∫ g( x ) f ( x ) d x .
a
关于

Riem ann-Stieltjes 积分存在的条件 , 这里不做更 进一步的讨论 , 只给出 一个简


单的 充 分 条 件 : 若 函 数 g( x ) 连 续 , F( x ) 单 调 , 则 Riemann-Stieltjes 积 分
( 1 .3 .1) 存在 .本书中用到的 g( x) 为连续函数 , F( x) 为分布 函数 , 因此积 分的
存在性不成问题 .为了后面的需要 , 将积分推广到无限区间上 :
+∞ b
def
∫ a
g ( x) d F( x) ∫ g ( x ) d F( x ) ,
li m
b→ + ∞ a

b d ef b

∫ - ∞
g( x ) d F( x ) ∫ g ( x) d F( x) .
li m
a→ - ∞ a

容易看出 , Riemann-Stieltjes 积分具有和 Riemann 积分类似的性质 .例如


积分的线性性质 :
第 1章 预备知识 9

b b b

∫ [αg ( x ) ±βg ( x ) ] d F( x) = ∫
a
1 α g
2
a
1

( x ) d F( x) ±β g2 ( x ) d F( x ) ;
a

积分对于区间的可加性 :
b c b

∫ g ( x) d F( x) =∫ g( x ) d F( x ) +∫g ( x) d F( x) ;
a a c

以及
b

∫d F( x )
a
= F( b) - F( a)

等 .其中 a, b 均可为有限数或无穷大 . 与 Rie mannan 积分不同的是


a a

∫ d F( x ) ∫
-
= lim+ d F( x ) = F( a) - F( a ) .
a- δ→ 0 a-δ

当 F( x) 在 x = a 处有跳跃时 , 上式的值等于 F( x) 在 a 点的跃度 .当 F( x ) 是一


个阶梯 函 数 时 , 式 ( 1 .3 .1 ) 成 为 一 个 级 数 , 即 设 F ( x ) 在 x = x i 处 有 跃 度
pi ( i = 1 , 2 , … ) , 则
+∞
+∞

∫ -∞
g( x) d F( x) = ∑ g( x ) p
i=1
i i .

利用 Riemann-Stieltjes 积分 , 我们可 以对离 散型 随机 变量和 连续 型随 机


变量的各阶矩给出一个统一的表达式 :
+∞


k k
E( X ) = x d F( x ) ,
-∞

+∞


k k
E( X - E X ) = ( x - E X ) d F( x) .
- ∞

1 .3 .3 关于概率测度的积分

随机变量 X 的矩 m k 也 可以 用概 率测 度 P 定 义 .为 此 , 首 先复 习 关于 概
率测度 P 的积分理论 .
设 ( Ω, F, P) 是 完 备 的 概 率 空 间 , Ω 上 的 只 取 有 限 个 值 的 随 机 变 量
称 为简单 函数 . 如 果存 在实数 ak , 1 ≤ k ≤ n 和 Ω的分 割 Ak ∈ F, 1 ≤ k ≤ n
n

即 ∪ 1
Ak = Ω, 且 Ai ∩ A j = , i ≠ j, 1 ≤ i, j ≤ n , 使 得 h(ω) =
n

∑aI
1
k A
k
(ω) , 则称 h 为简 单可 测函数 .这里 I A (・) 表 示集合 A 的示 性函 数 .
m

若 h 还可 以表 示为 h = ∑b I
j= 1
j B
j
, 则当 B j ∩ Ak ≠ 时 , bj = ak .

于是 , 通过将分割中的集合合并可以得到 h 的最简单表达式 , 即表达式中


10 应用随机过程

的系数 ak 互不相同 .
令 S 表示所有非负简单可测函数 h :Ω→ R + .如果 h∈ S, 则定义其关于 P
的积分为
n

∫ hd P = ∑ a P ( A )
1
k k = Eh .

由于我们可以找到 h 的最简单表达式 , 利 用概率的 可加性 可知积 分 ∫ hd P 与


n

函数 h 的不同表示 ∑ ak I A k 无关 .
k= 1

设{ hn }是 S 中的单调增加列 , h∈ S 且 h≤sup h n . 则可以证明


n

Eh = ∫ hd P ≤ s up∫ h d P =
Ω n Ω
n s up
n
E hn .

由此可得 , 如果{ gn } , n≥1 和{ hn } , n≥1 是 S 中的 单调 增加 列 , 并 且sup g n =


n

s up h n , 则sup E g n = sup Eh n .
n n n

令 S * 表示 Ω上的所有能够表示为 S 中单调增加函数列极 限的非负 函数


*
X ≥0 .即 对 任 何 的 X ∈ S , 存 在 hn ∈ S, hn 单 调 增 加 使 得 X = s up h n .则
n

s up Ehn ≥0 .我们定义 X 的积分为

∫Xd P =
Ω
sup
n
Eh n = s up
n ∫h d P .
Ω
n

X 的积分与单调增加列{ hn }的选择无关 .可以证明 , S * 是 Ω上非负随机变量


的全体 .于是 , 对任何非负随机变量都可以按上式定义其积分 .
令 X 是 Ω 上的任意随机变量 .定义
X+ = max( X, 0 ) , X - = - min( X , 0 ) .

注意 : X + ≥0 , X - ≥ 0 , X = X + - X - , 及 | X | = X + + X - . 如果 ∫X
+
dP
Ω

∫X
和 d P 至少有一个为有限数 , 我们定义 X 的积分
-

∫ X d P =∫ X ∫X
+ -
dP - dP .
Ω Ω Ω



Ω ∫
X+ d P 和
Ω
X - d P 都是有限数时 , 我们称 X 可积 .

于是 , 当随机变量 X 可积时 , 它的期望就可以定义为

EX = ∫ Xd P .Ω

这时 , 称 E X 存在 .
第 1章 预备知识 11

关于 Ω 中样本点的某种性质 Π, 如果使得 Π 不成立的点的集合的概 率是


零 , 则称 Π 几乎必然 ( almost sur ely ) 或 以 概率 1 ( wit h probabilit y one ) 成 立 ,
记为 a .s . 或 w .p .1 .
p p
用 L ( Ω) , p≥1 表示使得 E( | X | ) < ∞的随机变量 ( 等价类 ) 的全体 .

定理 1 .4 (1 ) 设 X∈ S * , 则 E X = 0 当且仅当 X = 0 a .s . .

( 2) 如果 E X 存在 , 即 ∫| X | d P < ∞ , 且 Y = X a .s ., 则 EY 存在 且

E X = EY .
( 3) 设 X 和 Y 是两个随机变量 , EY 存在 , 且 | X | ≤ | Y | , 则 E X 存在 .
( 4) 如果 E X 存在 , 则 X 几乎必然有限 , 即 | X | < ∞ , a .s . .

( 5) 如果 X 是非负整数值的 , 则 E X = ∑ P{ X
n
> n} .

*
定理 1 .5 ( Levi 单 调 收 敛 定 理 ) 令 { Xn } 是 S 中 单 调 增 加 序 列 , 则
s up X n ∈ S* , 且
n

E( sup X n ) = sup EXn .


n n

∞ ∞ ∞

因此 ∑ Xn ∈ S ∑X ∑ EX
* *
且 E n = n , 对每个序列{ Xn } S 成立 .
n= 1 n=1 n=1

*
定理 1 .6 ( Fa tou 引理 ) 对任何序列 { Xn } S ,有
E( lim inf X n ) ≤ lim inf E X n ≤ limn→ s∞up E X n ≤ E( limn→ ∞sup Xn ) .
n→ ∞ n→ ∞

定理 1 .7 ( Lebesgue 控制收敛定理 ) 令{ Xn }是 L p ( Ω) 中的序列 , 在 Ω上


p
几乎必然收敛 , Y 是 L 中的 非负 函数且 | X n | ≤ Y , " n≥ 1 .则存在 随机 变量
X , 使得当 n→∞时 , Xn (ω) → X(ω) , a .s ., X∈L p 且 E( | X n - X | p ) → 0 .

1 .3 .4 矩母函数和特征函数

在求某些随机变量的各阶矩时 , 有时用矩母函数会更方便 .

定义 1 .8 设随机变量 X 的分布函数为 F X ( x ) , 如果下述积分存在称


∫e ∫
t X t X ( ω) tx
φX ( t) = E( e ) = P( dω) = e d FX ( x ) (1 .3 .2 )
Ω - ∞

为 X 的矩母函数 .
定义中分别有两个 积 分形 式 , 你 可 以 按照 你 所熟 悉 的形 式 理解 和 计 算 .
12 应用随机过程

假设对 φ( t) 求导时 , 求导运算与求期望运算可以交换次序 , 则逐次求 φ( t) 在 0


点的导数 , 得到 X 的各阶矩 , 即
tX
φ′( t) = E( Xe ) ,
2 tX
φ″( t) = E( X e ) ,

( n) n tX
φ ( t) = E( X e ) .
令 t = 0 , 得到
( n) n
φ (0 ) = E X .
当矩母函数存在 时 , 能够 用 矩母 函 数刻 画 随机 变 量 的概 率 分布 .但有 时
随机变量的矩母函数 不一 定存 在 , 在 这 种情 况 下 , 更 方便 的 是 运用 如 下定 义
的特征函数 .

定义 1 .9 称

ψ( t) = E( ei t X ) = ∫ Ω
ei t X ( ω) P( dω) = ∫ - ∞
ei t x d FX ( x)

为 X 的特征函数 .其中 , F X 是 X 的分布函数 , 如果 F X 有密度 f , 则 ψ( t) 就是


f 的 F ourier 变换

ψ( t) = ∫ - ∞
ei t x f ( x) d x .

特征函数是一个实变量的复值函数 , 因为 | ei t x | = 1 , 所以 它对一 切实 数 t
都有定义 .显然特征函数 只与 分 布函 数 有关 , 因此 也 称之 为 某 一分 布 的特 征
函数 .特征函数有如下常用性质 .
( 1) 有界性 : | ψ( t) | ≤1 = ψ(0 ) ;
( 2) 共轭对称性 : ψ ( - t) = ψ( t) ;


i hx
( 3) 一致连续性 : | ψ( t + h) - ψ( t) | ≤ | e - 1 | d F( x ) ;
-∞

( 4) 线性变 换 的 作 用 : 设 Y = aX + b, 则 Y 的 特 征 函 数 是 ψY ( t) =
ei btψ( at ) ;
( 5) 对概率线性运算封闭 : 设{ψn } n∈ N 是特征函数序列 , {πn , n ∈ N } 是N

上的概率分布 , 则 ψ = ∑πψ 还是特征函数 ;


n=1
n n

( 6) 对有限乘 积运 算封 闭 : 设 {ψk }1 ≤ k≤ n 是 特征 函 数 , 则 ∏ ψk 还 是 特征
k= 1

函数 .
2
例 1 .2 正态分布 N(μ, σ ) 的特征函数为
第 1章 预备知识 13

∞ 2
1 ( x - μ)
f ( t) = ∫
2πσ - ∞
exp i tx -

2 dx
∞ - i tσ


1 2 2 1 2 2
σ t z2 / 2 σ t

iμt -
=e 2 e- d z = eiμt - 2 .
- ∞ - i tσ

由于这一计算要用到围道积分 , 这里就不能详细介绍了 .
特征函数的乘积对应于随机变量的独立和 : 设 { X k }1 ≤ k≤ n 是 独立的随 机变
n n

量 , 对应的特征函数为 {ψk }1 ≤ k≤ n , 则独立和 ∑ Xk 的特征函数是 ∏ψk .


k=1 k= 1

由于特征函数只与分布函数 有关 , 所以 称为 分布 的特征 函数 .另 一方 面 ,
有下述定理 .

定理 1 .8 分布函数由其特征函数惟一决定 .
对于随机向量 ( X1 , … , Xn ) , 类似地定义它的特征函数
∞ ∞

∫ …∫
i( t x + … + t x )
f ( t1 , … , tn ) = e 1 1 n n
d F( x1 , … , xn ) ,
- ∞ - ∞

这里 F( x1 , … , xn ) 是随机向量 ( X1 , … , Xn ) 的 分布 函数 .可以 证明 , 上 述定 理
对随机向量 ( X1 , … , Xn ) 的情 形仍 然成立 .特 征函 数有许 多好 的性 质 , 这里 就
不列举了 , 在许多时候应用特征函数是 很方便 的 .例如 , 我 们考 虑在 1 .2 节中
定义的 d 维正态分布 , 一般在不指明具体 维数时 , 简 称为 多元正 态分 布 .这个
定义在推导很多性质时并 不方便 , 同 时还 不能考 虑Σ不是 正定 的情 形 .为 此 ,
我们采用下面的定义 .如果随机变量 X 的特征函数为
1 t′Σ t
ψX ( t) = exp i t′μ - ,
2
则称 X 服从多元正态分布 N (μ, Σ) .其 中 X = ( X1 , … , Xc )′, ( ・ )′表 示 ( ・ )
的转置 , t = ( t1 , … , td )′,μ = (μ1 , … , μd )′, Σ是非 负定 d × d 矩 阵 . 当μ = 0 ,
Σ = Id 时 , 称为标准多元正态分布 , 记为 X~ N (0 , Id ) .
利用特征函数方法不难证明下面几个命题 :

命题 1 .1 若 X~ N (0 , Id ) , 则 X 的 任一线 性函 数 Y = An× d X + μ服从 n


维正态分布 N (μ, A A′) .

命题 1 .2 若 Y~ N (μ, Σ) , 则 AY + b~ N ( Aμ + b, AΣA′) .
14 应用随机过程

1 .4 条件概率、条件期望和独立性

1 .4 .1 条件概率

设 B 是一个事件 , 且 P( B) > 0 .定义给定 B, 事件 A 的条件概率为


P B ( A) = P( A ∩ B)/ P( B) .
易见 , 这样定义的映射 P B ( ・ ) : F→ [ 0 , 1] 是 F 上的测度且 P B ( B) = 1 , 习 惯上
记为 P( A | B) .

定理 1 .9 ( 全概率公 式 ) 设 { Bn } 是 Ω 的 一 个 分割 , 且 使 得 P ( Bn ) > 0 ,
" n .如果 A∈F, 则

P( A) = ∑ P( B
n
n ) P( A | Bn ) .

定理 1 .10( Bayes 公式 ) 设 { Bn } 是 Ω的一个 分割 , 且使得 P( Bn ) > 0 , 如


果 P( A) > 0 , 则
P( Bn ) P( A | Bn )
P( Bn | A) = , n≥ 1 .
∑ P
k
( B k ) P( A | Bk )

1 .4 .2 条件期望

设 X 是随机变量 , B 是事件且 P ( B) > 0 , 则给定事件 B, 随机变量 X 的条


件期望定义为

∫Xd P ∫ Xd P =
-1 -1
E( X | B) = B = [ P( B) ] [ P( B) ] E( XI B ) .
B

定理 1 .11 设 X 是随机变量且 E ( | X | ) < ∞ .则对每个 σ子代 数 B F,


* *
存在惟一的 ( 几乎必然相等的 意义 下 ) 随 机变 量 X , 有 E( | X | ) < ∞ , 使 得
X * 是 B 随机变量 , 即对任何的 a∈ R , 有{ X * ≤ a}∈B 并且 对所有的 B∈ B,
E( X * I B ) = E( X I B ) .称 随 机 变 量 X * 为 X 在 给 定 B 下 的 条 件 期 望 , 记 为
X * = E( X | B) .我们有

∫ E ( X | B ) d P =∫ X d P,
B B
" B∈ B .
第 1章 预备知识 15

1
定理 1 .12 ( 1) 若 X∈L , 则 E[ E( X | B) ] = E X .
( 2) 若 X 是 B 随机变量 , 则 E( X | B) = X , a .s . .
( 3) 若 X = Y , a .s .且 X∈L 1 , 则 E( X | B) = E( Y | B) , a .s . .
1
( 4) 若 a, b∈ R , X , Y∈L , 则
E[ ( aX + bY ) | B ] = aE ( X | B) + bE ( Y | B) .
1
( 5) 若 X, Y∈L 且 X≤ Y , a .s ., 则 E( X | B) ≤ E( Y | B) , a .s . .
( 6) 若 { X n } , n≥1 是非负单调增加 的随机变 量序列 , 则 E( s up X n | B) =
n

s up E ( X n | B) , a .s . .
n
1
( 7) 若{ X n }是随机变量序列 , X n (ω) → X(ω) , a .s .且存在 Y∈L ( Ω) 使得
| Xn | ≤ Y , " n, 则li m E( X n | B) = E( X | B) , a .s . .
n→ ∞

( 8) 若 B1 , B2 是两个 σ子代数 , 使得 B1 B2 F, 则
E[ E( X | B1 ) | B2 ] = E[ E( X | B2 ) | B1 ] = E( X | B1 ) , a .s .
( 9) 若 X, Y 是两个独立的随机变量 , 函数 φ( x, y ) 使得 E( | φ( X , Y ) | ) <
+ ∞, 则
E[φ( X , Y ) | Y ] = E[φ( X , y) ] | y = Y , a .s .
这里 E[φ( X , y) ] | y = Y 的意义是先将 y 视为常数 , 求得数学期望 E[φ( X , y) ] 后
再将随机变量 Y 代入到 y 的位置 .

定义 1 .10 设 f ( x1 , … , xd ) 是随 机变 量 X1 , … , X d 的 联合 密度 函数 , 则
X1 , … , X k 在给定 X k + 1 , … , X d 时的条件密度 f 1 , … , k ( u1 , … , uk | xk + 1 , … , xd )
定义为
f1 , … , k ( u1 , … , uk | xk + 1 , … , xd )
f ( u1 , … , uk , xk + 1 , … , xd )
= .
∫ …∫R R
f ( y1 , … , yk , xk + 1 , … , xd ) d y1 … d yk

1 .4 .3 独立性

定义 1 .11 ( 1 ) 设{ Ai , i∈ I} 是 F 的事 件族 , 如果 对 I 的每 个有 限子 集
{ i1 , … , i k }≠ ,有
k k

P ∩j= 1
Ai j = ∏ P( A
j =1
i
j
), (1 .4 .1 )

则称{ A i , i∈ I}关于 P 是相互独立的 .


( 2) 设 { Ai , i ∈ I} 是 F 的 σ 子 代 数 族 , 如 果 对 I 的 每 个 有 限 子 集
16 应用随机过程

{ i1 , … , i k }≠ , A i j ∈ Ai j 有式 (1 .4 .1 ) 成立 , 则称 {Ai , i∈ I}是独立的 .
( 3) 设{ X i , i∈ I}是 Ω上随机变量族 , 如果σ代数族{σ( X i ) , i∈ I} , 是独立
的 , 则称{ X i , i∈ I} 是独立的 .
容易证明 , 随机变量 X1 , … , X n 是独立的充 分必要条 件是它 们的联 合分
布函数可以分解为
F( x1 , … , xn ) = F X1 ( x1 ) … F X n ( xn ) .
n

定理 1 .13 ( 1 ) 设 X1 , … , X n 是 独 立 的 且 属 于 L , 则 E ∏X
1
k =
k=1
n

∏ EX
k=1
k .
n n

∑X ∑ var ( X
2
( 2) 设 X1 , … , X n ∈ L 是独立的 , 则 va r k = k ) .
k= 1 k= 1

定理 1 .14 ( Borel-Cant elli 第 一 引 理 ) 设 { An } , n ≥ 1 是 一 列 事 件 , 且


A = lim s up An . 若 ∑ P( An ) < ∞ , 则
n

P{ An i .o .} = P( A) = 0 .

定理 1 .15( Borel-Cant elli 第二引理 ) 如 果 { A n } 是 独立 的事 件 列 , 使 得


∑ P( A
n= 1
n ) = ∞ , 则 P{ An i .o .} = 1 .

定义 1 .12 设{ X n } , n ≥ 1 是随机变量序列 , {Bk } = σ( X k , X k+ 1 , … ) 是


由 X k , X k+ 1 , … 生成的σ代数 .则{Bn } 是非增的列 . 它们的交T = ∩ Bn 称为序
n≥ 1

列{ Xn } 的 σ尾代数 .

定理 1 .16( Kol mogorov’s 0 -1 律 ) 属于独 立随 机变 量序列 的 σ尾代 数


的任何事件的概率或为 0 或为 1 .

1 .4 .4 独立随机变量和的分布

设随机变量 X1 , X2 相互独立 , F1 ( x ) , F2 ( x ) 分别 为 它们 的分 布函 数 .令
X = X1 + X2 , 其分布函数记为 FX ( x) . 则由独立性 , 有
F X ( x ) = P{ X1 + X2 ≤ x}


= - ∞
P{ X1 + X2 ≤ x | X1 = t}d F1 ( t)
第 1章 预备知识 17


=
- ∞
F2 ( x - t) d F1 ( t)

= ( F1 * F2 ) ( x) . (1 .4 .2 )
上述第三 个 等 号 右 端 的 积 分 式 称 做 分 布 函 数 F1 ( x ) , F2 ( x ) 的 卷 积 , 记 为
( F1 * F2 ) ( x) .一般地 , 对有界函数 g( x ) 和 一个 单调 函数 F( x ) , 都可 以定 义
F( x) 与 g( x ) 的卷积 :

( F * g) ( x ) = ∫ -∞
g( x - t) d F( t) .

这里需要注意的是 F * g 的 顺序 , g * F 可 能没有 意义 .但 是当 F( x ) 和 g ( x )
都是分布函数时 , 卷积可以交 换顺序 . 这 一点 从 ( 1 .4 .2 ) 式就 可以 得到 .只 需
注意到 ( 1 .4 .2) 式中的随机变量 X1 和 X2 的地位是对等的即可得到
( F1 * F2 ) ( x) = ( F2 * F1 ) ( x) .
不但如此 , 容易看出 , 对于分布函数 , 卷积还满足结合律和分配律 .即设 F( x) ,
G( x ) , H ( x) 为分布函数 , 则有
[ ( F * G) * H ] ( x) = [ F * ( G * H ) ] ( x )

[ F * ( G + H ) ] ( x ) = ( F * G) ( x ) + ( F * H ) ( x) .
于是 , 更进一步还有 , 设 X k , k = 1 , 2 , … , n, 是独立同分布 F( x ) 的随机变量 , 令
n

S0 = 0 , Sn = ∑X
k= 1
k , n = 1 , 2 , … , Sn 的分布记作 F n ( x) , 则有

0, x < 0,
F0 ( x) =
1, x ≥ 0,
Fn ( x) = ( F * Fn - 1 ) ( x ) , n = 1 , 2 , …
Fn ( x ) 称为 F( x ) 的 n 重卷积 .

1 .5 收 敛 性

定义 1 .13 ( 1) 设 { X n , n≥1}是随机变量序列 , 若存在随机变量 X 使得


P{ω∈ Ω: X(ω) = lim X n (ω) } = 1 ,
n→ ∞

则称随机变量序列 { X n , n≥ 1} 几乎 必 然 收 敛 ( 或 以概 率 1 收 敛 ) 于 X , 记 为
X n → X , a .s . .
( 2) 设{ X n , n≥1}是随机变量序列 , 如果存在随机变量 X, 使得对任 意的
ε> 0 , 有
18 应用随机过程

lim P{ | Xn - X | ≥ ε} = 0 .
n→ ∞

P
则称随机变量序列{ Xn , n≥1} 依概率收敛于 X, 记为 X n X .
( 3) 设随机变量序列 { X n } L ( p≥1 ) , 如果存在随机变量 X∈L p , 使得
p

lim E( | X n - X | p ) = 0 ,
n→ ∞

则称随机变量序列{ Xn , n≥1} p 次平均收敛于 X ∈L p , 或称 为 p 阶矩收 敛 ;


当 p = 2 时 , 称为均方收敛 .
( 4) 设{ Fn ( x )} 是 分布 函数 列 , 如 果存 在一 个 单调 不减 函 数 F ( x ) , 使 在
F( ・ ) 的所有连续点 x 上有
li m Fn ( x ) = F( x ) ,
n→ ∞

则称{ Fn ( x) }弱收敛于 F( x ) ; 设{ X n , n≥1}是随机变量序列 , { Fn ( x) }是 其分


布函数列 , 如果{ Fn ( x ) } 弱 收敛 于 分 布 函 数 F( x ) , 则 称 { X n , n≥ 1} 依 分 布
收敛 .

定理 1 .1 7 ( 1) 若 X n → X , a .s ., 则 X n → X 依概率收敛于 X , 反之不一定
成立 .
( 2) 随机变量序列 Xn → X, a .s . 的充分必要条件是对任意的实数 ε> 0 , 有
lim P{sup | Xm - X | ≥ ε} = 0 .
n→ ∞ m≥ n

( 3) 随机变量序列 X n 依概率收敛于 X 的充分必要条件是 { Xn }的任 意子


序列都包含几乎必然收敛于 X 的子序列 .
( 4) 依 p 阶矩收敛蕴含依概率收敛 , 反之不真 .
随机变量序列的这 4 种收敛性之间的关系可以总结为下面的关系图 :
几乎必然收敛 依概率收敛 依分布收敛 ;
p 阶矩收敛 依概率收敛 依分布收敛 .
还需指出的是 , 几乎必然收敛与 p 阶矩 收敛之 间没 有蕴含 关系 . 我 们看 下面
例题 .

例 1 .3 取 Ω= (0 , 1 ] , F 为 ( 0 , 1 ] 中全 体 Borel 子 集 所构 成的 σ代 数 , P
为 Lebesgue 测度 , 我们可以构造 出两个 随机 变量 序列 , 其中 之一 是 r 阶矩 收
敛而不是几乎必然收敛的 ; 另外一个是几乎必然收敛 , 但不是 r 阶矩收敛的 .

1 1
1, ω∈ 0 , , 0, ω∈ 0 , ,
2 2
Y1 1 (ω) = 1 ; Y21 (ω) = Y2 2 =
1 1
0, ω∈ , 1 ; 1, ω∈ , 1 .
2 2
第 1章 预备知识 19

一般地 , 将 (0 , 1 ] 分成 k 个等长区间 , 并且令


i - 1 i
1, ω∈ , ,
k k
Yki = ( i = 1 , … , k; k = 1 , 2 , … ) .
i - 1 i
0, ω| , ,
k k
定义随机变量序列
X1 = Y11 , X2 = Y2 1 , X3 = Y2 2 , X4 = Y31 , X5 = Y32 , … .
对任意的 ε> 0 , 由于
r 1
E( | Y k i - 0 | ) = →0 ( k → ∞) ,
k
可见{ Xn } r 阶矩收敛 , 但是对任一固定的 ω∈Ω, 任一自然数 k, 恰有一个 i, 使
得 Y k i (ω) = 1 , 而对其余的 j 有 Y k j (ω) = 0 .由 此 知 { X n (ω)} 中 有无 穷 多个 1
及无穷多个 0 , 于是{ Xn (ω)}对每个 ω∈Ω都不收敛 .
如果取
1 1
nr , 若 ω∈ 0 , ,
n
Zn (ω) =
1
0, 若 ω| 0, ,
n
Z(ω) = 0 ( " ω∈ Ω) ,
显然 , Zn (ω) → Z(ω) ( " ω∈Ω) , 所以
Zn → Z, a .s .
1
但是 E( | Zn - Z | r ) = n・ = 1→
/ 0 .
n
第 2章
随机过程的基本概念和基本类型

2 .1 基 本概念

在概率论中学习了随 机 变量、随机 向 量 ( 即多 维 随机 变 量 ) 的知 识 , 主 要
涉及有限个随机变量 .在极限定理中 , 虽 然涉及 了无 穷多个 随机 变量 , 但 他们
之间是相互独立的 .随着 科学 技 术的 发 展和 实 际问 题 的 需要 , 我们 必 须对 一
些随机现象的变化过 程进 行研 究 , 这 就 必须 考 虑无 穷 多 个随 机 变量 ; 而且 出
发点也不是随机 变量 的 有 限个 独 立样 本 , 而 是 无穷 多 个随 机 变 量 的一 次 观
测 . 这里我们将研究的无穷多 个 ( 可能 不是 相互独 立的 ) 随机 变量 , 称 为随 机
过程 .随机过程的历史可以追溯 到 20 世 纪初 Gibb s , Boltzman 和 Poincaré 等
人在 统 计 力 学 中 的 研 究 工 作 , 以 及 后 来 Einstein , Wiener , Lévy 等 人 对
Brow n 运动的研究 .而 整个 学 科 的 理论 基 础 是 由 K olmogorov 和 Doob 奠 定
的 , 并由此开始了随机过程理论与应用研究的蓬勃发展阶段 .

定义 2 .1 随 机 过 程 是 概 率 空 间 ( Ω, F, P) 上 的 一 族 随 机 变 量 { X ( t) ,
t∈ T} , 其中 t 是参数 , 它属于某个指标集 T , T 称为参数集 .
常见的参数集有 T1 = {0 , 1 , 2 , … } 和 T2 = [ a, b] , 其中 a, b 可以 是± ∞ .
t 一般代表时间 .当 T = {0 , 1 , 2 , … } 时 称之为 随机 序列 或时 间序 列 .随机 序
列常写成{ X( n) , n≥0}或{ Xn , n = 0 , 1, …} .在数学上 , 随机 过程{ X( t,ω) , t∈ T,
ω∈Ω}是定义在 T×Ω上的二元函数 .对于固定的样本点 ω0 ∈Ω, X( t,ω0 ) 就是
定义在 T 上的一个函数 , 称为 X( t) 的一条 样本路 径或一 个样本 函数 , 而 对于
固定的时刻 t∈ T , X( t) = X( t,ω) 是概率空间 (Ω, F, P) 上的一个随机变量 .其
取值随着试验的结果而变化 , 变化有 一定的 规律 , 称 为概率 分布 .需 要指 出的
第 2章 随机过程的基本概念和基本类型 21

是当参数空间 T 不是实数集的子集 , 而是向量集合时 , 随机过程{ X( t) , t∈ T}


称为随机场 .
通常将随机过程{ X( t) , t∈ T} 解释为一个物理、自然或社 会的系统 , X ( t)
表示系统在时刻 t 所处的状态 .X( t) 的所有可能状态构成的集合为状态空 间 ,
记为 S .根据 T 及状态空间 S 的 不 同过 程可 以分 成不 同 的类 : 依 照状 态空 间
可分为连续状态和离 散状 态 ; 依 照参 数 集 , 可 分为 离 散参 数 过 程和 连 续参 数
过程 .一般如果不作说明都认为状态空间是实数集R 或R 的子集 .下面是 常见
随机过程的例子 .

例 2 .1 ( 随机 游动 ) 一个 醉 汉在 路上 行走 , 以概 率 p 前 进一 步 , 以概 率
1 - p 后退一步 ( 假定其步长相同 ) .以 X( t) 记他 t 时刻在路上的位置 , 则 X( t)
就是直线上的随机游动 .

例 2 .2 (Brow n 运动 ) 英 国 植物 学 家 Bro wn 注 意到 漂 浮 在液 面 上的 微
小粒子不断进行无规则的运动 , 这种运动后来称为 Bro wn 运动 . 它是分子大
量随机碰撞的结果 .若记 ( X( t) , Y ( t) ) 为粒子 在平面坐 标上的位 置 , 则它 是平
面上的 Brow n 运动 .

例 2 .3 ( 排队模型 ) 顾 客来 到 服务 站要 求服 务 .当 服务 站中 的服 务员 都
忙碌 , 即服务员都在为别的顾客服务 时 , 来到的 顾客 就要排 队等 候 .顾客 的到
来、每个顾客所需的服务时间都是 随机 的 , 所 以如 果用 X ( t) 表示 t 时 刻的 队
长 , 用 Y ( t) 表示 t 时刻到来的顾客所需 的等待 时间 , 则 { X ( t) , t∈ T} , { Y ( t) ,
t∈ T} 都是随机过程 .

2 .2 有限维分布与 Kolmogorov 定理

研究随机现象主要是研究其统 计规 律性 , 对于 一个 或有 限个随 机变 量来
说 , 掌握了分布函数 F( x) = P{ X≤ x} 或者它 们的联合 分布 , 就能完 全了 解随
机变量 .类似地 , 对于随机过程{ X( t) , t∈ T} , 为了 描述它的 统计特 性 , 自 然要
def
知道对于 每 个 X ( t) , t∈ T 的 分 布 函 数 F ( t, x ) P{ X ( t) ≤ x} ( 我 们 称
F( t, x ) 为随机过程{ X ( t) , t∈ T}的 一维 分布 ) , 以及 它们 的任意 n 个时 间点
的联合分布 .它不再是有 限 个 , 而 是一 族 联合 分 布 .比 如 说 , 我 们还 需 了解 随
机变量 X( t1 ) 和 X( t2 ) 的联合分布 P{ X( t1 ) ≤ x1 , X ( t2 ) ≤ x2 } , 即随 机过 程在
两个不同 时 刻 值 的 二 维 分 布 , 记 为 Ft1 , t2 ( x1 , x2 ) .一 般 地 , 对 任 意 有 限 个
22 应用随机过程

t1 , … , tn ∈ T, 我们还需定义随机过程的 n 维分布 F t1 , … , tn ( x1 , … , xn ) :
Ft1 , … , t n ( x1 , … , xn ) = P{ X( t1 ) ≤ x1 , … , X( tn ) ≤ xn } . (2 .2 .1 )
随机过程的一维分布 , 二维分布 , … , n 维分布等的全体
{ Ft1 , … , tn ( x1 , … , xn ) , t1 , … , tn ∈ T, n ≥ 1}
称为随机过程{ X( t) , t∈ T} 的有限分布 族 . 知道了 随机 过程 的有限 维分 布就
知道了{ X( t) , t∈ T} 中任意 n 个随 机变 量的 联合 分布 , 也就 掌握 了这 些随 机
变量之间的相互依赖关系 .
不难看出 , 一个随机过程的有限维分布族具有下述两个性质 :
( 1) 对称性
对 ( 1 , 2 , … , n) 的任一排列 ( j1 , j2 , … , jn ) , 有
Ft j1 , … , t jn ( x j1 , … , x j n )

= P{ X( tj1 ) ≤ xj1 , … , X( tj n ) ≤ x j n }
= P{ X( t1 ) ≤ xt1 , … , X( tn ) ≤ xt n }
= Ft1 , … , t
n
( x1 , … , xn ) .
( 2) 相容性
对于 m < n, 有
Ft1 , … , t m , t m+1 , … ,t
n
( x1 , … , x m , ∞ , … , ∞ ) = Ft1 , … , t m ( x1 , … , xm ) .
一个重 要的 结论 是下面 的 Kolmogorov 定 理 , 它是 我们 研究随 机过 程理
论的基本定理 , 由于证明比较复杂 ( 见参考文献 [ 38 ] ) , 这里从略 .

定理 2 .1 设 分布 函数族 { Ft1 , … , tn ( x1 , … , xn ) , t1 , … , tn ∈ T , n≥ 1} 满足
上述的对称性和相容性 , 则必存在一个随机过程{ X( t) , t∈ T} , 使
{ Ft1 , … , tn ( x1 , … , xn ) , t1 , … , tn ∈ T, n ≥ 1}
恰好是{ X( t) , t∈ T} 的有限维分布族 .
Kolmogorov 定理说明 , 随机 过 程的 有 限维 分 布 函数 族 是 随 机 过程 概 率
特征的完整描述 .它是证明随机过程 存在性 的有 力工 具 .但是在 实际 问题 中 ,
要知道随机过程的全 部有 限维 分 布函 数 族是 不 可 能的 , 因此 , 人们 想 到了 用
随机过程的某些数字特征来刻画随机过程 .为此我们有如下定义 .

定义 2 .2 设{ X( t) , t∈ T}是随机过程 , 如果对任意 t∈ T , E[ X( t) ] 存在 ,
则称函数 X( t) 的期望
d ef
μX ( t) E[ X( t) ]
2
为随机过程{ X( t) , t∈ T} 的均值函数 .如果对任 意 t∈ T , E[ X ( t) ] 存在 , 则称
第 2章 随机过程的基本概念和基本类型 23

随机过程{ X( t) , t∈ T} 为二阶矩过程 . 此时 , 称函数


def
γ( t1 , t2 ) E[ ( X( t1 ) - μX ( t1 ) ) ( X( t2 ) - μX ( t2 ) ) ] , t1 , t2 ∈ T
(2 .2 .2 )
为随机过程{ X( t) , t∈ T} 的协方差函数 , 称
va r[ X( t) ] = γ( t, t)
为随机过程{ X( t) , t∈ T} 的方差函数 . 而称
R X ( s, t) = E[ X( s) X( t) ] , s, t ∈ T
为自相关函数 .
由 Sch war tz 不 等 式 知 , 二 阶 矩 过 程 的 协 方 差 函 数 和 自 相 关 函 数 存 在 ,
且有
γX ( s, t) = R X ( s, t) - μX ( s)μX ( t) .
与随机变量的均值方 差类 似 , 随 机过 程的 均值 函数 μX ( t) 反 映随 机过 程
在时刻 t 的平均值 , 方差函数 var[ X( t) ] 反映的是随机过程在时刻 t 对均 值的
偏离程度 , 而协方差函数 γ( s, t) 和自 相 关函 数 R X ( s, t) 则反 映随 机过 程在 时
刻 s 和 t 时的线性相关程度 . 在某些实际问题中 , 还需要考虑两个随机过程之
间的关系 , 这时 , 我们要 引 入互 协方 差 函数 和 互相 关 函数 来 描 述它 们 之间 的
线性关系 .

定义 2 .3 设 { X( t) , t∈ T} , { Y ( t) , t∈ T}是两个二阶矩过程 , 则称
de f
γX Y ( s, t) E[ ( X( s) - μX ( s) ) ( Y ( t) - μY ( t) ) ] , s, t ∈ T
为{ X( t) , t∈ T} 和{ Y ( t) , t∈ T}的互协方差函数 ; 称
de f
R X Y ( s, t) E[ X( s) Y ( t) ]
为{ X( t) , t∈ T} 和{ Y ( t) , t∈ T}的互相关函数 .
若 γX Y ( s, t) = 0 , 则称 { X( t) , t∈ T}和{ Y ( t) , t∈ T}互不相关 .
为了便于理解 , 看下面的例子 .

例 2 .4 X( t) = X0 + tV, a≤ t≤ b, 其中 X0 和 V 是相互独立且服从 N(0 , 1)


分布的随机变量 .
由于 X0 和 V 相互独立且服从正 态 分布 , 所 以 X ( t) 也服 从正 态分 布 , 并
且 X( t1 ) , … , X( tn ) 也服从 n 维正态分布 .所以只要知 道它的一 阶矩和二 阶矩
就完全确定了它的分布 .而它的一阶矩和二阶矩是容易求得的 :
μX ( t) = E[ X( t) ] = E( X0 + tV )
= E X0 + tE V = 0 ,
24 应用随机过程

γ( t1 , t2 ) = E[ X( t1 ) X( t2 ) ]
= E[ ( X0 + t1 V ) ( X0 + t2 V) ]
= E( X20 ) + t1 t2 E( V2 )
= 1 + t1 t2 .
当然这种情形比较简单 .对于大 多数随 机过 程来说 , 却 远非 如此 .研 究它
们之间的相互依赖关 系是 本课 程 的主 要 课题 .根据 相 互 依赖 关 系的 不 同 , 人
们可以研究随机过程的不同类型 .

2 .3 随机过程的基本类型

2 .3 .1 平稳过程

有一类重要的过 程 , 它处 于 某种 平 稳状 态 , 其 主 要性 质 与 变量 之 间的 时
间间隔有关 , 与所考察的起始点无关 .这 样的过 程称 为平稳 过程 .严 格的 讲就
是下面的定义 .

定义 2 .4 如果随机过程 { X( t) , t∈ T}对任意的 t1 , … , tn ∈ T 和任 意的 h
( 使得 ti + h∈ T ) 有 , ( X( t1 + h) , … , X( tn + h) ) 与 ( X ( t1 ) , … , X( tn ) ) 具有 相同
的联合分布 , 记为
d
( X( t1 + h) , … , X( tn + h) ) ( X ( t1 ) , … , X( tn ) ) , (2 .3 .1 )
则称{ X( t) , t∈ T} 为严平稳的 .
( 2 .3 .1) 式表明 , 对于严平稳过 程而 言 , 有限维 分布 关于 时间是 平移 不变
的 . 条件 (2 .3 .1 ) 很强 , 且不容易验证 , 所 以引入另 一种所 谓的宽平 稳过 程或
二阶平稳过程 .

定义 2 .5 如果随 机过 程 { X ( t) , t∈ T} 的所 有二 阶矩 都 存在 , 并且
E[ X( t) ] = μ, 协方差函数 γ( t, s) 只与时间 差 t - s 有 关 , 则 称 { X( t) , t∈ T} 为
宽平稳过程或二阶平稳过程 .
对于宽平稳过程, 由于 γ( s, t) =γ(0 , t - s) , s, t∈R , 所以可以记为 γ( t - s) .
显然对所有 t, 有 γ( - t) = γ( t) , 即为偶函数 .所以 γ( t) 的图形是关于纵轴对称
的 .其在 0 点 的 值 就是 X ( t) 的方 差 , 即 γ( 0 ) = var ( X ( t) ) , 并 且 | γ(τ) | ≤
γ ( 0) .此外 , 可以推 得 γ(τ) 具有 非负定 性 , 即 对任意 时刻 tk 和实 数 ak , k = 1 ,
2 , … , N, 有
第 2章 随机过程的基本概念和基本类型 25

N N

∑ ∑ a a γ( t
i= 1 j= 1
i j i - tj ) ≥ 0 .

本书主要涉及这种宽平稳过程 , 所 以平 稳过程 这一 名词 就是指 满足 定义


2 .5 的宽平稳过程 .当参数 t 仅取整数值 0 , ± 1 , ± 2 , …或 0 , 1 , 2 , …时 , 则称
平稳过程为平稳序列 .

例 2 .5 ( 平稳白噪声序列 ) 设 { X n } , n = 0 , 1 , … , 为一列两 两互不相 关的


随机变量序列 , 满足 E X n = 0 , n = 0 , 1 , 2 , … , 且
0, 当 m ≠ n,
EX m X n = 2
σ, 当 m = n,
则{ Xn , n = 0 , 1 , …}为平稳的 .这是因为 协方差 函数 cov( X n , Xm ) = E( Xn X m )
只与 m - n 有关 .

例 2 .6 ( 滑动平均序列 ) 设 {εn , n = 0 , ± 1 , ±2 , …} 为一 列互不 相关 的且


有相同均值 m 和方差σ2 的随机变量序 列 .设 a1 , a2 , … , ak 为任 意 k 个实 数 .
考虑如下定义的序列
Xn = a1 εn + a2 εn - 1 + … + akεn - k + 1 , n = 0, ± 1, ± 2, …
容易看出
E X n = m( a1 + … + ak ) .
令 ξj =εj - m, 则由 εj 的两两互不相关性知 , 协方差函数
γ ( n + τ, n) = E{ [ X n - m( a1 + … + ak ) ] [ X n +τ - m( a1 + … + ak ) ]}
= E[ ( a1ξn + … + akξn - k + 1 ) ( a1ξn + τ + … + akξn +τ - k+ 1 )]
σ2 ( ak ak - τ + … + aτ+ 1 a1 ) , 若 0 ≤ τ≤ k - 1 ,
=
0, 若 τ≥ k,
即协方差函数仅与时间间隔 τ有关 . 故{ X n , n = 0 , ±1 , ±2 , … } 为平稳序列 .
考虑如下两个特殊平稳过程 :
{ Xn , n = 0 , 1, 2 , …} , 其中{ Xn } 为独立同分布随机变量序列 , E( X2n ) < ∞ ;
E Xn = m, n = 0 , 1 , 2 , … .
2
{ Yn = Y , n = 0 , 1 , 2 , …} , 其中 Y 是随机变量 , E( Y ) < ∞ .
可以用这两个过程来阐 述不 同 平稳 过程 之间 的差 异 .对 过程 { X n , n = 0 ,
1 , 2 , …} 而言 , 由大数定律知 ,
1
( X0 + X1 + … + X n - 1 )
n
以概率 1 收敛于常数 m .但对于过程{ Y n = Y , n = 0 , 1 , 2 , … }而言 ,
26 应用随机过程

1 ( Y0 + Y1 + … + Y n - 1 ) = Y ,
n
即经对时间的平均后 , 随机性没发生 任何改 变 .于是 自然产 生这 样的 问题 : 在
何种条件下 , 平稳过程对时间的平均 值可 以等于 过程 的均 值 ? 这一 问题 称为
平稳过程的遍历性问 题 .这是 平 稳过 程 研究 中 的一 个 重 要课 题 .对 于 平稳 过
程 { X n , n = 0 , 1 , 2 , … }重要的是确定它的均值 m 和它的协方差函数γ(τ) . 由
于 E X t = m, 为估计 m, 就必须对随 机过 程{ Xn , n = 0 , 1 , 2 , … }作 大量 观察 .以
^
1
X j ( t) 记第 j 次观察中时刻 t 的值 j = 1 , 2 , … , n . 由大数 定律知 , 可 以用 =
m n
( X1 ( t) + … + Xn ( t) ) 来估计 m .同样 , 为了估计协方差函数 γ(τ) , 也可以用
n ^ ^

(τ) = 1 ∑ ( Xk ( t + τ) m- ) ( X k ( t) m- )
^
γ
n k= 1
来估计 .然而对随机过程 作多 次 观察 一 般来 说 很难 做 到 .容 易 的是 作 一次 观
察 , 获得一条样本路径 , 我们希望由这一次观察来估计 m 和 γ(τ) .对于一 般的
随机过程这是不可能的 , 但是对于平 稳过程 , 只 要加 上一些 条件 , 就 可以 从一
次观察中得到 m 和 γ(τ) 的 较 好 的 估 计 , 这 就 是 遍 历 性 定 理 .为 此 引 入 下 述
定义 .

定义 2 .6 设 { X( t) , - ∞ < t < ∞ }为一平稳过程 , 若


T
1

-
X = lim X ( t) d t = m, (2 .3 .2 )
T→ ∞ 2T - T

或当参数空间为 T = Z 时 ,
N
1
2 N + 1 k∑
-
X = N→
lim∞ X ( k) = m, (2 .3 .3 )
= - N

则称{ X( t) , - ∞ < t < ∞}的均值有遍历性 . 这里的极 限是指在 均方意义 下的


极限 , 即
T 2
1
lim E
T→ ∞ 2T∫ - T
X ( t) d t - m = 0 .

如果
T
1
∫ ( X ( t) - m) ( X( t + τ) - m) d t = γ(τ) , (2 .3 .4 )
-
(τ) = lim
〗γ
T→ ∞ 2 T - T

或当参数空间为 T = Z 时 ,
N
1
N→ ∞ 2 N + 1 ∑
- (τ) = lim ( X( k) - m) ( X( k + τ) - m) = γ(τ) , (2 .3 .5 )
〗γ
k= - N

则称{ X( t) , - ∞ < t < ∞}的协 方差 有遍 历性 , 这里 的极 限同 样是指 在均 方意


第 2章 随机过程的基本概念和基本类型 27

义下的极限 . 若随机过程 ( 或随机 序列 ) 的 均值 和协 方差 函数 都具 有遍 历 性 ,


则称此随机过程有遍历性 .
在上述的定义中 , 如果 t 只取非负实数 ( 非负整数 ) 时 , 相应的积分和 求和
就限制在 [ 0 , ∞ ) 上 .例如 , 相应于 ( 2 .3 .2) 和 (2 .3 .3 ) 式的定义改为
T
1
∫ X( t) d t =
-
X = T→
lim∞ m, (2 .3 .6 )
T 0


N
1
→∞ N + 1∑
-
X = Nlim X( k) = m . (2 .3 .7 )
k=0

由遍历性的定义式 , 自然提出 问题 : 极限 是否 存在 ? 如 果存 在 , 它是 随机
变量的极限 . 那么 , 在什么条 件下 它能 等于 常数 呢 ? 下 面的 遍历 性定 理给 出
了明确的解答 .

定理 2 .2 ( 均值遍历性定理 ) (1 ) 设{ X n , n = 0 , ± 1 , ± 2 , … }是平稳序
列 , 其均值函数为 μ, 协方差函数为 γ(τ) , 则 { X n , n = 0 , ± 1 , ± 2 , … }有遍历
性的充分必要条件是
N-1
1
N→ ∞ N ∑
lim γ(τ) = 0 .
τ= 0

( 2) 设 { X t , - ∞ < t < ∞}是平稳过程 , 则它有遍历性的充分必要条件是


1 2T
τ
li m
T →∞ T ∫ 0
1 -
2T
γ(τ) dτ = 0 .

证明 由于证明 的思 路 相同 , 这 里 只 证明 连 续时 间 的均 值 遍历 性 定 理 .
-

首先 , 计算 的均值和方差 .记
X
T
1

-
X T = X ( t) d t,
2T - T

则有
- - - T
1
E
X
= E lim
T→ ∞
X
T = T→
lim E
∞ X
T = lim
T→ ∞ 2 T ∫ - T
E [ X ( t) ] d t = m,

进而
- - -
2
var (X ) = E[ (X - E ) ]
X

T 2
1
= E T→
lim∞
2T ∫ - T
( X( t) - m) d t
T 2
1
= lim
T→ ∞ 4 T
2 E
∫ - T
( X( t) - m) d t
28 应用随机过程

T T

lim∞ 1 2
= T→ ∫∫ E [ ( X( t) - m) ( X( s) - m) ] d td s
4T - T - T

T T
1
= T→
lim∞
4T
2
∫∫ γ ( t -
- T - T
s) d td s . (2 .3 .8 )

在上述积分中 , 做变换
τ = t - s,
v = t + s,
则变换的 Jacobi 行列式值为
-1
1 - 1 1
J = = .
1 1 2
积分区域变换为顶点分别在 τ轴和 v 轴上的 菱形区域 D : - 2 T≤τ± v≤2 T .
由于 γ(τ) 是偶函数 , 故 (2 .3 .8 ) 式等于
2T 2 T - |τ|
1 1 1
lim
T→ ∞ 4 T
2 ・
2 D
γ(τ) dτdv = Tlim
→∞ 8 T
2
∫ - 2T ∫
γ(τ) dτ
- ( 2 T - |τ| )
dv
2T
1
= Tlim
→∞ 4 T
2 ∫ - 2T
γ(τ) (2 T - | τ| ) dτ
2T
1
= Tlim
→∞ 2 T
2 ∫ 0
γ(τ) (2 T - τ) dτ

τ
2T
1
= Tlim
→∞ T ∫ 0
γ(τ) 1 -
2T
dτ. (2 .3 .9 )

故关于均值的遍历性定理就化为上 式极 限是否 趋于 零的问 题 .于是 由均 方收


敛的定义知这确实是等价的 , 定理结论得证 . x
由此定理可以推出一些判断平稳过程均值有遍历性的充分条件 :

推论 2 .1 ∫

- ∞
| γ(τ) | dτ< ∞ , 则均值遍历性定理成立 .

τ
证明 由于当 0≤τ≤2 T 时 , 1- γ(τ) ≤ | γ(τ) | ,
2T

1 - τ γ(τ) dτ ≤ 1
2T 2T
1
T∫ 0 T T ∫ 0
| γ(τ) | dτ

1

T ∫ 0
| γ (τ) | dτ→ 0 . x

推论 2 .2 对于平稳序列而言 , 若 γ(τ) → 0 (τ→∞ ) , 则 均值遍 历性 定理


成立 .
证明 因为当 τ→∞时 ,γ(τ) →0 , 故由 St oltz 定理知
第 2章 随机过程的基本概念和基本类型 29

N- 1
1
N→ ∞ N ∑
lim γ(τ) = Nli→m∞γ( N - 1 ) = 0 .
τ= 0

从而序列的均值有遍历性 . x
对于平稳过程{ X( t) , t∈ T} 的 协方 差函数 γ(τ) 的遍历 性定 理 , 可以 考虑
随机过程{ Yτ ( t) , - ∞ < t < ∞ } , 其中
Yτ ( t) = ( X ( t + τ) - m) ( X( t) - m) ,
-

则 E [ Yτ ( t)] =γ(τ) .由定理的证明过程可见, 均值具有遍历性等价于 var (X ) = 0 .


-

因此可以类推协方差函数 γ(τ) 具有遍历性等价于 va r〗(γ(τ) ) = 0 .于 是 有 下 面

的定理 .

定理 2 .3 ( 协方差函数遍历性定理 ) 设 { Xt , - ∞ < t < ∞} 是平 稳过 程 ,


其均值函数为零 , 则协方差函数有遍历性的充分必要条件是
τ1
2T
1
lim
T→ ∞ T ∫ 0
1 -
2T
( B(τ1 ) - γ2 (τ) ) dτ1 = 0 ,

其中
B(τ1 ) = E[ X( t + τ+ τ1 ) X( t + τ1 ) X ( t + τ) X( t) ] .
证明 略 . x

例 2 .7 设 X( t) = acos (ωt + Θ) , Θ~ U (0 , 2π) , ω≠0 , 则 { X( t) , t∈R }


的均值有遍历性 .
证明 其均值为

E[ X( t) ] = 1 ∫ acos(ωt + θ) dθ = 0,
2π 0

其协方差函数为
2
E[ X( t + τ) X( t) ] = E{ a cos[ω( t + τ) + Θ] cos(ωt + Θ) }
2 2π

= a∫ cos [ ( t + τ)ω+ θ] cos ( tω + θ) dθ


2π 0

a2 2π

= ∫ cos{cos [ ( 2 t + τ)ω + 2θ] + cosτω}dθ


4π 0

a2
= cosτω,
2
所以{ X( t) , t∈R }是平稳过程 .由于

1 - τ γ(τ) dτ= a 1 - τ cosωτdτ


2T 2 2T
1

T 0 2T 2T ∫ 0 2T
30 应用随机过程

2 2 2T

= a ・ sin2 Tω - a 2 ∫ τcosωτdτ. ( 2 .3 .10 )


2T ω 4T 0

由微分第二中值定理可知 , 存在 ξ∈ (0 , 2 T ) , 使得
2T 2T
4T
∫ τcosωτdτ = 2∫
0
T cosωτdτ ≤ ξ ω
.

将上式代入 ( 2 .3 .10 ) 式 , 再令 T→∞ , 得


τ
2T
1

T 0
1 -
2T
γ(τ) dτ→ 0 .

故由定理 2 .2 知道 , 均值遍历性成立 .
关于平稳过程进一步 探讨 , 请见 书后 所 列 其他 参 考书 [ 25 ] 和 [ 11 ] .关 于
平稳序列 , 在“时间序列”课程中有比较详细的讨论 .

2 .3 .2 独立增量过程

虽然 X( t) 之间常常不是相互独立的 , 但人们发现许多过程 的增量是 相互


独立的 , 我们称之为独立增量过程 .即 :

定义 2 .7 如 果 对 任 何 t1 , t2 , … , tn ∈ T , t1 < t2 < … < tn , 随 机 变 量


X( t2 ) - X( t1 ) , … , X( tn ) - X( tn - 1 ) 是相互独 立的 , 则 称{ X ( t) , t∈ T} 为 独立
d
增量过程 .如果对任何 t1 , t2 , 有 X( t1 + h) - X( t1 ) X ( t2 + h) - X( t2 ) , 则称
{ X( t) , t∈ T} 为平稳增量过 程 .兼有 独 立增 量和 平稳 增量 的 过程 称为 平稳 独
立增量过程 .
不难证明平稳独立增量过程 的均 值函数 一 定是 时间 t 的 线性 函数 .本 书
后面将要介绍的 P oisson 过程和 Bro wn 运动都 是这 类过程 .这两类 过程 是随
机过程理论中的两块最重要的基石 .
另外 , 重要的相依类型还有 Ma rkov 过 程 ( 链 ) 、更新 过程和 鞅等 .Ma rkov
过程是随机过程的中 心课 题之 一 , 当 然 成为 本 教材 的 一 部分 ; 更新 过 程是 运
筹学 , 排队论等管理学科 中的 重 要工 具 ; 而 鞅 是近 代 随机 过 程 理论 中 的重 要
概念 , 同时在经济 , 特别是在金融学 中有 着广泛 的应 用 .我们 将在后 面的 章节
中一一讨论 .还应当指出的是 , 这里 关于 过程的 分类 不是绝 对的 , 一 个具 体的
过程可以同时属于上述 多种 类型 .比 如 Pois son 过程 即 具有 独立 增量 又有 平
稳增量 , 它既是连续时间的 Ma rkov 链又是一类特殊的 更新过程 .参 数为 λ的
Poisson 过程{ X( t) , t∈ T} 减 去均 值函 数 后是 一个 鞅 .在 后面 的讨 论中 , 读 者
不难明白这一点 .
第 2章 随机过程的基本概念和基本类型 31

习 题
2 .1 设{ X( t) , t∈ T} 是 一、二 阶矩 存在 的随 机过 程 .试 证它 是宽 平稳 的
当且仅当 E[ X( s) ] 与 E[ X( s) X( s + t) ] 都不依赖于 s .
2 .2 设 Z1 , Z2 是独立同分布的随 机变 量 , 服从均 值为 0 ,λ为实 数 , 方差
2
为 σ 的正态分布 .求过程 { X( t) , t∈ T} , 其 中 X ( t) = Z1 cosλt + Z2 sin λt 的 均
值函数和方差函数 .它是宽平稳的吗 ?
2 .3 试证, 若 Z0 , Z1 , …为独立同分布随机变量, 定义 Xn = Z0 + Z1 + … +
Zn , 则 { Xn , n≥0} 是独立增量过程 .
2 .4 给定一个随机过程{ X( t) , t∈ T}和 任意 实数 x, 定 义另一 个随 机过
程{ Y ( t) , t∈ T} , 其中
1, X ( t) ≤ x ,
Y ( t) =
0, X ( t) > x .
试证{ Y ( t) , t∈ T} 的均值 函数 和自相 关函 数分 别为 { X ( t) , t∈ T} 的一 维和 二
维分布函数 .
2 .5 已知随机过程{ X( t) , t∈ T}的均值函数 μX ( t) 和协方差函数 γX ( t1 , t2 ) ,
设 φ( t) 是一个非随机的函数 , 试求随机过程 { Y ( t) = X ( t) + φ( t)} 的均值 函数
和协方差函数 .
2 .6 设 X( t) = sinUt , 这里 U 是 ( 0 , 2π) 上的均 匀分布 , 证 明{ X( t) , t =
1 , 2 , … } 是宽平稳但不是严平 稳过 程 ; 而 { X( t) , t≥ 0} 既不 是严 平稳 也不 是
宽平稳过程 .
2 .7 证明习题 2 .2 所定义的过程{ X( t)} 具有均 值遍历 性而不 具有 协方
差遍历性 .
第 3章
Poisson 过程

3 .1 Poisson 过程

Poisson 过程是一类重要的计数过程 , 先给出计数过程的定义 :

定义 3 .1 随机过程{ N ( t) , t≥0} 称为计数过程 , 如果 N( t) 表示从 0 到 t


时刻某一特定事件 A 发生的次数 , 它具备以下两个特点 :
( 1) N ( t) ≥ 0 且取值为整数 ;
( 2) s < t 时 , N( s) ≤ N ( t) 且 N( t) - N( s) 表示 ( s, t] 时间 内事件 A 发 生的
次数 .
计数过程在实际中有着广泛的 应用 , 只 要我们 对所 观察 的事件 出现 的次
数感兴趣 , 就可以使用计数过程来描 述 .比如 , 考虑 一段 时间 内到某 商店 购物
的顾客数或某 超 市 中等 待 结 账 的 顾客 数 , 经 过公 路 上 的 某 一 路 口 的 汽 车 数
量 , 某地区一段时间内某年龄段的死 亡人数 , 新 出生 人数 , 保 险公司 接到 的索
赔次数等 , 都可以用计数过程来作为模型加以研究 .
上一章中定义的独立增量和平稳增量是某些计数过程具有的主要性质 .
Poisson 过程是具有独立增量和平稳增量的计数过程 , 它的定义如下 :

定义 3 .2 计数过程 { N ( t) , t≥0}称为参数为 λ (λ> 0 ) 的 Poisson 过 程 ,


如果
( 1) N (0 ) = 0 ;
( 2) 过程有独立增量 ;
( 3) 对任意的 s, t≥ 0 ,
第 3章 P o isso n 过程 33

n
-λt (λt ) ,
P{ N( t + s) - N( s) = n} = e n = 0, 1, 2, … . ( 3 .1 .1)
n!
从上述定义 3 .2 ( 3 ) , 易 见 N ( t + s) - N ( s) 的分 布 不依 赖 于 s, 所 以定 义
3 .2 (3 ) 蕴含了过程的平稳增量性 . 另 外 , 由 Pois son 分 布 的 性 质 知 道 ,
E[ N( t) ] = λt, 于是可认为 λ是单位时间内发 生事 件的平 均次 数 , 一般 称 λ是
Poisson 过程的强度或速率 , 在有些著作 中它还 被称 为“ 发 生率”( 这 取决 于我
们在定义 P oisson 过程时称事件为“发 生”或“来 到”的 不 同 , 实际 上这 是没 有
实质区别的 ) .我们 前面 提 到的 计 数过 程 的 例子 中 , 有 很 多就 可 以用 Poisson
过程来考虑 , 我们来看两个更具体的例子 .

例 3 .1 ( P oisson 过程在排队论 中 的应 用 ) 在随 机 服务 系统 中排 队现 象
的研究中 , 经常用到 Poisson 过程模型 , 例如 , 到达 电话总机 的呼叫 数目 , 到达
某服务设施 ( 商场、车站、购票处等 ) 的顾客数 , 都 可以用 Poisson 过 程来描 述 .
以某火车站售 票 处 为 例 , 设 从 早 上 8 : 00 开 始 , 此 售 票 处 连 续 售 票 , 乘 客 依
10 人/ h 的平均速率到达 , 则从 9 : 00 到 10 : 00 这 1 小时 内最 多有 5 名 乘客 来
此购票的概率是多少 ? 从 10 : 00 到 11 : 00 没有人来买票的概率是多少 ?
我们用一个 Poisson 过程来描述 .设 8 : 00 为 0 时刻 , 则 9 : 00 为 1 时刻 , 参
数 λ= 10 .由 ( 3 .1 .1) 式知
5 n
( 10 × 1) ,
P{ N (2 ) - N (1 ) ≤ 5} = ∑ e - 10× 1
(3 .1 .2 )
n= 0 n!
0

× ( 10 )
- 10
P{ N (3 ) - N (2 ) = 0} = e = e - 10 . (3 .1 .3 )
0!

例 3 .2 ( 事故的发生次数及 保险 公司 接到 的 索赔 数 ) 若以 N ( t) 表示 某
公路交叉 口、矿 山、工 厂 等 场 所 在 ( 0 , t ] 时 间 内 发 生 不 幸 事 故 的 数 目 , 则
Poisson 过程就是{ N( t) , t≥ 0}的 一种 很好近 似 . 另外 , 保险 公司 接到 赔偿 请
求的次数 ( 设一次事故就导致一次索赔 ) , 向“ 3・ 15”台 的投 诉 ( 设商 品出 现质
量问题为事故 ) 等都是可以应用 Poisson 过程的模 型 .我们考虑 一种最简 单情
况 , 设保险公司每次的赔付都是 1 , 每 月平 均 4 次 接到 索 赔要 求 , 则一 年中 它
要付出的金额平均为多少 ?
设一年开始为 0 时刻 , 1 月 末为时 刻 1 , 2 月末 为时 刻 2 , … , 则年 末为 时
刻 12
n
(4 × 12 ) - 4× 12
P{ N (12) - N( 0) = n} = e . (3 .1 .4 )
n!
均值
34 应用随机过程

E[ N( 12 ) - N (0 ) ] = 4 × 12 = 48 . (3 .1 .5 )
为什么实际中有这么多的现象可以用 Pois son 过程来反 映呢 ? 其根 据是
稀有事件原理 . 我们在概率论的学习中已经知道 , Bernou lli 试验中 , 每次试验
成功的概率很小而试验的次数很多时 , 二项分布会 逼近 Poisson 分 布 .这 一想
法很自然地推广到随 机过 程情 况 .比 如 上面 提 到的 事 故 发生 的 例子 , 在很 短
的时间内发生事故的概率是很小的 , 但 假如 考虑很 多个 这样 很短的 时间 的连
接 , 事故的发生将会有一个 大致稳 定的 速率 , 这 很类 似于 Bernoulli 试 验以 及
二项分布逼近 P oisson 分布时的假定 , 我们把这些性质具体写出来 .
设{ N ( t) , t ≥0}是一个计数过程 , 它满足
( 1)′ N (0 ) = 0 ;
( 2)′ 过程有平稳独立增量 ;
( 3)′ 存在 λ > 0 , 当 h↓0 时 ,
P{ N ( t + h) - N( t) = 1} = λh + o( h) ; (3 .1 .6 )
( 4)′ 当 h↓ 0 时 ,
P{ N ( t + h) - N ( t) ≥ 2} = o( h) . (3 .1 .7 )
可以证明 , 这 4 个条件与定义 3 .2 是等 价的 , 但 在证明 之前 , 先 来粗 略地
说明一下 .
首先 , 我们把 [0 , t] 划 分 为 n 个 相 等 的 时 间区 间 , 则 由条 件 ( 4 )′可 知 , 当
n→∞时 , 在每个小区间内事件发生 2 次或 2 次以 上的概率 趋于 0 , 因此 , 事件
t
发生 1 次 的 概 率 p ≈λ ( 显 然 p 会 很 小 ) , 事 件 不 发生 的 概 率 1 - p≈
n
t
1 -λ , 这恰好是 1 次 Bernoulli 试验 .其中事件发生 1 次即为试验成功 , 不发
n
生即为失败 , 再由条 件 ( 2 )′给出 的平 稳 独立 增量 性 , N ( t) 就 相当 于 n 次独 立
Bernoulli 试 验中 试 验 成 功 的 总 次 数 , 由 Poisson 分 布 的 二 项 分 布 逼 近 可 知
N( t) 将服从参数为 λt 的 Poisson 分布 ( 定义 3 .2 (3 ) ) .
下面我们将给出严格的数学证明 :

定理 3 .1 满足上述条件 (1 )′~ ( 4)′的计数过程 { N ( t) , t≥ 0} 是 Poisson


过程 , 反过来 Pois son 过程一定满足这 4 个条件 .
证明 设计数过程{ N ( t) , t≥0}满足条件 ( 1)′~ (4 )′, 证明 它是 Poisson
过程 .可以看到 , 其实只需验证 N ( t) 服从参数为 λt 的 P oisson 分布即可 .

Pn ( t) = P{ N( t) = n} , n = 0, 1, 2,…
第 3章 P o isso n 过程 35

P( h) = P{ N( h) ≥ 1}
= P1 ( h) + P2 ( h) + …
= 1 - P0 ( h) , (3 .1 .8 )

P0 ( t + h) = P{ N ( t + h) = 0}
= P{ N ( t + h) - N( t) = 0 , N( t) = 0}
= P{ N ( t) = 0} P{ N( t + h) - N ( t) = 0} ( 独立增量性 )
= P0 ( t) P0 ( h)
= P0 ( t) (1 - λh + o( h) ) ( 条件 (3 )′, (4 )′) . (3 .1 .9 )
因此
P0 ( t + h) - P0 ( t)
= - λ P0 ( t) + o( h) , ( 3 .1 .10 )
h h
令 h→0 , 得
P′
0 ( t) = - λP0 ( t) . ( 3 .1 .11 )
解此微分方程 , 得
-λt
P0 ( t) = Ke , ( 3 .1 .12 )
其中 K 为常数 . 由 P0 ( 0) = P{ N (0 ) = 0} = 1 得 K = 1 , 故
P0 ( t) = e - λt .
同理 , 当 n≥1 时 , 有
Pn ( t + h) = P{ N ( t + h) = n}
= P{ N ( t) = n, N( t + h) - N ( t) = 0} +
P{ N ( t) = n - 1 , N ( t + h) - N ( t) = 1} +
P{ N ( t + h) = n, N( t + h) - N( t) ≥ 2}
= Pn ( t) P0 ( h) + Pn - 1 ( t) P1 ( h) + o( h)
= (1 - λh ) Pn ( t) + λh P n - 1 ( t) + o( h) . ( 3 .1 .13 )
于是
Pn ( t + h) - Pn ( t)
= - λP n ( t) + λP n - 1 ( t) + o( h) , ( 3 .1 .14 )
h
令 h→0 , 得
n ( t) = - λP n ( t) + λP n - 1 ( t) .
P′ ( 3 .1 .15 )
利用归纳法方程 ( 3 .1 .15 ) 解得
- λt (λt ) n
Pn ( t) = e = P{ N ( t) = n} . ( 3 .1 .16 )
n!
36 应用随机过程

反过来 , 证明 Pois son 过程满足条件 ( 1)′~ ( 4 )′, 只需验 证条 件 ( 3 )′, ( 4 )′


成立 .由定义 3 .2( 3) 可得
P{ N ( t + h) - N( t) = 1} = P{ N ( h) - N( 0) = 1}

- λh λh ( - λ h) n
=e = λh∑
1! n= 0 n!
= λh[ 1 - λh + o( h) ]
= λh + o( h) , ( 3 .1 .17 )
P{ N ( t + h) - N( t) ≥ 2} = P{ N ( h) - N( 0) ≥ 2}

- λh ( - λh ) n
= ∑e
n= 2 n!
= o( h) .
条件 ( 1 )′~ ( 4 )′一 般也作为 Pois son 过程的 定义 , 与定义 3 .2 相比 , 它更
容易应用到实际问题中 , 作 为判 定某 一 现象 能否 用 Poisson 过程 来刻 画的 依
据 .而我们是很难验证定义 3 .2 中 ( 3 ) 这一 Pois son 分 布的 条件 的 ( 有 时可 以
通过记录不同时刻下的 N ( t) , 来 与很 多不 同 参数 的 Poisson 分布 比较 , 但 这
是非常麻烦的事 ) , 但定义 3 .2 在理论研究中是常用的 .

例 3 .3 事件 A 的发生形成强度为λ的 Poisson 过程 { N ( t) , t≥ 0} .如果


每次事件发生时以概率 p 能够被记录下来 , 并以 M( t) 表示到 t 时刻被记 录下
来的事件总数 , 则{ M( t) , t≥0}是一个强度为 λp 的 Pois son 过程 .
事实上 , 由于每次事 件发 生 时 , 对 它的 记 录和 不 记录 都 与 其他 的 事件 能
否被记录独立 , 而且事件发生 服从 P oisson 分 布 , 所 以 M( t) 也是 具有 平稳 独
立增量的 , 故只需验证 M( t) 服从均值为 λp t 的 Poisson 分布 .即对 t > 0 , 有
m

P{ M( t) = m} = (λp t ) e - λp t . ( 3 .1 .18 )
m !
由于

P{ M( t) = m} = ∑ P{ M( t) = m | N( t) = m + n} P{ N ( t) = m + n}
n=0

∞ m+n

= ∑C p ( 1 - p) (λt ) e - λt
m m n
m+n
n=0 ( m + n) !

- λt (λp t ) m [λ(1 - p) t] n
=e ∑
n= 0 m !n !
m ∞ n
(λp t) [λ( 1 - p) t]

- λt
=e
m ! n=0 n!
第 3章 P o isso n 过程 37

m
- λt (λp t ) eλ( 1 - p) t
=e
m !
- λp t (λp t ) m
=e .
m !
结论得证 . x
利用这个例子可以证明 P oisson 过程的分解定理 , 见习题 3 .4 .

3 .2 与 Poisson 过程相联系的若干分布

首 先 给 出 Poisson 过 程 的 有 关 记 号 , 如 图 3 . 1 所 示 , P oisson 过 程
{ N ( t) , t≥ 0 } 的一条样本路径一般是跳跃度为 1 的阶梯函数 .

图 3 .1 Pois son 过程的样本路径

Tn , n = 1 , 2 , 3 , … 是第 n 次事件发生的时刻 , 规定 T0 = 0 . Xn , n = 1 , 2 , …
是第 n 次与第 n - 1 次事件发生的时间间隔 .

3 .2 .1 Xn 和 T n 的分 布

定理 3 .2 Xn , n = 1 , 2 , … 服从参数为 λ的指数分布 , 且相互独立 .


证明 首先考虑 X1 的分布 , 注意到事件{ X1 > t}等价于事件{ N( t) = 0} ,
即 ( 0 , t] 内没有事件发生 . 因此
P{ X1 > t} = P{ N( t) = 0} = e - λt , (3 .2 .1 )
从而
P{ X1 ≤ t} = 1 - e - λt .
再来看 X2 ,
P{ X2 > t | X1 = s} = P{ N ( s + t) - N ( s) = 0 | X1 = s}
38 应用随机过程

= P{ N ( s + t) - N ( s) = 0} ( 独立增量性 )
- λt
=e . (3 .2 .2 )
所以 X2 与 X1 独立 , 且都服从参数为 λ的指数分布 .重复同样的推导 , 可得定
理结论 . x
注 3 .1 定理 3 .2 的结果应该是预料之中的 , 由于 Poisson 过程有平稳独
立增量 , 过程在任何时刻都“重新开始”, 换 言之 这恰好 就是“ 无记忆”的体 现 ,
与指数分布的“ 无记忆性”是对应的 .

定理 3 .3 Tn , n = 1 , 2 , 3 , … 服从参数为 n 和λ的 Γ分布 .


n

证明 由于 Tn = ∑X,
i=1
i 而由上述定理知道 , X i 相互独立 , 且服从 同指

数分布 , 同时指数分布是 Γ分布的一种特殊情形 ( n = 1) , 由 Γ分布可加性 , 易


得 Tn 服从参数为 n 和λ的 Γ分布 , 但我们在这里用另外的方法导出 . 注意到
N( t) ≥ n Tn ≤ t
即第 n 次事 件发生在时刻 t 或之 前相当于到时刻 t 已经发生的事件数 目至少
是 n , 因此
∞ j

P{ Tn ≤ t} = P{ N ( t) ≥ n} = ∑ e - λt (λt ) .
j= n j !
对上式两端求导可得 Tn 的密度函数
∞ ∞
- λt (λt ) j - λt (λt ) j - 1
f ( t) = - ∑λe
j= n j !
+ ∑λe
j= n ( j - 1) !
- λt (λt ) n - 1
= λe
( n - 1) !
n

= λ tn - 1 e - λt . (3 .2 .3 )
Γ ( n)

定理 3 .2 给出了 P oisson 过程的又一种定义方法 :

定义 3 .3 计数过程 { N ( t) , t≥0}是参数为 λ的 Poisson 过程 , 如果 每次


事件发生的时间间隔 X1 , X2 , …相互独立 , 且服从同一参数 λ的指数分布 .
定义 3 .3 与前面定义 3 .2 等价性的证明见参考文献 [ 29 ] 或 [ 10 ] .
定义 3 .3 提供了对 Pois son 过程进行计算机模拟的方便途径 : 只需产生 n
个同指数分布的 随机数 , 将其 作为 X i , i = 1 , 2 , … 即可得到 Pois son 过程 的一
条样本路径 .
第 3章 P o isso n 过程 39

例 3 .4 设从早上 8 : 00 开始有无穷多个人排 队等候服 务 , 只有一名 服务


员 , 且每个人接受服务的 时间 是 独立 的并 服 从均 值 为 20min 的 指数 分 布 , 则
到中午 12 : 00 为 止 平均 有 多 少 人 已 经 离去 , 已 有 9 个 人 接 受 服 务 的 概 率 是
多少 ?
由所设条件可知 , 离去的人数{ N( t)}是强度为 3 的 Poisson 过程 ( 这 里以
小时为单位 ) .设 8 : 00 为零时刻 , 则
n
- 12 (12) ,
P{ N( 4) - N( 0) = n} = e (3 .2 .4 )
n!
其均值为 12 , 即到 12 : 00 为 止 , 离去 的 人平 均是 12 名 .而 有 9 个 人接 受过 服
务的概率是
9
- 12 ( 12 )
P{ N( 4) = 9} = e . (3 .2 .5 )
9!

3 .2 .2 事件发生时刻的条件分布

假设到时刻 t, Poisson 过程描述 的事 件 A 已经 发生 了 n 次 , 我们 现在 来


考虑这 n 次事件发生的时刻 T1 , T2 , … , Tn 的联合分布 .首先 , 简化 这个问 题 ,
考虑 n = 1 时的情形 , 对于 s≤ t
P{ T1 ≤ s, N ( t) = 1}
P{ T1 ≤ s | N( t) = 1} =
P{ N ( t) = 1}

= P{ A 发生在 s 时刻之前 , ( s, t] 内 A 没有发生}


P{ N( t) = 1}

= P{ N( s) = 1}・ P{ N ( t) - N( s) = 0}
P{ N( t) = 1}
λse - λs ・e - λ( t - s)
=
λte - λt
s
, = (3 .2 .6 )
t
即在已知 [ 0 , t] 内 A 只发生一次的前 提下 , A 发生 的时刻 在 [ 0 , t] 上 是均 匀分
布的 .这一结果与我们的 猜想 相符 合 , 因为 P oisson 过 程 有平 稳独 立增 量 .事
件在 [ 0 , t] 的任何相同长度的子区间内发生的概率都是相等的 .
现在来考虑 n≥2 的情况 .

定理 3 .4 在已知 N( t) = n 的条件下, 事件发生的 n 个时刻 T1 , T2 , … , Tn


的联合分布密度是
n!
f ( t1 , t2 , … , tn ) = n , 0 < t1 < t2 < … < tn . (3 .2 .7 )
t
40 应用随机过程

证明 设 0 < t1 < t2 < … < tn < tn + 1 = t .取 hi 充 分小 使 得 ti + hi < ti + 1 ,


i = 1 , 2 , … , n,
P{ ti < Ti ≤ ti + hi , i = 1 , 2 , … , n | N ( t) = n}
P{ N( ti + hi ) - N( ti ) = 1, N( ti + 1 ) - N( ti + hi ) = 0, 1 ≤ i ≤ n, N( t1 ) = 0}
=
P{ N( t) = n}
λh1 e - λh 1 … λh n e - λh n e - λ ( t - h1 - h 2 - … - h )
n
= - λt n
e (λt ) / n !
n!
= n h1 … hn .
t
故按定义 , 给定 N( t) = n 时 , ( T1 , … , Tn ) 的 n 维条件分布密度函数
P{ ti < Ti ≤ ti + hi , 1 ≤ i ≤ n | N( t) = n}
f ( t1 , … , tn ) = lim
h →0
i h1 h2 … hn
1 ≤ i≤ n

n!
= , 0 < t1 < t2 < … < tn . (3 .2 .8 )
tn

从概率论的知识我们知道 , (3 .2 .8 ) 式恰 好是 [0 , t] 区间 上服 从均 匀分 布
的 n 个相互独立随机变量 Y1 , Y2 , … , Yn 的顺序统计 量 Y ( 1 ) , Y ( 2 ) , … , Y ( n) 的联
合分布 ( 见参考文献 [ 36 ] ) , 所以直观上 , 在已知 [0 , t] 内发 生了 n 次 事件的前
提下 , 各次事件发生的时刻 T1 , T2 , … , Tn ( 不排序 ) 可看做相互独立的随 机变
量 , 且都服从 [0 , t] 上的均匀分布 .

例 3 .5 乘 客按 照强 度为 λ的 Pois son 过程 来 到某 火车 站 , 火 车 在时 刻
t 启程 , 计 算 在 ( 0 , t] 内 到 达 的 乘 客 等 待 时 间 的 总 和 的 期 望 值 , 即 要 求
N( t)

E ∑(t -
i= 1
Ti ) , 其中 T i 是第 i 个乘客来到的时刻 .

解 在 N ( t) 给定的条件下 , 取条件期望
N ( t) n

E ∑(t -
i= 1
T i ) | N ( t) = n = E ∑(t -
i=1
T i ) | N( t) = n
n

= nt - E ∑T
i=1
i | N ( t) = n . (3 .2 .9 )

由定理 3 .4 , 记 U1 , U2 , … , Un 为 n 个独立的服从 ( 0 , t] 上的均匀分布的


随机变量 , 有
n n

E ∑T i | N ( t) = n = E ∑U i = nt . ( 3 .2 .10 )
i= 1 i=1 2
第 3章 P o isso n 过程 41


n
nt nt
E ∑( ti=1
- Ti ) | N( t) = n = n t -
2
=
2
. ( 3 .2 .11 )

所以
N( t) N( t)

E ∑( t
i=1
- Ti ) = E E ∑( t
i=1
- Ti ) | N( t) = n

t
= E[ N ( t) ]
2
2
λt
= . ( 3 .2 .12 )
2

例 3 .6 考虑例 3 .3 中每次事件发生时被 记录到 的概率随 时间发生 变化


时的情况 , 设事件 A 在 s 时刻发生被记录到的概率是 P ( s) , 若以 M( t) 表示到
t 时刻被记录的事件数 , 那么它还是 Poisson 过程吗 ? 试给出 M( t) 的分布 .
解 很容易看出 M( t) 已不能形成一 个 P oisson 过程 , 因为 虽然它仍 然具
有独立增量性 , 但由于 P( s) 的影 响 , 它已 不再有 平稳 增量 性 .但可 以证 明 , 对
" t, M( t) 依然是 P oisson 分布 , 参数与 t 和 P ( s) 有关 . 实际上 , M( t) 的均值为
λt p, 其中
t
1
p =
t ∫ P( s) d s .
0
( 3 .2 .13 )

事实上 , 若对 N( t) 给定的条件下取条件期望 , 则有
P{ M( t) = m}

= ∑ P{ M( t) = m | N ( t) = m + k} P{ N ( t) = m + k}
k= 0

= ∑ P{已知 [0 , t] 中发生了 m + k 次事件 , 只有 m 件被记录} ×


k= 0

P{ N ( t) = m + k} . ( 3 .2 .14 )
由于每次事件是否被记录是独立的 , 所以 (3 .2 .1 4) 式中 P{ M( t) = m | N ( t) =
m + k} 可以看做在 m + k 次独 立试 验中有 m 次 成功 ( 被 记录 ) 和 k 次 失 败 ( 不
被记录 ) 的概率 , 故
m+ k m k
P{ M( t) = m | N( t) = m + k} = p ( 1 - p) , ( 3 .2 .15 )
m
其中 p 是每次试验成功的 概率 .由 定 理 3 .4 , 并 且已 知 事件 的发 生和 被记 录
是独立的 , 所以
42 应用随机过程

p = P{事件在 [0 , t] 内发生且被记录 | N( t) = m + k}
t

∫ P{事件在 s 时刻发生且被记录 |
= 0
N( t) = m + k}d s
t t
1 1

= 0 t
P( s) ds =
t ∫ P( s) d s,
0
( 3 .2 .16 )

从而

∑ P{ M( t)
k= 0
= m | N( t) = m + k} P{ N( t) = m + k}

m+ k (λt )
m+ k

=∑
m k - λt
p (1 - p) e
k= 0 m ( m + k) !
∞ m+k
( m + k) ! pm (1 - p) k (λt )
=∑ e - λt
k= 0 m !k ! ( m + k) !

(λt p ) m - λt (1 - p) k
e ∑
k
= (λt )
m ! k= 0 k!
(λt p ) m - λpt
= e . ( 3 .2 .17 )
m !

m

P{ M( t) = m} = (λt p ) e - λp t ,
m !
t
1
其中 p =
t ∫ P( s) d s .
0

3 .3 Poisson 过程的推广

3 .3 .1 非齐次 Poisson 过程

当 Pois son 过程的强度 λ不再是常数 , 而与时间 t 有关时 , Poisson 过程被


推广为非齐次 P oisson 过程 .一般 来说 , 非 齐次 Pois son 过程 是不具 备平 稳增
量的 ( 例如例 3 .6) .在实际中 , 非齐次 P oisson 过程也是比较常用的 .例如在考
虑设备的故障率时 , 由于设备使用年限的变化 , 出故障的 可能性会 随之变 化 ;
放射性物质的衰变速度 , 会因各 种外 部条件 的变 化而 随 之变 化 ; 昆虫 产卵 的
平均数量随年龄和季节而变化等 .在这样的情况下 , 再 用齐次 Poisson 过 程来
描述就不合适了 , 于是改用非齐次的 Pois son 过程来处理 .

定义 3 .4 计数过程 { N ( t) , t≥0} 称做强度函数为 λ( t) > 0( t≥ 0) 的非齐


第 3章 P o isso n 过程 43

次 P oisson 过程 , 如果
( 1) N (0 ) = 0 ;
( 2) 过程有独立增量 ;
( 3) P{ N( t + h) - N ( t) = 1} =λ( t) h + o( h) ;
( 4) P{ N( t + h) - N ( t) ≥2} = o( h) .
t

令 m( t) = ∫λ( s) d s, 类似于 P oisson 过程 , 非齐次 Poisson 过程有如下的


0

等价定义 .

定义 3 .5 计数过程{ N( t) , t ≥ 0} 称做强度函数为λ( t) > 0( t ≥ 0) 的非


齐次 P oisson 过程 , 若
( 1) N (0 ) = 0 ;
( 2) 过程有独立增量 ;
( 3) 对任意实数 t ≥ 0 , s ≥ 0 , N( t + s) - N ( t) 为具有参数 m( t + s) -
t+ s

m( t) = ∫ λ( u) d u 的 P oisson 分布 .
t

二者等价性的证明见参考文献 [ 25 ] .
注 3 .2 我 们 称 m( t) 为 非齐 次 Pois son 过 程 的均 值 函 数 ( 或 累积 强 度
函数 ) .
以下的定理给出了 Poisson 过程与非齐次 Poisson 过程之间的转换关系 .
实际上 , 非齐次 Pois son 过程 不 过是“ 换了 一个 时 钟来 计时”的 Poisson 过 程
( 见图 3 .2) .

定 理 3 .5 设{ N( t) , t ≥ 0} 是一个强度函数为λ( t) 的非齐次 Pois son 过


* - 1 *
程 .对任 意 t ≥ 0 , 令 N ( t) = N ( m ( t) ) , 则 { N ( t) } 是 一 个 强 度 为 1 的
Poisson 过程 .
t

证明 首先由 λ( t) > 0 知 , m( t) = ∫λ( s) d s


0
> 0 且单 调 增 加, 所 以
- 1 *
m ( t) 存在且单调增加 .为证明定理 , 只需证明{ N ( t) , t ≥ 0} 满足 3 .1 节中
的条件 ( 1) ~ ( 4) , 其中 ( 1) 、( 2) 不难由 N( t) 的相应性质继承得到 .下面 证明
它满足 ( 3) 、( 4) .
- 1
记 v( t) = m ( t) , 则
N * ( t) = N ( m- 1 ( t) ) = N( v( t) ) . (3 .3 .1 )
- 1 - 1
设 v =m ( t) , v + h′= m ( t + h) , 则由
h = m( v + h′) - m( v)
44 应用随机过程

v + h′


=
v
λ( s) d s

= λ ( v) h′+ o( h′) (3 .3 .2 )

* *

lim+ P{ N ( t + h) - N ( t) = 1}
h→ 0 h
P{ N( v + h′) - N( v) = 1}
= lim
h′→ 0 + λ( v) h′+ o( h′)
λ( v) h′+ o( h′)
= lim+ = 1, (3 .3 .3 )
h′→ 0 λ( v) h′+ o( h′)

* *
P{ N ( t + h) - N ( t) = 1} = h + o( h) .
同理可得
* *
P{ N ( t + h) - N ( t) ≥ 2} = o( h) .
所以{ N * ( t) , t≥0}是参数为 1 的 P oisson 过程 .

图 3 .2 非齐次 Poisson 过程到 Pois son 过程的时间变量的转换

注 3 .3 用此定 理可 以简化 非齐 次 Poisson 过 程的 问题 到 Poisson 过 程


中进行讨 论 .另 一 方 面 也 可 以 进 行 反 方 向 的 操 作 , 即 从 一 个 参 数 为 λ的
Poisson 过程构造一个强度函数为 λ( t) 的非齐次 Poisson 过程 .

例 3 .7 设某设备的使用期限为 10 年 , 在前 5 年内它 平均 2 .5 年需 要维
修一次 , 后 5 年 平 均 2 年 需 维 修 一 次 .试 求 它 在 使 用 期 内 只 维 修 过 一 次 的
概率 .
解 用非齐次 P oisson 过程考虑 , 强度函数
第 3章 P o isso n 过程 45

1 , 0 ≤ t ≤ 5,
2 .5
λ( t) =
1 , 5 < t ≤ 10 ,
2
10 5 10
1 1
∫ λ( t) d t =∫
m( 10 ) = 0 0 2 .5
dt + ∫ 5 2
d t = 4 .5 .

因此
1
(4 .5 ) = 9 e-
9

- 4 .5
P{ N (10) - N( 0) = 1} = e 2 .
1! 2

3 .3 .2 复合 Poisson 过程

定义 3 .6 称随机过程{ X( t) , t≥0} 为复合 Pois son 过程 , 如果对于 t≥0 ,


X( t) 可以表示为
N( t)

X( t) = ∑Y
i=1
i , (3 .3 .4 )

其中{ N ( t) , t≥0}是一个 P oisson 过程 , Y i , i = 1 , 2 , …是 一族 独立同 分布 的随


机变量 , 并且与{ N( t) , t≥ 0}也是独立的 .
容易看出 , 复合 Poisson 过 程 不 一定 是 计 数 过 程 , 但 是 当 Y i ≡ c, i = 1 ,
2 , … , c 为常数时 , 可化为 P oisson 过程 .

例 3 .8 保险 公司接 到的 索赔 次数服 从一 个 P oisson 过 程 { N ( t)} , 每 次


要求赔付的金额 Y i 都相互独立 , 且有同分 布 F, 每次 的索赔数 额与它发 生的
时刻无关 , 则 [0 , t] 时 间内 保 险公 司需 要赔 付的 总 金额 { X ( t)} 就是 一 个复 合
Poisson 过程 , 其中
N( t)

X( t) = ∑Y
i=1
i .

例 3 .9 ( 顾客成批到达的排队系统 ) 设 顾客到 达某 服务系 统的 时间 S1 ,


S2 , …形成一强度为 λ的 P oisson 过程 , 在每个时刻 Sn , n = 1 , 2 , …可以同时有
多名顾客到达 . Y n 表示在时刻 S n 到达的顾客人数 , 假定 Y n , n = 1 , 2 , … 相互
独立 , 并且与{ Sn } 也独立 , 则 在 [0 , t] 时间 内到达 服务 系统的 顾客 总人 数也 可
用一复合 P oisson 过程来描述 .
N ( t)

定理 3 .6 设 X( t) = ∑Y
i= 1
i , t ≥ 0 是 一 复 合 P oisson 过 程 , Poisson

过程{ N ( t) , t≥0}的强度为 λ, 则
46 应用随机过程

( 1) X( t) 有独立增量 ;
2
( 2) 若 E( Y i ) < + ∞ , 则
E[ X( t) ] = λt E Y1 , va r[ X( t) ] = λt E ( Y21 ) . (3 .3 .5 )
证明 ( 1) 令 0≤ t0 < t1 < t2 < … < tn , 则
N( t )
k

X( tk ) - X( tk - 1 ) =
i= N ( t
∑ k- 1
) +1
Yi , k = 1 , 2 , … , n,

由 P oisson 过程的独立增量性及 各 Y i , i = 1 , 2 , … , n 之间 的 独 立性 不 难得 出
X ( t) 的独立增量性 .
( 2) 利用矩母函数方法 , 首先有
φt ( u) = E( eu X t )

= ∑ E[ e u X t | N( t) = n] P{ N( t) = n}
n= 0


+… + Y ) - λt (λt ) n
= ∑ E[ e
u( Y
1 n
| N( t) = n] e
n= 0 n!
∞ n

= ∑ E[ e u( Y 1 + … ] e - λt (λt )
+ Y )
n

n= 0 n!

- λt (λt ) n
= ∑ E( e
uY uY
1
) … E( e n
)e
n= 0 n!
∞ n
(λt )
= ∑ [ E( e uY n - λt
1 )] e
n= 0 n!
λt uY
= e [ E( e 1
) - 1] . (3 .3 .6 )
对 ( 3 .3 .6) 式求导得
E[ X( t) ] = λt E Y1 及 var[ X( t) ] = λt E( Y21 ) . x

例 3 .10 在保险中的索赔模型中 , 设保险 公司接 到的索赔 要求是强 度为


每月 2 次的 P oisson 过程 .每次赔付服从均值为 10000 元的 正态分 布 , 则 一年
中保险公司平均的赔付额是多少 ?
解 由定理 3 .6 易得
E[ X (12) ] = 2 × 12 × 10000 = 240000 ( 元 ) .

3 .3 .3 条件 Poisson 过程

Poisson 过程描 述的是一 个有着“风 险”参数 λ的 个体发生 某一事件 的频


率 , 如果我们考虑一个总体 , 其中的 个体 存在差 异 , 比如 发生 事故的 倾向 性因
第 3章 P o isso n 过程 47

人而异 , 这时我们可以把概率分布 (3 .1 .1) 解释 为给定 λ时 , N ( t) 的 条件 分布


Pk | λ ( t) .

定义 3 .7 设随机变量 Λ> 0 , 在 Λ= λ的条件 下 , 计数 过程 { N ( t) , t≥ 0}


是参数为 λ的 Poisson 过程 .则称{ N( t) , t≥ 0}为条件 Poisson 过程 .
在风 险理论 中常 用条 件 P oisson 过 程作为 意外 事件出 现的 模型 .意 外事
件的发生是 P oisson 过程 , 但由于意外事件发生的 频率无法 预知 , 只能用 随机
变量来表示 , 但一段时间之后频率确定下来 , 这 个 P oisson 过程 就有了确 定的
参数 .
设 Λ的分布是 G, 那么随机选择一个个体在长度为 t 的时间区间内发生 n
次事件的概率为
∞ n
(λt ) d G(λ) .
∫e
- λt
P{ N ( t + s) - N( s) = n} = (3 .3 .7 )
0 n!
这是全概率公式 .
2
定理 3 .7 设 { N ( t) , t≥0}是条件 P oisson 过程 , 且 E(Λ ) < ∞ , 则
( 1) E[ N ( t) ] = tEΛ;
2
( 2) va r[ N( t) ] = t va r( Λ) + tEΛ.
证明 ( 1) E[ N ( t) ] = E{ E[ N ( t) | Λ] } = E( tΛ) = t EΛ;
2 2
( 2) var [ N( t) ] = E[ N ( t) ] - { E[ N ( t) ]}
2 2
= E{ E[ N ( t) | Λ]} - ( tEΛ)
= E[ ( Λt ) 2 + Λt ] - t2 ( EΛ) 2
= t2 var (Λ) + tEΛ . x

例 3 .11 设意外 事故 的 发 生频 率 受某 种 未 知因 素 影 响 有 两种 可 能 λ1 ,
λ2 , 且 P{Λ=λ1 } = p, P{Λ= λ2 } = 1 - p = q, 0 < p < 1 为已知 . 已知到时刻 t 已
发生了 n 次事故 .求下一次事故在 t + s 之前不 会到来 的概率 .另外 , 这个 发生
频率为 λ1 的概率是多少 ?
解 事实上 , 我们不难计算
P{( t, t + s) 内无事故 | N ( t) = n}
2

∑ P{Λ = λ} P{ N ( t)
i= 1
i = n, N( t + s) - N ( t) = 0 | Λ = λi }
= 2

∑ P{Λ = λ} P{ N ( t)
i=1
i = n, | Λ = λi }
n - λ ( s + t) n - λ ( s + t)
p(λ1 t) e 1 + ( 1 - p) (λ2 t) e 2
=
p(λ1 t) n e - λ1 t + ( 1 - p) (λ2 t) n e - λ2 t
48 应用随机过程

n - λ ( s + t) n - λ ( s + t)
pλ1 e 1 + qλ2 e 2
=
p λ1n e - λ1 t + qλ2n e - λ2 t
以及
-λ t n
pe 1 (λ1 t)
P{Λ = λ1 | N( t) = n} = -λ t n -λ t n .
pe 1 (λ1 t) + (1 - p) e 2 (λ2 t)

习 题
3 .1 一 队 同 学 顺 次 等 候 体 检 .设 每 人 体 检 所 需 要 的 时间 服 从 均 值 为
2 mi n 的指数分布并且与其 他人所 需时 间是 相互独 立的 , 则 1h 内 平均 有多 少
同学接受过体检 , 在这 1h 内最多有 40 名同学接受过体检的概率是多少 ( 设学
生非常多 , 医生不会空闲 ) ?
3 .2 在某公共汽车起点站有两路公共汽车 .乘客乘坐 1 , 2 路公共汽车的
强度分别为 λ1 ,λ2 , 当 1 路 公共汽车 有 N1 人乘坐 后出发 ; 2 路公共 汽车在 N2
人乘坐后出发 .设在 0 时刻两路公共汽车同时开始等候乘客到来 , 求 : (1 )1 路
公共汽车比 2 路公共汽车早出 发的概率表达式 ; ( 2 ) 当 N1 = N2 ,λ1 = λ2 时 , 计
算上述概率 .
3 .3 设{ Ni ( t) , t≥ 0} , i = 1 , 2 , … , n 是 n 个相 互独 立的 Pois son 过 程 ,
参数分别为 λi , i = 1 , 2 , … , n .记 T 为 全 部 n 个 过 程 中 , 第 一 个 事 件 发 生 的
时刻 .
( 1) 求 T 的分布 ;
n n

( 2) 证明 N( t) = ∑ N ( t) ,
i =1
i t ≥ 0 是 Pois son 过程 , 参数为λ = ∑λ ;
i=1
i

( 3) 求当 n 个过程 中 , 只有一 个事件发 生时 , 它是 属于 { N1 ( t) , t ≥ 0} 的


概率 .
3 .4 证明 Poisson 过程分解定理 : 对于参数为λ的 Poisson 过程 { N ( t) ,
r

t ≥ 0} , 0 < p i < 1 , ∑p
i= 1
i = 1 , i = 1 , 2 , … , r, 可 分 解 为 r 个 相 互 独 立 的

Poisson 过程 , 参数分别为 λ p i , i = 1 , 2 , … , r .
3 .5 设{ N( t) , t≥ 0}是参数 λ= 3 的 Poisson 过程 .试求
( 1) P{ N( 1) ≤ 3} ;
( 2) P{ N( 1) = 1 , N( 3) = 2} ;
( 3) P{ N( 1) ≥ 2 | N( 1) ≥1} .
3 .6 对于 Pois son 过程{ N ( t) } , 证明当 s < t 时 ,
第 3章 P o isso n 过程 49

k n - k
n s s
P{ N( s) = k | N( t) = n} = 1 - , k = 0, 1, 2, …, n .
k t t
3 .7 设 { N1 ( t) } 和 { N2 ( t) } 分 别 是 参 数 为 λ1 ,λ2 的 P oisson 过 程 , 令
X( t) = N1 ( t) - N2 ( t) , 问{ X( t) }是否为 P oisson 过程 , 为什么 ?
3 .8 计算 T1 , T2 , T3 的联合分布( 提示 T2 = T1 + X2 , T3 = X1 + X2 + X3 ) .
3 .9 对 s > 0 , 试计算 E[ N ( t) ・ N( t + s) ] .
3 .1 0 设某医院专家门诊 , 从早上 8 : 00 开 始就 已有无 数患 者等 候 , 而每
次专家只能为一名患者服务 , 服务的平均时间为 20min , 且每名 患者的服 务时
间是独立的指数分布 .则 8 : 00 到 12 : 00 门诊结束时接受过治疗的患者平均在
医院停留了多长时间 .
3 .1 1 { N ( t) , t≥ 0} 是 强 度 函 数 为 λ( t ) 的 非 齐 次 Pois son 过 程 , X1 ,
X2 , … 是事件之间的间隔时间 , 问 :
( 1) 诸 Xi 是否独立 ?
( 2) 诸 Xi 是否同分布 ?
3 .1 2 设每天过某路口的车辆数为 : 早上 7 : 00 ~8 : 00 , 11 : 00 ~12 : 00 为
平均每分钟 2 辆 , 其他时间平均每分钟 1 辆 .则 早上 7 : 30 到 中午 11 : 20 平均
有多少辆汽车经过此路口 , 这段时间 经过路 口的 车辆数 超过 500 辆 的概 率是
多少 ?
3 .13 [ 0 , t] 时 间 内 某 系 统 受 到 冲 击 的 次 数 N ( t) , 形 成 参 数 为 λ
的 P ois son 过 程 .每 次 冲击 造 成 的 损 害 Y i , i = 1 , 2 , … , n 独 立 同指 数 分 布 ,
均 值 为 μ.设 损 害 会 积 累 , 当 总 损 害 超 过 一 定 极 限 A 时 , 系 统 将 终 止 运 行 .
以 T 记 系 统 运 行 的 时 间 ( 寿 命 ) , 试 求 系 统 的 平 均 寿 命 ET

提示 : 对于非负随机变量 , E T = ∫ P{ T >
0
t}d t .
第 4章
更新过程

4 .1 更新过程定义及若干分布

4 .1 .1 更新过程的定义

从第 3 章我们了解 到 P oisson 过程 是事 件发生 的 时间 间隔 X1 , X2 , … 服


从同一指数分布的计数过程 ( 这里仍然 延用 上一章 的有 关记 号 ) , 现 在将 其做
以下推广 : 保留 X1 , X2 , …的独立性和同分布性 , 但是分 布可以任 意 , 而 不必
局限为指数分布 , 这样得到的计数过程叫做更新过程 .

定义 4 .1 设 { X n , n = 1 , 2 , …}是一串独立同 分布的 非负随机 变量 , 分布


函数为 F( x ) ( 为了避免平凡的情况 , 设 F( 0) = P{ X n = 0} ≠1 , 记 μ = E X n =
∞ n

∫ xd F( x ) , 则 0
0
< μ≤ ∞ ) .令 Tn = ∑X,
i=1
i n≥1 , T0 = 0 .我们把由

N ( t) = s up{ n: Tn ≤ t} (4 .1 .1 )
定义的计数过程称为更新过程 .
更新过程的一个典型例子是 机器 零件 的更 换 . 在 0 时刻 , 安 装上 一个 新
零件并开始运行 , 设此零件 在 X1 时 刻 损坏 , 马 上用 一 个新 的来 替换 ( 假定 替
换不需要时间 ) , 则第二个 零件 在 X1 时刻 开始运 行 , 设它 在 X2 时 刻损 坏 , 同
样马上换第三 个 , …… 很 自 然 可 以认 为 这 些 零 件 的 使 用 寿 命 是 独 立 同 分 布
的 , 那么到 t 时刻为止所更换的零件数目就构成一个更新过程 .
在更新过程中我 们将 事 件 发生 一 次叫 做 一次 更 新 , 从 而 定 义 4. 1 中 X n
就是第 n - 1 次和第 n 次更 新 相距 的 时间 , T n 是 第 n 次 更新 发 生的 时 刻 , 而
第 4章 更新过程 51

N( t) 就是 t 时刻之前发生的总的更新次数 .

4 .1 .2 N( t) 的分布及 E[ N( t ) ] 的一些性质

我们首先 要 回 答 的 是 在 有 限 时 间 [ 0 , t ] 内 是 否 会 发 生 无 穷 多 次 更 新
( N ( t) = ∞ ) .答案是不会发生这种情况的概率为 1 , 由强大数定律知道
n

∑X
i=1
i
Tn
= →μ (4 .1 .2 )
n n
以概率 1 成立 .而 μ > 0 , 所以当 n→∞时 , Tn →∞ , 也就是说无穷多次更新只
可能在无限长的时间 内发 生 .于 是有 限 时间 内 最多 只 能 发生 有 限次 更 新 .这
也说明了 N ( t) < ∞的概率为 1 .
下面我们来看 N ( t) 的具体分布 , 注意到
N ( t) ≥ n Tn ≤ t, (4 .1 .3 )
所以
P{ N ( t) = n} = P{ N( t) ≥ n} - P{ N( t) ≥ n + 1}
= P{ Tn ≤ t} - P{ Tn + 1 ≤ t}
n n +1

= P ∑X
i=1
i ≤ t - P ∑X
i=1
i ≤ t . (4 .1 .4 )

以 Fn 记 T n 的分布 , 则 Fn 是 F 的 n 重卷积 , 因此
P{ N ( t) = n} = Fn ( t) - Fn + 1 ( t) . (4 .1 .5 )
更新理论的大部分内 容是 有关 E[ N ( t) ] 的性质 的 .以 M( t) 记 E[ N ( t) ]
并称之为更新函数 , 要注意 , M( t) 是关于 t 的函数而不是随机变量 .

定理 4 .1

M( t) = ∑F
n= 1
n ( t) .

证明 由定义可得
M( t) = E[ N ( t) ]

= ∑ nP{ N( t) = n}
n= 1

= ∑ n[ P{ N ( t) ≥ n} - P{ N( t) ≥ n + 1}]
n= 1

= ∑ P{ N( t) ≥ n}
n= 1
52 应用随机过程

= ∑ P{ Tn ≤ t}
n= 1

= ∑ Fn ( t) . (4 .1 .6 )
n= 1

定理 4 .2 M( t) 是 t 的不减函数 , 且对 0≤ t < + ∞ , M( t) < + ∞ .


证明 由于 N ( t) 是关于 t 不减的 , 故 M( t) 也是 不减 的 , 下面 证 明 M( t)
的有限性 .
由假设 F( 0) < 1 , 即 P{ Xn = 0} < 1( 或 P{ Xn > 0} > 0 ) , 则 存在 a > 0 , 使
得 P{ X n ≥ a} > 0 . 从而 P{ Xn < a} < 1 , 而
F( a) = P{ Xn ≤ a} = P{ X n < a} + P{ Xn = a} . (4 .1 .7 )
为了避免 P{ X n = a} = P{ Xn ≥ a} 造成 的 F( a) = P{ X n < a} + P{ X n ≥ a} = 1
的情况 , 不妨取 0 < b < a, 显然
F( b) ≤ P{ Xn < a} < 1 . (4 .1 .8 )
又对任意固定的 t, 恒能选定正整数 k, 使 kb≥ t, 所以
c
{ T k ≤ t} { T k ≤ kb} { X1 > b, X2 > b, … , Xk > b} . (4 .1 .9 )
于是
P{ T k ≤ t} ≤1 - P{ X1 > b, X2 > b, … , X k > b}
k
= 1 - [ 1 - F( b) ]
= 1 - β, ( 4 .1 .10 )
这里 β= [1 - F( b) ] k > 0 . 又因为
{ T m k ≤ t} { T k - T0 ≤ t, T2 k - T k ≤ t, … , T m k - T( m - 1 ) k ≤ t} ,
( 4 .1 .11 )
及更新区间独立同分布 , 所以有
m
P{ T k - T0 ≤ t, T2 k - T k ≤ t, … , T m k - T ( m - 1 ) k ≤ t} = [ P{ T k ≤ t}] .
( 4 .1 .12 )
由 ( 4 .1 .11 ) 和 ( 4 .1 .12 ) 式 , 可得
P{ T m k ≤ t} ≤ [ P{ T k ≤ t}] m ≤ ( 1 - β) m . ( 4 .1 .13 )
对任意整数 j≥ 0 , 有
{ T m k + j ≤ t} { T m k ≤ t} , ( 4 .1 .14 )
所以
( m+ 1 ) k - 1


n= mk
P{ Tn ≤ t} ≤ kP{ T m k ≤ t} . ( 4 .1 .15 )
第 4章 更新过程 53

综上可得

M( t) = ∑ Fn ( t)
n= 1

= ∑ P{ Tn ≤ t}
n= 1

k -1 ∞

= ∑ P{ Tn ≤ t} + ∑ P{ T n ≤ t}
n= 1 n= k

k -1 ∞

≤ ∑ P{ Tn ≤ t} + ∑ kP{ T mk ≤ t}
n= 1 m= 1

k -1 ∞

≤ ∑ P{ Tn ≤ t} + ∑ k(1
m
- β)
n= 1 m= 1

k -1

= ∑ P{ Tn ≤ t} + k < ∞ . x
n= 1 β

例 4 .1 考虑一个 时间离散的计数 过程{ N j , j = 1 , 2 , …} , 在每 个时刻独


立地做 Be rnoulli 试验 , 设成功的概率为 p, 失败的概率为 q = 1 - p . 以试 验成
功作为事件 ( 更新 ) , 则此过程是更新过程 , 求它的更新函数 M( k) .
解 首先 , 易知更新的时间间隔为独立的同几何分布
P{ X i = n} = qn - 1 p , i = 1, 2, …, n = 1, 2, … ( 4 .1 .16 )
r

则第 r 次成功 ( 更新 ) 发生的时刻 Tr = ∑X ,i =1
i 具有负二项分布

n - 1 n- r r
P{ T r = n} = q p . ( 4 .1 .17 )
r - 1
由此 , 有
P{ N m = r} = P{ T r ≤ m} - P{ T r + 1 ≤ m}
m m
n - 1 n - 1
=∑ ∑
n- r r n - r-1 r+ 1
q p - q p ( 4 .1 .18 )
n= r r - 1 n = r+ 1 r - 1
所以 , 更新函数
k

M( k) = ∑ rP{ N
r= 0
k = r} . ( 4 .1 .19 )
54 应用随机过程

4 .2 更新方程及其应用

4 .2 .1 更新方程

在上一节中 , 我们引入了更新函数 M( t) 这一重要概念 .在 M( t) 导数 存在


的条件下 , 其导数 M′( t) 称为更新密度 , 记为 m( t) . 由 M( t) = ∑F


n= 1
n ( t) 两边

求导得

m( t) = ∑fn= 1
n ( t) , (4 .2 .1 )

其中 f n ( t) 是 Fn ( t) 的密度函数 .

定理 4 .3 M( t) 和 m( t) 分别满足积分方程
t

M( t) = F( t) + ∫ M( t -
0
s) d F( s) , (4 .2 .2 )
t

m( t) = f ( t) + ∫ m( t -0
s) f ( s) d s, (4 .2 .3 )

其中 f ( t) = F′( t) .
证明 首先证明 ( 4 .2 .2) 式 .由定义可得
∞ ∞

M( t) = ∑ Fn ( t) = F( t) + ∑F n ( t)
n= 1 n= 2

= F( t) + ∑F
n= 2
n- 1 ( t) * F( t)

= F( t) + ∑F
n= 1
n ( t) * F( t)

= F( t) + M( t) * F( t) , (4 .2 .4 )
t

由卷 积 定 义 知 , M( t) * F( t) = ∫ M( t
0
- s) d F( s) , 从 而 式 ( 4 .2 .2 ) 得 证 .

式 ( 4 .2 .3) 由式 (4 .2 .2 ) 两边取导数可得 .

定义 4 .2 ( 更新方程 ) 称如下形式的积分方程为更新方程 :
t

K( t) = H ( t) + ∫ K( t -0
s) d F( s) , (4 .2 .5 )

其中 H ( t) , F( t) 为已知 , 且当 t < 0 时 H ( t) , F( t) 均为 0 .当 H ( t) 在任 何区间


第 4章 更新过程 55

上有界时 , 称方程 (4 .2 .5 ) 为适定 ( proper ) 更新方程 , 简称为更新方程 .


可见方程 ( 4 .2 .2) 、( 4 .2 .3 ) 是 更新 方程 中 比较 特 殊 的形 式 .下 面 来讨 论
更新方程 ( 4 .2 .5) 的解的情况 .

定理 4 .4 设更新方程 (4 .2 .5 ) 中 H ( t) 为有 界函 数 , 则 方程 存在 惟一 的
在有限区间内有界的解
t

K( t) = H ( t) + ∫ H( t -
0
s) d M( s) , (4 .2 .6 )

其中 M( t) = ∑F
n=1
n ( t) 是分布函数 F( t) 的更新函数 .

在证明定理之前我们先列 出卷积 的 一些 性质 : 假 设 B( t) 是 单调 增加 的
右连续函数 , B( 0) = 0 .C( t) , C1 ( t) , C2 ( t) 为光滑有界函数 ( 注 : 这些条 件可
以保证卷积有定义 ) , 则有
( 1) 0max | ( B * C) ( t) | ≤0m ax | C( t) | ・ B( T ) ;
≤ t≤ T ≤ t≤ T

( 2) ( B * C) ( t) + ( B * C2 ) ( t) = [ B * ( C1 + C2 ) ] ( t) ;
( 3) [ B1 * ( B2 * C) ] ( t) = [ ( B1 * B2 ) * C] ( t) .
下面给出定理证明 .
证明 我们先证式 ( 4 .2 .6) 确实是方程 ( 4 .2 .5 ) 的解 , 并 且满足 有界 性条
件 .由 H ( t) 有界 , M( t) 是更新函数 , 根据定理 4 .2 .2 , 可知 M( t) 有 界不减 , 所
以对任何的 T > 0 , 由式 ( 4 .2 .6) 有
T

sup | K( t) | ≤0 s≤up
0 ≤ t≤ T t≤ T
| H ( t) | + ∫ 0
sup H ( T - s) d M( s)
0 ≤ s≤ T

≤0 s≤up | H ( t) | [ 1 + M( T) ] < ∞ , (4 .2 .7 )
t≤ T

所以在有界区间上 K ( t) 是有界的 .
再来看它是否满足方程 ( 4 .2 .5) .由式 ( 4 .2 .6) 有
K( t) = H ( t) + ( M * H ) ( t)

= H ( t) + ∑F
n= 1
n * H ( t)

= H ( t) + ( F * H ) ( t) + ∑F
n= 2
n * H ( t)

= H ( t) + ( F * H ) ( t) + ∑( F
n= 2
n- 1 * F) * H ( t)

= H ( t) + F* H + ∑F n=1
n * H ( t)
56 应用随机过程

= H ( t) + ( F * K ) ( t)
t

= H ( t) + ∫ K( t - 0
s) d F( s) .

最后要证惟一性 , 只需证 明方 程 (4 .2 .5 ) 的 任 何解 都有 式 ( 4 .2 .6 ) 的 形 式 .设
K

( t) 是方程 ( 4 .2 .5) 的解 , 并且满足有界性条件 , 则由




K ( t) = H ( t) + ( F *K ) ( t) (4 .2 .8 )

连续代换 ( t) , 有
K


K ( t) = H ( t) + [ F * ( H + F *K ) ] ( t)

= H ( t) + ( F * H ) ( t) + [ F * ( F *K ) ] ( t)

= H ( t) + ( F * H ) ( t) + ( F2 *K ) ( t)

= H ( t) + ( F * H ) ( t) + [ F2 * ( H + F *K ) ] ( t)

= H ( t) + ( F * H ) ( t) + ( F2 * H ) ( t) + ( F3 *K ) ( t)


n- 1 ~

= H ( t) + ∑F
k= 1
k * H ( t) + ( Fn *K ) ( t) .

注意到对任何 t,
~ t

| ( Fn *K ) ( t) | = ∫(t -~
0
K
x ) d Fn ( x )

≤ sup | ( t - x) | ・ Fn ( t) , (4 .2 .9 )
0 ≤ x≤ t K

由假定 0 ≤sup | ( t - x) | < ∞ 并且 M( t) =


x≤ t K ∑F
n= 1
n ( t) < ∞ 知 ,

lim Fn ( t) = 0 , " t, ( 4 .2 .10 )


n→ ∞

从而

lim | ( Fn *K ) ( t) | = 0 .
n→ ∞


n- 1 ∞

lim
n→ ∞ ∑( F
k= 1
k * H ) ( t) = ∑F
k= 1
k * H ( t)
第 4章 更新过程 57

= ( M * H ) ( t) , ( 4 .2 .11 )
于是推出
n- 1

∑( F

K ( t) = H ( t) + n→
lim k * H ) ( t) + ( Fn *K ) ( t)

k= 1

= H ( t) + ( M * H ) ( t) , ( 4 .2 .12 )
与式 ( 4 .2 .6) 一致 . x

例 4 .2 ( Wald 等式 ) 设 E X i < ∞ , i = 1 , 2 , … , 证明
E( T N ( t) + 1 ) = E( X1 + X2 + … + X N ( t ) + 1 ) = E X 1 E[ N ( t) + 1] .
证明 对第一次更新的时刻 X1 取条件
x, 若 x > t,
E( T N( t) + 1 | X1 = x ) = ( 4 .2 .13 )
x + E( T N ( t - x ) + 1 ) , 若 x ≤ t,
如图 4 .1 .

图 4 .1 例 4 .2 图示

记 K ( t) = E( T N ( t + 1 ) ) , 则
K( t) = E( T N( t) + 1 ) = E E( T N ( t) + 1 | X1 = x)


= E( T
0
N ( t) + 1 | X1 = x) d F( x)
t ∞


= [x+
0
K( t - x ) ] d F( x) + ∫ xd F( x )
t

= E X1 + ∫ K( t -
0
x ) d F( x ) . ( 4 .2 .14 )

这是更新方程 , 由定理 4 .4 知
t

K ( t) = E X 1 + ∫ EX 0
1 d M( x )

= E X 1 ・ [1 + M( t) ]
58 应用随机过程

= E X1 ・ ( E[ N( t) + 1 ] ) .
注 4 .1 这里给出的 Wald 等式的 证明 仅仅是 为了 给出 更新定 理的 一个
应用 , 事实上利用独立性也可以直接得到其证明 ( 见参考文献 [ 33 ] ) .

4 .2 .2 更新方程在人口学中的一 个应用

考虑一个确定 性 的 人 口 模 型 : B ( t) 表 示 在 时 刻 t 女 婴 的 出 生 率 , 即 在
[ t, t + d t] 时间内有 B( t) d t 个女婴出生 .已知过去的 B( t) ( t≤ 0 ) , 要预测 未来
的 B( t) ( t > 0) , 为此假定生存函数 S( x ) ( 指 一个新 生女婴能 够活到 年龄 x 的
概率 ) 及生育的年龄强度 β( x) ( x > 0 ) ( 指年龄为 x 的母亲生育女婴的速率 , 即
β( x) d t 为这个母亲在长度为 d t 的时间区间内生下的女婴数 ) 已知 .
在时刻 t, 有 B( t - x) S( x) d x 个 女性 的年龄 在 x 到 x + d x 之间 ( 指 x 年
前出 生的 女 婴 存活 到 x 年 后 的人 数 ) , 在 此 时刻 , 单 位时 间 内该 群 体 将生 育
B( t - s) S( x )β( x) d x 个女婴 .由此每单位时 间内 由所 有 育龄 段的 女性 所生 育
的女婴数应为

B( t) = ∫ B( t -
0
x ) S( x)β( x) d x . ( 4 .2 .15 )

根据过去与未来的生育情况 , 将上述积分分成两段
∞ t


B( t) =
t
B ( t - x ) S( x )β( x) d x + ∫ B( t -
0
x) S( x)β( x) d x,

( 4 .2 .16 )
这是一 个 形 如 式 ( 4 .2 .5 ) 的 更 新 方 程, 其 中 f ( x ) = S ( x ) β( x ) , H( t) =

∫ B( t -
t
x) S( x )β( x ) d x . 做变量替换 x = y + t, 得

∫ B( -
H ( t) = 0
y ) S( y + t)β( y + t) d y . ( 4 .2 .17 )

注意 , H ( t) d t 是由年龄为 t 或更大的女性在时 间 [ t, t + d t] 之间生育 的女


婴数 , 此外 , 每一个新生的女婴将期待在年龄 x 与 x + d x 之间生育 f ( x) d x 个
女婴 .于 是 , 每 一 新生 女 婴 在死 亡 或生 存 到年 龄 x 之 前 ( 不 论哪 种 情 况先 发
x

生 ) 将期待生育 F( x ) = ∫ f ( t) d t 个女婴 , 从而在她一生中将期待生育 F( ∞ )


0

个女婴 .
若 F( ∞ ) > 1 , 可以解得 B( t) ~ Ce - , t→∞ ( 解的 过程略 ) , 其中 C 为常
Rt

数 , R 满足方程
第 4章 更新过程 59

∫e
Ry
S ( y)β( y) d y = 1 , ( 4 .2 .18 )
0

即出生率 ( 以及具有此速率的人群 ) 将以渐近指数增长 .


若 F( ∞ ) < 1 , k > 0 , B( t) 渐近指数地趋于 0 , 也就是说人群最 终要消 亡 ,
只有当 F( ∞ ) = 1 时 , 出生率将最终趋于一个有限的正数 .

4 .3 更 新定理

在本节中我们 将 介 绍 三 个 重 要 的 更 新 定 理 , 它 们 是 更 新 理 论 的 基 本 结
论 , 有着广泛的应用 ( 比如 4 .2 节中的人口学模型 .另外 , 在破产理论中它们也
有着重要的应用 , 关于破产概率的渐近公式就由此得来 ) .
在第 3 章中 我们已 经知 道 , 强度 为 λ的 Poisson 过程的 两次 事件 发生 的
时间间隔 X n 服从参数为λ的指数分布 , 且其更新函数 M( t) = E[ N( t) ] = λt,
于是
M( t) 1
= λ= . (4 .3 .1 )
t EX n
那么 , 对于一般的更新过程是否还有这 种性 质呢 ? Felle r 的 初等更 新定 理就
t→∞时的极限情况给出了肯定的回答 .

定理 4 .5 ( Feller 初等更新定理 ) 记 μ= E X n , 则
M( t) 1 1
→ ( t → ∞) , 若 μ = ∞, = 0 . (4 .3 .2 )
t μ μ
证明 首先假设 μ < ∞ , 显然
T N ( t) + 1 > t . (4 .3 .3 )
两边取期望 , 利用例 4 .2 的结论得
μ[ M( t) + 1] > t, (4 .3 .4 )

M( t) 1 1
> - , (4 .3 .5 )
t μ t
从而推出
M( t) 1
lim inf ≥ . (4 .3 .6 )
t→ ∞ t μ
另一方面 , 固定常数 M , 令
Xn , Xn ≤ M,
X nc = (4 .3 .7 )
M, Xn > M,
60 应用随机过程

c
以 X n , n = 1 , 2 , … 确定一个新的更新过程 .令
n

T = ∑ Xi ,
c c
n
i= 1

N ( t) c = s up{ n: T cn ≤ t} ,
c
由于 X n ≤ M, 则
c
T N c ( t) + 1 ≤ t + M . (4 .3 .8 )
再利用例 4 .2 , 得
c
[ M( t) + 1] ・μM ≤ t + M, (4 .3 .9 )
c c c
其中 μM = E( X n ) , M( t) = E[ N( t) ] , 由 (4 .3 .9 ) 式得
c
M( t) ≤ 1 - 1 , ( 4 .3 .10 )
t+ M μM t+ M
从而
M( t) c 1
limt→ ∞s up ≤ . ( 4 .3 .11 )
t μM
c c c c
又因为 X n ≤ Xn , 得 T n ≤ Tn , N( t) ≥ N( t) , M( t) ≥ M( t) , 于是
M( t) 1
limt→ ∞sup ≤ . ( 4 .3 .12 )
t μM
令 M→∞ , 有 Xnc → Xn , E( Xnc ) → E X n , 即
μM → μ,
所以

limt→ ∞sup M( t) ≤ 1 . ( 4 .3 .13 )


t μ
由式 ( 4 .3 .6) 和式 (4 .3 .1 3) 得定理结论 .
当 μ= ∞时 , 再考虑由 Xnc 确定的过程 .当 M→∞时 ,μ→∞ .由式 ( 4 .3 .12 )
可知结论成立 . x
t
当 μ< ∞时 , 上述结论可以看 做当 t→ ∞ 时 , M( t) ~ .很自 然 , 我们 会
μ
猜想当 t→∞时 , 对于任意一个 h, 是否有
t+ h t
M( t + h) - M( t) → h = - , ( 4 .3 .14 )
μ μ μ
由这一猜想 , 引出了另一 个重 要的 更 新定 理———Blackwell 更 新定 理 .为了 描
述这一定理 , 我们先引入一个新的概念 .

定义 4 .3 ( 格点分布 ) 称随机变量 X 服从格点分布 ( 也称随机 变量 X 或


其分布 F 是格点的 ) , 若存在 d≥ 0 , 使得
第 4章 更新过程 61

∑ P{ X
n= 0
= n d} = 1 . ( 4 .3 .15 )

称满足上述条件的最大的 d 为此格点分布的周期 .
要注意的是 , 从上述定义只能知道格点分 布在不 是 d 的 整数倍 处取 值的
概率为 0 , 但并不一定在所有 nd( n = 0 , 1 , 2 , … ) 都一 一取 到 .例如 , 若 X 取整
数值 1 , 3 , 4 , 6 , 7 , 9 , 10 , 则它服从格点分布 , 周期为 1 .

定理 4 .6 (Black well 更新定理 ) 记 μ= E X n .


( 1) 若 F 不是格点分布 , 则对一切 a≥ 0 , 当 t→∞时 ,

M( t + a) - M( t) → a . ( 4 .3 .16 )
μ
( 2) 若 F 是格点分布 , 周期为 d , 则当 n→∞时 ,

P{在 nd 处发生更新} → d . ( 4 .3 .17 )


μ
定理的证明超出了本书的范围 , 略去 .有兴趣的读者请见参考文献 [ 24 ] .
Black well 定理指出 , 在远离原点 的某 长度 为 a 的 区 间内 , 更 新次 数的 期
a 1
望是 , 直观上这是容易 理解 的 , 因 为 本 来 就可 以 看做 长 时 间后 更 新过 程
μ μ
发生的平均速率 ( 见习题 4 .3 ) .但当 F 是格 点 分布 时 , 由 于 更 新只 能 发生 在
d 的整数倍处 , (1 ) 就不能成立了 , 因为更新次 数的多 少是依 赖于区 间上 形如
n d 的点的数目 , 而同样长度的区间内含有此类点的数目是可以不同的 .
容易看出 , 初等更新定 理是 Black well 定 理的 特 殊情 形 .事 实 上 , 令 bn =
Mn - Mn - 1 , 当 F 是非格点分布时 , 由 (1 ) 知
1
bn → , n → ∞, ( 4 .3 .18 )
μ
从而 , 由极限的性质得
b1 + b2 + … + bn
= M( n) → 1 , n→ ∞ . ( 4 .3 .19 )
n n μ
而对任何实数 t,
[ t] M( [ t] ) M( t) [ t] + 1 M( [ t] + 1 )
・ ≤ ≤ ・ , ( 4 .3 .20 )
t [ t] t t [ t] + 1
这里 [ t] 表示 t 的整数部分 , 即不超过 t 的最大整数 . 令 t→∞可得
M( t) 1
→ . ( 4 .3 .21 )
t μ
这就是 Feller 定理 .当 F 是格点分布时 , 请读者自己由 ( 2) 论证 .
62 应用随机过程

本节的最后一 个 更 新 定 理———Smit h 关 键 更 新 定 理 与 定 理 4 .6 是 等 价
的 , 这里也仅仅给出它的描述 , 其证明见参考文献 [ 24 ] .

定理 4 .7 ( 关键更新定 理 ) 记 μ= E X n , 设 函数 h( t) , t∈ [ 0 , ∞ ) , 满 足

( 1) h( t) 非负不增 ; ( 2)∫ h( t) d t <


0
∞ . H ( t) 是更新方程
t

H ( t) = h( t) + ∫ H( t -0
x) d F( x) ( 4 .3 .22 )

的解 .那么
( 1) 若 F 不是格点分布 , 有

1
lim H ( t) = ∫ h( x ) d x ,
μ 0
μ < ∞,
t→ ∞
0, μ= ∞ .
( 2) 若 F 是格点分布 , 对于 0≤ c < d, 有

d
μ∑
h( c + n d ) , μ < ∞;
lim H ( c + n d ) = n= 0
n→ ∞

0, μ= ∞ .
粗略地描述一下它与 Blackwell 定 理的 等价 性 .只 考虑 F 不 是格 点分 布
的情况 , 在定理 4 .7 中 , 取满足 ( 1) 、( 2) 两个条件的
1, 0 ≤ t < a,
h( t) =
0, t≥ a
代入更新方程 ( 4 .3 .22 ) 的解 , 则有 ( 我们考虑的是极限情形 , 故取 t 充分大 )
t

H ( t) = h( t) + ∫ h( t -
0
x ) d M( x)
t


=
t - a
d M( x ) = M( t) - M( t - a) . ( 4 .3 .23 )



1 a
lim H ( t) =
t→ ∞ μ ∫ h( x) d x =
0 μ
, ( 4 .3 .24 )

从而有
a
lim [ M( t) - M( t - a) ] = . ( 4 .3 .25 )
t→ ∞ μ
反过来 , 由 Black well 定理知道 , 对任意的 a > 0 ,
M( t + a) - M( t) 1
lim = , ( 4 .3 .26 )
t→ ∞ a μ

第 4章 更新过程 63

M( t + a) - M( t) = 1 .
lim lim ( 4 .3 .27 )
a→ 0 t→ ∞ a μ
假设极限次序可交换 , 将有

lim d M( t) = 1 , ( 4 .3 .28 )
t→ ∞ dt μ

1
即当 t 很大时 , 有 d M( t) ~ d t . 又
μ ∫ h( x) d x < ∞ , 则当 t→ ∞ 时 , h( t) 将快
0

速趋于 0 , 因此 , 当 t 变得很大时 , 对于 h( t - x ) 主要考虑当 t - x 比较小也就


是 x 比较大的情况 . 则有
t t t
1 1
∫ h( t -
0
x ) d M( x ) ≈ ∫ 0
h( t - x) d x・
μ
=
μ ∫ h( x ) d x . ( 4 .3 .29 )
0

这正是定理 4 .7 的结论 .

例 4 .3 ( 剩余 寿 命 与 年 龄的 极 限 分 布 ) 以 r ( t) = T N ( t ) + 1 - t 表 示 时 刻
t 的剩余寿命 , 即从 t 开始到下次更新 剩余 的时 间 , s( t) = t - T N ( t ) 为 t 时刻 的
年龄 .我们来求 r( t) 和 s( t) 的极限分布 .
解 令
-
Ry = P{ r( t) > y} . ( 4 .3 .30 )
对第一次更新的时刻 X1 取条件 , 得
1, x > t + y,
P{ r( t) > y | X1 = x} = 0, t < x ≤ t + y, (4 .3 .31)
0 < x≤ t.
-
Ry ( t - x) ,
( 读者可试着画一个类似图 4 .1 的图 ) 由全概率公式有

∫ P{ r( t)
-
Ry ( t) = > y | X1 = x}d F( x)
0

∞ t


=
t+ y
d F( x ) + ∫ -
0 y
R
( t - x) d F( x)

= 1 - F( t + y) + ∫ -
0 y
R
( t - x ) d F( x ) ,

这是一个更新方程 .它的解为
t

∫[ 1 -
-
Ry ( t) = 1 - F( t + y ) + F( t + y - x ) ] d M( x) . ( 4 .3 .32 )
0

这时仍假设 μ= E X1 < ∞ , 则
∞ ∞

μ= ∫ 0
xd F( x) = ∫ [1 - 0
F( x) ] d x < ∞ , ( 4 .3 .33 )

所以
64 应用随机过程

∞ ∞

∫ [1 - 0
F( t + y) ] d t = ∫ [1 -
y
F( z) ] d z < ∞ , ( 4 .3 .34 )

即 1 - F( t + y) 满足关键更新定理的条件 .于是
-

lim P{ r( t) > y} = t→
lim y ( t)
t→ ∞ ∞
R


1
= ∫ [1 -
μ y
F( z) ] d z , z > 0 . ( 4 .3 .35 )

年龄 s( t) 的分布可由式 (4 .3 .35) 导出 . 注意到


{ r( t) > x , s( t) > y} { r( t - y) > x + y} ,
从而
lim P{ r( t) > x, s( t) > y} = lim P{ r( t - y) > x + y}
t→ ∞ t→ ∞

= 1 ∫ [1 - F( z) ] d z . ( 4 .3 .36 )
μ x+y

特别地
lim P{ s( t) > y} = t→
lim P{ s( t) > y, r( t) > 0}
t→ ∞ ∞


1
=
μ ∫ [1 -
y
F( z) ] d z . ( 4 .3 .37 )

注 4 .2 在应用关键更新定理时 , 常常用到例 4. 3 中的 技巧 , 先关于 某次


更新 ( 一般对第一次或 t 时 刻前 的最 后一次 ) 取条件 而得 到一 个更 新方 程 , 再
利用关键更新定理 .
注 4 .3 例 4 .3 中得到 的年 龄 与剩 余寿 命的 极限 分 布是 相同 的 , 如何 理
解这一结论 ?

4 .4 Lundberg-Cramèr 破产论

作为更新理论的应用 , 本节给出 Lundbe rger-Cra mèr 经典破产模型 ( 简称


L-C 模型 ) 的描述 , 并依据更新理论证明其基本定理 .
设保险公司在时刻 t 的盈余 ( s urp lus ) 可表示为
N ( t)

U ( t) = u + c t - ∑X
k=1
k , t≥ 0, (4 .4 .1 )

其中 u 是初始资本 , c 是保险公司单 位时间 征收 的保 险费率 , X k , k≥1 , 表示


第 k 次索赔额 , N ( t) 表示到时刻 t 时发生的索赔次数 .
上述 模 型 是 Lundberg-Cra mèr 经 典 破 产 模 型 .此 模 型 有 三 个 以 下 基 本
第 4章 更新过程 65

假定 .
假定 1 { X k , k≥ 1} 是 恒正 的 独立 同分 布的 随机 变 量序 列 , 记 F( x ) =

P{ X1 ≤ x} , " x≥ 0 , μ = E X1 = ∫ [1 - 0
F( x) ] d x ; { N( t) , t ≥ 0} 是参数为

λ(λ > 0 ) 的 Poisson 过程并且与{ Xk , k ≥ 1} 相互独立 .


盈余过程{ U ( t) , t ≥ 0} 的一条样本路径见图 4 .2 .

图 4 .2 盈余过程的一条样本路径


N( t)

S( t) = ∑X
k= 1
k , " x ≥ 0, (4 .4 .2 )

它表示至时刻 t 为止的索赔总额 ( aggr egate claim ) .由模型的独立性假定知


E[ S( t) ] = E[ N ( t) ] E X 1 = λμt .
保险公司为运作上的安全 , 要求
ct - E[ S( t) ] = ( c - λ
μ) t > 0 , t≥ 0 .
因此 , 需要下述的假定 :
假定 2
c = ( 1 + θ)λ
μ, (4 .4 .3 )
其中 θ> 0 , 称为相对安全负载 ( r elative securit y loading) .
由 P oisson 过程具有平稳独立增量以及 L-C 模 型的 独立 性假定 知 , { ct -
S( t) , t≥0}为平稳的独立增量过程 .于是由强大数定律得
lim U ( t) = + ∞ , a .s .
t→ ∞

但这并不能排除在某 一瞬 时 盈余 过程 可能 取 负值 , 这时 称 保 险公 司“ 破产”,
称 T = inf{ t: U ( t) < 0} 为 破产 时 刻 .所 以 Lundberg-Cra mèr 研 究的 是 保险 公
司最终破产的概率
66 应用随机过程

Ψ( u) = P{ T < ∞ | U (0 ) = u} , u ≥ 0, (4 .4 .4 )
以下简称为破产概率 .破产概率可以作 为评 价保险 公司 偿付 能力的 一个 数量
指标 .Lundberg-Cr amèr 的结果可直观地 表述 为 : 当 初始 准备 金 u 充分 大 时 ,
保险公司在经营“ 小索赔”情形的保 险业务 时 , 破产 是不 易发生 的 .所谓“ 小索
赔”的含义由下述假定给出 :
假定 3 ( 调节系数存在惟一性假定 ) 首先 , 要求个体索赔额的矩母函数
∞ ∞

∫e ∫e
rX rx rx
M X ( r) = E( e ) = d F( x) = 1 + r [1 - F( x) ] d x ( 4 .4 .5)
0 0

至少在包含原点的某个邻域内存在 ; 其次 , 要求方程
c
MX ( r) = 1 + r (4 .4 .6 )
λ
存在正解 .
注 4 .4 ( 1 ) 由 于 M X ( r) 在 其 收 敛 域 内 是 严 格 增 加 的 凸 函 数 , 故 方 程
( 4 .4 .6) 若有正解 , 则必是惟一的 , 记为 R, 并称之为调节系数 , 满足

λ
∫e
Rx
[ 1 - F( x ) ] d x = 1 . (4 .4 .7 )
c 0

注意到

λ λ 1

c 0
[1 - F( x) ] d x =
c
μ=
1 +θ
< 1,

λ
可知非负函数 [ 1 - F( x) ] , x≥0 , 不是一个概率密度函数 .但若令
c
Rx λ
f( x) = e [ 1 - F( x ) ] ,
c
则由式 ( 4 .4 .7) 可知 , f ( x ) 是一个概率密度函数 , 这解释了调节 系数 R 名 称的
由来 .
( 2) 记 V( t) = ct - S( t) .由于{V ( t) , t≥ 0}为平稳的独立增量过程 , 故有
MV ( t ) ( r) = E[ e rV( t) ] = MV( t) ′, " t≥ 0 .
又因为
MV( 1 ) ( r) = E[ er( c - S( 1 ) ) ] = ec r E [ e - r S ( 1 ) ]
cr
= e exp [λ( M X ( - r) - 1 ) ]
= exp[λM X ( - r) - λ+ c r ] (4 .4 .8 )
以及调节系数的定义可知
MV ( 1 ) ( - R) = 1 , (4 .4 .9 )
从而也有
第 4章 更新过程 67

MV ( t ) ( - R) = 1 , " t≥0 .
总之 , 若调节系数存在 , 则它是方程 ( 4 .4 .6) 和下述两个方程的惟一正根 :

λ
∫e
rx
[ 1 - F( x ) ] d x = 1 ,
c 0

MV ( 1 ) ( - r) = 1 .
我们有下述定理 :

定理 4 .8 若假定 1 ~假定 3 成立 , 则有
1
( 1) Ψ( 0) = ;
1 +θ
( 2) Lundberg 不等式 :
- Ru
Ψ( u) ≤ e , " u≥ 0; ( 4 .4 .10 )
( 3) Lundberg-Cr amèr 近似 : 存在正常数 C, 使得
- Ru
Ψ( u) ~ Ce , u→ ∞,

Ψ( u)
lim = 1 . ( 4 .4 .11 )
u→ ∞ Ce - R u
[ 5 , 23 ]
证明 我们用更新论证技巧 证明定理中的 (1 ) 和 ( 3 ) .( 2) 的简单 证明
由于要利用连续鞅的技巧 , 我们将在第 6 章中给出 .

R( u) = 1 - Ψ( u) = P{ U( t) ≥ 0 | U (0 ) = u} ,
则它表示初始盈余为 u 时 , 保险公司永不破产的概率 , 也称为生存概率 .
首先 , 根据首次索赔发生的时 刻 T1 和 首 次索 赔额 X1 的 大小 , 对 生存 概
率应用全概率公式 , 得
∞ u + ct

∫ λe ∫
- λt
R( u) = R( u + ct - z) d F( z) d t .
0 0

做变换 x = u + ct, 得

λ λc u x
- λx
R( u) =
c
e ∫ e ∫ R( x -
u
c
0
z) d F( z) d x .

由此可见 , R( u) 是可微函数 .将上式两端对 u 求导 , 得


λ λ u

R′( u) =
c
R ( u) -
c ∫ R( u -0
z) d F( z) . ( 4 .4 .12 )

在式 ( 4 .4 .12 ) 两端取积分 , 得
t t u
λ λ
R( t) - R( 0) =
c ∫ 0
R( u) d u +
c ∫∫ R( u -
0 0
z) d[ 1 - F( z) ] d u .

( 4 .4 .13 )
68 应用随机过程

由分部积分公式得到
u

∫ R( u -
0
z) d [1 - F( z) ] = R(0 ) [ 1 - F( u) ] - R( u) +
u

∫ R′( u -
0
z) [1 - F( z) ] d z

并代入 ( 4 .4 .13 ) 式 , 即得
t t u

R( t) - R( 0) = λ R (0 ) ∫ [1 - F( u) ] d u + λ ∫∫ R′( u - z) [ 1 - F( z) ] d zd u .
c 0 c 0 0

( 4 .4 .14 )
若在上式的二重积分中交换积分次序 , 可得
t u t t

∫∫ 0 0
R′( u - z) [1 - F( z) ] d zd u = ∫∫R′( u -
0 z
z) [ 1 - F( u) ] d u d z
t


= [ R( t -
0
z) - R(0 ) ] [1 - F( z) ] d z .

再将上式代入 ( 4 .4 .14 ) 式 , 得到
λ t

R( t) = R(0 ) +
c ∫ R( t -
0
z) [ 1 - F( z) ] d z . ( 4 .4 .15 )

由于 u→
lim R( u) = 1 , 令 t→∞得


λ λ
1 = R( 0) +
c ∫ [1 -
0
F( z) ] d z = R( 0) +
c
μ;

于是有
λ 1
Ψ(0 ) = 1 - R(0 ) = μ= . ( 4 .4 .16 )
c 1 +θ
( 1) 得证 .
将 ( 4 .4 .16 ) 式代入 ( 4 .4 .15 ) 式 , 得
∞ t

R( t) = 1 - λ ∫ [ 1 - F( z) ] d z + λ ∫ R( t - z) [ 1 - F( z) ] d z
c 0 c 0


λ λ t
=1 -
c ∫ t
[ 1 - F( z) ] d z -
c 0 ∫
[1 - R( t - z) ] [1 - F( z) ] d z .

从而得
∞ t

Ψ( t) = λ ∫ [1 - F( z) ] d z + λ Ψ( t - z) [1 - F( z) ] d z .

c 0 c 0
( 4 .4 .17 )
由于

λ λ 1
∫ [1 -
c 0
F( z) ] d z =
c
μ=
1 +θ
< 1,
第 4章 更新过程 69

Rt
所以 , 方程 (4 .4 .1 7) 是更新方程 .在方程 ( 4 .4 .17 ) 两端同乘以 e ( R 为调 节系
数 ) , 并令

λ Rt λ Rz
A( t) = e Ψ( t) , ∫
Rt
a( t) = e [1 - F( z) ]d z, f ( z) = e [1 - F( z) ] ,
c t c
即得
t

A( t) = a( t) + ∫ A( t -
0
z) f ( z) d z . ( 4 .4 .18 )

又由 (4 .4 .7 ) 式知 , ∫ 0
f ( z) d z = 1 , 从而方程 ( 4 .4 .18 ) 是适定更新方程 . 易见

a( t) 为单调递减函数 , 并且

1 θ
∫ a( t) d t =
0 R 1 +θ
= C1 ,

于是 a( t) 在 [0 , ∞ ) 上满足更新定理中的条件 .因此由关键更新定理得
Rt C1
lim e Ψ( t) = t→
lim A( t) = ∞ = C.
∫ z f ( z) d z
t→ ∞ ∞

这表明
Ψ( t)
lim = 1 .
t→ ∞ Ce - R t
从而 Lundberg-Cramèr 近似式 ( 4 .4 .11 ) 得证 . x

4 .5 更新过程的推广

4 .5 .1 延迟更新过程

更新过程要求时间间隔 X1 , X2 , X3 , … 是分布 函数 为 F 的独立 同分 布序


列 .如果放宽对 X1 的要求 , 允许它服从别的分布 G, 则称由 X1 , X2 , …确 定的
计数过程是延迟更新过程 .
例如 , 在 4 .1 节零件更换的例子中 , 假设开始观察时第一个零件已经运行
了一段时间 , 则到 它 损 坏 的 使 用 时 间 X1 , 就 应 认 为 与 新 零 件 能 使 用 的 时 间
X2 , X3 , …不同分布 .但是要注意 X1 , X2 , …之间的独立性仍然是必需的 .可以
证明对于延迟更新过程 , 4 .3 节中的 三个 更新 定理依 然成 立 ( 要 注意 M( t) =

∑F
n= 1
n ( t) 中的 Fn ( t) 相 应 用 G ( t) * Fn - 1 ( t) ( n≥ 2 ) 来替 换 就 可 以 了 .比 如

F1 \ G, F2 \ G * F, F3 \ G * F * F, … ) .直观 上这 也 是比 较显 然的 , 因 为我 们
70 应用随机过程

并不认为第一次更新发生的时刻会对无穷远处的情况有很大的影响 .

4 .5 .2 更新回报过程

类似于复合 P oisson 过程 , 设
N ( t)

R( t) = ∑R,
i=1
i (4 .5 .1 )

其中{ N( t) , t≥0}是一个更新过程 , Rn , n = 1 , 2, …独立同分布且与{ N( t) , t≥ 0}


独立, 则称 R( t) 是一个更新回报过程 , 这一名称是由 于可以把 Rn 看做第 n 次
更新发生时带给我们的回报 .更一般的更新回报过程 , 可以允许 Rn 依赖于 X n
( 即回报的多少与等待的时间有关 ) , 只要求随机向量列 ( X n , Rn ) 独立同分布 .
定理 4 .9 ( 更新回报定理 ) 若 更新 间隔 X1 , X2 , …满 足 E X1 < ∞ , 每 次
得到的回报{ Rn }满足 E R1 < ∞ .则
1 E R1
( 1) lim R( t) = w .p .1 ;
t→ ∞ t E X1
1 E R1
( 2) lim E [ R( t) ] = .
t→ ∞ t E X1
定理 ( 1) 的证明可由强大数定律得到 ; (2 ) 可以 利用 更新 方程及 初等 更新
定理 .读者可自行推导 .

例 4 .4 ( 产品保修策略 ) 设某公司 所售 出商品 采取 如下更 换策 略 : 若产


品售出后 , 在期限 w 内损坏 , 则免费更换同样产品 .若在 ( w , w + T] 期间损坏 ,
则按使用时间折价更换新产品 .并且对 在 (0 , w] 内更 换 的新 产品 执行 原来 的
更换期 , 而对在 ( w , w + T ] 内 折价 更 换 的新 产 品 , 从 更换 时 刻 重 新 计算 更 换
期 .讨论长期执行此策略 对厂 家 的影 响 ( 即 厂 家的 期 望利 润 是 多少 ) , 假定 一
旦产品损坏 , 顾客立刻更换、退换或者购买新的 .
设 t = 0 时用户购买一个新产品 , 售价 为 c, 成本 c0 < c, 产品 寿命 为 X , 它
的分布函数为 F( t) , E X = μ< ∞ .设用户相邻两次购 买 ( 包换全 价购买和 折扣
更换 , 但不包括免费更换 ) 的间 隔为 Y1 , Y2 , … .容 易求 出 Y1 , Y2 , …独 立同 分
布 ( 因为每次更换的产品都是新的 ) .记 Y i 分 布为 G ( t) .以 N ( t) 记 ( 0 , t) 时间
内的更换次数 , Tn 为第 n 次更换时刻 M ( t) = E[ N ( t) ] .
首先计算用户在 ( 0 , Y1 ) 内的 期望 花费与 E Y1 .由所 设条 件知 道 , 对用 户
而言 , 更换策略为
0, y ≤ w,
c( y - w)
, y > w,
T
第 4章 更新过程 71

其中 y 为使用时间 , 由 Y1 的含义知 , Y1 = w + Rw ( Rw 指产品在 w 时刻的 剩余


寿命 ) , Y1 = T N ( w) + 1 , 如图 4 .3 所示 .

图 4 .3

从而
-
G ( t) = P{ Y1 > t}
1, 0 ≤ t ≤ w,
- w
=
P{ w + Rw > t} =F ( t) + ∫(t -
-
0
F
x) d M( x) , w < t,

E Y1 = E( T N ( w) + 1 ) = μ[ 1 + M( w) ]
设 ( 0 , Y1 ] 内用户花费为 c1 , 则
c, Y1 > w + T,
c1 = c( Y1 - w)
, w < Y1 ≤ w + T,
T
从而
w+ T
c
E c1 = c -G ( w + T ) + ∫
T w
( t - w) d G( t) .

解得
T T
c c
E c1 =
T ∫ - ( w + x) d x =
0
G
T ∫ P{ R 0
w > x}d x,

于是
T

c( w, T ) = 长期平均费用 =
E c1
=
∫ P{ R
c
0
w > x}d x
.
E Y1 Tμ[ 1 + M( w) ]
对公司而言 , 其利润为用户付费所得收入与成本之差 , 在 ( 0 , w] 时间内免 费更
换产品的个数的期望值 为 E[ N ( w) ] = M( w) .因此 , 在 一个购 买 周期 ( 0 , Y1 ]
内 , 公司所付成本为 c0 [ M( w) + 1 ] , 公司从每个用户所得的长期平均利润为
c0 [1 + M( w) ] c0
c( w , T ) - = c( w , T ) - .
μ[1 + M( w) ] μ
72 应用随机过程

4 .5 .3 交替更新过程

在更新过程中 , 我们 考虑 系 统只 有 一个 状 态的 情 况 , 比 如 机器 一 直是 开
的 ( 即更换零件不需时 间 ) .而实 际 中 , 零件 损 坏之 后 会有 一 个 拆卸 更 换的 过
程 , 这段时间机器是“关”的 .这 里我 们就 来考 虑有“ 开”
“关”两 种状 态 的更 新
过程 , 即交替更新过程 .
设系统最初是开的 , 持续开的时间是 Z1 , 而 后关闭 , 时间为 Y1 之后 再打
开 , 时间为 Z2 又 关 闭 , 时 间 为 Y2 , … 交 替 进 行 , 每 当 系 统 被 打 开 称 作 一 次
更新 .
我们假设随机向量列{ ( Zn , Y n ) , n≥1} 是独立同分布的 , 从而 { Zn } , { Y n }
都是独立同分布的 , 即 Zi , Y j 在 i≠ j 时独立 , 但 Zi , Y i 允许不独立 .
下面利用关键更新定理得到交替更新过程的一个很重要的结论 .

定理 4 .10 设 H 是 Zn 的分布 , G 是 Y n 的分布 , F 是 Z n + Y n 的分布 .并


记 P( t) = P{ t 时刻系统是开的} , 设 E( Y n + Zn ) < ∞ , 且 F 不是格点的 , 则
EZ n
lim P( t) = . (4 .5 .2 )
t→ ∞ E Zn + E Yn
证明 对第一次更新的时刻 X1 = Z1 + Y1 , 取条件概率得
P{ Z1 > t | Z1 + Y1 > t} , x ≥ t,
P{ t 时刻系统开着 | X1 = x} =
P( t - x ) , x < t.
(4 .5 .3 )


P( t) =
0
P{ t 时刻系统开着 | X1 = x}d F( x)
t

= P{ Z1 > t} + ∫ P( t -
0
x ) d F( x )
t

= -H ( t) + ∫ P( t - 0
x) d F( x) . (4 .5 .4 )

方程 ( 4 .5 .4) 的解为
- t

P( t) =H ( t) + ∫ (t --
0
H
x ) d M( x ) . (4 .5 .5 )

∞ -

∫ ( t) d t =
又 -
0
H
EZ1 < ∞ 且显然 ( t) 非负不增 , 由关键更新定理得
H
第 4章 更新过程 73

∫ ( t) d t
-
0
H EZ1
lim P( t) = = .
t→ ∞ E ( Y1 + Z1 ) EZ1 + E Y1

习 题
4 .1 判断下列命题是否正确
( 1) N ( t) < n Tn > t;
( 2) N ( t) ≤ n Tn ≥ t;
( 3) N ( t) > n Tn < t .
4 .2 更新过程的来到间隔服从参数为 ( n,λ) 的 Γ 分布 .
( 1) 试求 N( t) 的分布 ;
N ( t) λ
( 2) 试证 t→
lim = ;
∞ t n
( 3) 对更新过程 , 证明当 t→∞时 ,
N( t) → 1
t μ
以概率 1 成立 , 其中 μ= E X n .
4 .3 对于 Pois son 过程 , 验证定理 4 .1 .
1 2
4 .4 设 P{ Xi = 1} = , P{ Xi = 2} = , 计算 P{ N( 1) = k} , P{ N(2) = k}
3 3
和 P{ N( 3) = k} .
4 .5 一个过程有 n 个状态 1 , 2 , … , n .最初在 状态 1 , 停 留时间 为 X1 , 离
开 1 到达 2 停留时间 X2 , 再到达 3 , … , 最后 从 n 回 到 1 , 周 而复 始 , 并且 过程
对每一个状态停留时间的长度是相互独立的 .试求
lim P{时刻 t 系统处于状态 i} .
t→ ∞

设 E( X1 + … + Xn ) < ∞且 X1 + X2 + … Xn 的分布为非格点的 .
4 .6 用 交错 更 新 过 程 原理 4 .9 计 算 t 时 刻 的 寿 命 和剩 余 年 龄 的 极 限
分布 .
4 .7 对 t 时刻最后一次更新取条件重新给出定理 4 .9 的证明 .
4 .8 对于延迟更新过程证明更新方程
t

M( t) = G( t) + ∫ M( t) M( t -
0
s) d F( s) .

4 .9 对更新过程证明
74 应用随机过程

- s

∫( t -
P{ T N( t) ≤ s} =F ( t) + -
0
F
y) d M( y )
-

对任意 t≥ s≥ 0 成立 , 其中 ( t) = 1 - F( t) .
F
第 5章
Markov 链

有一类随机过程 , 它具 备 所谓 的“ 无 后效 性”( Markov 性 ) , 即 , 要 确定 过


程将来的状态 , 知道它此刻的情况就 足够了 , 并不需 要对 它以往 状况 的认 识 ,
这类过程称为 Markov 过程 .我们将介绍 Ma rkov 过 程中 最简单 的两 种类 型 :
离散时间 Markov 链 ( 简称马氏链 ) 及连续时间的 Ma rkov 链 .

5 .1 基 本概念

5 .1 .1 Markov 链的定义

定义 5 .1 ( Markov 链 ) 随机过程 { X n , n = 0 , 1 , 2 , …} 称为 Markov 链 , 若


它只取有限或可列个值 E0 , E1 , E2 , … ( 我们 以 {0 , 1 , 2 , … } 来标记 E0 , E1 , … ,
并称它们是过程的状态 , {0 , 1 , 2 , … } 或者 其 子集 记为 S , 称 为过 程的 状态 空
间 ) .对任意的 n≥0 及状态 i, j, i0 , i1 … , in - 1 , 有
P{ Xn + 1 = j | X0 = i0 , X1 = i1 , X2 = i2 , … , X n - 1 = in - 1 , X n = i}
= P{ Xn + 1 = j | Xn = i} . (5 .1 .1 )
式 ( 5 .1 .1) 刻画了 Ma rkov 链的特性 , 称为 Markov 性 .
由定义知
P{ X0 = i0 , X1 = i1 , … , X n = in }
= P{ X n = in | X0 = i0 , X1 = i1 , … , X n - 1 = in - 1 } ×
P{ X0 = i0 , X1 = i1 , … , X n - 1 = in - 1 }
= P{ X n = in | Xn - 1 = in - 1 } × P{ X0 = i0 , X1 = i1 , … , X n - 1 = in - 1 }

76 应用随机过程

= P{ X n = in | X n - 1 = in - 1 } × P{ X n - 1 = in - 1 | Xn - 2 = in - 2 } × … ×
P{ X1 = i1 | X0 = i0 } × P{ X0 = i0 } .
可见 , 一旦 Ma rkov 链的 初 始 分 布 P{ X0 = i0 } 给 定 , 其统 计 特 性 完 全由 条 件
概率
P{ X n = in | Xn - 1 = in - 1 }
决定 .如何确定这个条件概率 , 是 Markov 链理论和应用中的重要问题之一 .

5 .1 .2 转移概率

定义 5 .2 ( 转移概率 ) 称式 (5 .1 .1 ) 中的条件概 率 P{ Xn + 1 = j | Xn = i}为


Ma rkov 链{ X n , n = 0 , 1 , 2 , …} 的一步转移概率 , 简称转移概率 .
一般情况下 , 转移概率与状态 i, j 和时刻 n 有关 .

定义 5 .3 ( 时齐 Markov 链 ) 当 Markov 链的转移概率 P{ Xn + 1 = j | Xn = i}


只与状态 i, j 有关, 而与 n 无关时, 称 Markov 链为时齐的 , 并记 p i j = P{ X n + 1 =
j | X n = i} ( n≥0 ) ; 否则 , 就称之为非时齐的 .
在本书中 , 我们只讨论时齐 Ma rkov 链 , 并且简称为 Ma rkov 链 .
当 Markov 链的状态为有 限时 , 称 为 有限 链 , 否则 称 为无 限链 .但 无论 状
态有限还是无限 , 我们都可以将 p i j ( i, j∈ S) 排成一个矩阵的形式 , 令
p0 0 p01 p02 p03 …
p1 0 p11 p12 p13 …
P = ( pi j ) = p2 0 p21 p22 p23 … . (5 .1 .2 )
p3 0 p31 p32 p33 …
… … … … w
称 P 为转移概率矩阵 , 一般简称为转移矩阵 .容易看出 p i j ( i, j∈ S) 有性质
( 1) p i j ≥ 0 , i, j ∈ S;
(5 .1 .3 )
( 2) ∑p
j∈ S
ij = 1, " i∈ S .

定义 5 .4 ( 随机矩阵 ) 若一个矩阵的元素具有 (5 .1 .3 ) 中两条性质 , 则称


此矩阵为随机矩阵 .
易见随机矩阵每一行元素的和都为 1 .
考虑一个粒子在状态空间中从点到点的移动 , 其规则是 : 在时刻 n = 0 , 粒
子或者处于某一固定的状态 i0 ( 称 i0 为初始状态 ) , 或者根据状态空间 S 上的
概率分布 π随机的定位 ( 称 π为初始分布 ) .在前一 种情况下 ,π是集中在 一点
第 5章 M a rkov链 77

的 分布 , 即 , 如果 j = i0 , 则πj = 1 , 否则πj = 0 .在后一种情况下 , 在时刻 0 , 粒


子以概率 πi 在状态 i , 这里 0 ≤ πi ≤ 1 , 并且 ∑πi = 1 .假定在时刻 0 , 粒子在
i

状态 i0 , 以概率 p i0 j 赋予相应的状态 j ∈ S 进行随机试验 , 如果试验结果是状


态 i1 , 则粒子在时刻 n = 1 移动到状态 i1 ; 第二次试验以概率 pi1 j 赋予相应的
状态 j ∈ S, 如果试验结果是状态 i2 , 则粒子在时刻 n = 2 移动到状态 i2 等 .
这一试验 的 一 个 典 型 的 样 本 点 是 状 态 的 一 个 序 列 , 比 如 , ( i0 , i1 , … ,
in , … ) , 这就是一个样本路径 .所有 的样 本路 径构 成 了样 本空 间 Ω .粒 子的 位
置 X n 在时刻 n 是一个随机变量 , 如果样本路径是 ( i0 , i1 , … , in , … ) , 则它 的值
是 X n = in .准确地讲 , 对上述试验 , Ω上的概率分布 Pπ 定义为
Pπ{ X0 = i0 , X1 = i1 , … , Xn = in } = πi0 pi0 i1 pi1 i2 … pi n - 1 i n . ( 5 .1 .4)
更一般地 , 对下述形式的有限维事件
A = {( X0 , X1 , … , X n ) ∈ B} , (5 .1 .5 )
A 的概率为
Pπ ( A) = ∑ πi0 p i0 i1 p i1 i2 … p in - 1 in .
(i , i ,… , i ) ∈ B
0 1 n
(5 .1 .6 )

这里 B 是由 S 的元素组成的 n + 1 元组 的集 合 .应用 Kolmogorov 扩 张定 理 ,


Pπ 可以惟一扩张到由包含形 如事 件 ( 5 .1 .5 ) 的 最小 σ代 数 F 上的 概率 , 仍 记
为 Pπ .概率空间 ( Ω, F, Pπ ) 使得{ X n (ω) = ωn ,ω∈Ω} , 是 一个 M arkov 链 , 且具
有转移概率矩阵 ( p i j ) 和初始 分布 π.在 Ma rkov 链 的初始 状态 为固 定 点 i, 即
πi = 1 时 , 我们将初始分布记为 P i 而不是 Pπ .

5 .1 .3 一些例子

例 5 .1 ( 一 个简单 的疾病死 亡模型 , Fix-Neym an ( 1951 ) ) 考虑一个 包含


两个健康状态 S1 和 S2 以及两 个死 亡状 态 S3 和 S4 ( 即 由不 同原 因引 起的 死
亡 ) 的模型 .若个体病愈 , 则认为它处于 状态 S1 , 若患病 , 则 认为 它处 于 S2 , 个
体可以从 S1 , S2 进入 S3 和 S4 , 易见这是一个马氏链的模型 , 转移矩阵为
p1 1 p12 p1 3 p14
p2 1 p22 p2 3 p24
P = . (5 .1 .7 )
0 0 1 0
0 0 0 1
78 应用随机过程

例 5 .2 ( 赌徒的破产或称带吸收壁的随机游动 ) 系统的状态是 0 到 n, 反
映赌博者 A 在赌博期间拥有的钱数 , 当他输光或拥有 钱数为 n 时 , 赌博停 止 ;
否则他将持续赌博 , 每次以概率 p 赢得 1 , 以 概率 q = 1 - p 输掉 1 .这个 系统
的转移概率矩阵为
1 0 0 0 … 0 0 0
q 0 p 0 … 0 0 0
0 q 0 p … 0 0 0
P = . (5 .1 .8 )
… … … … … … …
0 0 0 0 … q 0 p
0 0 0 0 … 0 0 1 ( n + 1 )× ( n + 1 )

例 5 .3 ( 带反射壁的随机游动 ) 设例 5 .2 中当 A 输光时将获得赞助 1 让
他继续赌下去 , 就如同一个在直线上做 随机游 动的 球在到 达左 侧 0 点处 就立
刻反弹回 1 一样 , 这就是一个一侧带有反射壁的随机游动 .此时
0 1 0 0 … 0 0 0
q 0 p 0 … 0 0 0
0 q 0 p … 0 0 0
P = . (5 .1 .9 )
… … … … … … …
0 0 0 0 … q 0 p
0 0 0 0 … 0 0 1 ( n + 1 )× ( n + 1 )

同样可考虑两侧 均有 反射 壁 的情 况 .另 外 , 我 们 可以 考 虑 没有 吸 收壁 的
情况 .

例 5 .4 ( 自由随机游动 ) 设 一 个球 在全 直线 上做 无 限制 的随 机游 动 , 它
的状态为 0 , ± 1 , ± 2 , … .它仍是一个 Ma rkov 链 , 但转移矩阵比较特殊 .
… … … … … … … …
… q 0 p 0 … 0 0 0 0 …
… 0 q 0 p … 0 0 0 0 …
P = … … … … … … … … . (5 .1 .10)
… 0 0 0 0 … q 0 p 0 …
… 0 0 0 0 … 0 q 0 p …
… … … … … … … …
第 5章 M a rkov链 79

虽然 , 它的 状态 与 我们 对 马氏 链 的定 义 中 提
到的 S 有 所区别 , 但其 本质是 相同的 , 仍然 是
可列多个 , 对它的讨论是类似的 .

例 5 .5 ( 图 上 的简 单 随 机游 动 ) 设有一
蚂蚁在如图 5 .1 的 图 上 爬 行 , 当 两 个 结 点 相
临时 , 蚂蚁将爬向它 临近 一 点 , 并且 爬向 任 何
一个邻居的概率是相同的 .则 此 M arkov 链 的 图 5 .1
转移矩阵是
1 1
0 0 0 0
2 2
1 1
0 0 0 0
2 2
1 1 1 1
P = 0 0 . ( 5 .1 .11 )
4 4 4 4
0 0 1 0 0 0
1 1
0 0 0 0
2 2
0 0 0 0 1 0
下面我们再给出两个所 谓“嵌 入 Mar kov 链”的例 子 , 它 需要 从模 型中 去
发现 Markov 性的存在 .

例 5 .6 ( M/ G/ 1 排队系统 ) 假设顾客依照 参数为 λ的 Poisson 过程 来到


一个只有一名服务员的服务 站 , 若服 务员空 闲来 客就 立 刻得 到服 务 , 否则 排
队等待直至轮到他 .设每 名顾 客 接受 服 务的 时 间是 独 立 的随 机 变量 , 有共 同
的分布 G, 而且与来到过程独 立 .这个 系统称 为 M/ G/ 1 排队 系统 , 字 母 M 代
表顾客来到的间隔服 从 指数 分 布 , G 代表 服 务时 间 的 分布 , 数字 1 表 示只 有
1 名服务员 .
若以 X( t ) 表 示 时 刻 t 系 统 中 的 顾 客 人 数 , 则 { X ( t ) , t≥ 0 } 是 不 具 备
Ma rkov 性的 , 因为若已知 t 时刻系统中的人数 , 要预测未来 , 虽然可以不 用关
心从最近的一位顾客 到来 又过 去 了多 长时 间 ( 因为 过 程 无记 忆 , 所 以 这段 时
间不影响下一位顾客 的到 来 ) , 但 要注 意此 刻 在服 务 中的 顾 客 已经 接 受了 多
长时间的服务 ( 因为 G 不是指数的 , 不具备“无 记忆性”, 所以已经 服务过 的时
间将影响到他何时离去 ) .
我们可以考虑如下的 X n , X n 表示第 n 位顾客 走后剩下 的顾客 数 , n≥1 .
80 应用随机过程

再令 Y n 记第 n + 1 位顾客接受服务期间到来的顾客数 , 则
Xn - 1 + Y n , 若 Xn > 0 ,
Xn + 1 = ( 5 .1 .12 )
Yn , 若 Xn = 0 .
可见 X n + 1 可由 Xn 和 Yn 得到 .那么 Yn 是 否会 依赖于 Yn - 1 , Y n - 2 , …呢 ? 我们
要证明 Y n , n≥1 都是相互独立的 .事实 上 , 因为 Y n , n≥ 1 代 表的是 在不 相重
叠的服务时间区间内来到的人数 , 来到过程又是 Poisson 过 程 , 这就很容 易证
明 Y n , n≥1 的独立性 , 并且还是同分布的 .
∞ j

P{ Y n = j} = ∫ e - λx (λx ) d G( x ) , j = 0 , 1 , 2 , … . ( 5 .1 .13 )
0 j !
由 ( 5 .1 .12 ) 、(5 .1 .1 3) 式得{ X n , n = 1 , 2 , … } 是 Ma rkov 链 , 转移概率为

(λx ) j
∫e
- λx
p0 j = d G( x) , j≥0 . ( 5 .1 .14 )
0 j !
∞ j- i + 1
(λx )
∫e
- λx
pi j = d G( x ) , j ≥ i - 1 , i ≥ 1 . ( 5 .1 .15 )
0 ( j - i + 1) !
pi j = 0 , 其他 . ( 5 .1 .16 )

例 5 .7 考虑订货问题 .设某 商 店使 用 ( s, S) 订货 策 略 , 每天 早上 检查 某
商品的剩余量 , 设为 x, 则定购额为
0, 若 x ≥ s,
( 5 .1 .17 )
S - x, 若 x < s.
设定货和进货不需要 时间 , 每天 的 需求 量 Yn 独 立同 分 布 且 P { Y n = j} = aj ,
j = 0 , 1 , 2 , … .现在我们要从上述问题中寻找一个 Markov 链 .
令 X n 为第 n 天结束时的存货量 ( 设 X n 可取负值 ) , 则
Xn - Y n + 1 , 若 X n ≥ s,
Xn + 1 = ( 5 .1 .18 )
S - Yn +1 , 若 Xn < s .
因此{ Xn , n≥1} 是 Ma rkov 链 , 请读者写出它的转移概率 .

例 5 .8 以 Sn 表示保险公司在时刻 n 的盈余 , 这 里的时间 以适当的 单位


来计算 ( 如天 , 月等 ) .初始盈余 S0 = x 显然为已知 , 但未来的 盈余 S1 , S2 , …却
必须视为随机变量 , 增量 Sn - Sn - 1 解释为 n - 1 和 n 之间获得 的盈利 ( 可 以为
负 ) .假定 X1 , X2 , …是不包含利息的盈利且独立同分布为 F( x) , 则
Sn = Sn - 1 (1 + i) + Xn ,
其中 i 为固定的利率 , { Sn }是一 Mar kov 链 , 转移概率为
p x y = F[ y - (1 + i) x ] .
第 5章 M a rkov链 81

例 5 .9 考察掷硬币的 例子 .硬币 的正 反 面分 别记 为 U 和 D , 于 是状 态
空间为 S = { U , D} .为了书写方便 , 令 1 代表 U , 2 代表 D, 假定硬币初始 时为
正面 , 我们一共投掷了 50 次 .在每一次投掷时 , 硬币以概率 20 % 翻转 .于是转
移概率为 P11 = 0 .8 , P12 = 0 .2 , P21 = 0 .2 , P22 = 0 .8 .所以转移矩阵为
0 .8 0 .2
P = .
0 .2 0 .8
计算得
2
0 .6 8 0 .3 2 4 2 2
0 .5648 0 .4352
P = P・ P = 和 P = P ・P = .
0 .3 2 0 .8 8 0 .4352 0 .5648
5
从而 P( X5 = U ) = P( X1 = U→ X5 = U) = PU U = 0 .5 648 .

例 5 .10( 隐 Mar kov 链模型 ) 我们 用简 单 例子 引出 隐 Ma rkov 链 模 型 .


设有两枚硬币 , 分别记为 M 和 W , 在任何 给定 时刻 两 枚硬 币或 者为 正面 或
者为反面 .在 任 何 给 定 时 刻 只 有 一 枚 硬 币 呈 现 , 但 是 有 时 硬 币 可 能 被 替 换
( M 换成 W 或 W 换成 M ) 而不 改 变其 正 反面 .硬 币 M 具 有 与 上面 例 子相 同
的转移概率 , 而硬币 W 具有转移概率
0 .9 0 .1
.
0 .05 0 .95
在任何给定时刻硬币被替换的概率为 30 % , 替 换完成 时 , 硬 币的状 态不变 .这
一 Markov 链有 4 个 状态 , 分别记 为 1 : UM ; 2 : D M; 3 : U W ; 4 : D W .状态
1、
3 表示正面 U, 状态 2、4 表示反面 D 转移 矩阵为 4 ×4 的矩阵 .我 们可 以计
算转移概率 , 比如 U M→UM , 首先有 U→ U ( 无转移 ) , 而后 M→ M ( 无转移 ) .
因此转移概率为 P( U→ U | F) ・ P( F→ F) = 0 .8 × 0 .7 = 0 .56 .其 他转 移概 率
类似可得 .转移方式为
UM → UM UM → DM UM → UW UM → DW
DM → U M DM → DM DM → UW DM → DW
.
UW → U M U W → DM U W → UW UW → DW
DW → UM D W → DM DW → UW DW → DW
转移概率矩阵为
0 .8 × 0 .7 0 .2 × 0 .7 0 .8 × 0 .3 0 .2 × 0 .3
0 .2 × 0 .7 0 .8 × 0 .7 0 .2 × 0 .3 0 .8 × 0 .3
P = .
0 .9 × 0 .7 0 .1 × 0 .7 0 .9 × 0 .3 0 .1 × 0 .3
0 .05 × 0 .7 0 .9 5 × 0 .7 0 .05 × 0 .3 0 .95 × 0 .3
82 应用随机过程

如果我们从状态 U M 出发 , 要求 在第 4 个时 间周 期后 , 硬币 处于 状态 D 的 概
4 4
率 , 则由于 2 = DM 和 4 = D W 都是状态 D , 所以 , 所求概率为 P12 + P1 4 .

5 .1 .4 n 步转移概率 C-K 方程

定义 5 .5 ( n 步转移概率 ) 称条件概率
p(i jn ) = P{ Xm + n = j | Xm = i} , i, j ∈ S , m ≥ 0 , n ≥ 1
( 5 .1 .19 )
( n) ( n)
为 Markov 链的 n 步转移概率 , 相应地称 P = pi j 为 n 步转移矩阵 .
( 1) (1 )
当 n = 1 时 , p i j = pi j , P = P, 此外规定
0, i ≠ j,
p(i j0 ) = ( 5 .1 .20 )
1, i = j.
显然 , n 步转移 概率 p(i jn ) 指 的就是系 统从状态 i 经过 n 步 后转移 到 j 的概 率 ,
( n)
它对中间的 n - 1 步转移经 过的 状态无 要求 .下 面 的定 理给 出了 p i j 和 p i j 的
关系 .

定理 5 .1 ( Chapman-K olmogorov 方 程 , 简 称 C- K 方 程 ) 对 一 切 n,
m≥0 , i, j∈ S 有
( 1)

∑ p i k pk j ;
( m + n) ( m) ( n)
pi j = ( 5 .1 .21 )
k∈ S

( 2)
( n) ( n - 1) ( n - 2) n
P = P・ P = P・ P・ P = … = P . ( 5 .1 .22 )
证明
p(i jm + n) = P{ Xm + n = j | X0 = i}
P{ X m + n = j, X0 = i}
=
P{ X0 = i}
P{ X m + n = j, Xm = k, X0 = i}
=∑ ( 全概率公式 )
k∈ S P{ X0 = i}
P{ X m + n = j, Xm = k, X0 = i} P{ X m = k, X0 = i}
=∑
k∈ S P{ X0 = i} P{ X m = k, X0 = i}

= ∑ P{ X m + n = j | X m = k, X0 = i} P{ Xm = k | X0 = i}
k∈ S

= ∑ p k( n)j ・ p(i km)


k∈ S
第 5章 M a rkov链 83

= ∑ p (i km) p (k n)j .
k∈ S

( 2) 是 (1 ) 的矩阵形式 , 利用矩阵乘法易得 . x

1
例 5 .11 设例 5 .2 中 , n = 3 , p = q = .赌徒 A 从 2 元赌金 开始 赌博 .求
2
解他经过 4 次赌博之后输光的概率 .
解 这个概率为 p20( 4 ) = P{ X4 = 0 | X0 = 2} , 转移矩阵
1 0 0 0
1 1
0 0
2 2
P = , ( 5 .1 .23 )
1 1
0 0
2 2
0 0 0 1
利用矩阵乘法得
1 0 0 0
5 1 5
0
(4 ) 4 8 16 16
P = P = . ( 5 .1 .24 )
5 1 5
0
16 16 8
0 0 0 1
5
故 p420 = ( P( 4 ) 中第 3 行第 1 列 ) .
16
[ 31 ]
例 5 .12( 广告效益的推 算 ) 某 种鲜 奶 A 改变 了 广告 方式 .经 调查 发
现买 A 种 鲜奶 及 另外 三种 鲜奶 B , C, D 的顾 客 每两 个月 的平 均转 换 率如 下
( 设市场中只有这 4 种鲜奶 ) :
A → A(95 % ) B(2 % ) C( 2 % ) D( 1 % ) ;
B → A(30 % ) B( 60 % ) C( 6 % ) D( 4 % ) ;
C → A(20 % ) B( 10 % ) C(70 % ) D( 0 % ) ;
D → A(20 % ) B( 20 % ) C(10 % ) D( 50 % ) .
假设目前购买 A, B, C, D 4 种鲜 奶的顾 客的分 布为 ( 25 % , 30 % , 35 % , 10 % ) .
试求半年后鲜奶 A, B, C, D 的市场份额 .
解 令 P 为转移矩阵 , 则显然有
84 应用随机过程

0 .95 0 .02 0 .02 0 .01


0 .30 0 .60 0 .06 0 .04
P = .
0 .20 0 .10 0 .70 0 .00
0 .20 0 .20 0 .10 0 .50

μ = (μ1 ,μ2 ,μ3 ,μ4 ) = (0 .25 , 0 .30 , 0 .35 , 0 .10 ) . ( 5 .1 .25 )
3
首先经过半年后顾客在这 4 种鲜奶上的转移概率是 P , 计算矩阵的乘积得
0 .9145 0 .035 0 .0352 0 .0153
2 0 .485 0 .38 0 .0 88 0 .0 47
P = ,
0 .36 0 .134 0 .5 0 .0 06
0 .37 0 .234 0 .1 36 0 .26
0 .8894 0 .0458 0 .0 466 0 .01820
3 0 .60175 0 .2559 0 .0 988 0 .04355
P = .
0 .4834 0 .1388 0 .36584 0 .01196
0 .5009 0 .2134 0 .14264 0 .14306
3
因为我们关心鲜 奶 半 年 后的 市 场 占 有 率 , 所 以 要 求 出 P 的 前 3 列 .其 中 第
1、
2、3 列即是从 A, B, C, D 4 种鲜 奶经 3 次转移后 转到 A, B 和 C 的 概率 , 即
得 A 的市场占有率变为
0 .8894
0 .60175
v A = ( 0 .25 , 0 .3 , 0 .35 , 0 .10 ) ≈ 0 .6 24 ;
0 .4834
0 .5009
B 的市场占有率变为
0 .0458
0 .2559
vB = (0 .2 5 , 0 .3 , 0 .35 , 0 .1 0) ≈ 0 .1 5814 ;
0 .1388
0 .2134
C 的市场占有率变为
0 .0466
0 .0988
vC = ( 0 .25 , 0 .3 , 0 .35 , 0 .10 ) ≈ 0 .183318 .
0 .36584
0 .14264
于是得到 D 的市场占有率为
第 5章 M a rkov链 85

vD = 1 - 0 .6 24 - 0 .15814 - 0 .183318 = 0 .0 34542 .


A 种鲜奶的市场份额由原来的 25 % 增至 62 % , B 种鲜奶的市场份额 由原
来的 30 % 减至不足 16 % , C 种鲜奶的市场份额由原来的 35 % 减至 18 % 稍 强 ,
D 种鲜奶的市场份额由原来的 10 % 减至不足 4 % .由 此可见 A 种鲜奶的 新的
广告方式很有效益 .

5 .2 停时与强 Markov 性

Ma rkov 链的一个最有 用 的 性 质 是 Ma rkov 性 , 即 在 给 定“ 过 去”和“ 现


在”状态的条件下 , 要 确定 将来 的 状态 , 只 需 要知 道“ 现在”的 状 态就 足 够 了 .
这里的“ 现在”时刻 t 是一个 固定 的数 .如果 给定 的“ 现在”是 一个 我们 称之 为
“ 停时”的随机时间 , M arkov 性仍成立 , 则称之为强 Ma rkov 性 .

定义 5 .6 令 { Y n : n = 0 , 1 , 2 , …} 是一个定义在概率空间 (Ω, F, P) 上 的具
有可数状态空间的随机过程 , (Ω, F, P) 上的广义随机变量 ( 即可以取值 + ∞ )τ
称为一个停时 , 如果
( 1) τ只取非负整数值 ( 包含 + ∞ ) ;
( 2) 对每个非负整数 m, 事件 {ω:τ (ω) ≤ m}完全由 Y0 , Y1 , … , Y m 确定 .
直观上 看 , 如果 τ是一 个停 时 , 则到 时刻 m 是 否停止 完全 由随 机过程 直
到时刻 m 的观察确定 .比如 , 考虑过程{ Yn }第一次到达状态 y 的时刻τy :
τy (ω) = inf{ n ≥ 0 : Y n (ω) = y} , (5 .2 .1 )
如果 ω使得对所有的 n , Y n (ω) ≠ y( 即过程不到达 y) , 则取 τy (ω) = ∞ .注意到
m

{ω:τy (ω) ≤ m} = ∪ {ω: Y n (ω) = y} , (5 .2 .2 )


n=0
( r)
因此 ,τy 是一个停时 .考察第 r 次返回 y 的时间τy , 定义为
(1)
τy (ω) = inf{ n ≥ 1 : Y n (ω) = y} ,
( r) ( r - 1)
τy (ω) = inf{ n > τy : Y n (ω) = y} , r = 2, 3, … (5 .2 .3 )
规定对空集取极小为 + ∞ .过程在 到时 刻 m 时 是否 会 到达 状态 y 至少 r 次 ,
( r)
完全由 Y1 , … , Y m 的值确定 .事实上 , {τy ≤ m} 恰好 等 于随 机变 量 Y1 , … , Y m
中至少有 r 个等 于 y 这 一事 件 .因此 ,τ(y r) 是一 个 停 时 .值 得 注 意 的 是 , 如 果
ηy 表示过程{ Yn }最后一次到达状态 y 的时刻 , 则 ηy 不是停时 .因 为 ηy ≤ m 是
否成立 , 往往需要观察整个过程{ Y n } .
设 τ是 一 个 停 时 , 则“ 给 定 直 到 时 刻 τ的 过 去”是 指 给 定 τ的 值 和 Y0 ,
86 应用随机过程

Y1 , … , Yτ .而“τ之后”的过程是指随机过程
+
Yτ = { Yτ+ n : n = 0 , 1 , …}
在集合{τ < ∞} 有定义 .

定理 5 .2 每个 Ma rkov 链 { Y n : n = 0 , 1 , 2 , … }都 具 有强 Ma rkov 性 ; 即 ,
+
对每个停时 τ, 给定直到时刻 τ的过去 ,τ之后过 程 Yτ = { Yτ+ n : n = 0 , 1 , … }在
{τ < ∞} 上的条件分布是 PYτ .
证明 取非负整数 m, 正整数 k, k 个时 间点 0 ≤ m1 < m2 < … < mk 和状
态 i0 , i1 , … , i m , j1 , j2 , … , j k , 则
P{ Yτ+ m1 = j1 , … , Yτ + m k = j k | τ = m, Y0 = i0 , … , Y m = i m }
= P{ Y m + m1 = j1 , … , Y m + m k = j k | τ = m, Y0 = i0 , … , Y m = im } .
(5 .2 .4 )
如果事件{τ= m} 与 事 件 { Y0 = i0 , … , Y m = im } 不相 容 , 则 {τ= m, Y0 = i0 , … ,
Y m = im } = , 条件事件是不可能事件 , 此时 , 条件 概率 可以任 意定 义 ( 或 不定
义 ) .然而 , 如果事件{τ= m}与 事件{ Y0 = i0 , … , Y m = i m } 相容 , 则 {τ= m, Y0 =
i0 , … , Y m = im } = { Y0 = i0 , … , Y m = im } , 于是 (5 .2 .4 ) 式的右端变为
P{ Y m + m1 = j1 , Y m + m 2 = j2 , … , Y m + m k = j k | Y0 = i0 , … , Y m = i m } .
(5 .2 .5 )
由 Markov 性知 , 在{τ = m}上 , (5 .2 .5 ) 式等于
Pi m { Y m + m 1 = j1 , Y m + m2 = j2 , … , Y m + m k = jk }
= PYτ { Y m + m1 = j1 , Y m + m 2 = j2 , … , Y m + m k = j k } . (5 .2 .6 )

5 .3 状态的分类及性质

本节我们首先来讨论一 下 Ma rkov 链各 个状 态之 间 的关 系 , 并以 这些 关
系将状态分类 , 最后来研究它们的性质 .

定义 5 .7 称状态 i 可达状态 j ( i, j∈ S) , 若存在 n≥ 0 使得 p(i jn ) > 0 , 记


为 i→ j .若同时有状态 j→ i, 则称 i 与 j 互通 , 记为 i\ j .

定理 5 .3 互通是一种等价关系 , 即满足 :
( 1) 自返性 i\ i;
( 2) 对称性 i\ j, 则 j\ i;
( 3) 传递性 i\ j, j\ k, 则 i\ k .
第 5章 M a rkov链 87

证明 从互通的定义可知 ( 1) 、( 2) 是显然的 , 只证 ( 3 ) . 由互通 定义可 知 ,


需证 i→ k 且 k→ j .首先 , 由 i→ j , j→ k 知道 存在 m, n 使得 p(i jm) > 0 , p(jkn) > 0 .
再由 C-K 方程知道 p(i km + n ) = ∑p p(l nk ) ≥ p(i jm ) p (j kn) > 0 , 故 i→ k .反过来同样
( m)
il
l∈ S

有 k→ i, 即证 i\ k . x
我们把任何两个相 通 状态 归 为一 类 , 由 上 述定 理 可 知 , 同 在一 类 的状 态
应该都是互通的 , 并且任何一个状态不能同时属于两个不同的类 .

定义 5 .8 若 Ma rkov 链只存在一个类 , 就 称它是 不可 约的 .否 则称为 可


约的 .

例 5 .13 我 们 来看 例 5 .1 中 疾 病 死
亡模型的 4 个状 态 之间 的 关系 , 为清 楚 起
见 , 经 常 以转 移 图 来 表 示 Ma rkov 链 的 状
态变化 , 由转移矩阵可得图 5 .2 .
容易看 出 S1 → S1 , S2 → S1 , S1 → S2 ,
S2 → S2 , S1 → S3 , S2 → S3 , S1 → S4 ,
S2 → S4 .所 以 只 有 S1 \ S2 , 但 S3 /→ S1 , 图 5 .2
S4 →
/ S1 , S3 /→ S2 , S4 /→ S2 , S3 /→ S4 , S4 /→ S3 .
状态可分为三类{ S1 , S2 } , { S3 } 和{ S4 } .
读者可用类似的方法来说明赌徒输光问题中任何两个状态 i, j, 0 < i < n,
0 < j < n 都互通 , 并可将所有状态分为三类 : {0} , {1 , 2 , … , n - 1} , { n} .
下面我们给出 状 态 的 一 些 性 质 , 然 后 证 明 同 在 一 类 的 状 态 具 有 相 同 的
性质 .
( n)
定义 5 .9 ( 周期性 ) 若集合 { n: n≥1 , pi i > 0} 非空 , 则称它 的最大公 约数
d = d( i) 为状态 i 的周期 .若 d > 1 , 称 i 是周期 的 ; 若 d = 1 , 称 i 是非 周期的 .并
特别规定上述集合为空集时 , 称 i 的周期为无穷大 .
注 5 .1 由定义 5 .9 知道 , 虽然 i 有周期 d , 但并不是对所有的 n, p(i in d ) 都
( n)
大于 0 .如果集合{ n: n≥ 1 , p i i > 0}为{3 , 9 , 18 , 21 , … } , 其最 大公约 数 d = 3 ,
(6) ( 12 )
即 3 是 i 的 周期 , 显 然 , n = 6 , 12 , 15 都不 属于 此集 合 , 即 p i i = 0 , p i i = 0,
(1 5) ( dn )
pi i = 0 .但 是 可 以 证 明 , 当 n 充 分 大 之 后 一 定 有 p i i > 0 ( 详 见参 考 文
献 [ 38 ] ) .

例 5 .14 考察如图 5 .3 所示的 M arkov 链 .


由状态 1 出发再回到状态 1 的可能步 长为 T = {4 , 6 , 8 , 10 , … } 它的 最大
88 应用随机过程

图 5 .3

公约数是 2 , 虽然从状态 1 出发 2 步并不能回到状态 1 , 我们仍然称 2 是状态 1


的周期 .

定理 5 .4 若状态 i, j 同属一类 , 则 d( i) = d( j ) .
证明 由类的定义知 i\ j, 即存 在 m, n 使 p(i jm) > 0 , p(j in) > 0 . 则 p(i im + n ) =

∑p
( m) ( n) ( m) ( n) ( s) ( n+ s + m)
ik pk i ≥ pi j p j i > 0 . 对 所 有 使 得 pj j > 0 的 s, 有 pi i ≥
k∈ S
( m) ( s) ( n)
pi j p j j p j i > 0 . 显然 d( i) 应同时整除 n + m 和 n + m + s, 则它必定整除 s .
而 d( j) 是 j 的 周 期 , 所 以 也 有 d ( i ) 整 除 d ( j ) , 反 过 来 也可 证 明 d( j ) 整 除
d( i) , 于是 d( i) = d( j ) .
( n)
定 义 5 .10 ( 常返性 ) 对于任何状态 i, j, 以 f i j 记从 i 出发经 n 步后首次
到达 j 的概率 , 则有
f (i 0j ) = 0 ,
( n)
f ij = P{ X n = j, X k ≠ j, k = 1 , 2 , … , n - 1 | X0 = i} ,
n≥ 1 . (5 .3 .1 )

∑f
( n)
令 fij = ij , 若 f j j = 1 , 称状态 j 为常返状态 .若 f j j < 1 , 称 j 为非常返状
n=1

态或瞬过状态 .
我们来看 f i j 的含义 : 容易看出集合 A n = { X n = j, X k ≠ j, k = 1 , 2 , … ,

n - 1 | X0 = i} , 在 n 不同时是不相交的 , 并且 ∪n= 1
An 表示总有一个 n 使得过

程经 n 步后可从 i 到达 j , 所以
∞ ∞ ∞

∪ ∑ ∑
( n)
P An = P( An ) = fij = fij
n= 1 n= 1 n= 1

就表示从 i 出发 , 有限步内可以到达 j 的概率 .当 i 常 返状态时 , 以 概率 1 从 i


出发 , 在有限步内过程将重新返 回 i; 而当 i 非常 返状 态时 , 以 概率 1 - f i i > 0
第 5章 M a rkov链 89

过程不再回到 i, 换言之 , 从 i 滑过了 .


对于常返态 i, 定义

∑ nf
( n)
μi = ii .
n= 1

可以知道 μi 表示的是由 i 出发再返回到 i 所需的平均步数 ( 时间 ) .

定义 5 .11 对于常返态 i, 若 μi < + ∞ , 则称 i 为正常 返态 ; 若 μi = + ∞ ,


则称 i 为零常返态 .特别地 , 若 i 正常返且是 非周期的 , 则称之为遍 历状态 .若
i 是遍历状态 , 且 f (i 1i ) = 1 , 则称 i 为吸收状态 .此时显然 μi = 1 .
我们可以证明 , 对于同属一类的状态 i, j, 它们同为常返态或非常返态 , 并
且当它们是常返状态 时 , 又同 为 正常 返 态和 零 常返 态 .但 我 们 首先 要 引入 常
返性的另一个判定方法 .

定理 5 .5 状 态 i 为常 返状 态当 且 仅当 ∑p = ∞ ; 状态 i 为 非常 返
( n)
ii
n= 0

态时

1
∑p
( n)
ii = ,
n= 0 1 - f ii
因而此时有 n→ ( n)
lim p ii =0 .

在证明定理之前 , 我们需要下面的引理 , 它给出了转 移概率 p(i jn) 与首 达概


( n)
率 f i j 的关系 .
引理 5 .1 对任意状态 i, j 及 1≤ n < + ∞ , 有
n

∑f
( n) ( l) ( n - l)
p ij = ij pj j . (5 .3 .2 )
l =1

证明 用归纳法 .对 n = 1 , 2 , 由 p(i 1j ) = f (i 1j ) , 易证上式成立 .


n -1

假设对 n - 1 , 已有 p ∑f p(j nj - 1 - l ) 成立 .
( n - 1) ( l)
ij = ij
l=1

当取 n 时 , 利用 C- K 方程 , 有
= ∑ pik p kj ∑p
( n) ( n - 1) (1) ( n - 1) ( n - 1)
pi j = pi j p j j + ik pk j
k∈ S k≠ j
k∈ S

n -1

∑ ∑
(1 ) ( n - 1) (1) ( l) ( n - 1 - l)
= f ij p jj + f ik f kj p j j
k≠ j l= 1
k∈ S

n -1

∑ ∑f
(1 ) ( n - 1) (1 ) ( l) ( n - 1 - l)
= f ij p jj + ik f kj pj j
l= 1 k≠ j
k∈ S
90 应用随机过程

n -1

∑f
(1 ) ( n - 1) ( l + 1)
= f ij p jj + ij p(j nj - 1 - l )
l= 1

∑f
(1 ) ( n - 1) ( l) ( n - l)
= f ij p jj + ij pjj
l= 2

= ∑ f (i lj ) p (j nj - l ) .
l= 1

证明中我们用到了等式 f (i lj + 1 ) = ∑f f k( lj) , 请读者自行 证之 .现在我们 就可


(1 )
ik
k≠ j

以对定理 5 .5 给出证明了 .
定理 5 .5 的证明 用引理 5 .1 , 有
∞ ∞ n

∑p ∑ ∑f
( n) (0 ) ( l)
ii = p ii + ii p (i in - l )
n= 0 n= 1 l= 1

∞ ∞

∑∑ f
( l) ( n - l)
=1 + ii p ii
l= 1 n= l

∞ ∞

∑ ∑p
( l) ( m)
=1 + f ii ii ,
l= 1 m= 0

所以

1
∑p
( n)
ii = .
n= 0 1 - f ii
从而
∞ ∞

∑p ∑p
( n) ( n)
ii 收敛 f ii < 1 ; ii = ∞ fi i = 1 .
n=0 n= 0

引理 5 .2 若 i\ j 且 i 为常返态 , 则 f j i = 1 .
证明 假如 f j i < 1 , 则 以正概率 1 - f j i > 0 使得从 j 出发 不能在有 限步
内回到 i .这意味着系统中存在着一 个正 概率 , 使 得它从 i 出 发不能 在有 限步
内回到 i , 从而 f i i < 1 , 与假设 i 是常返状态相矛盾 .所以只能有 f j i = 1 .

定理 5 .6 常返性是一个类性质 .
证明 首先来证明若 i\ j , 则 i, j 同为常返状态或非常返状态 .
由 i\ j 知 , 存在 n, m, 使得 p(i jn) > 0 , p(j im) > 0 , 由 C- K 方程总有
p(i in + m + l ) ≥ p(i jn) p(j l)j p(j im) ,
( n + m + l) ( m) ( l) ( n)
pj j ≥ pj i pi i p i j ,
则求和得到
第 5章 M a rkov链 91

∞ ∞

∑p ≥p ∑p
( n + m + l) ( n) ( m) ( l)
ii ij p ji jj ,
l= 0 l=0

∞ ∞

∑p ∑
( n + m + l) ( n) ( m) ( l)
jj ≥p ij p ji pi i .
l= 0 l=0
∞ ∞

∑p ∑p
( l) ( l)
可见 , jj , ii 相互控制 , 同为无穷或 有限 , 从 而 i, j 同为常 返状 态或
l= 0 l=0

非常返状态 .
其次我们还可以证明 , 当 i, j 同为常返状态时 , 它 们同为正 常返态或 零常
返态 .证明将在下一节给出 .
我们知道任意 Markov 链从一个常返状态出发 , 只能 到达常返 状态 , 因此
状态空间中的常返状 态全体构成一个 闭集 C( 即 从 C 的内 部不能到达 C 的外
部 , 这意味着一旦进入闭集 C 中 , 将永远留在 C 中 ) .在 C 中按照互通关系 , 我
们得到如下的状态空间分解定理 .

定理 5 .7 任意 Mar kov 链的状态空间 S, 可惟一分解为有限个或可 列个


互不相交的子集 D, C1 , C2 , …之和 , 使得
( 1) 每一个 Cn 是常返状态组成的不可约闭集 ;
( 2) Cn 中的状态同类 , 或者全是正 常返态 , 或者 全是 零常返 态 .它们 有相
同的周期且 f i j = 1 , i, j∈ Cn .
( 3) D 由全体非常返状态组成 .自 Cn 中状态出发不能到达 D 中状态 .
证明 记 C 为全体 常返 状态组 成的 集合 , 则 D = S - C 为 非常 返状态 全
体 .将 C 按互通关系进行分解 , 则得
S = D ∪ C1 ∪ C2 ∪ … ,
其中每一个 Cn 是由常返状态组成的不可约的闭集 . 由定理 5 .6 知 , Cn 中的状
态同类型 .显然 , Cn 中的状态不能到达 D 中的状态 . x
对于不可约的 Markov 链 , 我们有如下的分解定理 .

定理 5 .8 周期为 d 的不 可约 Ma rkov 链 , 其状态 空间 S 可惟 一地 分解


为 d 个互不相交的子集之和 , 即
d-1

S = ∪ Sr , Sr ∩ Ss = , r ≠ s, (5 .3 .3 )
r= 0

且使得自 Sr 中任意状态出发 , 经 1 步转移必进入 Sr + 1 中 ( 其中 S d = S0 ) .


证明 首先 , 任意取状态 i, 对每一个 r = 0 , 1 , … , d - 1 , 定义集合
Sr = { j: 对某个 n ≥ 0 , p(i jn d + r) > 0} . (5 .3 .4 )
92 应用随机过程

d- 1

因为 S 不可约 , 所以 ∪r= 0
Sr = S .
( n d + r)
其次 , 如果存在 j∈ Sr ∩ Ss , 由 ( 5 .3 .4 ) 式知 , 存在 n, m 使 得 p i j > 0,
( m d + s) ( h)
pij > 0 . 又因为 i\ j, 故存在 h, 使得 p ji > 0 , 于是
( n d + r+ h) ( n d + r) ( h)
pi i ≥ pi j pj i > 0,
( m d + s + h) ( m d + s) ( h)
pi i ≥ pi j p ji > 0 .
由此可见 r + h 和 s + h 都能被 d 整除 , 从而其差 r + h - ( s + h) = r - s 也能被
d 整除 .但是 0 ≤ r, s≤ d - 1 , 故只 能 有 r - s = 0 , 于是 得到 Sr = Ss .这说 明 , 当
r≠ s 时 , Sr ∩ Ss = .
再其次证明对任意 j∈ Sr , 有 ∑
k∈ S
r+ 1
pj k = 1 . 事实 上 , 若 p(i jn d + r) > 0 , 则 当

k| Sr + 1 时 ,
( n d+ r +1) ( n d + r)
0 = pi k ≥ pi j p jk > 0 ,
从而 p jk = 0 , 于是有
1 = ∑p k∈ S
jk = ∑
k∈ S
r+ 1
p jk + ∑
k| S
r +1
p jk = ∑
k∈ S
r+ 1
p jk .

最后证明分解的惟一性 , 这只需要证明{ Sr }与最初 状态 i 的选 择无关 , 亦


即如果对某个固 定的 i, 状 态 j 与 k 属 于 某 个 S r , 则 对 另 外 选定 的 i′, 状 态
j 与 k 仍属于同一个 S r′ ( r 与 r′可以不同 ) . 实际上 , 设对 某个 i 得 到 分解 S0 ,
S1 , … , S d - 1 , 对 i′得 到 分 解 S′ 1 , … , S′
0 , S′ d - 1 , 又 假 设 j, k∈ Sr , i′∈ Ss , 则 当
r≥ s 时 , 从 i′出发 , 只能在 r - s, r - s+ d, r - s + 2 d, …步上到达 j 或 k, 故 j 与
k 都属 于 S′
r - s .而 当 r < s 时 , 从 i′出 发, 只 能 在 d - ( s - r) = r - s + d,
r - s+ 2 d , …步上到达 j 或 k, 故 j 与 k 都属于 S′
r - s+ d . x

例 5 .15 设 M arkov 链 的 状 态 空 间 S = {0 , 1 , 2 , … } , 转 移 概 率 为
1 1 1
p00 = , pi i + 1 = , p i0 = , i∈ S .
2 2 2

图 5 .4 例 5 .15 图示
第 5章 M a rkov链 93

(1) 1 (2 ) 1 1 ( 3) 1 1 1 ( n) 1
由图 5 .4 易知, f00 = , f00 = × , f0 0 = × × , …, f00 = n ,
2 2 2 2 2 2 2
∞ ∞
1
∑ ∑ n2
- n
故 f00 = = 1 , μ0 = < ∞ .可见状态 0 是正常返态 , 显然它是非
n= 1 2n n=1

周期的 , 故 0 是遍历状态 .对其他状态 i > 0 , 由 i\ 0 , 故 i 也是遍历状态 .

例 5 .16 考 虑 直 线 上 无 限 制 的 随 机 游 动 , 状 态 空 间 为 S = {0 , ± 1 ,
±2 , …} , 转移概率为 pi, i + 1 = 1 - pi , i - 1 = p, i∈ S .对于状态 0 , 可知 p0( 20 n + 1 ) = 0 , n
= 1 , 2 , … , 即从 0 出发奇数次不可能返回到 0 .而
( 2 n)
2n n n (2 n) ! n
p00 = p ( 1 - p) = [ p(1 - p) ] ,
n n !n !
即经过偶数次回到 0 当且仅当它向左、右移动距离相同 .
1
由 Stirling 公 式 知 , 当 n 充 分 大 时 , n ! ~ nn + 2 e- n 2π .于 是 p00( 2 n) ~
[4 p( 1 - p) ] n 1 1 1 1
.而 p( 1 - p) ≤ 且 p(1 - p) = p= . 于是当 p = 时,
nπ 4 4 2 2
∞ ∞
1 1
∑p ∑p
( n) ( n)
ii = ∞ , 否则 ii < ∞ , 即当 p ≠ 时状态 0 是瞬过状态 , p =
n= 0 n= 0 2 2
时是常返状态 .显然 , 过程的各个状态 都是 相通 的 , 故以 此可 得其他 状态 的常
返性 ( 请读者自己考虑它们的周期是什么 ) .

5 .4 极限定理及不变分布

5 .4 .1 极限定理

对于一个系统来 说 , 考虑 它 的长 期 的性 质 是很 必 要 的 , 本 节我 们 将研 究
Ma rkov 链的极限情况和平稳 Ma rkov 链的有关性质 .首先来看两个例子 .

例 5 .17 设 M arkov 链的转移矩阵为


1 - p p
P = , 0 < p, q < 1, (5 .4 .1 )
q 1 - q
现在考虑 P( n) , 当 n→∞时的情况 .由 P( n ) = Pn 知 , 只需计算 P 的 n 重乘积的
极限 .令
1 - p
Q = , (5 .4 .2 )
1 q
94 应用随机过程

1 0
D = , (5 .4 .3 )
0 1 - p - q

q p
-1
p+ q p + q -1
Q = , P = QDQ . (5 .4 .4 )
1 1
-
p+ q p+ q
从而
n
n -1 n
1 0 -1
P = ( QDQ ) = Q Q
0 1 - p - q
q + p(1 - p - q) n p - p( 1 - p - q) n
p + q p + q
= n n
. (5 .4 .5 )
q - q(1 - p - q) p + q( 1 - p - q)
p + q p + q
由于 | 1 - p - q| < 1 , ( 5 .4 .5) 式的极限为
q p
p+ q p + q
lim Pn = . (5 .4 .6 )
n→ ∞
q p
p+ q p + q
可见此 Markov 链的 n 步转移概率有一个稳定的极限 .

1
例 5 .18 在例 5 .14 中令 p = , 则
3
n
1 2
4× ×
3 3
lim p00( 2 n) = n→
lim = 0 . (5 .4 .7 )
n→ ∞ ∞

1
令 p= ,则
2
n
1 1
4× ×
2 2
lim p00( 2 n) = lim = 0 . (5 .4 .8 )
n→ ∞ n→ ∞

由 ( 5 .4 .7) 和 (5 .4 .8 ) 式 知道 , 从 零出 发 经过 无穷 次的 转 移之 后 , 系 统 在某 一
规定时刻回到 0 的概率趋于 0 .
1
我们容易证明例 5 .17 中所有 状态 是正常 返 态 , 而例 5 .16 中 当 p = 时
3
1
状态 0 是 非常 返态 , 当 p = 时 , 0 是零 常返 态 .那么 两个例 子给 出的 是不 是
2
第 5章 M a rkov链 95

一般结论呢 ? 答案是肯定的 , 我们有以下 Ma rkov 链的一个基本极限定理 .

定理 5 .9 若状态 j 是周期为 d 的常返状态 , 则


( n d) d
lim p j j = , (5 .4 .9 )
n→ ∞ μj
d
当 μj = ∞时 , =0 .
μj
证明 对 n≥0 , 令

rn = ∑
v= n+ 1
fv ,
( v)
这里 f v = f j j .于是
∞ ∞

∑r
n= 0
n = ∑ nf
n= 1
n = μj . ( 5 .4 .10 )

令 r0 = 1 , 以 f v = rv - 1 - rv 代入 (5 .4 .2 ) 式 , 并记 pv = p(j v)j , 得
n

pn = - ∑(r v= 1
v - rv - 1 ) pn - v ,


n n- 1

∑r p
v= 0
v n - v = ∑r p
v= 0
v n -1 - v ,
n

这表明 ∑r p
v=0
v n- v 的值与 n 无关 .既然 r0 p0 = 1 , 所以得
n

∑r p
v=0
v n- v = 1, n≥0 . ( 5 .4 .11 )

设 λ= limn→ sup pn d , 因为当 k 非 d 的倍数时 , pk = 0 , 故


λ = lim sup pn d = limk→ s∞up p k . ( 5 .4 .12 )


n→ ∞

从而存在子列 { nm } , nm →∞ , 使得 λ= m→
lim pn m d .任取 s 使得 f s > 0 , 由于 d 可以

整除 s, 利用 ( 5 .4 .2) 式以及 f j = 1 得到
n d
m

λ = lim inf pn m d =
m→∞
fs p nmd - s + ∑
v = 1, v ≠ s
f v pnm d - v

≤ f s lim i nf pn m d - s +
m→ ∞ ∑
v= 1, v ≠ s
f v ・lim sup pm
m→ ∞

≤ f s lim i nf pn m d - s + (1 - f s )λ. ( 5 .4 .13 )


m→ ∞

于是
lim inf p n m d - s ≥ λ,
m→∞
96 应用随机过程

故由式 ( 5 .4 .12 ) 得
lim pn m d - s = λ.
m→ ∞

上式对每一个使得 f s > 0 的 s 以 及每一 个使 得 m→


lim∞ pn m d = λ的 子列 { nm } 成 立 ,
因此 , 由于 s 是 d 的倍数 , 得
lim∞ p( n m d - s) - s = λ, …
lim p n m d - 2 s = m→
m→ ∞

将此事实连续用若干次后 , 可见
lim pn m d - u = λ
m→ ∞
l

对形如 u = ∑cd
i= 1
i i 的 u 成 立 , 这 里 ci , di 都是 正 整数 , 使得 f d i > 0 , i = 1 ,

2 , … , l . 由周期 d 的定义知 , 存在 满足 f d i > 0 的 di , i = 1 , 2 , … , l, 使得 d1 ,


d2 , … , dl 的最大公因子也是 d .于是 , 当 k 大于某个正整数 k0 时 , 必有正整数
ci , 使得
l

kd = ∑cd
i= 1
i i .

这样就证明了对每个 k≥ k0 , 有
lim p( n m - k) d = λ.
m→ ∞

在式 (5 .4 .11) 中令 n = ( nm - k0 ) d, 并注意到当 v 不是 d 的整数倍时 pv = 0 , 则得


n - k
m 0

∑r v=0
vd p ( nm - k0 - v) d = 1 .

令 m→∞ , 易见 , 当 ∑ rv d < ∞ 时 ,
v= 0

λ∑ rv d = 1 ,
v=0

否则 λ= 0 .从而有
1
λ= ∞ .
∑rv= 0
vd

但因为当 v 不是 d 的整数倍时 , f v = 0 , 故由 rn 的定义易见


v d+ d - 1
1
rv d =
d ∑
j= vd
rj .

从而由 ( 5 .5 .10 ) 式 , 得
∞ ∞
μj
∑r vd = 1 ∑ rv = ,
v= 0 d v=0 d
第 5章 M a rkov链 97


d
λ= .
μj
用与上述计算li m sup pn d 类似的方法 , 可以得到
n→ ∞

d .
lim inf pnd =
n→ ∞ μj
注 5 .2 在定理 5. 9 中只 提 到 i 是 常返 状 态 的情 形 .当 i 是非 常 返状 态

时 , 由于 ∑ p(i in) < ∞ , 易见 n→


lim p(i in) = 0 .

n= 1

由定理 5 .9 , 我们有以下推论 .

推论 5 .1 设 i 为常返状态 , 则
( n)
i 为零常返状态 lim pi i = 0 .
n→ ∞
( nd )
证明 若 i 为零 常返 状态 , 则 μi = ∞ , 从 而 n→
lim pi i = 0 .而 当 m 不 是 d

( m) ( n)
的整数倍时 , p i i = 0 , 故 n→
lim pi i = 0 .

反之 , 若 lim = 0 . 设 i 为 正 常 返状 态 , 则 μi < ∞ , 由 定 理 5 .9 知 道
( n)
pii
n→ ∞

lim p(i in d ) > 0 , 矛盾 . x


n→ ∞

利用推论 5 .1 , 我们把定理 5 .6 的第二部分补充证明如下 :


定理 5 .6 的证明 设 i\ j 为常返状态且 i 为零常返状态 , 则
p(i in) → 0 . ( 5 .4 .14 )
考虑到
( n + m + l) ( n) ( m) ( l)
pi i ≥ pi j p j j p j i ≥ 0 , ( 5 .4 .15 )
令 m→∞ , 对 ( 5 .4 .15 ) 式取极限 , 得
0 ≥ m→
li m p(j mj ) ≥ 0 , ( 5 .4 .16 )

故 j 也为零常返状态 . 反之 , 由 j 为零 常返状 态也 可推 得 i 为零 常返 状态 , 从
而证明了 i, j 同为零常返状态或正常返状态 . x
下面我们要利用定理 5 .9 来讨论 p(i jn ) 的极限性质 .一般说来 , 我们讨论两
( n)
个问题 .一是极限 nlim pi j 是否存在 , 二是其极限是否与 i 有关 . 首先有下面的
→∞

结论 .

定理 5 .10 若 j 为非常返状态或零常返状态 , 则对 " i∈ S ,


( n)
li m pij = 0 . ( 5 .4 .17 )
n→ ∞

证明 由引理 5 .1 , 得
98 应用随机过程

∑f
( n) ( l)
p ij = ij p(j nj - l) . ( 5 .4 .18 )
l =1

对 N < n, 有
n N n

∑f ≤ ∑f ∑
( l) ( n - l) ( l) ( n - l)
ij p jj ij p j j + f (i lj ) , ( 5 .4 .19 )
l=1 l= 1 l = N +1

先固定 N , 令 n→∞ , 由于 p(j n)j →0 , 所以式 ( 5 .3 .19 ) 右端第 一项 趋于 0 .再令


N→∞ , 式 ( 5 .4 .19 ) 右端第二项因 ∑ f (i jl) ≤ 1 而趋于 0 , 故


l=1

lim p(i jn) = 0 .


n→ ∞

定理得证 . x

推论 5 .2 有限状态的 Mar kov 链 , 不可能 全为 非常返 状态 , 也 不可 能有


零常返状态 , 从而不可约的有限 Ma rkov 链是正常返的 .
证明 设状 态空 间 S = {1 , 2 , … , N} .若 全部 N 个 状态 非 常返 , 对状 态
i→ j, 有 p(i jn ) → 0 .若 i→
/ j, 即 i 不 可 达 j , 对 " n, p(i jn) = 0 .于 是 当 n→ ∞ 时 ,
N N

∑p → 0 , 但 ∑ p(i jn) = 1 , 矛盾 .
( n)
ij
j =0 j= 0

∑ pi j
( n)
若 S 中有零常返状态 , 设为 i, 令 C = { j: i → j} , 则有 = 1 并且对
j∈ C

j ∈ C, j → i . 因为若 j →
/ i 与 i 为常返状态矛盾 .故 i\ j, 从而 j 也为零常返
状态 , 则 nlim p(i jn) = 0 , 从而 ∑ p (i jn) → 0 ( n → ∞ ) , 矛盾 . x
→∞
j∈ C

推论 5 .3 若 Markov 链有一个零常返状态 , 则必有无限个零常返状态 .


前面定理考 虑的是 非常返状 态和零 常返状态 的渐近性 质 , 但是 当 j 是正
常返状态时 , 极限 nlim p(i jn) 不一定存在 , 即使存在也可能与 i 有关 .因此我 们研
→∞
n
1
( d ≥ 1 ) 和 ∑ p i j 的极限 . 令
( n d) ( k)
究其子列的极限 n→
lim p ij
∞ n k=1

∑f
( m d + r)
f i j ( r) = ij , 0 ≤ r≤ d - 1 ( 5 .4 .20 )
m= 0

表示从状态 i 出发 , 在时刻 n = r mod( d) 首次到达状态 j 的概率 , 显然


d- 1 ∞ d-1 ∞

∑f ∑∑ f ∑f
( m d + r) ( m)
ij ( r) = ij = ij = fij . ( 5 .4 .21 )
r= 0 m= 0 r= 0 m= 0

则有如下结论 .

定理 5 .11 若 j 为正常返状态且周期为 d , 则对 " i 及 0≤ r≤ d - 1 , 有


第 5章 M a rkov链 99

( n d + r) d .
lim pij = f i j ( r) ( 5 .4 .22 )
n→ ∞ μj
( n)
证明 因为当 n≠ kd 时 , p j j = 0 , 所以
nd+ r n

∑f ∑f
( n d + r) ( k) ( n d + r - k) ( m d + r)
p (j jn - m) d
p ij = ij p jj = ij .
k=0 m= 0

于是 , 对于 1≤ N < n 有
N N ∞

∑f ≤ p ≤ ∑f ∑
( m d + r) ( n - m) d ( n d + r) ( m d + r) ( n - m) d
ij p j j ij ij p j j + f (i jm d + r) .
m=0 m=0 m = N+ 1

在上式中先令 n→∞ , 然后再令 N→∞ , 由定理 5 .9 得


d ( n d + r) d
f i j ( r) ≤ n→
lim pij ≤ f i j ( r) .
μj ∞ μj
式 ( 5 .4 .22 ) 得证 . x

推论 5 .4 设不可约的、正常返的、周期为 d 的 Mar kov 链 , 其状态空间为


S, 则对任何状态 i→ j, i, j∈ S, 有
d 若 i 与 j 同属于子集 S s ,
lim p
( n d)
ij = μj ( 5 .4 .23 )
n→ ∞
0, 其他 ,
d-1

其中 S = ∪ Ss 为定理 5 .8 中所给出的 . 特别地 , 当 d = 1 时 , 则 " i, j∈ S 有


s= 0

( n) 1 .
lim pij =
n→ ∞ μj
证明 在定理 5 .11 中取 r = 0 , 得
( n d) d
lim p i j = f i j ( 0) ,
n→ ∞ μj

其中 fi j (0) = ∑f .若 i 与 j 不在同一个 Ss 中 , 则由定理 5 .8 知, p(i jm d ) = 0 ,


( m d)
ij
m= 0
( m d) ( n)
从而 f ij = 0 , 于 是 得 f i j ( 0) = 0 . 若 i 与 j 在 同 一 个 S s 中 , 则 p i j = 0
( n)
( n ≠ 0 mod( d) ) , 从而 f ij = 0 ( n ≠ 0 mod( d) ) , 于是得
∞ ∞

∑f ∑f
( md) ( m)
f i j (0 ) = ij = ij = fi j = 1 .
m= 0 m= 0

得证 . x
( n)
虽然一般说来 , 极限 nlim p ij 不一定存在 , 但是 利用 如下 一个几 乎显 然的
→∞
n
1
引理 , 可以得到关于其平均值 nlim ∑ 的极限定理 .
( k)
p ij
→∞ n k= 1
10 0 应用随机过程

引理 5 .3 设有非负数列 { an }的 d 个子列 { ak d + s } , s= 0 , 1 , 2 , … , d - 1 , 如
果对每一个 s, 存在极限
lim ak d + s = bs ,
k→ ∞

则有
n d-1
1 1
lim
n→ ∞ ∑
n k= 1
ak =
d∑s= 0
bs . ( 5 .4 .24 )

定理 5 .12 对于任意状态 i, j∈ S, 有
n 0, j 为非常返状态或零常返状态 ,
1

( k)
lim pi j = fi j ( 5 .4 .25 )
n→ ∞ n k=1 , j 为正常返状态 .
μj
( n)
证明 若 j 为 非常 返 状 态 或 零 常 返 状 态 , 由 定 理 5 .10 知 n→
lim pi j = 0 ,

所以
n
1

( k)
li m p ij = 0 .
n→ ∞ n k=1
若 j 为正常返状态且有周期 d , 则令引理 5 .3 中的 ak d + s = p(i jk d + s) , 然后利 用定
d
理 5 .11 得到 bs = f i j ( s) .从而得
μj
n d- 1
1 1 d
∑ ∑
( k)
lim pij = f i j ( s)
n→ ∞ n k= 1 d s= 0 μj
d- 1
f ij
= 1 ∑ f i j ( s) = . x
μj s= 0 μj

推论 5 .5 如果 { Xn }是不可约的、常返的 , Mar kov 链 ( 即每个状态都是常


返的 ) , 则对任意状态 i, j∈ S, 有
n
1 1
lim ∑ p i j =
( k)
.
n→ ∞ n k=1 μj
在 Markov 链理论中 ,μj 是一个重要的量 , 它表示自 j 出发 再返回到 j 所
1
需的平均步数 ( 时间 ) , 所以 代表了 自 j 出 发每单 位时间内 返回到 j 的 平均
μj
n
1 1
次数 .因此若取 i = j, 则 ∑ p j j D
( k)
也近似地反映了自 j 出发每单位时间
n k= 1 μj
内返回到 j 的平均次数 .在本小节的讨论中 , 虽然给出了 μj 的计算公式 , 但是
都不容易计算 .我们在 5 .5 节通过不变分布给出另外一种计算 μj 的方法 .
第 5章 M a rkov链 1 01

例 5 .19 设 M arkov 链的状态空间为 S = {1 , 2 , 3 , 4 , 5} , 转移矩阵为


1 0 0 0 0
0 1 0 0 0
1 1
0 0 0
2 2
P = .
1 1
0 0 0
2 2
1 1
0 0 0
2 2
试确定常返状态、瞬过状态 , 并对常返状态 i 确定其平均回转时间 μi .
解 画出转移图如图 5 .5 所示 .

图 5 .5

显然 , 状态 1 , 2 的周期为 1 , 状态 3 , 4 , 5 的周期为 2 .
1 0 0 0 0
0 1 0 0 0
n→ ∞
Pn * * 0 0 0 . ( 5 .4 .26 )
* * 0 0 0
* * 0 0 0
从而 1 , 2 为正常返状态 , 3 , 4 , 5 为瞬过状态 ,μ1 = μ2 = 1 .此 Ma rkov 链可 分为
三类{1} , {2} 和{3 , 4 , 5} .

5 .4 .2 不变分布与极限分布

前面我们只讨论了 Markov 链的转移概率 pi j 的有关问 题 , 下面我们 将就


它的初始分布的问题给出一 些 结论 .首 先是 关 于 Markov 链 的不 变分 布和 极
限分布的概念 .
10 2 应用随机过程

定义 5 .12 对于 M arkov 链 , 概率分布{πj , j∈ S}称为不变的 , 若


πj = ∑π p
i∈ S
i ij . ( 5 .4 .27 )

可见 , 若 Ma rkov 链 的 初 始分 布 P{ X0 = j} = p j 是 不变 分 布 , 则 X1 的 分 布
将是
P{ X1 = j} = ∑ P{ X1 = j | X0 = i}・ P{ X0 = i}
i∈ S

= ∑ pi j p i = pj . ( 5 .4 .28 )
i∈ S

这与 X0 的分布是相同 的 .依 次递推 , X n , n = 0 , 1 , 2 , 3 , … 将有相 同的 分布 , 这


也是称{ p i , i∈ S}为不变分布的原因 .

定义 5 .13 称 M arkov 链是 遍历 的 , 如果 所 有状 态相 通且 均是 周 期为 1
的正常返状态 , 对于遍历的 Ma rkov 链 , 极限
= πj , j∈ S
( n)
lim pij ( 5 .4 .29 )
n→ ∞

称为 Markov 链的极限分布 .
1
由定理 5 .11 知 , πj = .
μj
下面的定理说明对于不 可 约遍 历的 M arkov 链 , 极 限分 布就 是不 变分 布
并且还是惟一的不变分布 .

定理 5 .13 对于不可约非周期的 M arkov 链 :


( n)
( 1) 若它是遍历的 , 则 πj = lim pi j > 0 ( j∈ S) 是不变分布且是惟一的不
n→ ∞

变分布 ;
( 2) 若状态都是瞬过的或全为零常返的 , 则不变分布不存在 .
( n)
证明 ( 1 ) 对 遍 历 的 Ma rkov 链 , 由 定 理 5 .10 知 n→
lim pi j > 0 存 在 , 记

为 πj .
首先证{πj , j∈ S}是不变分布 . 由于 ∑ p i j
( n)
= 1 , 则有
i∈ S

lim∑ p i j
( n)
= 1 . ( 5 .4 .30 )
n→ ∞
i∈ S

易证 ( 5 .4 .30 ) 式中极限与求和可交换 , 即有

∑π
i∈ S
j = 1 . ( 5 .4 .31 )

利用 C-K 方程 , 得
p(i jn + 1 ) = ∑p
( n)
ik pk j ,
k∈ S
第 5章 M a rkov链 1 03

两边取极限 , 得

∞∑ ∑ ( lim p
( n+1 ) ( n) ( n)
lim pi j = nli→m p i k pk j = ik ) pk j , ( 5 .4 .32 )
n→ ∞ k∈ S k∈ S n→ ∞

即 πj = ∑π
k∈ S
k p k j , 从而 {πj , j ∈ S} 是不变分布 .

再来证{πj , j ∈ S} 是 惟 一 的 不 变 分 布 . 假 设 另 外 还 有 一 个 平 衡 分 布

~ ~

{ j , j ∈ S} , 则由
π π
j =

k∈ S
k p k j 归纳得到
π



πj = k
p (k n)j , n = 1 ,2 ,… ( 5 .4 .33 )
k∈ S
π

令 n→∞ , 对 ( 5 .4 .33 ) 式两端取极限 , 有


~ ~

∑ ∑
( n)
πj = k lim p kj = k ・πj . ( 5 .4 .34 )
n→ ∞
k∈ S k∈ S
π π

因为 ∑i∈ S
i
= 1 , 所以
π
j =πj , 得证不变分布惟一 .

( 2) 假设存在一个不变分布{πj , j∈ S} , 则由 (1 ) 中证明知道

∑π p
( n)
πj = i ij , n = 1 ,2 ,…
i∈ S
( n)
成立 , 令 n→∞ , 知 pi j → 0 , 则推出 πj = 0 , j∈ S, 这是 不可能的 .于 是对 于非
常返或零常返 Markov 链不存在不变分布 . x
对于有限状态的遍历的 Ma rkov 链 , 定理确定了求解极限分布的方法 , 即
1
πj , j ∈ S 是方程πj = ∑π p
i∈ S
i ij 的解 , 同时由 πj =
μj
给出了求解状态的平均回

转时间的简单方法 .

例 5 .20 设 M arkov 链的转移矩阵为


0 .5 0 .5 0
P = 0 .5 0 0 .5 ,
0 0 .5 0 .5
则它的不变分布满足
π1 = 0 .5π1 + 0 .5π2 ,
π2 = 0 .5π1 + 0 .5π3 ,
π3 = 0 .5π2 + 0 .5π3 ,
1 1 1
求解π = (π1 ,π2 ,π3 ) = , , .则
3 3 3
10 4 应用随机过程

( n) 1 ,
lim p ij = lim P{ X n = j | X0 = i} =
n→ ∞ n→ ∞ 3
即 0 时刻从 i 出发在很久的时间之后 Markov 链处于 状态 1 , 2 , 3 的 概率 均为
1
, 即 Xn 的极限分布为均匀分布 .
3
例 5 .21 设有 6 个 车站 , 车 站中间 的
公路连 接情 况如 图 5 .6 所 示 .汽车 每天 可
以从一个站 驶向 与之 直接 相邻 的 车站 , 并
在夜晚到达 车站 留宿 , 次 日 凌晨 重复 相 同
的活动 .设每天 凌晨 汽车 开 往临 近的 任 何
一个车站都 是等 可能 的 , 试 说明 很长 时 间
后 , 各 站 每 晚 留 宿的 汽 车 比 例 趋 于 稳 定 .
求出这 个 比 例 以 便 正 确 地 设 置 各 站 的 服 图 5 .6 例 5 .21 图示

务规模 .
解 以{ Xn , n = 0 , 1 , … } 记 第 n 天 某 辆 汽 车 留 宿 的 车 站 号 .这 是 一 个
Ma rkov 链 , 转移概率矩阵为
1 1
0 0 0 0
2 2
1 1 1
0 0 0
3 3 3
1 1
0 0 0 0
2 2
P = .
1 1 1
0 0 0
3 3 3
1 1
0 0 0 0
2 2
1 1 1 1
0 0
4 4 4 4
解方程
πP = π,
6

∑π =i= 1
i 1,

1 3 1 3 1 1
其中π = π1 ,π2 ,π3 ,π4 ,π5 ,π6 , 可得π = , , , , , , 从而 无论
8 16 8 16 8 4
开始汽车从哪一个车 站出 发 在很 长时 间后 他 在任 一 个车 站 留 宿的 概 率都 是
第 5章 M a rkov链 1 05

固定的 , 从而所有的汽车也将以一个稳定的比例在各车站留宿 .

5 .5 Markov 链的大数定律与中心极限定理

5 .5 .1 大数定律与不变分布

本节讨论 Markov 链 的 强 大数 定 律 , 并由 此 推 出 不 变分 布 .除 非特 别 声
明 , 这里总假定 Ma rkov 链{ Xn } 的状态空间 S 由单一互通的常返类组成 .
令 f 是状态空间 S 上的实值函数 , 定义和
n

Sn = ∑ f( X
k= 0
k ), n = 1, 2, … (5 .5 .1 )

我们仍然用τ(j r) 表示过程第 r 次到达状态 j 的时间 .定义在第 r 个时间段


( r) ( r + 1)
(τj ,τj ] 过程对和 S n 的贡献为
τ( r+ 1 )
j

Zr = ∑
k = τ( r) + 1
f ( Xk ) , r = 0 ,1 ,2 ,… (5 .5 .2 )
j
( r)
则由强 Markov 性 , 在直到时刻 τj 的条件下 , 过程
{ Xτ(j r) , Xτ(j r) + 1 , … , Xτ(j r) + n , …}
的分布恰恰是 { X0 , X1 , … , X n , … }在给定 X0 = j 下的分布 P j .因此 , 在直到时
( r)
刻 τj 的条件下 , Z r 的分布是在给定 X0 = j 下 Z0 = f ( X1 ) + … + f ( Xτ(1j ) ) 的
( r)
分布 .这一条件 分布 不随 X0 , X1 , … , Xτ(j r) ( = j ) ,τj 的值 的 变化 而 变 化 . 所
以 , Zr 独立于过 程 到 时 刻 τ(j r) 确 定 的 所 有 事 件 .特 别 地 , Zr 独 立 于 Z1 , … ,
Zr - 1 . 这样 , 我们有下面的命题 .

命题 5 .1 无 论 { Xn : n = 0 , 1 , 2 … } 的 初 始 分 布 如 何 , 随 机 变 量 { Z1 ,
Z2 , … }是独立同分布的 .
上述的分解被称为更新分解 .如果 E( | Z1 | ) < ∞ , 利用强大数定律 , 得
r
1
r∑
lim Zs = EZ1 , w .p .1 . (5 .5 .3 )
r→ ∞ s= 1

以下我们做更强的假设 :
( 2)
τ
j

E ∑
k = τ( 1) + 1
| f ( Xk ) | < ∞ . (5 .5 .4 )
j

记 N n 为直到时刻 n 过程访问状态 j 的次数 , 易见


N n = max{ r ≥ 0 :τ(j r) ≤ n} . (5 .5 .5 )
10 6 应用随机过程

从而
τ(1 ) N τ( N n + 1 )
j n j

Sn = ∑ f( X
k=0
k ) + ∑Z r= 1
r - ∑
k = n +1
f ( Xk ) . (5 .5 .6 )

除去一个零概率集外 , 对每个样本路径 , ( 5 .5 .6 ) 式 右端 的第 一个和 式有 有限


项数 .因此
τ( 1)
j
1
n∑
lim f ( Xk ) = 0 , w .p .1 . (5 .5 .7 )
n→ ∞
k=0
(N +1) ( N )
而 ( 5 .5 .6 ) 式 右端 的第 三个和 式至 多有 τj n
- τj n
项 , 这个 数表示 的是 到
时刻 n 最后一次 访问状 态 j 到 下一次 访问状态 j 的时 间 .虽然这 个和依 赖于
n, 但是在条件 (5 .5 .4 ) 式下 , 我们仍然有
τ( N n + 1 ) ( N + 1)
τ n
j j
1
∑ f ( Xk ) ≤ 1 ∑ | f ( Xk ) | → 0 a .s . ( n → ∞ ) . (5 .5 .8 )
n k = n +1 n k = n +1
所以
N N
n n
Sn Nn 1
= 1 ∑ Zr + Rn =
n Nn ∑
Zr + Rn , (5 .5 .9 )
n n r=1 r=1

这里 , 在条件 (5 .5 .4 ) 式下
li m Rn = 0 , w .p .1 .
n→ ∞

同样 , 除去一个零概率集外 , 对每 个样 本 路径 , 都有 N n → ∞ ( n→∞ ) , 于是 当
( 5 .5 .4) 式成立时 , 由 ( 5 .5 .3) 式 , 有等式
N
n
1
n→ ∞ N n ∑
lim Zr = EZ1 , w .p .1 . ( 5 .5 .10 )
r= 1

( 2) ( 1)
用常函数 f≡1 代替 ( 5 .5 .10 ) 中的函数 f , 如果 E(τj - τj ) < ∞ , 我们有
( N + 1) ( N )
τj n - τj n
lim = E(τ(j 2 ) - τ(j1 ) ) . ( 5 .5 .11 )
n→ ∞ Nn
因为
(N ) ( N +1) ( N )
n - τj n
≤ τj n
- τj n
,
所以
n (2) ( 1)
lim = E(τj - τj ) . ( 5 .5 .12 )
n→ ∞ Nn
(1)
等式右端是返回状态 j 的平均时间 ( = Ej (τj ) ) , 等式左端的倒 数是过程 停留
在状态 j 的时间的渐近比例 .于是有下面命题 :

命题 5 .2 如果
第 5章 M a rkov链 1 07

( 1) (2 ) (1)
E j (τj ) = E(τj - τj ) < ∞ , ( 5 .5 .13 )
则状态 j 为正常返状态 .
由 ( 5 .5 .9) 、( 5 .5 .10 ) 和 ( 5 .5 .11 ) 式 , 我们有如下结论 .

定理 5 .14 设状态 j 为正常返状态 , f 是 S 上的实值函数使得


Ej [ | f ( X1 ) | + … + | f ( Xτ(j1 ) ) | ] < ∞ . ( 5 .5 .14 )

( 1)
Ej [ f ( X1 ) + … + f ( Xτ(j1 ) ) ]
n
1
n∑
lim f ( X k ) = (1) . ( 5 .5 .15 )
n→ ∞
k=0 Ej [τj ]
( 2) 如果{ Xn : n = 0 , 1 , 2 , …}不可约 , 并且状态为正常返的 , 则无论初始分
布如何 , 等式 (5 .5 .1 5) 永远成立 .
由定理 5 .14 可以证明推论 5 .5 的结论 :
如果{ Xn }是不可约的且为常返的 M arkov 链 , 则对任意状态 i, j∈ S , 有
n
1 1 ,

( k)
lim p ij = ( 5 .5 .16 )
n→ ∞ n k=1 μj
( 1)
这里 μj = E j (τj ) .
事实上 , 取函数 f 为状态 j 的示性函数 :
1, k = j,
f ( k) = ( 5 .5 .17 )
0, k≠ j .
( r) ( r + 1)
则 Zr ≡1 , r = 0 , 1 , 2 , … , 因为在 (τj ,τj ] 内只访问 j 一次 .因此 , 在给 定初
始状态 i 的条件下 , 对 (5 .5 .15) 式两端取条件期望 .交换期望值 与取极限 的顺
n

∑ f( X
-1
序 , 我们得到 (5 .5 .16 ) 式 . 因为 ( n + 1 ) k ) ≤ 1 , 所 以我 们 可以 利
0

用 Lebesgue 控制收敛定理 ( 定理 1 .7 ) , 故上述的换序可以进行 .


如果{ Xn }是不可约的且为正常返的 M arkov 链 , 可以证明
πj = (τ(j 1 ) ) - 1 , j∈ S ( 5 .5 .18 )
构成不变分布 . 首先证明 ∑πj = 1 , 为此令
j

= # { m ∈ (τ ,τ(j r+ 1 ) ] : Xm = i} , r = 0 ,1 ,2 ,…
( r) ( r)
T
i j (5 .5 .19)
即过程在第 r 次和第 r + 1 次 访 问状 态之 间到 达状 态 i 的 次数 .由 强 Ma rkov
( r)
性 , { Ti : r = 1 , 2 , …}是独立同分布的随机变量序列 .令
( r)
θj ( i) = E j ( Ti ) . ( 5 .5 .20 )

10 8 应用随机过程

∑θ ( i) ∑E ( T(i 1 ) ) = E j ∑T = Ej (τ(j 2 ) - τ(j1 ) ) = 1 .


(1)
j = j i
i∈ S i i πj
( 5 .5 .21 )
同样取 f 为状态 i 的示性函数 , 将定理 5 .14 中的 j 用 i 代替 , 得到
# { m ≤ n: Xm = i}
lim = πi , w .p .1 . ( 5 .5 .22 )
n→ ∞ n
( r)
另一方面 , 对 { Ti : r = 1 , 2 , … } 应 用 强 大数 定 律 , 并由 公 式 ( 5 .5 .12 ) 和
( 5 .5 .18 ) 可知 , 等式 (5 .5 .2 2) 左端的极限也等于
N
n

∑T
( r)
i N
n ( r)
Nn Ti

r= 1
lim = n→
lim = πθ
j j ( i) . ( 5 .5 .23 )
n→ ∞ n ∞ n r= 1 Nn
因此
πi = πjθj ( i) . ( 5 .5 .24 )
对 i 求和 , 由 (5 .5 .21) 式 , 得到
πj
∑π i
i = πj ∑θj ( i) =
i πj
= 1 . ( 5 .5 .25 )

再由 ( 5 .5 .16 ) 式并利用 Lebesgue 控制收敛定理可以得到


n
1
∑ ∑
( m)
p j i - πi → 0 ( n → ∞) . ( 5 .5 .26 )
i∈ S n m=1
因此 , 当 n→∞时
n n
1
∑π p i ij - ∑ ∑ p(j im) p ij ≤ ∑ πi - 1 ∑ p(j im) → 0 .
i∈ S i∈ S n m= 1 i∈ S n m= 1
( 5 .5 .27 )
于是
n
1
∑π p n→ ∞ ∑ ∑p
( m)
i ij = lim ji p ij
i∈ S i∈ S n m= 1

n
1
∑ ∑
( m)
= lim p ji pi j
n→ ∞ n i∈ S m = 1
n
1

( m + 1)
= lim p jj = πj , ( 5 .5 .28 )
n→ ∞ n m=1
即 ,π是不变分布 .
利用定理 5 .14 , 我们可以证明下面的定理 .

定理 5 .15 设{ X n } 为不 可 约的、正常 返 的 Ma rkov 链 , 无 论初 始 分布 μ


第 5章 M a rkov链 1 09

如何 , 如果对上述的不变分布 π, 有 Eπ [ | f ( X1 ) | ] < ∞ , 则
n
1
lim ∑ f ( X m ) = ∑π f ( i) i = Eπ [ f ( X1 ) ] , w .p .1 .
n→ ∞ n m= 1 i∈ S

( 5 .5 .29 )
这里的期望是对概率 Pμ 所取的 .
证明 由定理 5 .14 知 , 如果
( 1) 条件 (5 .5 .1 4) 当

∑π |
i∈ S
i f ( i) | < ∞ ( 5 .5 .30 )

时成立 .
( 2)

E j Z0 = E j [ f ( X1 ) + … + f ( Xτ(j r) ) ] 1 ∑πi f ( i) . ( 5 .5 .31 )


πj i∈ S
则定理结论成立 .因此 , 只需验证条件 ( 1) 、( 2) 成立 , 首先 , 由 T(i 1 ) 的定义知 ,
τ( 2)
j

∑ ∑
( 1)
Zr = | f ( Xm ) | = | f ( i) | T i . ( 5 .5 .32 )
(1) i∈ S
m =τ +1
j
(1)
因为 E( T i ) =θj ( i) = π/ πj , 在等式 ( 5 .5 .32 ) 两端取期望 , 得
τ(2 )
j
πi
E ∑
m = τ( 1) + 1
| f ( Xm ) | = E ∑i∈ S
| f ( i) | T(i 1 ) = ∑
i∈ S
| f ( i) |
πj
.
j

( 5 .5 .33 )
上式最后一个等 式用 到 了 F ubini 定 理 , 因 为 求 和 符 号中 的 所 有 项 都是 非 负
的 , 所以求和运算与求期 望可 以换 序 .从 而 , 由 式 ( 5 .5 .30 ) 得 到式 ( 5 .5 .14 ) .
与式 ( 5 .5 .33 ) 一样 ,
(2 )
τ
j

∑ ∑ f ( i) T
(1 )
Ej Z0 = EZ1 = E f ( Xm ) = E i
( 1) i∈ S
m =τ +1
j

πi
= ∑ f ( i) E( T(i 1 ) ) = ∑ f ( i) π . ( 5 .5 .34 )
i∈ S i∈ S j

由 F ubini 定理可知 , 这里的求和运算与求期望可以换序 .


注 5 .3 本小节和下一小节的部分命题的 证明过 程用到了 一些实变 函数
的知识 , 初学者可以跳过这些证明 , 并不影响对结论的理解 .
11 0 应用随机过程

5 .5 .2 Markov 链的中心极限定理
n

与 5 .5 .1 节的方法相同 , 我们可以得到 Sn = ∑ f( X
m=0
m ) 的中心极限定理 ,

这里 f 是 S 上的实值函数 .记
μ = Eπ [ f ( X0 ) ] = ∑π f ( i) ,
i∈ S
i ( 5 .5 .35 )

并假设对
τ( r+ 1 )
j

Zr = ∑
k = τ( r) + 1
f ( Xk ) , r = 0 ,1 ,2 ,…
j
2
E j ( Z0 - Ej Z0 ) < ∞ . ( 5 .5 .36 )
-

用 = f - μ代替 f , 并记
F
-
n n

∑( X ∑( f( X ) - μ) ,
-
Sn = m ) = m
m= 0 m= 0
f

- ( 5 .5 .37 )
τ( r +1 )
j


-
Zr = ( Xk ) , r = 0, 1, 2, …
( r)
k =τ +1
j
F

则由 ( 5 .5 .31 ) 式 , 有
- -
( r)
E j (Z r ) = E j (τj ) Eπ [F ( X0 ) ] = 0 , r = 0, 1, 2,… ( 5 .5 .38 )
-

于是 , {Z r : r = 0 , 1 , 2 , … }是独立同分布序列 , 零均值并且具有有限方差
-

σ = E j (Z 20 ) .
2
( 5 .5 .39 )
应用古典中心极限定理 , 得到
-
r
1
r∑k=1
k

Z
- -
2
依分布收敛于正态分布 N ( 0 ,σ ) .现将 n 表 示 成 (5 .5 .6 ) 式的 形式 , 并将 f 用
S f
- - -

替代 , S n 用 n 替代 , Zn 用 n 替代 , 可以得到 ( 1/ n)S n 的极限分布与


S Z
- -
N N
n 1/ 2 n
1 Nn 1
∑r =
n r =Z 1 n ∑r
N n r =Z 1
( 5 .5 .40 )
第 5章 M a rkov链 1 11

的极限分布相同 .我们还 可以 将 中心 极 限定 理 推广 为 下 面的 形 式 , 它 可以 应
用到一个独立同分布随机变量序列的随机和上去 .
2 2
定理 5 .16 设{ Xj : j≥1}是独立同分布序列 , E Xj = 0 , 0 <σ = E( Xj ) < ∞ .
令{ vn : n≥ 1}是一个非负整数值随机变量序列并使得
vn
lim = α ( 依分布收敛 ) , ( 5 .5 .41 )
n→ ∞ n
v
n

这里 α> 0 是常数 . 则 ∑ X j/ vn 依分布收敛于 N ( 0 ,σ2 ) .


j =1

证明 不失一般性 , 假设 σ= 1 .令
Sn = X1 + … + X n .
任取 ε> 0 , 则
1/ 2 3
P{ | Sv n - S[ nα] | ≥ ε[ nα] } ≤ P{ | vn - [ nα] | ≥ ε [ nα] } +

P m ax { | Sm - S[ nα] | ≥ε[ nα] 1/ 2 } . ( 5 .5 .42 )


{ m: | m - [ nα] | < ε2 [ nα] }

由 ( 5 .5 .41 ) 式知 , 不等 式右 端 第一 项当 n→ ∞ 时 趋于 零 .而 第 二项 由 著名 的
Kolmogorov 极大不等式 ( 见第 6 章 (6 .2 .19) 式 ) 估计

P m ax { | Sm - S[ nα] | ≥ε[ nα] 1/ 2 }


3
{ m: | m - [ nα] | < ε [ nα] }

≤ (ε[ nα] 1/ 2 ) - 2 ε2 [ nα] = ε. ( 5 .5 .43 )


这证明了
Sv n - S[ nα] P
1/ 2 0 ( n → ∞) . ( 5 .5 .44 )
[ nα]
1/ 2 1/ 2
因为 S[ nα] / [ nα] 依分布收敛于 N( 0 , 1) , 由 ( 5 .5 .44 ) 式得 Sv n/ [ nα] 同 样依
分布收敛于 N (0 , 1 ) .于是 , 由 ( 5 .5 .41 ) 式 , 可得本定理的结论 . x

5 .6 群体消失模型与人口模型

5 .6 .1 群体消失模型 ( 分支过程 )

考 虑 一 个 从 单 个 祖 先 开 始 的 群 体 . 每 个 个 体 生 命 结 束 时 以 概 率 pj =
P{ Z = j} , j = 0 , 1 , 2 , 3 , … 来 产生 j 个新 的后 代 , 与其 他 的个 体产 生的 后代 个
数相互独立 . 其中 Z 为它产生的后代数 . 以 X n 记第 n 代的个体数 , 从而
11 2 应用随机过程

X
n

Xn + 1 = ∑Z
i =1
n, i ,

其中 Zn , i 表示 第 n 代 的第 i 个成 员产生 的后 代的 个数 .由于 考虑 的是 单个 祖
先 , 所以 X0 = 1 .
首先来考虑第 n + 1 代的平均个体数 E X n + 1 , 对 X n 取条件 , 有
E X n + 1 = E[ E( X n + 1 | X n ) ]
= μE ( X n )
2
= μ E( X n - 1 )

n n+ 1
= μ E ( X1 ) = μ ,

其中 μ = ∑ ip
i= 0
i 是每个个体的后代个数的均值 .从而可以看出 , 若 μ< 1 则平

均个体数单调下降趋于 0 . 若 μ= 1 时 , 各代平均个体数相同 .当 μ> 1 时 , 平均


个体数按指数阶上升至无穷 .
下面 我 们 就 来 考 虑 群 体 最 终 会 消 亡 的 概 率 π0 .对 第 1 代 个 体 数 取 条
件, 则
π0 = P{ 群体消亡}

= ∑ P{群体消亡 | X1 = j} ・ p j
j=0

= ∑ π0j p j .
j=0

上面的第二个等式是因为群体最终灭绝是以第 1 代为祖先的 j 个家族全 部消


亡 , 而各家族已经假定为独立的 , 每一家族灭绝的概率均为 π0 .
很自然我们会假设 : 家族消亡与 μ有关 , 在 此我 们给出 一个 定理 , 以 证明
π0 = 1 的充要条件是 μ≤ 1( 不考 虑 p0 = 1 和 p0 = 0 的平 凡情 况 , 即家 族在 第
0 代后就消失或永不消失 ) .

定理 5 .17 设 0 < p0 < 1 , 则 π0 = 1 μ≤ 1 .


证明 由 π0 的表达式

∑π p
j
π0 = 0 j = F(π0 ) , (5 .6 .1 )
j= 0

可知它是直线 y = x 和曲线 y = F( x ) 交 点的 横坐标 , 显 然 ( 1 , 1 ) 是一 个交 点 .


当 p0 + p1 = 1 时 , y = F( x) 是一条直线 , 当 p0 + p1 < 1 时 , 由于
第 5章 M a rkov链 1 13

F′( x) = ∑ j x j - 1 p j > 0 , 0 < x < 1, (5 .6 .2 )


j=1

F″( x) = ∑ j( j - 1 ) x
j- 2
pj > 0 , 0 < x < 1, (5 .6 .3 )
j=2

可见 F( x ) 是单调增加的凸函数 , 如图 5 .7 所示 .

图 5 .7 F( x) 的图示

从图 5 .7 ( a ) 可 以知 道 , 当 p0 + p1 = 1 时 , 方 程 ( 5 .6 .1 ) 只 有 一 个解 , 即
π0 = 1 , 家族最终必 定 消 亡 .由 图 5 .7 ( b ) 可 分 为 两 种 情 况 : ( 1 ) 若 0 < s < 1 ,
F( s) > s, F(1 ) = 1 , 方程 ( 5 .6 .1) 只有惟一的解 π0 = 1 ; ( 2) 存在一个 0 < s < 1
使得 F( s) = s, 那么此时 π0 应取 s 还是 1 呢 ? 可以证明 ,π0 必定取值 为 s, 为
此只需证明 π0 是方程 (5 .6 .1 ) 的最小解 . 利用归纳法 , 首先 , 当 n = 1 时 ,

∑π p
j 0
π= j ≥ π p0 = p0 = P{ X1 = 0} .
j=0

假设 π≥ P{ X n = 0} , 则

P{ Xn + 1 = 0} = ∑ P{ X n + 1 = 0 | X1 = j} ・ p j
j=0

= ∑ P{ X n = 0} ・ p j
j

j=0

≤∑π p j
j

j=0

= π.
从而 , 对一切 n,π≥ P{ X n = 0} .而 n→
lim P{ X n = 0} = P{ 群体 最终灭 绝} = π0 .从

而 π≥π0 .这就证明了在这种情况下 π0 取值应为 s .


再来看在上述这三种情形下 μ的情况 .
11 4 应用随机过程

第一种情况 , 若 p0 + p1 = 1 , 显然

μ= ∑ jp
j= 0
j = p1 < 1 .

第二种 情 况 , 若 p0 + p1 < 1 而 且 方 程 ( 5 .6 .1 ) 只 有 一 个 根 π0 = 1 , 由

图 5 .7 ( b) 容易看出 , 此时 F′( 1) ≤ 1 而 F′( 1) = ∑ jp j= 0


j = μ, 从而 μ≤ 1 .

第三种情况下 , 容易看出 F′(1 ) = μ > 1 , 这就证明了 π0 = 1 μ≤ 1 .



在实际应用中 , 考虑一 个群 体 的真 实 增长 时 , 分 支过 程 的 假定 在 群体 达
到无限之前就不成立了 ( 比 如独 立 同分 布性 ) .但 另 一方 面 , 利 用分 支 过程 研
究消亡现象是有意义的 , 因为一般灭绝常常发生在过程的早期 .

5 .6 .2 人口结构变化的 Markov 链模型

考虑社会的教育水平与 文 化程 度 的发 展 变化 , 可 以 建 立如 下 模型 : 将 全
国所有 16 岁以上的人口分为文盲、初 中、高中 ( 含 中专 ) 、大 学 ( 含大 专 ) 、中级
技术人才、高级技术人才、特级专家等 7 类 , 结构的变化为升级、退化 ( 如 , 初中
文化者会重新变为文盲 ) 、进入 ( 年龄达 到 16 岁或 移民 进入 ) 、迁 出 ( 死亡 或移
民国 外 ) . 用 ( n1 ( t) , n2 ( t) , … , n7 ( t) ) 表 示 在 t 年 各 等 级 的 人 数 , N ( t) =
7

∑ n ( t) 为全社会 16 岁以上人口总数 ( 简称为总人数 ) , 以 q


i= 1
i ij 记每年从 i 级转

为 j 级的人数在 i 级人数中的百分比 , 则
Q = ( qi j ) 7 × 7
是一个准转移阵 ( 每行所有元素之和≤1) .
再考虑进 入与迁 出 , 记 wi 为 每年 从 i 级 迁出 占 i 级 总人 数的比 例 , ri 为
每年进入 i 级的人数在总进入人数的比例 , 则
7 7

∑q
j=1
ij + wi = 1 , ri ≥ 0 , ∑r
i=1
i = 1 . (5 .6 .4 )

记 R( t) 为总进入人数 , W ( t) 为总迁出人数 , 则
N( t + 1 ) = N ( t) + R( t) - W ( t) , (5 .6 .5 )
7

nj ( t + 1 ) = ∑ ni ( t) qi j + rj R ( t) - nj ( t) wj . (5 .6 .6 )
i=1


第 5章 M a rkov链 1 15

M( t) = N ( t + 1) - N( t) = R( t) - W ( t) , (5 .6 .7 )
设总人数以常数百分比 α增长 ( 可以为负增长 ) , 即
N( t + 1)
M( t) = α N ( t) , α= - 1, (5 .6 .8 )
N( t)
于是
7
nj ( t + 1 ) ni ( t) R ( t) nj ( t)
= N ( t) ∑ qi j + rj - wj
N ( t + 1) N ( t + 1) i= 1 N( t) N( t) N ( t)
7
1 ni ( t) R ( t) nj ( t)
=
1 +α ∑i= 1 N ( t)
qi j + rj
N( t)
-
N ( t)
wj .

n j ( t)
记 aj ( t) = , 上式可改写为
N( t)
7
R ( t)
aj ( t + 1 ) = 1 ∑ a ( t) q j ij + rj - wj a j ( t) . (5 .6 .9 )
1 +α i=1 N( t)
由 R( t) = W ( t) + M( t) , 式 (5 .6 .9 ) 可改写为
7
1
aj ( t + 1 ) =
1 +α ∑ a ( t) ( q
i=1
j ij + rj w i ) - wj a j ( t) + αr j
7

∑ n ( t) wi i 7

这是由于 W ( t) = ∑ a ( t) w
i= 1
= i i , 特别地 , 当 α= 0 时 ,
N ( t) N ( t) i= 1

a j ( t + 1) = ∑ a ( t) ( q
i= 1
j ij + rj w i ) - wj a j ( t) ,

记 a( t) = ( a1 ( t) , … , a7 ( t) ) , P = ( p i j ) , 其中
qi j + rj w i , i ≠ j,
pi j =
qj j + rj w j - w j , i = j,
则上式变为 a( t + 1 ) = a( t) P .这是 一个 以 P 为 转移 阵的 Ma rkov 链 在 t 时 刻
的分布满足的方程 .
在实际中 , 我们希望人口结构 维持 一个合 理的 稳定 水平 a * , 文盲 越少 越
好 , 而专家也无需太多 , 并且从现在的 a(0 ) 出发 , 通过 控制人口 进入各级 的比
例 r = ( r1 , … , r7 ) 来尽 快地 达到 这 个稳 定水 平 .为此 我 们讨 论一 下在 不同 的
r 下全部可能的稳定结构 .
由于 a = aP( 因为 a 是稳定的 ) , 即
a = a( Q + ( wi r j ) - ( wjδi j ) ) = a Q + ( aw′) r - ( a1 w1 , … , a7 w7 ) ,
其中 w= ( w1 , … , w7 ) , r = ( r1 , … , r7 ) . 当数 aw′≠ 0 时 ,
11 6 应用随机过程

- 1
r = a( I - Q + ( wjδi j ) ) ( aw′) ,
7

∑a q
- 1
即 a = ( aw′) ・ r( I - Q + ( wjδi j ) ) . 又因为要求 ri ≥ 0 , 从而 aj ≥ i ij -
i=1
7
d ef
aj w j ( " j) , 这 样 对 于 " a ∈ A a: aj ≥ ∑ ai q i j - aj w j , " j , 就 可 由
i= 1

( 5 .6 .9) 式找出 r, 使其满足


a = a Q + aw′r - a( wiδi j ) = a P ,
从而对于此 r, a 是一个稳定的结构 .

5 .7 连续时间 Markov 链

前面几节讨论的是时间 和 状态 空间 都是 离散 的 Ma rkov 过程 , 本 节我 们
将介绍另外一种情况的 Markov 过程 , 它的状态空间仍然 是离散的 , 但时 间是
连续变化的 , 称为连 续时 间 M arkov 链 , 也 称 为纯 不 连续 Markov 过 程 .我 们
会给出它的一些性质、一个重要的 方程 ( Kol mogrov 方 程 ) 和 一个重 要的 应用
( 生灭过程 ) .

5 .7 .1 连续时间 Markov 链

定义 5 .14 过程{ X( t) , t≥ 0} 的 状态空 间 S 为 离散 空间 , 为 方便 书写 设


S 为{0 , 1 , 2 , …}或其子集 .若对一切 s, t≥ 0 及 i, j∈ S , 有
P{ X( t + s) = j | X ( s) = i, X( u) = x ( u) , 0 ≤ u < s}
= P{ X( t + s) = j | X ( s) = i} (5 .7 .1 )
成立 , 则称{ X( t) , t≥0} 是一个连续时间 Markov 链 .
条件概率 P{ X( t + s) = j | X( s) = i}记作 p i j ( s, t) , 表示过程在时刻 s 处于
状态 i , 经 t 时间后转移到 j 的转移概率 , 并称 P( s, t) = ( pi j ( s, t) ) 为相应 的转
移概率矩阵 .

定义 5 .15 称连续时间 M arkov 链是时 齐的 , 若 pi j ( s, t) 与 s 无 关 .简记


pi j ( s, t) = p i j ( t) , 相应的记 P( t) = ( pi j ( t) ) .
我们只 讨 论 时齐 的 连续 时 间 Ma rkov 链 , 并 且 简称 为 连 续 时间 Ma rkov
链 ( 在不引起混淆的情况下有时也称为 Ma rkov 链 ) .
对于连续时间 Markov 链来说 , 除了要考虑在 某一 时刻 它将处 于什 么状
态外 , 还关心它在 离开 这 个状 态 之前 会 停留 多 长 的 时 间 , 从 它 具 备 Ma rkov
第 5章 M a rkov链 1 17

性来看 , 这个“停留时间”具备“无记 忆性”的 特征 , 应 该服从 指数 分布 , 下 面我


们给出一个具体的解释 .

定理 5 .18 设{ X( t) , t≥ 0} 是 连续时 间 Mar kov 链 , 假 定在 时刻 0 过 程


刚刚到达 i( i∈ S) .以 τi 记过程在离开 i 之前在 i 停留的 时间 , 则 τi 服从 指数
分布 .
证明 我们只需证明对 s, t≥0 , 有
P{τi > s + t | τi > s} = P{τi > t} . (5 .7 .2 )
即无记忆性 .
注意到
{τi > s} { X( u) = i, 0 < u ≤ s | X( 0) = i} ,
{τi > s + t} { X( u) = i, 0 < u ≤ s, X( v) = i,
s < v ≤ s + t | X( 0) = i} ,

P{τi > s + t | τi > s}
= P{ X( u) = i, 0 < u ≤ s, X( v) = i, s < v ≤ s + t | X( u) = i,
0 ≤ u ≤ s}
= P{ X( v) = i, s < v ≤ s + t | X( s) = i}
= P{ X( u) = i, 0 < u ≤ t | X( 0) = i}
= P{τi > t} .
得证 . x
由上述定理 , 实际上我们 得到 了另 外一 个 构造 连续 时间 M arkov 链的 方
法 , 它是具有如下两条性质的随机过程 .
( 1) 在转移到下一个 状态 之前 处 于状 态 i 的 时 间服 从 参数 为 μi 的指 数
分布 ;
( 2) 在过程离开状态 i 时 , 将以概率 p i j 到达 j , 且 ∑ p i j = 1 .
j∈ S

注 5 .4 当 μi = ∞ 时 , 它在状态 i 停留的平均时间为 0 , 即一旦进入马上


离开 , 称这样的状态为瞬过的 .但假设在我们考虑 的连续时 间 M arkov 链 中不
存在瞬过态 , 即 , 设对 " i, 0 ≤ μi < + ∞ ( 若 μi = 0 , 称 i 为吸收态 , 即一旦进
入 , 将停留的平均时间无限长 ) .由此我们看出 , 连 续时间 Ma rkov 链是一 个做
下面的运动的随机过程 : 它以一个 Ma rkov 链的方式在各个 状态之 间转移 , 在
两次转移之间以指数分布停留 .

定义 5 .16 称一个连续时间 M arkov 链是 正则的 , 若 以概 率 1 在任 意有


11 8 应用随机过程

限长的时间内转移的次数是有限的 .
从而可得连续性条件
1, i = j,
lim pi j ( t) = δi j = (5 .7 .3 )
t→ 0
0, i≠ j .
以下我们总假定所考虑 的 Ma rkov 链都 满足 正则 性 条件 .下 面是 几个 连
续时间 Markov 链的典型例子 .

例 5 .22 ( Poisson 过程 ) 参数为 λ的 Poisson 过程 { N ( t) , t≥ 0} , 取 值为


{0 , 1 , 2 , …} .由第 3 章知道 , 它在 任一 个状态 i 停留 的时 间服 从指 数分 布 , 并
且在离开 i 时以概率 1 转到 i + 1 ( 又一 个事件 发生 ) . 由 Poisson 过 程的 独立
增量 性 容 易 看 出 它 在 i 停 留 的 时 间 与 状 态 的 转 移 是 独 立 的
1
特别是由它的平稳增量性 μi = μi + 1 = , i = 0 , 1 , 2 , … , 从 而 Pois son 过 程
λ
是时齐的连续时间 Markov 链 . 对 i∈ S, 它的转移概率为
pi , i ( t) = P{ N ( t + s) = i | N( s) = i}
= P{ N ( t) = 0}
- λt
=e
p i, i + 1 ( t) = P{ N ( t + s) = i + 1 | N( s) = i}
= P{ N ( t) = 1}
- λt
= λte
j- i

p i , j ( t) = (λt ) e - λt , j > i+ 1
( j - i) !
pi , j ( t) = 0 , j < i.

例 5 .23 ( Y ule 过程 ) 考察生物群体繁殖过程的模型 .设群体中各个生物


体的繁殖 是相 互独 立的、强度 为 λ的 Pois son 过程 , 并 且群 体中没 有死 亡 , 此
过程称为 Y ule 过程 . 我们来说明 Y ule 过程是一个连续时间 Ma rkov 链 .
设在时刻 0 群体中有 1 个 个体 , 则 群体将 有 的个 体数 是 {1 , 2 , 3 , … } .以
Ti ( i≥1 ) 记群体数目从 i 增加到 i + 1 所需 的时间 , 由 Y ule 过程 定义 , 当 群体
数目为 i 时 , 这 i 个 个 体 是 以 相 互 独 立 的 Poisson 过 程 来 产 生 后 代 的 .由
Poisson 过程的可加性知 , 这相当于一个强度为 λi 的 Pois son 过程 .由 Poisson
过程的独立增 量性 , 易知 Ti 与状态 的转移是 独立的 ( i≥ 1) , 并且{ Ti }是 相互
独立的参数为 iλ的指数变量 , 这就说明了 Y ule 过程是一个连 续时间 Ma rkov
链 .我们来求它的转移概率 p i j ( t) .首先
第 5章 M a rkov链 1 19

- λt
P{ T1 ≤ t} = 1 - e ,
t

∫ P{ T
- λx
P{ T1 + T2 ≤ t} = 1 + T2 ≤ t | T1 = x}λe dx
0

∫( 1 - e - 2λ( t - )λe - λx d x
x)
=
0

= (1 - e - λt ) 2 ,
P{ T1 + T2 + T3 ≤ t}
t

=∫ P{ T
0
1 + T2 + T3 ≤ t | T1 + T2 ≤ x}d P{ T1 + T2 ≤ x}
t

∫ (1 -
- 3λ( t - x) - λx - λx
= e )2λe (1 - e )d x
0

- λt 3
= (1 - e ) ,

一般地 , 用归纳法不难证明
- λt j
P{ T1 + T2 + … + Tj ≤ t} = (1 - e ) . (5 .7 .4 )

{ T1 + T2 + … + T j ≤ t} { X( t) ≥ j + 1 | X(0 ) = 1} , (5 .7 .5 )
所以
p1 j ( t) = P{ X( t) = j | X( 0) = 1}
= P{ X( t) ≥ j | X( 0) = 1} - P{ X( t) ≥ j + 1 | X( 0) = 1}
= (1 - e - λt ) j - 1 - (1 - e - λt ) j
- λt - λt j- 1
=e (1 - e ) ( j ≥ 1) . (5 .7 .6 )
λt
这是一个几何分布 , 均值为 e .
又因为
pi j ( t) = P{ X( s + t) = j | X( s) = i}
相当于一个总量从 i 个个 体开 始的 Y ule 过 程 的群 体总 数在 t 时 间内 增加 到
j 的概率 , 而这相当于 i 个独立的服从式 ( 5 .7 .6 ) 的 几何 随机 变量的 和取 值为
j 的概率 ( 想一想为什么 ) , 于是
j - 1 - λti - λt j- i
pi j ( t) = e (1 - e ) , j ≥ i≥ 1 . (5 .7 .7 )
i - 1

例 5 .24( 生灭过程 ) 仍然考虑一个生物群体 的繁殖模 型 .每个个体 生育


后代如例 5 .23 的假定 , 但是每个个体 将以 指数速 率 μ死 亡 .这是一 个生 灭过
程 , 一个生灭过程的状 态为 {0 , 1 , 2 , …} .在 状态 i, 它 能转 移 到 i + 1 ( 生 了 一
12 0 应用随机过程

个 ) 或 i - 1( 死了 一个 ) , 以 Ti 记 过程 从 i 到 达 i + 1 或 i - 1 的时 间 , 类似 例
5 .2 3 可以得到 , Ti 相 互 独 立 且 与 状 态 会 转 移 到 i + 1 或 是 i - 1 是 独 立 的 ,
Ti 服从参数为 iμ+ iλ的指数分布 ( 把生灭 过 程 看 成两 个 Y ule 过 程 之 和 , 一
λ
个生 , 一 个 灭 ) , 并 且 下 一 次 转 移 到 i + 1 的 概 率 pi, i + 1 是 (见 第 3 章习
μ+λ
μ
题 3 .3 ) , 到 i - 1 的概率为 .
μ+ λ

例 5 .25( M/ M/ s 排队系统 ) 顾客的来到是参数为 λ的 P oisson 过程 .服


务员数为 s 个 , 每个顾客接受服务的时间服从参数为 μ的指数分布 .遵循 先来
先服务 , 若服务员没有空闲就排队的原则 .以 X( t) 记 t 时 刻系统中 的总人 数 ,
则{ X( t) , t≥0}是一个生灭过程 ( 来 到看 作出生 , 离 去看 作死 亡 ) , 来 到率 是恒
定参数为 λ的 Poisson 过程 , 离去过程的参数会发生变化 , 以 μn 记系 统中有 n
个顾客时的离去率 , 则
nμ, 1 ≤ n ≤ s,
μn = (5 .7 .8 )
sμ, n > s.
请读者自己证明 .

5 .7 .2 转移概率 p i j ( t) 和 Kolmogorov 微分方程

对于离散时间时齐 Markov 链 , 如果已知其转移概率矩阵 P = ( pi j ) , 则其


n 步 转 移 概 率 矩 阵 由 其 一 步 转 移 矩 阵 的 n 次 方 可 得 .但 是 对 于 连 续 时 间
Ma rkov 链 , 转移概率 pi j ( t) 的求解一般 比较复杂 .下面 , 我们 先考虑 p i j ( t) 的
一些性质 .

定理 5 .19 时齐连续时间 M arkov 链的转移概率 pi j ( t) 满足 :


( 1) p i j ( t) ≥0 ;
( 2) ∑p
j∈ S
ij ( t) = 1 ;

( 3) p i j ( t + s) = ∑p
k∈ S
ik ( t) pk j ( s) .

证明 ( 1) 和 (2 ) 由 pi j ( t) 的定义易知 .
下面证明 ( 3) .
p i j ( t + s) = P{ X( t + s) = j | X (0 ) = i}
= ∑ P{ X( t + s) = j, X ( t) = k | X( 0) = i}
k∈ S
第 5章 M a rkov链 1 21

= ∑ P{ X( t + s) = j | X( t) = k, X(0 ) = i} ×
k∈ S

P{ X( t) = k | X (0 ) = i}
= ∑ P{ X( t + s) = j | X( t) = k} p i k ( t)
k∈ S

= ∑ p i k ( t) pk j ( t) . x
k∈ S

一般称 ( 3) 为连续时间 Ma rkov 链的 C- K 方程 .

定理 5 .20 对 固 定 的 i, j∈ S = {0 , 1 , 2 , … , } , pi j ( t) 是 t 的 一 致 连 续
函数 .
证明 设 h > 0, 则

p i j ( t + h) - p i j ( t) = ∑ pi k ( h) pk j ( t) - p i j ( t)
k= 0

= p i i ( h) pi j ( t) - pi j ( t) + ∑p k≠ i
ik ( h) pk j ( t)

= - (1 - p i i ( h) ) p i j ( t) + ∑p k≠ i
ik ( h) pk j ( t) ,

从而得到
p i j ( t + h) - p i j ( t) ≥ - (1 - p i i ( h) ) p i j ( t) ≥ - (1 - p i i ( h) )

p i j ( t + h) - pi j ( t) ≤ ∑p
k≠ i
ik ( h) pk j ( t) ≤ ∑p
k≠ i
ik ( h) = 1 - pi i ( h) ,

因此得到
| pi j ( t + h) - pi j ( t) | ≤ 1 - p i i ( h) .
对于 h < 0 , 可得类似不等式 , 所以有
| p i j ( t + h) - p i j ( t) | ≤ 1 - pi i ( | h | ) → 0 ( h→ 0) .
即 pi j ( t) 关于 t 是一致连续的 . x

1 - pi i ( t)
定理 5 .21 ( 1) lim = qi i ≤ + ∞ ;
t→ 0 t
p i j ( t)
( 2) lim = qi j < ∞ .
t→ 0 t
证明略 ( 见参考文献 [27] ) . 称 qi j 为从状态 i 转移到 j 的转移速率 .

推论 5 .6 对有限状态时齐的连续时间的 Ma rkov 链 , 有
qi i = ∑q
j≠ i
ij <+ ∞ .
12 2 应用随机过程

证明 由定理 5 .19 知 , ∑p
j∈ S
ij ( t) = 1 , 即

1 - p i i ( t) = ∑p j≠ i
ij ( t) ,


1 - pi i ( t) p i j ( t)
lit→m
0 t
= lim
t→ 0 ∑
j≠ i t
pi j ( t)
= ∑ lit→m
j≠ i
0 t

= ∑ qi j < + ∞ . (5 .7 .9 )
j≠ i


注 5 .5 对于无限状态的 情况 , 一般 只能 得到 qi i ≥ ∑q j≠ i
ij . 为了 简单 起

见 , 设状态空间为 S = {1 , 2 , … , n, …} . 此时记
- q11 q1 2 q13 … q1 i …
q21 - q2 2 q23 … q2 i …
Q = … … … … … ,
qi1 qi2 qi3 … - qi i …
… … … …
称为连续时间 Mar kov 链的 Q-矩阵 , 当矩阵元素 qi i = ∑q
j≠ i
ij < + ∞ 时 , 称该

矩阵为保守的 .
下面我们应用这两个定理及推论 , 来导出一个重要的微分方程 .

定理 5 .22( Kolmogorov 微分方程 ) 对一切 i, j∈ S, t ≥ 0 且 ∑ qi j = qi i


j≠ i

< + ∞, 有
( 1) 向后方程
p′
i j ( t) =
∑q
k≠ i
ik p k j ( t) - qi i p i j ( t) . ( 5 .7 .10 )

( 2) 在适当的正则条件下 , 有向前方程
p′
i j ( t) =
∑q
k≠ j
kj p i k ( t) - qj j p i j ( t) . ( 5 .7 .11 )

证明 由定理 5 .19( 3) , 有
p i j ( t + h) = ∑p
k∈ S
ik ( h) pk j ( t)

或等价地
第 5章 M a rkov链 1 23

pi j ( t + h) - pi j ( t) p i i ( h) = ∑p
k≠ i
ik ( h) pk j ( t) , ( 5 .7 .12 )

变形为
pi j ( t + h) - pi j ( t) = ∑p
k≠ i
ik ( h) pk j ( t) - (1 - p i i ( h) ) p i j ( t) ,

( 5 .7 .13 )
于是
p i j ( t + h) - p i j ( t) p i k ( h) ( 1 - p i i ( h) )
lim
h→0 h
= lim
h→0 ∑
k≠ i h
p k j ( t) - li m
h→ 0 h
p i j ( t) .

( 5 .7 .14 )
若此 Markov 链状态是 有限 的 , 应用 定 理 5 .21 和 推 论 5 .6 从 上 式 直接 可 得
( 1) ( 向后方程 ) .
下面证明对于无限状态 下 依然 有 ( 1) 成 立 .由 式 ( 5 .7 .14 ) 我们 只 需证 明
其中的极限与求和可交换次序即可 .
对于固定的 N , 有
p i k ( h) p i k ( h)
lim inf∑ p k j ( t) ≥limh→ 0inf∑ p k j ( t)
h→ 0 k≠ i h k≠ i h
k< N

pi k ( h)
= ∑ lim inf p k j ( t)
h→ 0
k≠ i h
k< N

= ∑ q i k p k j ( t) , ( 5 .7 .15 )
k≠ i
k< N

由 N 的任意性 , 得
p i k ( h)
lim inf∑ p k j ( t) ≥ ∑ q i k p k j ( t) . ( 5 .7 .16 )
h→ 0 k≠ i h k≠ i

又因为对 " k∈ S , pk j ≤1 , 所以
p i k ( h)
limh→s0 up∑ p k j ( t)
k≠ i h
p i k ( h) p i k ( h)
≤limh→s0 up ∑
k≠ i h
p k j ( t) + ∑
k≥ N h
k< N

p i k ( h) p i k ( h) p i k ( h)
= limh→s0 up ∑
k≠ i h
p k j ( t) + ∑ k h
- ∑k< N h
k< N

p i k ( h) 1 - pi i ( h) p i k ( h)
= limh→s0 up ∑
k≠ i h
p k j ( t) +
h
- ∑
k< N h
k< N k≠ i
12 4 应用随机过程

= ∑ qi k p k j ( t) + qi i - ∑q ik . ( 5 .7 .17 )
k≠ i k≠ i
k< N k< N

同样由 N 的任意性 , 可知
p i k ( h)
limh→sup
0 ∑k≠ i h
p k j ( t) ≤ ∑q
k≠ i
ik p k j ( t) 因为 qi i = ∑q
k≠ i
ik < ∞ ,

这就证明了
p i k ( h)
h→ 0 ∑ ∑q
lim p k j ( t) = ik p k j ( t) . ( 5 .7 .18 )
k≠ i h k≠ i

于是 ( 1) 得证 .( 1) 用矩阵形式写出即是 P′( t) = QP( t) , 其中 P( t) = ( pi j ( t) ) ,


Q = ( qi j ) .依定理条件可知 , Q 是保守的 .
下面证明 ( 2) . 在 ( 1) 中计算 t + h 的状 态 时是 对退 后到 时刻 h 的 状态 来
取条件的 ( 所以称为后退方程 ) , 这里我们考虑对时刻 t 的状态 取条件 , 用 C-K
方程
pi j ( t + h) = ∑p k∈ S
ik ( t) pk j ( h) ,

同理得到
p i j ( t + h) - p i j ( t) pk j ( h) 1 - p j j ( h)
lim
h→0 h
= lim
h→0 ∑p k≠ j
ik ( t)
h
-
h
p i j ( t) .

( 5 .7 .19 )
假若上式中极限与求和运算可交换 , 则有 (2 ) 成立 , 以矩阵形式写出即为
P′( t) = P( t) Q .
但是这个假定不一定成立 , 所以在定理中 , 我 们加 了“ 适当 正则”这个 条件 , 但
是对于有限状态的 Markov 链 或生灭 过程 ( 特别 只生 不 灭的 纯生 过程 ) , 它 都
是成立的 . x

例 5 .26( Pois son 过程 ) 由 Pois son 过程的第二个定义知


p k, k + 1 ( h) = P{ N( t + h) - N( t) = 1 | N( t) = k}
=λh + o ( h) ,
pk, k ( h) = P{ N( t + h) - N( t) = 0 | N( t) = k}
= 1 - λh + o( h) .
由此导出 pi j ( t) 满足的微分方程 , 首先
1 - p k k ( h)
lim = qk k = λ,
h→ 0 h
p k, k + 1 ( h)
lim = qk, k + 1 = λ,
h→0 h
第 5章 M a rkov链 1 25

从而
p′
i j ( t) = qi, i + 1 pi + 1 , j ( t) - qi i p i j ( t)

=λp i + 1 , j ( t) - λ p i j ( t) .
当 j = i 时, 有
i i ( t) = - λp i i ( t) ;
p′
当 j = i + 1 时,有
i, i + 1 ( t) = λp i + 1 , i + 1 ( t) - λ p i, i + 1 ( t) ;
p′
当 j = i + 2 时,有
i, i + 2 ( t) = λ p i + 1 , i + 2 ( t) ;
p′
在其他情况下 , 微分方程不存在 .
由条件 pi i (0 ) = 1 , 则上述微分方程的解为
p i, i ( t) = e - λt ,
- λt
p i, i + 1 ( t) =λte ,
- λt (λt ) j - i
p i j ( t) = e ( j ≥ i ≥ 0) ,
( j - i) !
可由此验证这个定义与 P oisson 过程的第一个定义的等价性 .

例 5 .27( Y ule 过程 ) 类似 P oisson 过程 , 给出 Y ule 过程 { X( t) , t≥ 0}的


转移概率 .
解 由于考虑的是单一始祖 X( 0) = 1 , 根据模型的假定 ( 见例 5 .23 ) , 有
P{ X( t + h) - X ( t) = 1 | X( t) = k} = kλh + o( h) ,
P{ X( t + h) - X ( t) = 0 | X( t) = k} = 1 - kλh + o( h) ,
P{ X( t + h) - X ( t) ≥ 2 | X( t) = k} = o( h) ,
P{ X( t + h) - X ( t) < 0 | X( t) = k} = 0 .
重复例 5 .26 的过程得 Y ule 过程的转移概率 p i j ( t) 满足的向前方程为
P′
i i ( t) = - iλp i i ( t) ,

i j ( t) = ( j - 1 )λp i, j - 1 ( t) - jλ p i j ( t) ,
P′ j > i,
解得
j - 1 - λti - λt j- i
pi j ( t) = e (1 - e ) , j ≥ i≥ 1 .
i - 1
与例 5 .23 中结论是相同的 .

例 5 .28( 生灭过程 ) 同样 , 例 5 .2 5 的生灭过程应满足


( 1) P{ X( t + h) - X( t) = 1 | X( t) = i} =λh + o( h) ;
12 6 应用随机过程

( 2) P{ X( t + h) - X( t) = - 1 | X( t) = i} = iμh + o( h) ;
( 3) P{ X( t + h) - X( t) = 0 | X( t) = i} = 1 - (λ + iμ) h + o( h) ;
( 4) p i i ( 0) = 1 , p i j ( 0) = 0 ( j≠ i) .
从而导出 Kolmogorov 向后方程为
i j ( t) = μ
P′ i p i - 1 , j ( t) - (λ+ μ
i ) pi j ( t) + λp i+ 1 , j ( t) , i ≥ 0,
0 , j ( t) = - λp 0 , j ( t) + λp1 , j ( t) .
P′
向前方程为
i j ( t) = ( i + 1)μp i, j + 1 ( t) - (λ+ iμ) p i j ( t) + λp i, j - 1 ( t) ,
P′
i, 0 ( t) = - λ
P′ p i , 0 ( t) + μp i, 1 ( t) .

例 5 .29 考察某一系统运 作情 况 ( 例如 机器 运转 ) .如果 运作 正常 , 则 认


为系统处于状态 1 ; 如果系统正 在调 整 ( 例如 机器 维修 , 计算 机杀 毒等 ) , 则 认
为系统处于状态 0 .系统运作 一段 时间 后 , 会 遇到 不能 正 常运 作的 情况 , 此 时
系统需要调整 .调整后又 恢复 运 作 .假 定系 统 从开 始 运作 直 至 遇到 需 要调 整
的运作时间是随机的 , 服从参数为 μ指数分 布 , 密 度函数为 μe - μt , t > 0 .而调
整期也是 随机的 , 服 从参 数为 λ指数分 布 , 密度 函数 为 λe - λt , t > 0 .假 定运 作
周期是相互独立的 , 调整期也是相 互独 立的 .如果 令 X ( t) 为 系统 在 时刻 t 所
处的状态 , 则由于在时刻 t 以后 , 系统所处的状 态仅与在 时刻 t 及其 以后 的剩
余运作时间或剩余调整 时间 有关 .利 用 指数 分布 的无 记忆 性 知道 , X ( t) 是 时
齐 Markov 链 .下面我们用 K olmogorov 方程求出此 Ma rkov 链的转移概率 .
为了列出 Kolmogrov 方程 , 先确定 qi j .当时间增量 Δt 很 小时, 如果系统在
时刻 t 处于状态 0, 而在时刻 t + Δt 变为状态 1 , 则只要求在时 间区间 ( t, t + Δt)
内 , 使系统恢复 , 此时
Δt


- λt - λΔt
p01 (Δt) = λe dt = 1 - e = λΔt + o(Δt) ,
0

所以
p00 (Δt)
q0 1 = Δt→
lim0 = λ.
Δt
同理
p10 (Δt) = μΔt + o(Δt) , q10 = μ.
于是得到
- λ λ
Q= ,
μ - μ
从而 Kolmogrov 向前方程为
第 5章 M a rkov链 1 27

i0 ( t) = - λp i0 ( t) + μ p i1 ( t) ,
p′ i = 0, 1, ( 5 .7 .20 )
i1 ( t) = λp i0 ( t) - μ p i1 ( t) ,
p′ i = 0, 1 . ( 5 .7 .21 )
由于 pi0 ( t) + μpi1 = 1 , 故将 p i1 ( t) = 1 - p i0 ( t) 代入 (5 .7 .20) 式得
i0 ( t) + (λ+ μ) p i0 ( t) = μ,
p′ ( 5 .7 .22 )
在初始条件 pi j (0 ) =δi j 下 , 方程 ( 5 .7 .22 ) 的解为
μ - (λ+ μ) t
p i0 ( t) = + ce
λ+ μ
利用 p00 (0 ) = 1 , p10 (0 ) = 0 确定常数 c, 得
λ λ - (λ+ μ) t
p0 0 ( t) = + e
λ + μ λ+ μ
λ - μ e - (λ+μ) t .
p10 ( t) =
λ + μ λ+ μ
再利用 pi1 ( t) = 1 - pi0 ( t) , 得
λ λ - (λ+μ) t
p01 ( t) = - e ,
λ + μ λ+ μ
λ μ - (λ+μ) t
p11 ( t) = + e .
λ + μ λ+ μ
为了进一步研究比如 Bro wn 运动、扩散 过程 等连 续 时间 , 连 续状 态空 间
随机过程 , 我们给出一般的 Ma rkov 过程的定义来结束本节的讨论 .

定义 5 .17 一个连续时间参数的随 机过程 { Xt } 具有 Ma rkov 性 质 , 如果


对 " s < t, 给定{ X u , u≤ s} , X t 的条件分布与给定 X s , X t 的条件分布相同 . 这
样具有 M arkov 性 质的 过 程 称为 Markov 过 程 .当状 态 空间 可 数 时 , Ma rkov
过程就是连续时间的 Markov 链 .

5 .8 应用———数据压缩与熵
[ 19 ]
信息储存和恢复的 数 学 理论 基 础是 由 Shannon 建 立 的 .作 为 Ma rkov
过程的应用 , 本节讨论这一理 论的一 个方 面 .假定“文 字”是 由有 限个 字母 集
S = { a1 , a2 , … , aM }的 符 号构 成 , 术语“ 文字”不必 仅 仅为 人类 语 言中 的 文 字 ,
它可以有更广泛的意义 .比如 : DN A 中的基因序列 , 计算 机的数据 储存 , 音乐
等 .加密编码规则是一个 变换 : 它将 一 个文 字 序列 用 另一 个 文 字序 列 代替 并
且能够惟一地再造原 来的 文字 序 列 ( 解 码 ) .为 了简 单 起 见 , 我 们只 考 虑加 密
编码 .任何一个符号的序列代表一个 单字 , 符号 的个 数是它 的长 度 .一个 长度
12 8 应用随机过程

为 t 的单字通过加密算 法被加密成长度为 s 的代码 单字 .为 了压缩文字 , 我们


就要用短的代 码 来 代表 使 用 频 率 高的 文 字 , 而用 长 的 代 码 代 表 很 少 用 的 序
列 .在这种关系中 , 文字的统计结构 ( 字 频 ) 将扮 演重 要角色 .我们考 虑符 号在
序列中出现的 频率服 从一个具 有平稳 的转移概 率矩阵 ( p i j : i, j = 1 , 2 , … , M)
的 M arkov 链 .Shannon 提出英文的 M arkov 逼近 .打开一本英文书 , 随机地选
取一个字母 , 比如 T; 跳过几行以后再读直到再次遇到 T, 选取 其后的第 一个
字母 , 比如 H ; 跳过更多行后继续读 , 直到 再次遇到 H , 选取 其后的 第一 个字
母 , 比如 A .继续这样的步骤 , 得到一个文字样本 , 这一文字比按照英语语法组
成的文字更接近 Markov 链 .不但如此 , 我们还希望这 种做法能 够使得文 字表
现得比随机的选择字 母更 加接 近 英语 语 法结 构 .因 此 , 我 们 也 可以 考 虑更 高
阶的 Markov 链逼近英文结构 , 比如 , 选择后面的两个字母 .
令过程 X0 , X1 , …具有状态空间 S、平稳的转移概率矩阵 ( pi j ) 和惟一的不
变初始分 布 π = (πi ) . 则 { X n } 是 一 个 平 稳 过 程 , 并 且 长 度 为 t 的 单 字
α = ( ai1 , ai2 , … , ai t ) 出现的概率为 πi1 pi1 , i2 … pi t - 1 , i t - 2 . 假定在编码变换下 , 单
字 α = ( ai1 , ai2 , … , ai t ) 加密为一个长度为 s= c( ai1 , ai2 , … , ait ) 的单字 .令
E[ c( ai1 , ai2 , … , ai t ) ]
μt = , (5 .8 .1 )
t
μt 代表文字长度 t 的平均压缩率 .给定一种类型文字 , 它能够被一种编码 压缩
的最佳范围被所谓的压缩系数确定 :
μ = limt→ ∞supμt . (5 .8 .2 )
我们在这里考虑的问题是用给定文字的 Markov 结构的参 数来计算 压缩
系数和构造最佳的压缩编码 .我们将证明最佳的压缩系数为

H = ∑π H
i
i i
∑π ∑ p
i
i
j
ij log p i j
μ= = - . (5 .8 .3 )
log M log M log M
这里最佳的意义是虽然有些编码的压缩系数会任意接近 , 但是决不会超过 μ.
参数 H i = ∑pj
ij log pi j 代 表 状 态 i 的 转 移 分 布 的 熵 , 它 测 量 的 是 当

Ma rkov 链从状态 i 向 前 移 动 一 步 时 所 得 到 的 信 息 .量 H = ∑π Hi
i i 称为

Ma rkov 链的熵 .容易看出 , 对给定的 Ma rkov 链的转移概率 , 一旦不变初始分


布确定 , 则最佳压缩系数可根据公式 (5 .8 .3 ) 计算 .
对于一个长度为 t 的单字α, 令 p t (α) = P{( X0 , … , X t - 1 ) = α} , 则
- log p t ( ( X0 , … , X t - 1 ) ) = - logπ( X0 ) + ∑( -i
log pX i , X i+ 1 ) = Y0 + ∑Yi
i ,

(5 .8 .4 )
第 5章 M a rkov链 1 29

这里 Y1 , Y2 , …是一个平稳的有界随机变量序列 .应用大数定律 于这一平 稳序


列 , 可以得到
- log pt ( ( X0 , … , X t - 1 ) )
lim = EY1 = H , w .p .1 . (5 .8 .5 )
t→ ∞ t
公式 ( 5 .8 .5) 的 一个 重要 而且 有 用的 推论 是为 了 减 小概 率 , 将 所 有字 长
为 t 的 M t 个单字排列为α( 1 ) ,α( 2 ) , … .对任何正数 ε< 1 , 令
N

Nt (ε) = min N: ∑ pt (α( i ) ) ≥ ε , (5 .8 .6 )


i=1

于是有下面命题 :

命题 5 .3 对 0 <ε< 1 , 有
N t (ε)
lim = H . (5 .8 .7 )
t→ ∞ t
证明 因为几乎处处收敛蕴涵依概 率收 敛 , 所以由 公式 ( 5 .8 .5 ) 可知 , 对
任意小的正数 γ,δ, 有
- log p t ( ( X0 , … , X t - 1 ) )
P - H < γ > 1 - δ.
t
特别地 , 对充分大的 t, 比如 t≥ T , 我们有
P exp{ - t( H + γ)} < pt ( X0 , … , X t - 1 ) < exp{ - t( H - γ) } > 1 - δ.
令 Rt 表示由所有字长为 t 并且满足 exp{ - t( H +γ)} < pt (α) < exp{ - t( H - γ)}
的单字 α构成的集合 .对 t≥ T, 令
S t = {α( 1 ) ,α( 2 ) , … ,α( N t (ε) ) } .
则由 N t (ε) 的定义 , Rt 中长度为 t, 包含 S t 中 N t (ε) 个单字在内的单字 α( 记为
Mt (ε) ) 的概率之和满足


α∈ S ∪ R
p t (α) > ε - δ.
t t

所以
- t ( H - γ) - t ( H - γ)
Nt (ε) e ≥ Mt (ε) e ≥ ∑
α∈ S ∪ R
t t
p t (α) > ε - δ. (5 .8 .8 )

同样 , S t 中没有任何元素的概率比 exp{ - ( H + γ)} 小 , 因为所有使得 pt (α) >


exp{ - ( H +γ) }的 α的集合包含 R t 并且其全概率大于 1 - δ>ε, 所以
- t( H +γ)
Nt (ε) e < 1 . (5 .8 .9 )
取对数得
log Nt (ε)
< H + γ.
t
13 0 应用随机过程

另一方面 , 由公式 (5 .8 .8 )
- t( H - γ)
Nt (ε) e > ε - δ. ( 5 .8 .10 )
再取对数 , 结合公式 (5 .8 .9 ) 得
log N t (ε)
H - γ+ o(1 ) < < H + γ, t→ ∞ .
t
由 γ和δ的任意性 , 命题得证 . x
现在证明最佳的压缩系数由公式 ( 5 .8 .3) 给出 .首先证明不等式
H
μ≥ .
log M
设 δ> 0 , H′= H - 2δ< H .对任意给定的编码 , 令
J t = {α : α的长度为 t 并且 c(α) < tH′
/ log M} . ( 5 .8 .11 )
因为长度为 k 的编码字的个数为 M k , 所以
2 [ t H′
/ log M]
# Jt ≤ M + M + … + M
[ t H′/ log M ] etH′ M
≤M {1 + 1/ M + … } = . ( 5 .8 .12 )
M - 1
注意到
μ
t t = E[ c( X1 , X2 , … , X t ) ]

≥ tH′P{ ( X1 , X2 , … , Xt ) ∈ Jct }
log M

= tH′[1 - P{ ( X1 , X2 , … , X t ) ∈ J t } ] , ( 5 .8 .13 )
log M
所以
tH′
μ = li m t supμt ≥ lim t s up [1 - P{ ( X1 , X2 , … , X t ) ∈ J t } ] .
log M
( 5 .8 .14 )
由于对任意的正数ε < 1 , 欲使概率 P{( X1 , X2 , … , Xt ) ∈ Jt }大于 ε, 必有 Nt (ε)
小于 # Jt .从公式 (5 .8 .1 2) 来看 , 这意味着
M
Nt (ε) < e t( H - 2δ) . ( 5 .8 .15 )
log M - 1
或者
log Nt (ε)
< o( 1) + H - 2δ. ( 5 .8 .16 )
t
由命题 5 .3 , 对任何给定的ε, ( 5 .8 .16 ) 至 多对 有 限多 个 t 的值 成立 .换 言 之 ,
必有当 t→∞时 , 概率 P{ ( X1 , X2 , … , X t ) ∈ Jt }趋于 0 .所以 (5 .8 .1 4) 变为
第 5章 M a rkov链 1 31

H′ = H - 2δ,
μ≥ ( 5 .8 .17 )
log M log M
H
由 δ的任意性 , 我们得到 μ≥ .
log M
下面证明相反方向不等式 . 对任意的 δ> 0 , 我们将构造一 个编码使 其压
H +δ
缩系数 μ不超过 .对任意的 γ> 0 ,ε> 0 , 以及充分大的 t, 有
log M
t( H +γ) t ( H+ γ)/ log M
Nt (1 - ε) < e = M . ( 5 .8 .18 )
即字长 为 t, 且 概 率 之 和 超 过 1 - ε的 高 概 率 单 字 的 个 数 不 会 超 过 字 长 为
t( H + γ)/ log M
t( H + γ)/ log M 的单字的个数 M .所 以 有 足 够 多 的 不 同 的 长 度 为
t( H + γ)/ log M 的序列为“ 更频繁出现的”Nt ( 1 - ε) 个单字编码 .对 于 低 概 率
单字 , 它们的概率之和不超过 1 - ( 1 - ε) =ε, 就用其 自身 编码 .为了 保证 解码
的惟一性 , 我们可以将前面没有用到 的长度 为 t( H + γ)/ log M 的序 列放 在每
个自 身 编 码 的 前 面 .这 样 , 对 这 种 编 码 来 说 , 编 码 单 字 的 长度 为 t ( H + γ)/
log M 或者 t + t( H + γ)/ log M , 并且后者出现的概率至多为 ε.所以
t( H + γ)
E[ c( X0 , X1 , … , X t - 1 ) ] ≤ t( H + γ) + t+ ε = t( H + δ) ,
log M log M log M
( 5 .8 .19 )
这里 δ=εH +εlog M +ε
γ+ γ, 由 γ和ε的任意性可以得到δ的任意 性 , 从 而不
等式得证 .

习 题
5 .1 设今日有雨 , 则明日 也有 雨 的概 率为 0 .7 , 今 日无 雨明 日有 雨的 概
率为 0 .5 .求星期一有雨 , 星期三也有雨的概率 .
5 .2 某人 有 r 把 伞用于上 下班 , 如果 一天的开 始他在家 ( 一天的结 束他
在办公室 ) 中而且天下 雨 , 只要 有伞 可取 到 , 他 将 拿一 把 到 办公 室 ( 家 ) 中 .如
果天不下雨 , 那么他不带伞 , 假设 每天的 开始 ( 结 束 ) 下雨 的概 率为 p , 且与 过
去情况独立 .
( 1) 定义一个有 r + 1 个状态的 Markov 链并确定转移概率 ;
( 2) 计算极限分布 ;
( 3) 他被淋湿的平均次数所 占比 率是多 少 ( 如 果天 下雨 而全 部伞 在另 一
处 , 那么称他被淋湿 ) ?
13 2 应用随机过程

5 .3 对例 5 .5 试确定状态的周期 , 常返性 , 并给此 Ma rkov 链分类 .


5 .4 若 f i i < 1 , f j j < 1 , 证明

∑p
( n)
∞ ij

∑ pi j < + ∞
n= 1

( n)
f ij = ∞ .
n=1

∑p
( n)
1+ jj
n=1

5 .5 设一只蚂蚁在直线上爬行 , 原 点处一只 蜘蛛 在等 待捕食 , N 处 有一


挡板 , 蚂蚁到 N 后只能返回 .设 蚂蚁 向左 爬和 向右 爬 的概 率分 别为 p 和 1 -
p .开始它处于 0 < n < N .
( 1) 证明 : 蚂蚁被吃掉的概率为 1 .
( 2) 求蚂蚁平均爬行多久后被吃掉 ( 设爬行一格用时为 1 ) .
5 .6 上题中设 N = 1 , 但 蜘蛛 也在 0 和 1 之间 爬行 , 起 始 位置 在 0 , 蚂 蚁
的初始位置在 1 , 蜘蛛和蚂蚁分别依如下转移矩阵在 0 和 1 之间转移 :
0 .7 0 .3 0 .7 0 .3
, .
0 .3 0 .7 0 .3 0 .7
( 1) 求在时刻 n, 蜘蛛和蚂蚁分别处于 0 和 1 的概率 ;
( 2) 捕捉过程需要的平均时间为多长 ( 设蚂蚁不会在途中被吃掉 ) ?
5 .7 将两个红球 4 个白球分别放入甲乙两个盒子中 .每次从两个盒子中
各取一球交换 , 以 X( n) 记第 n 次交换后甲盒中的红球数 .
( 1) 说明{ X( n) , n≥0}是一 Markov 链并求转移矩阵 P;
( 2) 试证{ X( n) , n = 0 , 1 , 2 , … } 是遍历的 ;
( 3) 求它的极限分布 .
5 .8 设有 3 个盒子装有红白两种颜色球 , 装球情况如下 :

盒子 红球 白球

甲 90 10

乙 50 50

丙 40 60

做下面的抽取 : 在甲盒中随机抽取 1 个 球 , 记下 它的颜 色 , 然后 重新 放回


1 个与它不同颜色的球 , 在乙盒中随机抽取后记下 颜色再放 回 , 在丙盒中 抽取
后只记颜色不放回 . 现在某人随 机选 中一个 盒子 , 按 与 此盒 相应 的抽 取方 式
得到了一个如下记录 ( 红 , 红 , 红 , 红 , 白 ) , 则他 最 可能 选 取的 是 哪一 个 盒 子 .
第 5章 M a rkov链 1 33

( 提示 , 对每一个盒子的情况建立一个 Markov 链 .)

5 .9 转移矩阵称为双随机的 , 若对一切 j, ∑p
i=0
ij = 1 . 设一个具有 双随

机转移阵的 Markov 链 , 有 n 个状态 , 且是遍历的 , 求它的极限概率 .


5 .1 0 对于 Y ule 过程计算群体总数从 1 增长到 N 的平均时间 .
5 .1 1 假定一生物 群 体 中的 各 个个 体 以 指 数率 λ出 生 , 以 指 数 率 μ死
亡 , 另外还存在由迁入引起的指数增长率 θ, 试对此建立一个生灭模型 .
5 .1 2 在习题 5 .11 中假设当群体总数是 N 或更多时 , 就不允 许迁入 , 同
样建立一个生灭模型 , 并求当 N = 3 , θ= λ= 1 , μ= 2 时 , 不允许迁入的时 间所
占的比例 .
5 .1 3 考虑有两个状态的连续时 间 Markov 链 , 状态 为 0 和 1 , 链在 离开
0 到达 1 之前在状态 0 停 留的 时间服 从参 数为 λ的 指数 分布 , 相 应地 在 1 停
留的时间 是 参 数 为 μ的 指 数 变 量 .对 此 建 立 Kolmogorov 微 分 方 程 , 并 求
其解 .
5 .1 4 设有一质点在 1 , 2 , 3 上做随机跳跃 , 在时刻 t 它位于三 点之一 , 且
1
在 [ t, t + h] 内以概率 + o( h) 分别 可以 跳到 其他 两个 状 态 .试求 转移 概率 满
2
足的 Kolmogorov 方程 .
5 .1 5 对 于 例 5 .25 的 排 队 模 型 建 立 一 个 Kolmogorov 方 程 并 求 转 移
概率 .
第 6章

本章将介绍另 一类 特 殊的 随 机过 程———鞅 , 近 几 十 年来 , 鞅 理 论不 仅 在
随机过程及其他数学 分支 中 占据 了重 要 的 地位 , 而且 在 实际 问 题诸 如 金 融、
保险和医学上也得到了广泛 的应 用 . 在此我 们将 阐述 鞅 的一 些基 本理 论 , 并
以介绍离散时间的鞅为主 .
鞅的定义是从条件 期 望出 发 的 , 所 以 , 对 条件 期 望不 熟 悉 的读 者 请先 学
习第 1 章中的相关内容 , 这对于理解鞅理论是至关重要的 .

6 .1 基 本概念

每个赌博者自然都 对使 得 他在 一 系列 赌 博后 获 得期 望 收 益最 大 的策 略
感兴趣 .然而在 数学 上 可 以 证 明 , 在“ 公 平”的 博 弈 中 , 是 没 有 这 样 的 赌 博 策
略的 .
1
考虑一个赌博者正 在进 行 一 系列 赌 博 , 每 次赌 博 输赢 的 概率 都 是 .令
2
{ Yn } , n≥ 1 , 是一列独立同分布的随机变量 , 表示每次赌博的结果

P{ Y n = 1} = 1 = P{ Y n = - 1} , (6 .1 .1 )
2
这里{ Y n = 1} ({ Y n = - 1}) 表示赌博者在第 n 次赌博时赢 ( 输 ) .如果赌博 者采
用的赌博策略 ( 即所下 赌注 ) 依赖 于前 面 的赌 博 结 果 , 那 么 , 他 的赌 博 可以 用
下述的随机变量序列
bn = bn ( Y1 , … , Y n - 1 ) , n≥2 (6 .1 .2 )
描述 , 其中 bn < ∞是第 n 次的赌注 , 若赌赢则获利 bn , 否则输掉 bn .
13 4 应用随机过程

设 X0 是该赌博者的初始赌资 , 则
n

X n = X0 + ∑b Y
i= 1
i i (6 .1 .3 )

是他在第 n 次赌博后的赌资 .可以断言


E( Xn+ 1 | Y1 , … , Y n ) = X n . (6 .1 .4 )
事实上 , 由式 (6 .1 .3 ) 我们有
X n+ 1 = Xn + bn + 1 Y n+ 1 ,
因此
E( Xn+ 1 | Y1 , … , Y n ) = E( X n | Y1 , … , Y n ) + E( bn + 1 Y n+ 1 | Y1 , … , Y n )
= X n + bn+ 1 E( Y n+ 1 | Y1 , … , Y n )
( 因为 Xn 与 bn+ 1 由 Y1 , … , Y n 确定 ) ,
= X n + bn+ 1 EY n+ 1
( 因为{ Y n } 是独立的随机变量序列 ) ,
也就是说,从长期来看,赌
= Xn ( 因为 EY n+ 1 = 0 , " n ≥ 0) . 博实际上没赢钱
这证明了 , 如果每次赌博 的输 赢 机会 是 均等 的 , 并 且 赌博 策 略 是依 赖 于前 面
的赌博结果 , 则赌博是“公平的” .因此 , 任何赌博者都不可能将 公平的赌 博通
过改变赌博策略使得赌博变成有利于自己的“ 有利”赌博 .

定义 6 .1 随机过程{ X n , n≥0}称为关于{ Yn , n≥0}的下鞅 , 如果对 n≥0 ,


X n 是 ( Y0 , … , Yn ) 的函数 , E X n+ < ∞ , 并且
E( Xn+ 1 | Y0 , … , Y n ) ≥ X n , (6 .1 .5 )
+
这里 X n = max{0 , Xn } .
我们称过 程 { X n , n≥ 0} 为 关 于 { Y n , n≥ 0} 的 上 鞅 , 如 果对 n≥ 0 , X n 是
-
( Y0 , … , Y n ) 的函数 , E Xn < ∞ , 并且
E( Xn+ 1 | Y0 , … , Y n ) ≤ X n , (6 .1 .6 )
-
这里 Xn = max{0 , - X n } .
若{ Xn , n≥0} 兼为关于 { Y n , n≥ 0} 的 下鞅与 上鞅 , 则 称之为 关于 { Y n , n≥
0}的鞅 .此时
E( Xn+ 1 | Y0 , … , Y n ) = X n . (6 .1 .7 )
鞅描述的是“ 公平”的赌博 , 下鞅和上 鞅分别 描述 了“ 有利”赌博 与“ 不利”
赌博 .
下面我们定义关于 σ代数 的鞅 , 为 此 , 首先介 绍有 关概念 .设 ( Ω, F , P) 是
完备的概率空间 , 我们所讨论的随机变量都是定义在这个概率空间上的 .{ Fn ,
第 6章 鞅 1 35

n≥0}是 F 上的一 列 σ子代 数 并 且 使 得 Fn Fn + 1 , n≥ 0 ( 此 时 称 之为 σ子 代


数流 ) .
随机过程{ Xn , n≥0} 称为{Fn }适应的 , 如果对任意的 n≥0 , X n 是 Fn 可测
的 , 即对任意的 x∈R , { Xn ≤ x} ∈Fn .此时称{ X n , Fn , n≥0} 为适应 列 .在 定义
6. 1 中 , 定义下鞅时 , 我们假定了 X n 是 ( Y0 , … , Yn ) 的函 数 .令 Fn = σ{ Y0 , … ,
Y n } , n≥0 .则{Fn , n≥0}一个 σ代数 流 . Xn 是 Y0 , … , Yn 的函 数的确 切含 义是
{ Xn }是{Fn } 适应的 .

定义 6 .2 设 {Fn , n≥ 0 } 是 F 上 的 上 升 的 σ子 代 数 列 .随 机 过 程 { Xn ,
n≥0}称为关于{Fn , n≥ 0}的鞅 , 如果 { X n }是 {Fn }适 应的 , E( | Xn | ) < ∞ , 并且
对任何的 n≥0 , 有
E( X n+ 1 | Fn ) = Xn . (6 .1 .8 )
适应列{ Xn , Fn , n≥0}称为下鞅 , 如果对任何的 n≥0 ,
+
EX n < ∞ 且 E( X n+ 1 | Fn ) ≥ Xn . (6 .1 .9 )
上鞅可以类似定义 .
在给出例子之前 , 先给出由定义直接推出的命题 .

命题 6 .1 (1 ) 适应列{ Xn , Fn , n≥0} 是下鞅当且仅当{ - X n , Fn , n≥ 0}是


上鞅 .
( 2) 如果{ X n , Fn } , { Yn , Fn } 是 两个 下鞅 , a, b 是 两个 正 常数 , 则 { aX n +
bYn , Fn }是下鞅 .
( 3) 如果{ X n , Fn } , { Y n , Fn }是两个下鞅 ( 或上鞅 ) , 则 {max ( X n , Y n ) , Fn }
( 或{min ( Xn , Y n ) , Fn }) 是下鞅 ( 上鞅 ) .
证明是 简 单 的 , 留 作 习 题 .在 本 命 题 以 及 其 他 类 似 命 题 中 ,σ子 代 数 列
帮助理解!
{Fn }可以由{ Y k , k = 1 , 2 , … , n} 替代 , 即{ Xn } 是关于{ Y n }的下鞅 .
若以 X n 表示一个 赌 博 者 在第 n 次赌 博 后 所 有 的赌 资 .由 式 ( 6 .1 .8 ) 表
示 , 平均而言 , 他在下一次赌博结束 时的 赌资将 等于 现时的 赌资 , 与 他过 去赌
博的输赢无关 .这也是鞅 所具 有 一种“ 无后 效 性”, 而 同时 这 体 现的 正 是博 弈
的公平 .

例 6 .1 设 X1 , X2 , …是一族零均值独立随机变 量序列, 且 E( | X i | ) < ∞ ,


n

令 S0 = 0 , Sn = ∑X
k= 1
k , 则{ S n }是 ( 关于 Fn =σ( X1 , X2 , … , X n ) 的 ) 鞅 . 另外 , 若

X i ( i = 1 , 2 , … ) 均值为 μ≠ 0 , 则 { Mn = Sn - nμ} 是 ( 关于{Fn } 的 ) 鞅 .


13 6 应用随机过程

证明 当 E Xi = 0 时, 显然 Sn 是 Fn 可测 , 而且 E( | Sn | ) ≤ ∑i=1
E( | X i | ) <

∞ , 于是
E( S n+ 1 | Fn ) = E( X1 + X2 + … + Xn+ 1 | Fn )
= E( X1 + … + X n | Fn ) + E( X n+ 1 | Fn )
= Sn ,
从而{ S n }满足定义 6 .2 的 ( 1) 和 (2 ) , 因此是一个关于{Fn }的鞅 .同理可以证明
当 E X i = μ≠0 时 , { Mn } 也是关于{Fn }的鞅 . x

例 6 .2 考虑 一 个公 平 博弈 的 问题 . 设 X1 , X2 , … 独 立 同 分 布 , 分 布 函
数为
1
P{ Xi = 1} = P{ X i = - 1} = ,
2
于是 , 可以将 Xi ( i = 1 , 2 , … ) 看做一个投硬 币的游戏 的结果 : 如果 出现正 面就
赢 1 元 , 出现反面则输 1 元 .假设我 们按 以下的 规则 来赌博 , 每次投 掷硬 币之
前的赌 注都比 上一 次翻 一倍 , 直到 赢了 赌博即 停 . 令 W n 表 示第 n 次赌博 后
所输 ( 或赢 ) 的总钱数 , W0 = 0 , 无论何时 , 只要赢 了就停止 赌博 , 从而 W n 从赢
了之后起就不再变化 , 于是有 P{ W n + 1 = 1 | W n = 1} = 1 .
假设前 n 次投出的硬币都出 现 了反 面 , 按照 规 则 , 我们 已经 输 了 1 + 2 +
n - 1 n n
4+…+2 = 2 - 1 ( 元 ) , 即 Wn = - ( 2 - 1 ) , 假如 下一 次 硬 币出 现 的是 正
n n
面 , 按规则 W n + 1 = 2 - (2 - 1) = 1 , 由公平的前提知道

P{ W n+ 1 = 1 | W n = - (2 n - 1 )} = 1 ,
2
n n n 1
P{ W n+ 1 = - 2 - 2 + 1 | W n = - ( 2 - 1) } = ,
2
易证 E( W n + 1 | Fn ) = W n , 这里 Fn =σ( X1 , … , Xn ) , 从而 { W n }是关于 {Fn }的鞅 .

例 6 .3 我们可以把 例 6. 2 再一 般化 , 设 X1 , X2 , …仍 如例 6. 2 假 定 , 而
每次赌博所下赌注将 与 前面 硬币 的投 掷结 果 有关 , 以 Bn 记 第 n 次 所 下的 赌
注 , 则 Bn 是 X 1 , … , Xn - 1 的函数 , 换言之 Bn 是 Fn - 1 可测的 ( 设 B1 为常数 ) .仍
然令 W n 同例 6. 2 所定义的 , W0 = 0 , 则有
n

Wn = ∑B
j =1
j Xj ,

假设 E( | Bn | ) < ∞ ( 这 保 证了 每 次的 赌 本都 有 一 定节 制 ) , 那 么 { W n } 是一 个
{Fn }鞅 .
第 6章 鞅 1 37

事实上 , 注意到 E( | W n | ) < ∞ ( 这可由 E( Bn ) < ∞得到 ) , 而且显然 W n 是


Fn 可测的 , 并且
n+ 1

E( W n+ 1 | Fn ) = E ∑B
j= 1
j X j | Fn
n

= E ∑B
j= 1
j X j | Fn + E( Bn+ 1 Xn + 1 | Fn )
n

= ∑ B j X j + Bn+ 1 E( Xn + 1 | Fn )
j = 1

= W n + Bn + 1 E X n+ 1
= Wn .

例 6 .4 ( P olya 坛子抽样模 型 ) 考 虑一 个装有 红、黄 两色 球的 坛子 .假 设


最初坛子中装有红、黄色球各一个 , 每次 都按如 下规 则有放 回地 随机 抽取 : 如
果拿出的是红色的球 , 则 放回 的 同时 再 加入 一 个同 色 的 球 , 如 果拿 出 是黄 色
的球也同样作法 .以 Xn 表示 第 n 次抽 取后坛 子中 的红 球数 .则 X0 = 1 , { X n }
是一个非时齐的 Markov 链 , 转移概率为
k ,
P{ Xn+ 1 = k + 1 | Xn = k} =
n+2

P{ Xn+ 1 = k | Xn = k} = n + 2 - k .
n+ 2
Xn
令 Mn 表示第 n 次抽 取 后 红 球 所占 的 比 例 , 则 Mn = , 并 且 { Mn } 是 一 个
n+2
鞅 .这是因为
Xn
E( Xn+ 1 | Xn ) = X n + .
n+2
由于{ Xn }是一个 M arkov 链 , 则 Fn =σ( X1 , … , X n ) 中对 X n + 1 有影响的信 息都
包含在 X n 中 , 所以
E( Mn+ 1 | Fn ) = E( Mn+ 1 | X n )
Xn+ 1
= E | Xn
n+1+2
1
= E( Xn+ 1 | X n )
n+3
1 Xn
= E Xn +
n+3 n+2
Xn
= = Mn .
n+2
13 8 应用随机过程

本例研究的模型是 Polya 首次 引入的 , 它 适用 于描 述群 体增 值和 传染 病


的传播等现象 .

例 6 .5 在例 6 .1 中设 E X i = μ≠0 , E( | X i | ) < ∞ . 则有 E( | Sn | ) < ∞ ,


n

E( Sn+ 1 | Fn ) = E ∑X
i=1
i + X n+ 1 | Fn = Sn + μ.

显然 , 若 μ > 0 , { Sn }是一关于 {Fn }的下鞅 , 反之为上鞅 .


下面的引理可以让我们由已知 的鞅 或下鞅 构造 出许多 新的 下鞅 .考 虑定
义在有穷域无穷开区间 I 上的函数φ( x) , 称它为凸的 , 若对 " x, y∈ I, 0 <α<
1,有
αφ( x) + (1 - α)φ( y) ≥ φ(αx + ( 1 - α) y ) ( 6 .1 .10 )
成立 .

引理 6 .1 ( 条件 Jenson 不等式 ) 设 φ( x) 为实直线R 上的凸函数 , 随 机变


量 M 满足
( 1) E( | M | ) < ∞ ;
( 2) E[ |φ( M) | ] < ∞ .
则有
E[φ( M) | Fn ] ≥ φ[ E( M | Fn ) ] , ( 6 .1 .11 )
其中{Fn }是任意上升的 σ代数列 .
证明见参考文献 [ 35 ] .式 ( 6 .1 .11 ) 是著 名 的条 件 Jensen 不等 式 , 由它 即
可得到以下定理 .

定理 6 .1 设 { Mn , n≥0} 是关于{Fn , n≥0} 的鞅 ( 下鞅 ) ,φ( x) 是 R 上的凸


函数 , 且满足 E(φ( Mn ) + ) < ∞ , " n≥0 , 则{φ( Mn ) , n≥0}是关 于{Fn , n≥ 0}的
下鞅 . 特别地 , { | Mn | , n≥0} 是下鞅 , 当 E( M2n ) < ∞ , " n≥ 0 时 , { M2n , n≥ 0}
也是下鞅 .
证明 根据定义易证 , 请读者利用引理 6 .1 推导 .

6 .2 鞅的停时定理

6 .2 .1 停时定理

本节中我们所讨 论的 鞅 , 都 是指 关 于某 个 随机 变 量 序列 的 鞅 , 所 得到 的
结论对关于 σ代数列的鞅也是成立的 , 为了便于理解和应用 , 我们没有追 求结
第 6章 鞅 1 39

论的一般性 .对于一个关于{ X n }的鞅 { Mn , n≥0} , 我们很容易知道对 " n≥0 ,


EMn = EM0 . (6 .2 .1 )
我们想知道 , 如果把此处的 n 由固定的时间换成一个随机变量 T , 是否仍然有
EM T = EM0 . (6 .2 .2 )
一般地 , 此结论未必成立 , 但在 一定 的条件 下就 可以保 证它 成立 , 鞅 的停
时定理给出了这个结 论 .鞅的 停 时定 理 的意 义 是 “
: 在 公 平的 赌 博中 , 你不 可
能赢”.设想{ Mn , n≥ 0}是一种公平的博弈 , Mn 表示局中人第 n 次赌局结 束后
的赌本 .式 (6. 2. 1 ) 说明他在每次赌 局结 束时 的赌本 与他 开始时 的赌 本一 样 ,
但是他未必一直赌下去 , 他可以选择 任一时 刻停 止赌 博 , 这一时 刻是 随机 的 .
式 ( 6. 2. 2) 就说明他停止 时的 赌 本和 他 开始 时 赌本 相 同 , 然 而 很容 易 看出 在
一般的情况下 , 这是不正 确 的 .比 如例 ( 6. 2. 2 ) 中的 赌 博 者采 取 的策 略 , 就 可
以保证他在赢一元之后结束 , 所以我们要为式 (6. 2. 2 ) 的成立附加一些条件 .

定义 6 .3 ( 停时 ) 设 { X n , n≥0} 是 一随 机 变量 序列 , 称 随 机函 数 T 是 关
于{ Xn , n≥ 0} 的停 时 , 如 果 T 在 {0 , 1 , 2 , … , ∞ } 中取 值 , 而 且 对 每 个 n≥ 0 ,
{ T = n} ∈σ( X0 , X1 , … , X n ) .
由定义我们知道事件{ T = n}或{ T≠ n}都 应该 由 n 时刻 及以前 的信 息完
全确定 , 而不需要也无法借助将来的 情况 .仍然 回到 公平博 弈的 例子 , 赌 博者
决定何时停止赌博只 能以 他已 经 赌过 的 结果 为 依 据 , 而 不能 说 , 如 果 我下 一
次要输我现在 就 停 止 赌 博 , 这是 对 停 止 时 刻 T 的 第 一 个 要 求 : 它 须 是 一 个
停时 .
看几个停时的例子 .

例 6 .6 确定时刻 T = n 是一个停时 , 即在赌博开始已确定 n 局之后一定


结束 , 很显然这是一个停时 .

例 6 .7 ( 首达时 ) { X n , n≥0}是一个随机变量序列 , A 是一个事件集 , 令


T ( A) = inf{ n, X n ∈ A} , 并约定 T ( ) = inf{ n, X n ∈ } = ∞,
可见 T( A) 是{ Xn , n≥0} 首次进 入 A( 即 发生 了 A 中所 含的 事件 ) 的 时刻 , 称
联系inf(下确界) T( A) 是 { Xn , n≥0} 到集合 A 的首达时 , 可 以证明 T ( A) 是关于 { Xn , n≥0} 的
的定义 停时 , 事实上
{ T ( A) = n} = { X0 | A , X1 | A, … , X n - 1 | A, X n ∈ A} ,
显然{ T ( A) = n}完全由 X0 , X1 , … , Xn 决定 , 从而 T ( A) 是关 于 { X n , n≥ 0} 的
停时 .
14 0 应用随机过程

例 6 .8 如果 T 和 S 是两个停时 , 则 T + S , min ( T , S) 和 m ax ( T , S) 也是
停时 . 这可由下述简单的命题来证明 .

命题 6 .2 设 T 为任意的取值于{0 , 1 , 2 , … , ∞}的随机变量 , 则下述三者


等价 :
( 1) { T = n}∈σ( X0 , X1 , … , Xn ) ;
( 2) { T≤ n}∈σ( X0 , X1 , … , Xn ) ;
( 3) { T > n}∈σ( X0 , X1 , … , Xn ) .
只要注意到如下等式 , 即可证明 (1 ) , (2 ) , (3 ) 的等价性 :
n

{ T ≤ n} = ∪ { T = n} ,
k= 0

{ T > n} = Ω - { T ≤ n} ,
{ T = n} = { T ≤ n} - { T ≤ n - 1} .
这就可以证明 T + S, m ax ( T, S) 和 min ( T, S) 是停 时 .特 别地 , 由例 6. 6
可知 , 常数 n 是停时 .设 T 是停时 , 令 Tn = min{ T, n} , 则每个 Tn 都是停时 , 并
且有 T0 ≤ T1 ≤ T2 ≤… ≤ Tn ≤ n, " n .
在给出停时定理之前先注意以下事实 .

命题 6 .3 设 M0 , M1 , … 是 一 关 于 X0 , X1 , … 的 鞅 , T 是 一 个 关 X0 ,
X1 , … 的停时并且有界 , T≤ K , Fn = σ( X0 , X1 , … , Xn ) , 则
E( MT | F0 ) = M0 ,
特别地 ,
EM T = EM0 .
证明 由于 T≤ K , 即 T 只取有限值 , 且当 T = j 时 M T = Mj , 我们可以把
MT 写作
K

MT = ∑MI j { T = j} . 筛选出T=j (6 .2 .3 )
j =0

对式 ( 6 .2 .3) 关于 FK - 1 取条件期望 , 有
K

E( M T | FK - 1 ) = E ∑M I
j= 0
j { T = j} | FK - 1
K- 1

= E ∑M I
j= 0
j { T = j} | FK - 1 + E M K I { T = K} | FK - 1 ,

当 j≤ K - 1 时 Mj 和 I { T = j} 都是 F K - 1 可测的 , 从而
K- 1 K- 1

E ∑MI
j=0
j { T = j} | FK - 1 = ∑MI
j=0
j { T = j} .
第 6章 鞅 1 41

又因为 T≤ K 已 知 , 则 { T = K} 与 { T > K - 1 } 是等 价 的 , 由 例 6. 8 中 结果 知
{ T > K - 1}∈σ( X0 , … , X K - 1 ) , 因此
E( MK I { T = K} | FK - 1 ) = I{ T > K - 1} E( M K | FK - 1 )
= I{ T > K - 1} MK - 1 ,
从而
K- 1

E( MT | F K - 1 ) = I{ T > K - 1} MK - 1 + ∑MI
j=0
j { T = j}

K- 2

= I{ T > K - 2} MK - 1 + ∑MI
j=0
j { T = j} .

重复以上运算 , 关于 FK - 2 取条件期望 , 我们可以得到


E( MT | F K - 2 ) = E[ E( MT | FK - 1 ) | F K - 2 ]
K- 3

= I{ T > K - 3} MK - 2 + ∑MI
j=0
j { T = j} .

继续这样的过程 , 最终有
E( M T | F0 ) = I{ T≥ 0} M0 = M0 .
这个命题是鞅停时定理的一种 特殊 情况 , 可 以看出 , 它 的条 件太 强了 , 实
际上我们感兴趣的问题中许多都不满足 T 有界这一严格的条件 .假设 T 是一
停时并 且 P { T < ∞ } = 1 , 也 就 是 说 以 概 率 1 可 以 保 证 会 停 止 ( 相 对 于
P{ T = ∞ } > 0 ) . 但与 T 有界不同的是 , 并没有确定的 K 使 P{ T≤ K} = 1 .例
如 , 上面博弈的例子 , 赌博者并不能 确定 在某一 时刻 之前肯 定停 止赌 博 , 但可
以保证的是这场赌博 不会 无限 期 地延 续 下去 , 那么 在 这 种情 况 下 , 何 时可 以
得到 E MT = E M0 的结论呢 ?
考虑停时 Tn = min{ T, n} , 注意到
MT = M T n + MT I{ T > n} - Mn I{ T > n} ,
从而
EM T = EM T n + E( MT I{ T > n} ) - E( Mn I { T > n} ) .
可以看出 , Tn 是 一个 有界 停时 ( Tn ≤ n) , 由上 面命 题可知 E MT n = E M0 .我 们
希望当 n→ ∞ 时 , 后 面 两 项 趋 于 0 .对 于 第 二 项 来 说 , 这 是 不 困 难 的 , 因 为
P{ T < ∞ } = 1 , 当 n→∞ , P{ T > n} →0 , E( M T I{ T > n} ) 相 当于 对 M T 限 制在 一
个趋于 空 集 的 集 合 上 取 期 望 .容 易 看 出 , 若 要 求 E ( | MT | ) < ∞ 就 可 保 证
E( MT I { T > n} ) →0 .
第三项要更麻烦一些 , 考虑前面的例 6 .2 , 在这 个例 子中 , 事 件{ T > n} 相
n
1
当于如下事件 : 前 n 次投掷硬币 , 均出现反面 . 这个事件的概率是 , 如果
2
14 2 应用随机过程

这个事件发生了 , 则至少赌博者已经输掉了 2 n - 1 元 , 即 Mn = 1 - 2 n , 从而
- n n
E( Mn I{ T > n} ) = 2 (1 - 2 ) .
当 n→∞时 , 上式并不趋于 0 , 这也是为 什么 停时定 理的 结论 在此处 不成 立的
原因 . 然而如果 Mn 和 T 满足
lim E( | Mn | I{ T > n} ) = 0 ,
n→ ∞

我们就可以得出结论 E MT = E M0 .我们把这个过程写成如下的停时定理 .

定理 6 .2 ( 鞅 停 时定 理 ) ① 设 M0 , M1 , M2 , … 是 一 个 关 于 { Fn = σ( X0 ,
X1 , … , X n ) }的鞅 , T 是停时且满足
( 1) P{ T < ∞} = 1 ; (6 .2 .4 )
( 2) E( | M T | ) < ∞ ; (6 .2 .5 )
( 3) lim E( | Mn | I{ T > n} ) = 0 . (6 .2 .6 )
n→ ∞

则有
EM T = EM0 .

例 6 .9 设 X n 是在{0 , 1 , … , N} 上 的简单 随机 游动 p = 1/ 2 , 并且 0 和
N 为两 个吸 收 壁 .设 X0 = a, 则 X n 是 一 个鞅 ( 试 简 单证 明 ) . 令 T = min { j:
X j = 0 或 N} , 则 T 是一个停时 , 由于 Xn 取值有界 , 故式 (6. 2. 5 ) 和 ( 6. 2. 6 ) 满
足 ( 注意到若鞅本身取值有界且式 ( 6. 2. 4 ) 成立 , 则 式 (6. 2. 5 ) 和 式 ( 6. 2. 6 ) 一
定成立 , 这也是另一种形式的鞅停时定理 ) .从而
E X T = E X0 = a .
由于此时 X T 只取两个值 N , 0 , 则
E X T = N・ P{ X T = N} + 0・ P{ X T = 0} ,
从而得到
EX T
P{ X T = N} = = a .
N N
也就是被吸收时刻它是在 N 点的概率 .
2
例 6 .10 令 Xn 和 T 如例 6. 9 所定义 , 假定 Mn = X n - n, 则 { Mn }是 关于
{ Xn }的鞅 .为此注意到
E( Mn+ 1 | Fn ) = E[ X2n + 1 - ( n + 1 ) | Fn ]
2 2
= X n + 1 - ( n + 1 ) = X n - n = Mn ,

① 这 里给出 的鞅 停时定 理和其 他一 些书所 说的 鞅停时 定理 有所区 别 , 比如 参考文 献 [ 32] 等 .


第 6章 鞅 1 43

易见 , 此时 Mn 不是一个有界鞅 , 不能立刻得出式 ( 6. 2. 5) , (6. 2. 6 ) 成立 , 但是


可以证明 , 存在 C < ∞ ,ρ< 1 , 使得
n
P{ T > n} ≤ Cρ . (6 .2 .7 )
因为 | Mn | ≤ N2 + n, 可知 E( | MT | ) < ∞ , 并且
n 2
E( | Mn | I{ T > n} ) ≤ Cρ ( N + n) → 0 ,
从而停时定理的条件满足 , 我们有结论
EM T = EM0 = a2 .
注意到
EM T = E( X2T ) - ET = N2 P{ X T = N} + 0・ P{ X T = 0} - E T
= aN - E T ,
从而
2
E T = aN - a = a( N - a) .
这是停止之前需要的平均时间 .

注 6 .1 式 (6. 2. 7 ) 是 M arkov 链中的一个问题 , 设 { Xn }是 一个不可 约的


Ma rkov 链 , 状态空间为{0 , 1 , … , N} , 则存在 C< ∞ ,ρ< 1 , 使得
n
P{ Xm ≠ j, m = 0 , 1 , … , n | X0 = i} ≤ Cρ .
读者可自己证明 .( 提示 : 存在δ> 0 , 使得对 " i, 从 i 出发在 N 步内到达过 j 的
概率大于 δ.)

例 6 . 11 令 Xn 是 一 个 在 { … , - 1 , 0 , 1 , … } 上 的 简 单 随 机 游 动
p = 1/ 2 , 我们已经知道 { Xn }是 一个鞅 , 令 T = min{ j: X j = 1} . 我们已 经知
道 , 这个简单随机游动是常返的 , 从而 P{ T < ∞ } = 1 . 又由 X T = 1 可知 E X T
= 1 ≠0 = E X0 , 停时定理 不成 立 . 实 际上 , 此 时停 时 定理 的条 件是 不满 足 的 ,
- 1
我们不再给出具体证明 , 只给出如下事实 : 在这种情况下 , P{ T > n}~ Cn 2
,C
为常数 , 从而
E( | Xn | I{ T > n} ) →
/ 0 .
在介绍了鞅的停时定理之后 , 我们 简单 地讨论 一下 有关 上鞅停 时定 理的
两个结果 .

定理 6 .3 设 { Mn , n≥ 0}是关于 { X n , n≥0} 的上鞅 , T 是 关于{ X n , n≥ 0}


的停时 , Tn = min ( T, n) , 设存在一非负随机变量 W , 满足 E W < ∞ , 且使得
MT n ≥ - W , " n ≥ 0,
则有
EM0 ≥ E( M T I{ T < ∞ } ) .
14 4 应用随机过程

特别地 , 若 P{ T < ∞} = 1 , 则有
EM0 ≥ EM T .
证明略 .

推论 6 .1 设 { Mn , n≥ 0}是关于 { X n , n≥ 0} 的上 鞅 , T 是关 于 { X n , n≥ 0}
的停时 , 且 Mn ≥0 , 则有
EM0 ≥ E( M T I{ T < ∞ } ) .
我 们 已 经知 道 对于 上 鞅 , 有 E Mn ≤ E M0 , " n≥ 0 , 此 处 上 鞅停 时 定理 说
明 , 当把 n 换为停时 T 时 , 在附加某些条件的前提下 , 结论也成立 .

6 .2 .2 Doob 极 大不等式

下面给出 Doob 极大不等式 , 讲述的是部分和 的极大值 的增长 速度问 题 ,


因为其证明是比较典型的 , 所以我们给出详细的证明 .

定理 6 .4 设 { Z0 , Z1 , … , Zn }是一个鞅 , Mn = max{ | Z0 | , … , | Zn | } .
( 1) 对 " λ> 0 ,
1 E( | Zn | )
P{ Mn ≥ λ} ≤ E( | Zn | I{ M n ≥λ} ) ≤ . (6 .2 .8 )
λ λ
2
( 2) 如果 E( Zn ) < ∞ , 则对 " λ > 0 ,
1 E( Z2n )
P{ Mn ≥ λ} ≤ 2 E( Zn I{ M n ≥λ} ) ≤
2
2 , (6 .2 .9 )
λ λ
并且
E( M2n ) ≤ 4 E( Z2n ) . ( 6 .2 .10 )
证明 ( 1 ) 令 Fk = σ{ Z0 , Z1 , … , Z k } , 考虑 事件 A0 = { | Z0 | ≥λ } , Ak =
{ | Zj | <λ, 0≤ j < k, | Z k | ≥λ} ( k = 1 , 2 , … , n) . 诸事件 Ak 互不相交 , 并且
n

∪A0
k = { Mn ≥ λ} .

所以
n

P( Mn ≥ λ) = ∑ P( A
k= 0
k ) . ( 6 .2 .11 )

注意到在 Ak 上 | Zk |/ λ≥1 , 利用鞅性质 , 有

P( A k ) = E( I A k ) ≤ 1 E ( I A k | Zk | )
λ

= 1 E[ I A k | E( Zn | Fk ) | ]
λ
第 6章 鞅 1 45

1
≤ E [ I A k E ( | Zn | | Fk ) ] . ( 6 .2 .12 )
λ
因为 I A k 是 Fk 可测的 , 所以 I A k E ( | Zn | | Fk ) = E( I A k | Zn | | Fk ) , 再 由条 件期 望
的光滑性 , 有
1
P( Ak ) ≤ E [ E( I A k Z n | Fk ) ] . ( 6 .2 .13 )
λ
在上式中对 k 求和 , 式 (6 .2 .8 ) 得证 .
( 2) 不等式 (6 .2 .9 ) 可以用类似的方法证明 .由于
1 2
P( Ak ) = EI A k ≤ 2 E( I A k Z k ) , ( 6 .2 .14 )
λ
所以
2 2 2
E( Zn | Fk ) = E[ Zk + ( Zn - Z k ) - 2 Z k ( Zn - Zk ) | Fk ]
= E[ Z2k + ( Zn - Z k ) 2 | Fk ] - 2 Z k E( Zn - Zk | Fk )
2 2
= E( Zk | Fk ) + E[ ( Zn - Z k ) | Fk ]
≥ E( Z2k | Fk ) . ( 6 .2 .15 )
因此
2 2 2 2
E( I A k Zn ) ≥ E[ I A k E ( Zk | Fk ) ] = E[ E( I A k Z k | Fk ) ] = E[ E( I A k Z k ) ] .
( 6 .2 .16 )
将式 ( 6 .2 .14 ) 应用于式 ( 6 .2 .16 ) , 并对 k 求和即得不等式 (6 .2 .9 ) .
M

∫ λdλ, 然后将积分与取
2 n
为了证明不等式 ( 6 .2 .10 ) , 首先将 Mn 表示为 2 0

期望的顺序交换 , 有
M

∫ ∫ λdλ d P
n
2
E( M ) = n 2
Ω 0

=2∫∫ λ I Ω ∞
{ M ≥λ}
n
dλ d P

=2∫ λ∫ I 0 Ω
{ M ≥λ}
n
d P dλ

=2∫ P{ M 0
n ≥ λ}dλ. ( 6 .2 .17 )

由 ( 6 .2 .8) 中第一个不等式 , 利用 Schwa rz 不等式 , 我们得到


∫ E( I
2
E( M ) ≤2
n { M ≥λ}
n
| Zn | ) dλ
0

∫ ∫
n
=2 Zn dλ d P
Ω 0
14 6 应用随机过程

=2∫ Ω
Zn M n d P

= 2 E( Zn Mn ) ( 6 .2 .18 )
1 1
≤2 [ E( Z2n ) ] 2 [ E( M2n ) ] 2 .
2 2
如果 E( Mn ) = 0 , 不等式 (6 .2 .1 0) 自然成立 ; 如果 E( Mn ) ≠0 , 不等式 ( 6 .2 .18 )
1
两端同时除以 [ E( M2n ) ] 2 , 然后取平方即得不等式 ( 6 .2 .10 ) .
著名的 Kolmogorov 极大不等式是上述 Doob 极大不等式的直接推论 .

推论 6 .2 设 X0 , X1 , … , Xn 是 独 立 随机 变 量 序 列 , E X j = 0 ( j = 1 , … ,
n) , E( X2j ) < ∞ ( j = 0 , 1 , … , n) , 令 S k = X0 + X1 + … + Xk , Mn = max{ | Sk | :
0 ≤ k≤ n} , 则对 λ> 0 ,
1 1

2 2
P{ Mn ≥ λ} ≤ Sn d P ≤ 2 ES n . ( 6 .2 .19 )
λ2 { M ≥λ}
n λ

6 .2 .3 停时定理的应用———关于 期权值的界

设某种股票的单股的上市价 W0 = w, 以 Wn 表示第 n 天的开盘价 , 令


Wn
Yn = , n ≥ 1,
Wn - 1
则有
W n = wY1 Y2 … Y n , " n≥ 1 . ( 6 .2 .20 )
考虑一种期权 , 它保证期权持有人可以 在一 限定的 期限 内以 预定的 价格 购入
股票 .不妨设这一预定的行使期权的价位为 1 , 并假设 我们考虑 的期权行 使期
限为无限 .若 W n > 1 , 则期权持有人有可 能在第 n 天 行使 期权 , 以价 位 1 购入
股票 , 立即以 W n 价位抛出 , 从而获利 W n - 1 ; 若 W n < 1 则无 法获利 .由此 , 期
权持有人在第 n 天的潜在利润为
Wn - 1, Wn ≥ 1 ,
r( W n ) = ( W n - 1) + = " n ≥ 1 . ( 6 .2 .21 )
0, Wn < 1 ,
设贴现率为 a > 0 , 将 r( W n ) 贴 现到第 1 天 为 e - r ( W n ) , 可取 任一 停时 T 作
na

- na
为行使期权的时刻 , 我们要寻找 e r( Wn ) 的期望值的上 界 , 即 这一期权 最高
的潜在利润为多少 .为此要对 Y n 作出一个假设 , 假定存在θ> 1 , 使得
E( Yθn | Y0 , Y1 , … , Y n - 1 ) ≤ ea , " n≥ 1, ( 6 .2 .22 )

- aT
f ( w,θ) = sup E [e r( W T ) ] ( 6 .2 .23 )
T
第 6章 鞅 1 47

为初始单股价为 w 的期权值 .式 (6 .2 .2 3) 中的上确界是对一切 关于{ Y n } 的停


时 T 取的 .因为 { Y n }满足式 (6. 2. 22) , 所以该期权值 f ( w ,θ) 与 ( 6. 2. 22 ) 中的
参数 θ有关 .

定理 6 .5 设 { Y n } 为 以 上 定 义 并 满 足 式 ( 6. 2. 22 ) , W0 = w, 则 期 权 值
f ( w,θ) 满足不等式
f ( w ,θ) ≤ g( w ,θ) ,
其中
θ θ- 1
w (θ - 1) θ ,
θ , 若 w≤
θ θ- 1
g( w ,θ) = ( 6 .2 .24 )
θ
w - 1, 若 w > .
θ- 1
证明 证明分为 4 部分 .
( 1) 对任意固定的 t > 1 , 定义
wt ( t - 1 ) t - 1
v( w , t) = , " w ≥ 0, ( 6 .2 .25 )
tt
则有
v( w, t) ≥ g( w ,θ) , " 1 < t ≤ θ, w ≥ 0 . ( 6 .2 .26 )
事实上 , 若记
t θ
ht ( w) = v( w , t) - ( w - 1 ) , w0 = > ,
t - 1 θ- 1
可以验 证 ht ( w0 ) = h′
t ( w0 ) = 0 , 此 处 导数 是对 变量 w 求的 . 另 外 , 可 以验 证

h″t ( w) > 0 , " w≥ 0 .于是得到 ht ( w) ≥ ht ( w0 ) = 0 , " w≥ 0 , 或等价地


v ( w , t) ≥ w - 1 , " w≥ 0 . ( 6 .2 .27 )
再计算 ln v( w , t) 关于 t 的导数 , 简化后得
d ( ln v( w , t) ) = ln w
.
dt t/ ( t - 1)
θ θ
上式在 w < 时为负 . 这表明当 t 从满足 w≤ 的 θ开始减少时 , v ( w ,
θ- 1 θ- 1
θ
t) 将增加 .于是当 w≤ 时,
θ- 1
v ( w, t) ≥ v( w,θ) = g( w ,θ) , " 1 < t ≤ θ. ( 6 .2 .28 )
综合式 ( 6 .2 .27 ) 和 ( 6 .2 .28 ) 可得式 ( 6 .2 .26 ) .
( 2) 要证
- a
g( w ,θ) ≥ e E [ g( w× Y n ,θ) ] , " w ≥ 0, n ≥ 1 . ( 6 .2 .29 )
14 8 应用随机过程

首先由式 ( 6 .2 .22 ) 可知
θ θ a
E Yn = E E ( Y n | Y0 , … , Y n - 1 ) ≤e , " n≥ 1 . ( 6 .2 .30 )

θ
于是 , 当 w≤ 时,有
θ- 1
g( w ,θ) = v ( w ,θ) ( 由 6 .2 .25)
≥e - a v ( w,θ) E[ Yθn ] ( 由 6 .2 .3 0)
- a
= e E[ v ( w× Y n ,θ) ] ( 由 6 .2 .25)
- a
≥e E[ g( w × Y n ,θ) ] ( 由 6 .2 .2 6) .
θ x 0 a
当 w> 时 , Yn 是 x ∈ [0 ,θ] 的凸函 数 , 并且 E Yn = 1 < e , 由 Jensen 不等
θ- 1
式和式 ( 6 .2 .30 ) 可知
w a w
E Y nw - 1 ≤ e , " < θ. ( 6 .2 .31 )
w - 1
因此
w
g( w ,θ) = w - 1 = v w,
w - 1
- a w
≥e E v w× Y n ,
w - 1
- a
≥e E[ v( w× Y n ,θ) ]
- a
≥e E[ g( w × Y n ,θ) ] .
由此可知式 ( 6 .2 .29 ) 成立 .
( 3) 令
X n = e - n a g ( W n ,θ) , " n ≥ 0, ( 6 .2 .32 )
则{ Xn , n≥0} 是关于{ Y n } 的非负上鞅 .
事实上 , 首 先 容 易 看 出 Xn 是 Y0 , Y1 , … , Y n 的 函 数 , 其 次 由 于 Wn =
W n - 1 ・ Y n , Wn - 1 是 Y0 , Y1 , … , Y n - 1 的函数 .由式 (6 .2 .3 2) 和 (6 .2 .2 9) 可得
E( X n | Y0 , … , Y n - 1 ) = e - n a E [ g( W n - 1 × Y n ,θ) | Y0 , … , Y n - 1 ]
≤ e - ( n - 1 ) a g ( W n - 1 ,θ)
= Xn - 1 .
这就证明了{ Xn , n≥0} 是关于{ Y n , n≥0}的非负 上鞅 , 于是由 推论 6. 1 可 知对
于{ Yn , n≥0}的任一停时 T , 应有
E X 0 ≥ E( X T I { T < ∞ } ) .
再由式 ( 6 .2 .32 ) 知 , 当 T = ∞时 , X T = 0 , 于是上式应为
- αT
g( w ,θ) ≥ E[ e g ( W T ,θ) ] . ( 6 .2 .33 )
第 6章 鞅 1 49

( 4) 最后证明定理结论 , 先证明
+
g( w ,θ) ≥ r( w) = ( w - 1 ) . ( 6 .2 .34 )
θ
当 w< 时 , 易算出
θ- 1
θ- 1
d g( w,θ) = θ- 1
wθ - 1 < 1 ,
dw θ
两边积分得
θ
g ,θ - g( w ,θ) < θ - w .
θ- 1 θ- 1
θ
所以当 w < 时 , 由式 (6 .2 .2 4) 可得
θ- 1
g( w ,θ) > w - 1 .
θ
此外 , 显然有 g( w,θ) ≥ 0 , " w≥0 , 并且当 w≥ 时,
θ- 1
g( w ,θ) = w - 1 ,
这就证明了式 ( 6 .2 .34 ) .由 (6 .2 .3 3) 和 (6 .2 .3 4) 两式可得
g( w,θ) ≥ E[ e - aT r( W T ) ] ,
再由停时的任意性 , 即知定理结论成立 .

注 6 .2 由式 (6 .2 .26) 我们知道
wθ (θ- 1)θ- 1
g( w ,θ) ≤ v ( w ,θ) = , " w≥0 .
θθ
θ
若初始单股价 w 超过 , 则期权的平均潜在利润至多为 g( w,θ) = w - 1 .这
θ- 1
一值可通过即刻行使期权获得 ( 取 T = 0 ) , 这表 示 , 一旦 单股 股票的 价格 超过
θ
, 期权持有人就应马上行使他的期权以期获得最大限度的潜在利润 .
θ- 1

注 6 .3 本定理是以式 (6 .2 .22) 作为前 提的 , 如果对 这个假设 存在怀 疑 ,


则定理就 不适用 .但一 般来讲这 一假设 是合理的 , 至 于 θ的选 取 , 可根据 以往
的经验或者统计方法获得 .

6 .3 一致可积性

在鞅的停时定理的条 件中 式 ( 6 .2 .6 ) 一 般 是很 难 验 证的 , 为此 我 们将 给
出一些容易验证的条件 , 这些条件是包含了式 (6 .2 .6 ) 的 .
我们首先来考虑一个随机变量 X , 满足 E( | X | ) < ∞ , | X | 的分布函 数为
15 0 应用随机过程

F, 则

li m E( | X | I{ | X | >
n→ ∞
n} ) = n→
lim∫
∞ n
| X | d F( x ) = 0 .

设 P{ | X | > n} = δ, A 是 另外一个 发生概 率为δ的事件 , 即 P( A) = δ.容


易看出 E( | X | I A ) ≤ E( | X | I{ | X | > n} ) , 从而我们可以有以下结论 : 如果随机变量
X 满足 E( | X| ) < ∞ , 则对 "ε> 0 , 存在 δ> 0 , 当 P( A) <δ时, E( | X | I A ) <ε.

定义 6 .4 假设有一列 随机 变量 X1 , X2 , … , 称 它们 是一 致可 积的 , 如 果
对 " ε> 0 , 存在 δ> 0 , 使得对任意 A, 当 P( A) < δ时 ,
E( | Xn | I A ) < ε (6 .3 .1 )
对 " n 成立 .
这个定义的关键在于 δ不能依赖于 n , 并且式 ( 6 .3 .1) 对 " n 成立 .先给一
个不一致可积的例子 .

例 6 .12 考虑 6 .2 节的例 6. 2 . 令 A n 是事件 { X1 = X2 = … = Xn = - 1} ,


1
则 P( An ) = ( 2 n - 1) →1 .很容易 看出它不 满足一致 可积
- n
n , E( | W n | I A n ) = 2
2
的条件 .
假设 M0 , M1 , … 是 一 个 关 于 X0 , X1 , … 一 致 可 积 的 鞅 , T 是 停 时 且
P{ T < ∞ } = 1 或 lim P{ T > n} = 0 . 则由一致可积性可得
n→ ∞

lim E( | Mn | I{ T > n} ) = 0 ,
n→ ∞

即式 ( 6 .2 .6) 成立 , 据此我们给出停时定理的另一种叙述 .

定理 6 .6 ( 停时 定理 ) 设 M0 , M1 , … 是一 个关于 X0 , X1 , …一 致可积 的
鞅 , T 是停时 , 满足 P{ T < ∞} = 1 和 E( | MT | ) < ∞ , 则有 E M T = E M0 .
一致可积的条件也比较难验证 , 下面给出两个一致可积的充分条件 .

命题 6 .4 假设 X1 , X2 , …是 一 列随 机变 量 , 并 且存 在常 数 C < ∞ , 使 得
E( X2n ) < C 对所有的 n 成立 , 则此序列是一致可积的 .
ε2
证明 对 " ε> 0 , 令 δ= , 设 P( A) <δ, 则
4C
E( | Xn | I A ) = E( | Xn | I A∩ { | X n | ≥ 2εC} ) + E( | Xn | I A∩ { | X n | < 2εC} )

≤ ε ・ E( | X n | 2 I A∩ { | X n| ≥ 2εC} ) + 2 CP A ∩ | Xn | < 2 C
2C ε ε

≤ ε E( X2n ) + 2 C P( A) < ε.
2C ε
第 6章 鞅 1 51

命题 6 .5 设 { Mn } 是 关于 {Fn } 的 鞅 . 如果 存在 一个 非负 随 机变 量 Y , 满
足 E( Y ) < ∞ , 且 | Mn | < Y , 对 " n 成立 , 则{ Mn }是一致可积鞅 .
请读者自己证明此 命 题 .一 致可 积 的充 分 条件 还 有 一些 , 我们 不 再多 列
举了 .

例 6 .13( 分支过程 ) 令 Xn 表示分支过程第 n 代的 个体数 . 设每个 个体


2 - n
产生后代的分布有均值 μ和方差σ , 则 ( 习 题 6 .3 ) { Mn = μ X n } 是 关于 X0 ,
X1 , X2 , …的鞅 .假设 μ > 1 , 则 ( 习题 6 .6 ( 2 ) ) 存在 一 个常 数 C, 使得 对 " n,
E( M2 n ) < C, 从而{ Mn }是一致可积的鞅 .

6 .4 鞅收敛定理

鞅论中有两个深刻的结论 , 一个是 6 .3 节的停时定理 , 另一个就是鞅收敛


定理 . 本节我们将介绍鞅的收敛定理 .
鞅收敛定理说明在很一般的 条 件下 , 鞅 { Mn } 会收 敛 到一 个随 机变 量 , 在
此记为 M∞ .我 们 首 先 来 考 虑 一 个 特 殊 的 例 子———P olyas 坛 子 抽 样 模 型
( 例 6. 4) , 令 Mn 表示第 n 次摸球后红球所占的比例 , 当 n→∞时 , 这个比 例会
如何变化呢 ? 下面来说明其变化趋势 .
设 0 < a < b < 1 , Mn < a, 且令
T = min{ j: j ≥ n, Mj ≥ b} ,
即 T 表示 n 次 摸 球 之 后 第 一 个 比 例 从 小 于 a 到 超 越 b 的 时 刻 . 令 T m =
min{ T , m} , 则对于 m > n, 由停时定理可知
EM T m = Mn < a .
但是
EM T m ≥ E( MT m I { T≤ m} )
= E( MT I{ T≤ m} )
≥ bP{ T ≤ m} ,
从而
a
P{ T ≤ m} < .
b
因为上式对于一切 m > n 成立 , 于是有

P{ T < ∞} ≤ a .
b
15 2 应用随机过程

a
这说明至少以概率 1 - 红球的比例永远不会超过 b , 现在我们假定这一 比例
b
确实超过了 b, 那么它能 够再 一次 降回 到 a 以下 的概 率是 多少 呢 ? 同 样的 讨
1- b
论可知 , 这一概率最大为 .继 续同 样的 讨 论 , 我 们可 以 知道 , 从 a 出发 超
1 - a
过 b , 再小于 a, 再大于 b, ……有 n 个循环的概率应为
n n
a 1 - b a a 1 - b a 1 - b
… = → 0, n→∞ .
b 1 - a b b 1 - a b 1 - a
由此 , 这个比例不 会在 a, b 之 间无限 次地跳跃 .由 a, b 的任 意性 , 也表明 这一
比例不会在任意的两个 数 之间 无限 地跳 跃 , 换 言之 , 极限 nli→m Mn 存 在 , 记 为

M∞ .这一极限是一个随机变量 , 可以证明 M∞ 服从在 [ 0 , 1 ] 上 的均匀 分布 ( 见


习题 6 .7 ) .
下面我们给出一般的结论 .

定理 6 .7 ( 鞅收敛定理 ) 设 M0 , M1 , … 是关于 X0 , X1 , … 的鞅 , 并 且存在


常数 C < ∞ , 使得 E( | Mn | ) < C 对任 意 n 成 立 , 则 当 n→∞ 时 , { Mn } 收敛 到一
个随机变量 M∞ .
本定理的证明与前面的讨论类似 , 略去 .下面我们给出一个结论 .

定理 6 .8 如果 { Mn } 是关于 X0 , X1 , …的一致可积鞅 , 则 lim Mn 存在 , 记


n→ ∞

为 M∞ , 并且
EM∞ = EM0 .
证明略 .

例 6 .14 令 Xn 表 示分支 过程中第 n 代的个体 数 , 每个个体 生育后 代的


2 - n
分布有均值 μ和方差 σ , 假 定 X0 = 1 , 令 Mn = μ X n .由 前 面 例 子 已经 知 道
{ Mn }是鞅 .如果 μ≤1 , 由第 5 章的结论已经 知道灭 绝一 定会发 生 , 由此 Mn →
M∞ = 0 , 在这里 E M∞ ≠ E M0 .在上节我们说明了若 μ > 1 , 则{ Mn }是一致可积
的 , 所以在 μ > 1 时 , 有 E M∞ = E M0 = 1 .

例 6 .15 令 X1 , X2 , … 为 一 独 立 同 分 布 随 机 变 量 序 列 , P{ X i = 1} =
1
P{ X i = - 1} = ,令
2
n
1
Mn = ∑
j = 1 j
Xj .

则{ Mn }是鞅 .
第 6章 鞅 1 53

我们来证明{ Mn }是一致可积的 .显然 E Mn = 0 , 则


n n ∞
1 j 1 ≤ 1 < ∞ .
E( M ) = var ( M ) = ∑ va r ∑ ∑
2 2
n n X = 2 2
j =1 j j = 1 j j=1 j
从而当 n→∞时 , Mn → M∞ 并且 E M∞ = 0 .

例 6 .16 再考虑 P olya 模型 ( 见例 6 .4 ) . 这里假定最初坛子中有 m 个黄


球 , k 个红球 . 所以在第 n 次摸球后坛子中应有 n + m + k 个球 , 假定 Mn 为红
球的比例 . 因为 Mn 有界 , 0 < Mn < 1 , 容易 看出{ Mn } 是一致可积 的鞅 , 所 以当
k
n→∞ 时 , Mn → M∞ 并且 EM∞ = E M0 = .可以 证 明 , M∞ 服 从 Beta 分 布
k+ m
B( m, k) , 其分布密度为
Γ( k + m) k -1 m - 1
x ( 1 - x) , 0 < x < 1 .
Γ( k)Γ( m)
证明略 .
在 Bayes 统计中 , 这一结果是很自然的 , 假设我们对某一事件发生的 概率
P 感兴趣 , 而对 P 又一无所知 , 我们就 只能 假定 P 是 [ 0 , 1 ] 上 的均 匀分 布 ( 这
就是先验分布 ) . 现在假 设我们一 共做了 k + m - 2 次试验 , 事 件发生 了 k - 1
次 , 则根 据 Bayes 定 理 , 对 P 的 后 验 分 布 就 应 该 是 参 数 为 k 和 m 的 Beta
分布 .

例 6 .17 令{ Mn }是关于 X0 , X1 , …的鞅 , T 是停时 , 且 P{ T < ∞ } = 1 .令


Tn = min( T, n) , Y n = MT n , 则 Y n → Y ∞ 且 Y ∞ = M T .根据停 时定 理 , 若 { Mn } 是
一致可积的 , 将有 E Y∞ = E Y0 .

3
例 6 .18 令 X1 , X2 , … 是 独 立 同 分 布 的 随 机 变 量 序 列 , P X i = =
2
1 1
P Xi = = .令 M0 = 1 , 对 n > 0 , 令 Mn = X1 ・ X2 … X n . 注 意到 E Mn =
2 2
E X1 … E X n = 1 , 实际上
E( Mn+ 1 | Fn ) = E( X1 … X n+ 1 | Fn )
= X1 … Xn E ( X n+ 1 | Fn )
= X1 … Xn E X n+ 1 = Mn ,
所以{ Mn }是关于 X1 , X2 , …的鞅 . 由于 E( | Mn | ) = E Mn = 1 , 鞅收敛定理的条
件成立 , 从而
Mn → M∞ .
那么 , { Mn }一致可 积吗 ? 答案 是否 定的 . 事实 上 , M∞ = 0 ( 这 样 E M∞ ≠
15 4 应用随机过程

E M0 ) , 为此 , 考虑
n

ln Mn = ∑ ln X
j= 1
j .

右边是独立同分布随机变量的和 , 并且

E( ln X i ) = 1 ln 1 + 1 ln 3 < 0 .
2 2 2 2
根据大数定律知 ln Mn → - ∞ , 从而 Mn → 0 . 故 { Mn } 不是一致可积的 .

6 .5 连 续 鞅

前 面 我 们 讨 论 了 , 鞅 的 停 时 定 理 , 也 称 为 可 选 抽 样 定 理 ( optional
sampling t heor em) 和鞅收敛定 理 .请 注意 , 这 里 的 鞅都 是 以离 散 时间 n 为 参
数的 .事实上 , 对于连续 参数 鞅 ( 仍称 为 鞅 ) 也有 类 似定 理 , 出 于 应用 的 考 虑 ,
我们不加证明地给出这些定理 .同时利 用它 们证明 Lundberg-Cr am er 破 产理
论中的 Lundgerg 不等式 .对于连续鞅论有兴 趣的读 者请参 阅 [32 ] .首先 给出
鞅的定义 .
设 ( Ω, F, P) 是一个完全概率空间 ; (Ft ) t≥ 0 为一个非降的 F 的子 σ代数流 .
本书中所涉及的子 σ代数流都是非降的 , 因此以后我们就将“非降的”省略 , 简
称为子 σ代数流 .

定义 6 .5 随机过程 { X( t) , t≥ 0}( 简记{ X t }) 称为{Ft } 适应的 , 如果对每


- 1
个 t ≥0 , X t 为 Ft 可测 ( 即对 " B∈ B, 有 Xt ( B) ∈Ft ) .一个 适应过程 { X t } 称
为关于{Ft }的鞅 , 如果每个 Xt 可积 ( 即 E( | X t | ) < ∞ ) , 且对一切 0 ≤ s< t, 有
E( X t | Fs ) = Xs , a .s . (6 .5 .1 )
特别地 , 当 Ft =σ( Xu , 0≤ u≤ t) ( 由{ X u , 0≤ u≤ t}生成的 σ代数 , 即包含一切形
如{ Xs ≤ x} ( s≤ t, x∈R ) 的事件的最小 σ代数 ) 时 , 式 (6 .5 .1 ) 变为
E( X t | X u , 0 ≤ u ≤ s) = Xs , a .s .
此时 , 简称{ X t }为鞅 .
若随机过程{ X t , t≥ 0}是鞅 , 则对 t > 0 , 有
E X t = E[ E( X t | X0 ) ] = E X 0 . (6 .5 .2 )
与离散鞅类似地 , 有下述简单的例子 .

例 6 .19 设{ Y t , t≥0}是零初值且具有齐次独立增量的随机过程 .令
Y
X t = X0 e t ,
第 6章 鞅 1 55

其中 X0 为一常数 .若 E( eY t ) = 1 , 则{ X t , t≥0}是一个鞅 .事实上


Y Y t
E( | X t | ) = | X0 | E( e t ) = | X0 | [ E( e 1 ) ] = X0 ,
再对 0≤ s < t, 有
E( X t | Xr , 0 ≤ r ≤ s) = E( Xs eY t - Y s | Xr , 0 ≤ r ≤ s)
Y - Y
= Xs E ( e t s
)
= Xs E ( eY t - s ) = Xs , a .s .

定义 6 .6 非 负 广 义 随 机 函 数 τ( 即 τ: Ω → [ 0 , ∞ ] ) 称 为 Ft 停 时 , 如 果
P{τ< ∞} = 1 , 并且对一切 t≥0 , {τ≤ t} 是 Ft 可测的 , 即
{τ≤ t} ∈ Ft .
特别地 , 当 Ft = σ( Xs , 0≤ s≤ t) 时 ,τ称 为关于 随机 过程 { Xt , t≥ 0} 的停 时 .若
存在常数 k > 0 使得 P{τ≤ k} = 1 , 则称 τ为有界停时 .
下 面 是 鞅 论 的 一 个 重 要 结 论———停 时 定 理 , 即 在 适 当 条 件 下 , 将 式
( 6. 5. 2) 中的 t 置换成停时τ时 , 等式仍然成立 .

定理 6 .9 若 τ是有界停时 , 则有
E Xτ = E X 0 .
鞅论的另一个重要的结论是收敛定理 .

定理 6 .10 设{ Xt , t≥ 0} 是 一个鞅 并且 Xt ≥ 0 , " t≥ 0 ( 简称 为 非负 鞅 ) ,


则存在几乎处处收敛的有限极限 , 即有
lim X t = X∞ < ∞ , a .s .
t→ ∞

下面给出 Lundberg-Cramèr 破产模型中 定理 4 .8 (2 ) ——— Lundbe rg 不等


式 ( 4 .4 .10 ) , 即
- Ru
Ψ( u) ≤ e , " u≥ 0
的证明 .

X t = e - R U ( t ) = X0 e - R V t ,
- Ru
其中 X0 = e , R 为调节系数 , V t = ct - S( t) ( 关于 S( t) 的意义 , 详见 4 .4 节 ) .
若令
Y t = - RV t , t ≥ 0,
则{ Y t , t≥ 0}为零初值且具有齐次独立增量的随机过程 .再由 4 .4 节注 ( 2) 知
Y - RV
E( e 1 ) = E( e 1
) = MV 1 ( - R) = 1 ,
于是从例 6. 19 可知 { X t , t≥0} 是一 个非 负鞅 .利 用非负 鞅的 收敛 定理 6. 10 ,
15 6 应用随机过程

得到
lim X t = X∞ < ∞ , a .s .
t→ ∞

现令 T 为破产时刻 , 由于对任意固定的 t, T∧ t 是 有界停 时 , 再利用 停时 定理


6. 9 即知
- Ru
E X T∧ t = E X 0 = e ,
于是有
- Ru
e = E( X T ∧ t | T ≤ t) P{ T ≤ t} + E( X T∧ t | T > t) P{ T > t}
= E( X T | T ≤ t) P{ T ≤ t} + E( X t | T > t) P{ T > t} . (6 .5 .3 )
注意到当 t < T 时 , U ( t) ≥ 0 , 所以
Ru ( t )
Xt = e ≤1 .
因此 , 由单 调 收 敛 定 理 与 Lebesgue 控 制 收 敛 定 理 , 在 ( 6 .5 .3 ) 两 端 令
t→∞取极限得
e - Ru = E( X t | T < ∞ ) P{ T < ∞} + E( X∞ | T = ∞ ) P{ T = ∞} .
又因为 lit→m U ( t) = + ∞ , a .s ., 故有 X∞ = 0 , a .s . .从而有

e- = E( X T | T < ∞ ) P{ T < ∞ } .
Ru

由此得到
- Ru
e
Ψ( u) = .
E( e - RU ( t ) | T < ∞ )
- RU ( T )
再注意到 U ( T ) < 0 , e > 1 , 由上式即知
- Ru
Ψ( u) ≤ e .
从而 Lundberg 不等式得证 .

习 题
6 .1 考虑一个掷骰子 的试 验 . 设 甲乙 二人 同时 掷 骰 子 , 以 X 记 甲掷 出
的点 数 , Y 表 示 甲 乙 二 人 掷 出 的 点 数 之 和 , 给 出 不 同 Y 值 下 的 所 有
E ( X | Y ) ( y) 值 .
6 .2 设 X1 , X2 , … 是独立 同分布随 机变量 , 令 m ( t) = E( et X i ) , 固定 t 并
假定 m( t) < ∞ .令 S0 = 0 , Sn = X1 + … + Xn , " n > 0 .证明 { Mn = ( m( t) ) - n ・
tS
e n
}是关于 X1 , X2 , …的鞅 .
6 .3 令 X0 , X1 , …表示分支过程各代的个体数 , X0 = 1 , 任 意一个个 体生
- n
育后代的分布有均值 μ. 证明 { Mn = μ X n }是一个关于 X0 , X1 , …的鞅 .
第 6章 鞅 1 57

1
6 .4 考虑一个在整数上的 随机游 动模 型 , 设向 右移 动的 概率 p < ,向
2
左移动的概率为 1 - p , Sn 表示时刻 n 所处的位置 , 假定 S0 = a, 0 < a < N .
S
1- p n
( 1) 证明 : Mn = 是鞅 ;
p
( 2) 令 T 表示随机游动第一次到达 0 或 N 的时刻 , 即
T = min{ n: Sn = 0 或 N} .
利用鞅停时定理 , 求出 P{ S T = 0} .
6 .5 设 Sn 如习题 6 .4 所定义
( 1) 证明{ Mn = Sn + (1 - 2 p) n}是一个鞅 ;
( 2) 令 T = min{ n: Sn = 0 或 N} , 根据鞅停时定理及上题结论求出 E T .
6 .6 令 Xn 表示 分支过程中第 n 代个体数 , 每个 个体产生后代的分 布具
2 - n
有均值 μ和方差σ , 我们已经知道 { Mn = μ X n }是鞅 .
( 1) 令 Fn 表示 X 0 , … , Xn 生成的σ代数 , 证明
2 2 2 2
E( X n+ 1 | Fn ) = μ X n + σ X n .
( 2) 设 μ> 1 , 证明存在 C < ∞使得对所有 n, 有
2
E( Mn ) < C .
( 3) 证明当 μ≤ 1 时 , 上式不成立 .
6 .7 考虑 Polya 模型 . 令 Mn 表示第 n 次摸球后 , 红球的比例 ( 设最初有
1 只红球和 1 只黄球 ) , 证明
k 1
P Mn = = , k = 1, 2, …, n + 1 .
n+2 n+ 1
6 .8 设 X1 , X2 , …是 独立 同分布 随机 变量序 列 , 均值 为 μ.令 T 为关 于
X 1 , X2 , …的停时 , E T < ∞ .

( 1) 令 Y = ∑
n= 1
| X n | I{ T≥ n} , 证明 E Y < ∞ ;

( 2) 令 Tn = min ( T , n) , Mn = X1 + … + X T n - μ T n , 证明 { Mn } 是一 致
可积鞅 ;
( 3) 证明 Wald 等式
T

E ∑X n=1
n = μE T .

6 .9 设 X1 , X2 , … 是 iid( 表 示 独 立 , 同 分 布 ) 序 列 , 在 { - 1 , 0 , 1 , … }
上 取 值 , 均 值 为 μ < 0 , 令 S0 = 1 , Sn = 1 + X1 + … + X n , " n > 0, 令 T =
min{ n, Sn = 0} , 根据大数定律 , 我们知道 P{ T < ∞} = 1 . 证明
15 8 应用随机过程

1
ET ≤ .
| μ|
1
提示 : 只要证明对所有的 n, E Tn ≤ , 考虑鞅 { Mn = Sn - nμ} .
|μ|
6 .1 0 考虑状态整数的随 机游 动 X t , 一般 说来 转移 概率 为 P( k→ k - 1 )
1
= P( k → k) = P( k → k + 1) = , 而 P( k→ m) = 0 , 如果 | k - m | > 1 .
3
2 2
( 1) 证明{ F t = X t } 和 Gt = X t - t 是鞅 .
3
( 2) 定义停 时 τa = min ( t | | X t | = a) . 利用 ( 1) 中 结果和 Doob 停时定 理
证明
3 2
E(τa | X0 = 0) = a .
2
第 7章
Brown 运动

7 .1 基本概念与性质

我们从讨论简单的 随 机游 动 开始 .设 有一 个 粒子 在 直线 上 做随 机 游 动 ,
在每个单位时间内等可能地向左或向右移动一个单位长 度 . 现 在加速这 个过
程 , 在越来越小的时间间隔中走越来越 小的步 长 Δx .若 能以 正确的 方式 趋于
极限 , 我们就得到 Brow n 运动 .详细地说就是令此过程每隔 Δt 时间等概 率地
向左或向右移动 Δx 的距离 .如果以 X( t) 记时刻 t 粒子的位置 , 则
X( t) = Δx ( X1 + … + X [ t/ Δt ] ) , (7 .1 .1 )
其中 [ t/ Δt] 表示 t/ Δt 的整数部分 , 令
+ 1, 如果第 i 步向右 ,
Xi =
- 1, 如果第 i 步向左 ,
且假设诸 X i 相互独立 ,
1
P{ Xi = 1} = P{ X i = - 1} = .
2
2
由于 E X i = 0 , var ( X i ) = E ( Xi ) = 1 及 式 ( 7 .1 .1 ) , 我 们 有 E [ X ( t) ] = 0 ,
var [ X( t) ] = (Δx) 2 ( t/ Δt) .现在要令 Δx 和 Δt 趋于零 , 并使 得极限 有意义 .如
果取 Δx = Δt, 令 Δt→ 0 , 则 va r [ X ( t ) ] → 0 , 从 而 X ( t) = 0 , a .s . .如 果 Δt =
(Δx) 3 , 则 var [ X( t) ] →∞ , 这是不合理的 . 因为粒子的运动是连续的 , 不可能
在很短时间内远离出发点 .因此 , 我们做出下面的假设 : 令 Δx = σ Δt,σ为某
个正常数 . 从上面的讨论可见 , 当 Δt→0 时 , E[ X( t) ] = 0 , va r [ X ( t) ] →σ2 t .下
面来看这一极限过程的一些直观性质 .由式 (7. 1 .1 ) 及中心极限定理可得 :
16 0 应用随机过程

( 1) X( t) 服从均值为 0 , 方差为 σ2 t 的正态分布 .


此外 , 由于随机游动 的值 在 不相 重 叠的 时 间区 间 中 的变 化 是独 立 的 , 所
以有
( 2) { X( t) , t≥0} 有独立的增量 .
又因为随机游动在 任一 时 间区 间 中的 位 置变 化 的分 布 只 依赖 于 区间 的
长度 , 可见
( 3) { X( t) , t≥0} 有平稳增量 .
下面给出 Brow n 运动的严格定义 .

定义 7 .1 随机过程 { X( t) , t≥ 0}如果满足 :
( 1) X(0 ) = 0 ;
( 2) { X( t) , t≥0} 有独立的平稳增量 ;
2
( 3) 对每个 t > 0 , X( t) 服从正态分布 N( 0 ,σ t) .
则称{ X( t) , t≥0}为 Brown 运动 , 也称为 Wiener 过程 .常记为{ B( t) , t≥0}或
{ W ( t) , t≥0} .
如果 σ= 1 , 则 称 之 为 标 准 Brow n 运 动 ; 如 果 σ≠ 1 , 则 可 考 虑 { X ( t)/ σ,
t≥0} , 它是标准 Bro wn 运动 .故不 失一般 性 , 可以 只 考虑 标准 Bro w n 运动 的
情形 .
由于这一定义在应用中不十分 方便 , 我 们不加 证明 地给 出下面 的性 质作
为 Brow n 运动的等价定义 , 其证明可以在许多随机过程的著作中找到 .

性质 7 .1 Bro wn 运动是具有下述性质的随机过程 { B( t) , t≥0} :


( 1) ( 正态增量 ) B( t) - B( s) ~ N (0 , t - s) , 即 B( t) - B( s) 服 从均值 为 0 ,
方差为 t - s 的正态分布 .当 s = 0 时 , B( t) - B(0 ) ~ N( 0 , t) .
( 2) ( 独立增量 ) B( t) - B( s) 独立于过程的过去状态 B( u) , 0≤ u≤ s .
( 3) ( 路径的连续性 ) B( t) , t≥0 是 t 的连续函数 .

注 7 .1 性质 7 .1 中 并没 有 假 定 B ( 0 ) = 0 , 因 此 我 们 称之 为 始 于 x 的
x
Brow n 运动 , 所以有时为了强调起始点 , 也记为 { B ( t)} .这样 , 定 义 7. 1 所指
的就是始于 0 的 Brow n 运动{ B0 ( t) } .易见
x 0
B ( t) - x = B ( t) . (7 .1 .2 )
式 ( 7 .1 .2) 按照下面的定义 7. 2 称 为 Brow n 运动 的空 间 齐次 性 .此性 质也 说
x 0
明 , B ( t) 和 x + B ( t) 是 相同 的 , 我 们只 需研 究 始于 0 的 Brow n 运 动 就可 以
了 , 如不加说明 , Brow n 运动就是指始于 0 的 Brow n 运动 .
第 7章 B row n 运动 1 61

定义 7 .2 设 { X( t) , t≥0}是随机过 程 , 如 果它的 有限维分 布是空间 平移


不变的 , 即
P{ X( t1 } ≤ x1 , X( t2 ) ≤ x2 , … , X( tn ) ≤ xn | X(0 ) = 0}
= P{ X( t1 ) ≤ x1 + x, X( t2 ) ≤ x2 + x , … , X( tn ) ≤ xn + x | X (0 ) = x} ,
则称此过程为空间齐次的 .
下面给出关于 Br won 运动的概率计算的例子 .

例 7 .1 设{ B( t) , t≥0}是标准 Brown 运动 , 计算 P{ B(2) ≤0}和 P{ B( t) ≤


0 , t = 0 , 1 , 2} .
1
解 由于 B( 2 ) ~ N (0 , 2 ) , 所 以 P{ B( 2 ) ≤0} = .因为 B( 0 ) = 0 , 所 以
2
P{ B( t) ≤0 , t = 0 , 1 , 2} = P{ B( t) ≤0 , t = 1 , 2} = P{ B( 1 ) ≤ 0 , B( 2 ) ≤ 0} .虽然
B(1 ) 和 B(2 ) 不是独立的 , 但由 性质 7. 1 (2 ) 和 ( 3 ) 可知 , B( 2 ) - B( 1 ) 与 B( 1 )
是相互独立的标准正态分布随机变量 , 于是利用分解式
B(2 ) = B( 1) + ( B( 2) - B( 1) )

P{ B(1 ) ≤ 0 , B( 2) ≤ 0} = P{ B(1 ) ≤ 0 , B( 1) + ( B( 2) - B( 1) ) ≤ 0}
= P{ B(1 ) ≤ 0 , B( 2) - B(1 ) ≤ - B(1 )} .
由定理 1 .12( 1) 和 (9 ) , 有
P{ B( 1) ≤ 0 , B(2 ) - B( 1) ≤ - B( 1) }
0


= -∞
P{ B( 2) - B( 1) ≤ - x} f ( x) d x
0


= -∞
Φ( - x) dΦ( x ) ,

这里 Φ和 f 分别表示标准正态分布的分布函数和 密度函 数 .由 积分的变 量替


换公式得
∞ ∞ 1

∫ Φ( x) f ( - x) d x = ∫ Φ( x) dΦ( x ) = ∫ 1
yd y = 3 .
0 0
2 8
如果过程从 x 开始 , B(0 ) = x, 则 B( t) ~ N ( x , t) , 于是
b
1 2


- ( y - x)
Px { B( t) ∈ ( a, b) } = e 2t
dy .
a
2πt
这里概率 Px 的下标 x 表示过程始于 x .积分号中的函数
1 - ( y - x)
2

pt ( x , y) = e 2t
(7 .1 .3 )
2πt
16 2 应用随机过程

称为 Brow n 运动的转移概率密度 .利用 独立 增量 性以 及 转移 概率 密度 , 可 以


计算任意 Brow n 运动的有限维分布
Px { B( t1 ) ≤ x1 , … , B( tn ) ≤ xn }
x x

∫ ∫
1 2
= p t1 ( x, y1 ) d y1 pt2 - t1 ( y1 , y2 ) d y2 …
- ∞ - ∞


n
p t n - t n - 1 ( yn - 1 , yn ) d yn . (7 .1 .4 )
- ∞

为了讨论 Brow n 运动的路径性质 , 首先给出二次变差的定义 .

定义 7 .3 Bro wn 运动的二次 变差 [ B, B] ( t) 定 义为 当 { tin } in= 0 遍 取 [ 0 , t]


的分割 , 且其模 δn = 0 ≤max ( tni+ 1 - tin ) →0 时依概率收敛意义下的极限
i≤ n - 1
n - 1

→0 ∑
n n 2
[ B, B] ( t) = [ B, B] ( [ 0 , t] ) = δlim B( ti+ 1 ) - B( ti ) . (7 .1 .5 )
n i=0

下面是 Brow n 运动的路径性 质 .从时 刻 0 到 时 刻 T 对 Brow n 运 动的 一


次观察称为 Brow n 运动在区间 [0 , T ] 上的 一个路 径或 一个 实现 .作 为 t 的 函
数 , Brow n 运动的几乎所有的样本路径 B( t) , 0 ≤ t≤ T 都具有下述性质 :
( 1) 是 t 的连续函数 ;
( 2) 在任何区间 ( 无论区间多小 ) 上都不是单调的 ;
( 3) 在任何点都不是可微的 ;
( 4) 在任何区间 ( 无论区间多小 ) 上都是无限变差的 ;
( 5) 对任何 t, 在 [ 0 , t] 上的二次变差等于 t .
上述前性质 ( 1) ~ (3 ) 不难理解 , (4 ) 可以从 ( 5) 得到 ( 留作习题 ) .

定理 7 .1 [ B, B] ( t) = t .
证明 取区间 [ 0 , t] 的分割{ tni } in= 0 使得 ∑ δ < ∞ .记
n
n

n - 1
2


n n
Sn = B( t i+ 1 ) - B( t ) i ,
i=0


n - 1

∑ E[ B( t ∑(t
n n 2 n
ES n = i+ 1 ) - B( t ) ] i = i+ 1 - tni ) = t .
i i=1

再由标准正态分布的 4 阶矩公式得
n- 1 n - 1

∑ ( B( t ∑ var ( ( B( t
n n 2 n n 2
var ( Sn ) = var i+ 1 ) - B( t ) )
i = i+ 1 ) - B( ti ) ) )
i= 0 i=0

n-1

∑ 3( t - tin ) 2 ≤ 3m ax( tni+ 1 - tni ) t = 3 δ


n
= i+ 1 t n, (7 .1 .6 )
i=0
第 7章 B row n 运动 1 63

所以

∑ var ( S )
n= 1
n < ∞ .

由单调收敛定理 , 得

E ∑( S
n= 1
n - t) 2 < ∞,

因此 ∑ (S
n=1
n - t) 2 < ∞ , a .s ., 于是有 Sn - t→0 , a .s ., 故 [ B, B] ( t) = t .

7 .2 Gauss 过程

所谓 Gauss 过程 是指所有有限 维分 布都 是多 元正 态分 布的 随机 过 程 .
本节主要证明 Brow n 运动是特殊 的 Gaus s 过 程 .首 先 , 利用 命 题 1. 2 容易 证
明下面引理 .

引理 7 .1 设 X~ N(μ1 ,σ21 ) , Y~ N(μ2 ,σ22 ) 是相互独 立的 , 则 ( X , X + Y ) ~


2 2
σ1 σ1
N μ,Σ , 其中均值 μ= (μ1 ,μ1 + μ2 )′, 协方差矩阵 Σ= .
σ21 σ21 + σ22

定理 7 .2 Brow n 运动 是均 值函 数为 m ( t) = 0 , 协方差 函数 为 γ( s, t) =
min( t, s) 的 Gauss 过程 .
证明 由于 Brow n 运动均值是 0 , 所以其协方差函数为
γ( s, t) = cov( B( t) , B( s) ) = E[ B( t) B( s) ] .
若 t < s, 则 B( s) = B( t) + B( s) - B( t) , 且由独立增量性可得
E[ B( t) B( s) ] = E[ B2 ( t) ] + E[ B( t) ( B( s) - B( t) ) ] = E[ B2 ( t) ] = t .
类似地 , 若 t > s, 则 E[ B( t) B( s) ] = s . 再由 上述 引理 及数学 归纳 法得到 B( t)
的任何有限维分布都是正态的 .
下面举几个例子 .

例 7 .2 设{ B( t)}是 Bro wn 运动 , 求 B(1 ) + B( 2) + B( 3) + B( 4) 的分布 .


解 考虑随机向量 X = ( B( 1 ) , B( 2 ) , B( 3 ) , B( 4 ) )′, 由 定理 7. 2 可知 , X
是多元正态分布的 , 且具有零均值和协方差矩阵
1 1 1 1
1 2 2 2
Σ= .
1 2 3 3
1 2 3 4
16 4 应用随机过程

令 A = ( 1 , 1 , 1 , 1) , 则
AX = X1 + X2 + X3 + X4 = B( 1) + B(2 ) + B( 3) + B( 4)
具有均值为零 , 方差为 AΣ A′= 30 的正态分布 .于是 B(1 ) + B(2 ) + B( 3) +
B(4 ) 是正态分布的随机变量 , 均值为 0 , 方差为 30 .

1 1 3
例 7 .3 求 B + B + B + B( 1) 的分布 .
4 2 4
1 1 3
解 考虑随机向量 Y = B ,B ,B , B( 1) ′.易见 , Y 与上例
4 2 4
1 1
中的 X 具有相同的分布 , 所 以 , 它的协 方差矩阵 为 Σ . 因 此 , AY = B +
4 4
1 3 30
B + B + B( 1) 具有均值为 0 , 方差为 的正态分布 .
2 4 4
1
2
例 7 .4 求概率 P ∫ B( t) d t >
0
3
.

解 首先需要指 出的 是 , Bro wn 运 动具 有 连续 路 径 , 所 以 对每 个 路径 来
1 1

说 , Riemann 积分 ∫ B( t) d t 存在 , 只需找出∫ B( t) d t 的分布 .由 Riem ann 积分


0 0

的定义 , 可以从逼近和

∑ B( t )Δ t i i

i
的极限分布而得到 .这里 ti 是 [0 , 1 ] 的分 点 ,Δti = ti + 1 - ti .例如 , 取 ti = ,当
n
n = 4 时 , 逼近和即为上例中的 随机 变量 .一般 地 , 类似 地 证明 , 所 有逼 近和 的
分布都 是 零 均 值 的 正 态 分 布 , 因 此 它 们 的 极 限 分 布 是 正 态 分 布 . 于 是 ,
1 1

∫ B( t) d t 也是零均值的正态分布 .下面来计算∫ B( t) d t 的方差 .


0 0

1 1 1

∫ B( t) d t
var 0
= cov ∫ B( t) d ∫
t, B( s) d s
0 0

1 1

= E ∫ 0
B( t) d t ∫ B( s) ds
0

1 1

∫∫ E[ B( t) B( s) ] d td s
=
0 0
(7 .2 .1 )
1 1

∫∫cov[ B( t) B( s) ] d td s
= 0 0

1 1
1 .
∫∫min ( t, s) d td s =
=
0 0 3
第 7章 B row n 运动 1 65

1
1
这样 ,∫ B( t) d t ~ N
0
0,
3
. 于是 , 所求的概率为
1 1

∫ B( t) d t > 2
P 0
3
= P ∫
3 B( t) d t >
0
2 = 1 - Φ( 2) = 0 .0 25 .

这里 , Φ( x) 是标准正态分布的分布函数 , 通过查表可得 Φ( 2) 的近似值 .

7. 3 Brown 运动的鞅性质

本节讨论与 Brow n 运动相联 系的 几 个鞅 , 首 先回 忆 连续 鞅的 定义 .设 随


机过程{ X( t) , t≥0}对任何 t 是可积的 , E[ | X( t) | ] < ∞ , 且对任何 s> 0 , 有
E[ X( t + s) | Ft ] = X( t) , a .s . (7 .3 .1 )
这里 Ft =σ{ X( u) : 0 ≤ u≤ t} ( 由 { X ( u) : 0 ≤ u≤ t} 生 成的 σ代 数 ) , 其中 等 式
( 7 .3 .1) 是几乎必然成立的 , 在后面有关的证明中 , 有时也省略 a .s .

定理 7 .3 设 { B( t) }是 Brow n 运动 , 则
( 1) { B( t) }是鞅 ;
2
( 2) { B( t) - t}是鞅 ;
2
u
( 3) 对任何实数 u, exp uB( t) - t 是鞅 .
2
证明 首先 , 由 B( t + s) - B( t) 与 Ft 的独立性可知 , 对任何函数 g( x) , 有
E[ g( B( t + s) - B( t) ) | Ft ] = E[ g( B( t + s) - B( t) ) ] . (7 .3 .2 )
由 Brow n 运动的定义 , B( t) ~ N ( 0 , t) , 所以 B( t) 可 积 , 且 E[ B( t) ] = 0 .
再由其他性质得
E[ B( t + s) | Ft ] = E[ B( t) + ( B( t + s) - B( t) ) | Ft ]
= E[ B( t) | Ft ] + E[ B( t + s) - B( t) | Ft ]
= B( t) + E[ B( t + s) - B( t) ] = B( t) ,
从而 ( 1) 得证 .
2 2
由于 E[ B ( t) ] = t < ∞ , 所以 B ( t) 可积 .于是得到
2 2
B ( t + s) = ( B( t) + B( t + s) - B( t) )
2
= B ( t) + 2 B( t) ( B( t + s) - B( t) ) +
( B( t + s) - B( t) ) 2 ,
E[ B2 ( t + s) | Ft ] = B2 ( t) + 2 E[ B( t) ( B( t + s) - B( t) ) | Ft ] +
2
E[ ( B( t + s) - B( t) ) | Ft ]
2
= B ( t) + s, (7 .3 .3 )
16 6 应用随机过程

这里我们利用了 B( t + s) - B( t) 与 Ft 的独立性且 具有均值 0 , 并对 g( x) = x2


应用式 ( 7 .3 .2) .在式 ( 7 .3 .3) 两端同时减去 ( t + s) , 则 (2 ) 得证 .
uB ( t ) tu 2/ 2 u B( t)
考虑 B( t) ~ N( 0 , t) 的矩 母函 数 E ( e ) =e < ∞ , 这蕴 含着 e 是
可积的 , 并且
u2
u B( t) - t
E e 2 = 1 .
ux
取 g( x) = e , 利用式 (7 .3 .2 ) 可得
uB( t+ s) uB ( t) + u( B( t+ s) - B( t) )
E( e | Ft ) = E( e | Ft )
uB ( t ) u( B( t+ s) - B( t) )
=e E( e | Ft )
= e uB ( t ) E( eu( B( t+ s) - B( t) ) )
uB ( t ) u2 s
=e e 2
.
2
- u ( t + s)
两端同时乘以 e 2
, 则 (3 ) 得证 .

注 7 .2 上述定理所给 的 3 个 鞅在 理论 上也 有着 十 分重 要的 意义 , 比 如
2 2
鞅{ B ( t) - t} 就是 Bro wn 运动 的特 征 , 即 , 如果 连续鞅 { X ( t) } 使得 { X ( t) -
t} 也是鞅 , 则{ X( t) }是 Brow n 运动 .

7 .4 Brown 运动的 Markov 性

所谓 Markov 性是指在知道 过 程的 现在 与过 去状 态 的条 件下 , 过 程将 来
的表现与过去无关 . 也就是指过 程依 赖于现 在 , 但是 并 不记 忆现 在的 状态 是
如何得到的“ 遗忘性”. 在第 4 章中我们介 绍了 Markov 链和 连续时 间离 散状
态的 Markov 过程 , 而 在 这 里 所 讨 论 的 Bro wn 运 动 是 连 续 时 间 连 续 状 态 过
程 , 为此我们从连续 Ma rkov 过程的定义开始 .

定理 7 .4 设 { X( t) , t≥ 0}是一个连续随机过程 , 如果对任何 t, s > 0 , 有


P{ X( t + s) ≤ y | Ft } = P{ X( t + s) ≤ y | X( t) } , a .s . (7 .4 .1 )
则称{ X( t) }为 Markov 过程 , 这里 Ft =σ{ X ( u) , 0≤ u≤ t} . 性 质 (7 .4 .1 ) 称为
Ma rkov 性 .
与定义 7 .4 等价的 , M arkov 过程的另一种定义方式如下 .

定理 7 .5 设 { X ( t ) , t≥ 0} 是 一 个 连 续 随 机 过 程 , 如 果 对 任 何 的 有 界
Borel 可测函数 f , 实数 t, h > 0 , 有
E[ f ( X t+ h ) | Ft ] (ω) = E[ f ( X t + h ) | X t (ω) ] , (7 .4 .2 )
第 7章 B row n 运动 1 67

则称{ X( t) }为 Markov 过程 , 这里 Ft =σ{ X ( u) , 0≤ u≤ t} . 性 质 (7 .4 .2 ) 也称


为 Markov 性 .

定义 7 .4 Bro wn 运动 { B( t)} 具有 Ma rkov 性 .


证明 用矩母函数方法容易得到 B( t + s) 在给定条件 Ft 下的分布与在给
定条件 B ( t) 下的分布是一致的 . 事实上 ,
E( e uB( t+ s) | Ft ) = e uB ( t ) E( eu( B( t+ s) - B( s) ) | Ft )
= e uB ( t ) E( eu( B( t+ s) - B( s) ) ) ( 因为 eu( B( t+ s) - B( s) ) 独立于 Ft )
u2 t
= e uB ( t ) e 2 ( 因为 B( t + s) - B( s) ~ N( 0 , t) )
= e uB ( t ) E( eu( B( t+ s) - B( s) ) B( t) )
= E( e u( B( t + s) B( t) ) .
所以 , { B( t) }具有 Markov 性 .
连续的 Markov 过程 { X}的转移概率 定义 为在时 刻 s 过程 处于状 态 x 的
条件下 , 过程在时刻 t 的分布函数
P( y, t, x, s) = P{ X( t) ≤ y | X( s) = x} .
在 Brow n 运动的情况下 , 这一分布函数是正态的 :
y
1 ( u - x) 2


-
P( y, t, x , s) = e 2 ( t - s) d u .
- ∞
2π( t - s)
Brow n 运动的转移概率函数满足方程 P( y , t, x, s) = P( y, t - s, x, 0 ) .换言之 ,
P{ B( t) ≤ y | B( s) = x} = P{ B( t - s) ≤ y | B(0 ) = x} . (7 .4 .3 )
当 s= 0 时 , P( y, t, x, 0) 具有密度函数
2
1 - ( y - x)
pt ( x , y) = e 2t .
2πt
公式 ( 7 .4 .3) 给出的性质称为 Brow n 运动 的 时齐 性 , 即 分布 不随 时间 的平 移
而变化 .于是由式 (7 .1 .4 ) 可知 Brow n 运动的所有有限维分布都是时齐的 .
下面讨论 Bro wn 运 动 的 强 M arkov 性 , 为 此 给 出 关 于 { B ( t )} 停 时 的
定义 .

定理 7 .6 如果非负随机变量 T 可 以取 无穷 值 , 既 T : Ω → [ 0 , ∞ ] , 并且
对任何 t, 有 { T≤ t}∈Ft = σ{ B( u) , 0 ≤ u≤ t} , 则称 T 为 关 于 { B( t) , t≥ 0} 的
停时 .
所谓的强 Ma rkov 性 , 实际上是将 Ma rkov 性中固定的时间 t 用停时 T 来
代替 .下面我们不加证 明 的给 出 关于 Brow n 运动 的 强 Ma rkov 性定 理 , 其 证
明见文献 [ 16 ] .
16 8 应用随机过程

定义 7 .5 设 T 是关于 Brow n 运动 { B( t) }的有限停时 ,


FT = { A ∈ F: A ∩ { T ≤ t} ∈ Ft , " t ≥ 0} .

P{ B( T + t) ≤ y | FT } = P{ B( T + t) ≤ y | B( T )} a .s .
即 Brow n 运动{ B( t) }具有强 Markov 性 .
由此定理可以看出 , 如果定义
^
B ( t) = B( T + t) - B( T) . (7 .4 .4 )
^

则 ( t) 是始于 0 的 Brow n 运动并且独立于 FT .


B

7 .5 Brown 运动的最大值变量及反正弦律

以 T x 记 Brow n 运动首次击中 x 的时刻 , 即


T x = inf{ t > 0 : B( t) = x} .
当 x > 0 时 , 为计算 P{ T x ≤ t} , 我们考虑 P{ B( t) ≥ x} .由全概率公式
P{ B( t) ≥ x} = P{ B( t) ≥ x | T x ≤ t} P{ T x ≤ t} +
P{ B( t) ≥ x | T x > t} P{ T x > t} , (7 .5 .1 )
若 T x ≤ t, 则 B( t) 在 [ 0 , t] 中的某个点击中 x , 由对称性得
1
P{ B( t) ≥ x | T x ≤ t} = .
2
再由连续性可知 , B( t) 不可能还未击中 x 就 大于 x , 所 以 (7 .5 .1) 中 第 2 项为
零 .因此
P{ T x ≤ t} = 2 P{ B( t) ≥ x}
2 ∞


- u 2/ 2 t
= e du
x
2πt
2 ∞


- y 2/ 2
= e dy . (7 .5 .2 )
x/ t

由此可见
2 ∞


- y 2/ 2
P{ T x < ∞} = t→
lim P{ T x ≤ t} = e dy = 1 .
∞ 0

对分布函数求导数可得其分布密度函数
第 7章 B row n 运动 1 69

2
x - 32 e - 2u
x
u , 如果 u > 0,
f T x ( u) = 2π (7 .5 .3 )
0, 如果 u≤0 .
利用式 ( 7 .5 .2) , 可以得到

ETx = ∫ P{ T
0
x > t}d t

∞ ∞
2

- y2 / 2


= 0
1 -
2π x/ t
e d y dt

∞ x/ t
2
∫∫
- y 2/ 2
= e d yd t
0 0

∞ x 2/ y 2
2
∫∫
- y2 / 2
= dt e dy
0 0


2 x2 1 -

2
y / 2
= 2 e dy
2π 0 y0
2 - 1/ 2 1

≥2 x e 1
2π ∫ y dy 0
2

=∞ .
因此 , T x 虽然几乎必然是有限的 , 但有 无穷的 期望 .直观地看 , 就 是 Brow n 运
动以概率 1 会击中 x, 但它 的 平均 时 间 是无 穷 的 .性 质 P{ T x < ∞ } = 1 称 为
Brow n 运动的常返性 .由于始于点 a 的 Bro wn 运动与{ a + B( t)}是 相同的 , 这
里{ B( t)} 是始于 0 的 Bro wn 运动 , 所以
pa { T x < ∞} = p0 { T x - a < ∞} = 1 ,
即 Brow n 运动从任何一点出发 , 击中 x 的概率都是 1 .
当 x < 0 时 , 由对称性 , T x 与 T - x 有相同的分布 .于是 , 有

2

y2 / 2
P{ T x ≤ t} = e- dy .
| x| / t

x2
- x - 32 - 2u
u e , 如果 u > 0,
f T x ( u) = 2π (7 .5 .4 )
0, 如果 u≤ 0 .
另一个有趣的随机变量是 Brow n 运动在 [ 0 , t] 中达到的最大值
M( t) = 0m ax { B( s)} .
≤ s≤ t

它的分布可由下述等式得到 , 对 x > 0 ,
17 0 应用随机过程

P{ M( t) ≥ x} = P{ T x ≤ t}
= 2 P{ B( t) ≥ x}

2

y2 / 2
= e- dy .
x/ t

读者不难得到 Brow n 运动在 [ 0 , t] 中达到的最小值
m( t) = 0min B( s)
≤ s≤ t

的分布 .
如果时间 τ使 得 B (τ) = 0 , 则 称 τ为 Brow n 运 动 的 零 点 .我 们 有 下 面
定理 .

定义 7 .6 设 { Bx ( t) } 为始于 x 的 Bro wn 运动 , 则 Bx ( t) 在 ( 0 , t) 中 至少
有一个零点的概率为
x t - 32 - 2x 2u

2π 0
u e du.

证明 如果 x < 0 , 则由{ Bx ( t)} 的连续性得

P{ B x 在 ( 0 , t) 中至少有一个零点} = P 0m≤ ax B x ( s) ≥ 0 .
s≤ t

因为 Bx ( t) = B( t) + x, 有
x
P B 在 ( 0 , t) 中至少有一个零点
= P 0max B x ( s) ≥ 0
≤ s≤ t

= P 0max B( s) + x ≥ 0 = P 0max B ( s) ≥ - x
≤ s≤ t ≤ s≤ t

= 2 P{ B( t) ≥ - x} = P{ T x ≤ t}
t
- x t - 32 - 2x2u
∫f
= 0
T
x
( u) d u = ∫
2π 0
u e du . (7 .5 .5 )

对于 x > 0 的情况的证明 类似 , 只要 知道 Bro wn 运动的 最小 值的 分布 即可 完


成其证明 .
利用此结果可以证明下面定理 .
y
定义 7 .7 B ( t) 在区间 ( a, b) 中至少有一个零点的概率为

2 a
a rccos .
π b
证明 记
第 7章 B row n 运动 1 71

h( x) = P{ By 在 ( a, b) 中至少有一个零点 | B( a) = x} .
y x
由 Markov 性 , P{ B 在 ( a, b) 中至少有一个零点 | B( a) = x}与 P{ B 在 (0 , b - a)
中至少有一个零点}相同 .由条件概率
P{ B y 在 ( a, b) 中至少有一个零点 }


=
- ∞
P{ By 在 ( a, b) 中至少有一个零点 | B( a) = x} P( d x )


= - ∞
h( x ) P( d x)

∞ 2
2
∫ h( x ) e
- x
= 2a
dx
πa 0

∞ b- a 2 2
2 x
∫ ∫
- 3 - x - x dx
= u 2
e 2u
du e 2a
πa 0
2π 0

b- a ∞
1
∫ ∫
- 3 - x2 1 + 1
= u 2
xe 2 u 2a
d xd u
π a 0 0

b- a
1 au

- 3
= u 2
du
π a 0 a+ u
b- a - 1

=2 a u 2 du
π ∫ 0 a+ u
2 b- a
= ar ctan
π a

= 2 ar ccos a .
π b
于是 , 我们得到 Bro wn 运动的反正弦律 .
y
定义 7 .8 设 { B ( t) , t≥0}是 Brow n 运动 , 则
y 2 a
P{ B ( t) 在 ( a, b) 中没有零点} = arcsin .
π b
下面介绍 Brow n 运动在时刻 t 之前最后一个零点以及在 t 之后的第一个
零点的分布情况 .令
ζt = sup{ s ≤ t: B( s) = 0} = t 之前最后一个零点 ,
βt = inf{ s ≥ t: B( s) = 0} = t 之后的第一个零点 .
注意 ,βt 是一个停时 , 而 ζt 不是停时 ( 请读者验证 ) .由反正弦律 , 有
2 x
P{ζt ≤ x} = P{ B 在 ( x, t) 中没有零点} = ar csin ,
π t
17 2 应用随机过程

2 t
P{βt ≥ y} = P{ B 在 ( t, y) 中没有零点} = a rcsin ,
π y

P{ζt ≤ x ,βt ≥ y} = P{ B 在 ( x, y) 中没有零点} = 2 a rcsin x .


π y

7 .6 Brown 运动的几种变化

7 .6 .1 Brown 桥

由 Brow n 运 动 , 可 以 定 义 另 一 类 在 数 理 金 融 中 经 常 用 到 的 过 程———
Brow n 桥过程 .

定理 7 .7 设 { B( t) , t≥0}是 Brow n 运动 .令
*
B ( t) = B( t) - tB( 1) , 0 ≤ t ≤ 1,
则称随机过程{ B * ( t) , 0≤ t≤ 1}为 Brow n 桥 ( Bro wn bridge ) .
因为 Brow n 运动是 Gaus s 过程 , 所以 Brow n 桥也是 Gaus s 过程 , 其 n 维
分布由均值函数和方差函数完全确定 .且对任何 0≤ s≤ t≤ 1 , 有
*
E[ B ( t) ] = 0 ,
E[ B * ( s) B * ( t) ] = E[ ( B( s) - sB (1 ) ) ( B( t) - tB (1 ) ) ]
= E[ B( s) B( t) - tB( s) B( 1) - sB( t) B(1 ) + tsB 2 (1 ) ]
= s - ts - ts + ts = s( 1 - t) .
* *
此外 , 由定义可知 B ( 0) = B ( 1) = 0 , 即此过程的起始点是固定的 , 就像
桥一样 ( 图 7 .1) , 这就是 Brow n 桥名称的由来 .

7 .6 .2 有吸收值的 Brown 运动

设 T x 为 Brow n 运动{ B( t) }首次击中 x 的时刻 , x > 0 .令


B( t) , 若 t < Tx ,
Z( t) =
x, 若 t ≥ Tx ,
则{ Z( t) , t≥0}是击中 x 后 , 永远停 留在 那里 的 Brow n 运 动 .对 任何 的 t > 0 ,
随机变量 Z( t) 的分布有离散和连续两个部分 .离散部分是
P{ Z( t) = x} = P{ T x ≤ t}
∞ 2
2
∫e
- y
= 2t
dy .
x
2πt
第 7章 B row n 运动 1 73

图 7 .1

下面求连续部分的分布 .
P{ Z( t) ≤ y} = P B( t) ≤ y, 0max B( s) < x
≤ s≤ t

= P{ B( t) ≤ y} - P B( t) ≤ y, 0max B( s) > x . (7 .6 .1 )
≤ s≤ t

计算 ( 7 .6 .1) 式中的最后一项 , 由条件概率公式得


P B ( t) ≤ y, 0max B( s) > x
≤ s≤ t

= P B ( t) ≤ y | 0m≤ ax B ( s) > x P 0m ax B ( s) > x . (7 .6 .2 )


s≤ t ≤ s≤ t

由事件0m ax B ( s) > x 等 价 于 事件 T x < t 及 Brow n 运 动的 对 称 性 可 知 ,


≤ s≤ t

B( t) 在时刻 T x ( < t) 击中 x, 为了使在时刻 t 不 大于 y , 则在 T x 之后 的 t - T x


这段时间中就必须减少 x - y, 而减少与增加 x - y 的概率是相等的 .所以 , 有
P B( t) ≤ y | 0max B( s) > x = P B ( t) ≥ 2 x - y | 0max B( s) > x .
≤ s≤ t ≤ s≤ t

(7 .6 .3 )
从式 ( 7 .6 .2) 及 (7 .6 .3 ) 得
P B ( t) ≤ y, 0max B( s) > x
≤ s≤ t

= P B ( t) ≥ 2 x - y, 0max B( s) > x
≤ s≤ t

= P{ B( t) ≥ 2 x - y} ( 因为 y < x ) ,
由式 ( 7 .6 .1) , 有
P{ Z( t) ≤ y} = P{ B( t) ≤ y} - P{ B( t) ≥ 2 x - y}
= P{ B( t) ≤ y} - P{ B( t) ≤ y - 2 x}
y 2
1

- u
= e 2t
du .
y- 2 x
2πt
17 4 应用随机过程

7 .6 .3 在原点反射的 Brown 运动


Y ( t) = B( t) , t≥ 0
定义的过程{ Y ( t) , t≥ t} 称为在原点反射的 Bro wn 运动 .它的概率分布为
P{ Y ( t) ≤ y} = P{ B( t) ≤ y} - P{ B( t) ≤ - y} ( y > 0)
= 2 P{ B( t) ≤ y} - 1
y 2
2

- u
= e 2t
du - 1 .
-∞
2πt

7 .6 .4 几何 Brown 运动


B( t)
X( t) = e , t≥ 0
定义的过程{ X ( t) , t≥ t} 称为几 何 Brow n 运动 .由 于 Brow n 运动 的矩母 函数
sB ( t ) ts 2 / 2
为 E( e ) =e , 所以几何 Bro wn 运动的均值函数与方差函数分别为
B( t) t/ 2
E[ X( t) ] = E( e ) = e ,
2 2
var ( X( t) ) = E[ X ( t) ] - [ E( X( t) ) ]
= E( e2 B( t ) ) - e t
= e2 t - et .
在金融市场中 , 人们经常 假定 股票 的价 格 按照 几何 Brow n 运 动变 化 , 在
下面的例子中我们如此假定 .

例 7 .5 股票期权的价值
设某人拥有某种股票的交割 时 刻为 T , 交割 价格 为 K 的 欧式 看涨 期 权 ,
即他 ( 她 ) 具有在时刻 T 以固定的价格 K 购买一股这种股票的权力 .假设这种
股票目前的价格为 y, 并按 照几 何 Bro wn 运动 变化 , 我们 计 算 拥有 这 个期 权
的平均价值 .设 X( T ) 表示时刻 T 的股票 价格 , 若 X( T ) 高于 K 时 , 期权 将被
实施 , 因此该期权在时刻 T 的平均价值应为

E[ max( X( T ) - K , 0 ) ] = ∫ P{ X( T )
0
- K > u}d u

∫ P{ ye
B( T )
= - K > u}d u
0


K+ u
= ∫P 0
B( T ) > log
y
du
第 7章 B row n 运动 1 75

∞ ∞
1
∫∫
- x 2/ 2 T
= e d xd u .
0 log [ ( K+ u)/ y]
2πT

7 .6 .5 有漂移的 Brown 运动

设{ B( t)} 是标准 Bro wn 运动 , 称{ X ( t) = B( t) + μ t} 为 有漂 移 的 Brow n


运动 , 其中常数 μ称为漂移系数 .容易看出 , 有漂移的 Bro wn 运 动是一个 以速
率 μ漂移的过程 .下面对此过程计算一个有兴趣 的量 , 首先 , 对常 数 A , B > 0 ,
- B < x < A , 记 P( x) 为过程在击中 - B 之前击中 A 的概率 , 即
P( x) = P{ X( t) 在击中 - B 之前击中 A | X(0 ) = x} .
对过程在时刻 0 与 h 之间的变化 Y = X( h) - X( 0) 取条件 , 将得到一个微
分方程 . 从而给出
P( x ) = E[ P( x + Y ) ] + o( h) ,
这里的 o( h) 表 示 到 时 刻 h, 过 程 已 经 击中 - B 或 A 其 中之 一 的 概 率 .假 设
P( y) 在 x 点附近有 T aylor 级数展开 , 则形式上可得
P( x ) = E[ P( x) + P′( x ) Y + P″( x) Y2 / 2 + … ] + o( h) .
由于 Y 是正态分布的 , 均值为 μ h , 方差为 h, 则得到
2 2

P( x) = P( x) + P′( x )μ h + P″( x) μ h + h + o( h) , (7 .6 .4 )
2
因为所有大于二阶的微分项之和的均值是 o( h) .由式 (7 .6 .4 ) 有

P′( x )μ+ P″( x ) = o( h) ,


2 h
令 h→0 , 有
P″( x )
P′( x )μ+ = 0,
2
将上式积分 , 得
2μP ( x) + P′( x ) = c1 ,

2 μx 2 μx
e (2μP ( x) + P′( x ) ) = c1 e ,

d 2μx 2 μx
( e P ( x ) ) = c1 e ,
dx
积分可得
e2μx P ( x) = c1 e2μx + c2 .
因此
17 6 应用随机过程

P( x) = c1 + c2 e - 2μx .
利用边界条件 P( A) = 1 , P( - B) = 0 , 解得
2μB
e - 1
c1 = 2μB - 2μA , c2 = 2μB - 2 μA ,
e - e e - e
从而
e2 μB - e - 2μx
P( x ) = .
e2μB - e - 2 μA
因此从 x = 0 出发 , 过程在到达 - B 之前先到达 A 的概率 P ( 0) 为
2μB
e - 1
P{过程在下降 B 之前先上升至 A} = 2μB - 2μA . (7 .6 .5 )
e - e
若 μ < 0 , 在上式中令 B→∞ , 则有
2μ A
P{过程迟早上升至 A} = e . (7 .6 .6 )
因此 , 此时过程漂向负无穷 , 而它的最大值是参数为 - 2μ的指数变量 .
若在 ( 7 .6 .5) 中令 μ→ 0 , 则有
B
P{Bro wn 运动在下降 B 之前上升至 A} = .
A + B
最后 , 用一个例子结束本章的讨论 .

例 7 .6 实施股票期权
假设某人有在将来某个时刻以固定价格 A 购买一股股票的期权 , 与现在的
市价无关 .不妨取现在的市价为 0 , 并假定其变化遵循有负漂移系数 - μ(μ> 0 )
的 Brow n 运动 .问在什么时候实施期权 ?
考虑在市价为 x 时实施期权的策略 .在此策略下的平均所得是
P( x) ( x - A) ,
其中 P( x) 是过程迟早到达 x 的概率 . 由式 (7 .6 .6 ) , 有
- 2μx
P( x ) = e , x > 0 .
- 2μ x 1
x 的最优值是使 ( x - A) e 最大的值 , 易见它是 x = A + .

习 题
7 .1 设{ B( t) , t≥0}为标准 Brow n 运动 , 求 B( 1) + B( 2) + … + B( n) 的
1
分布 , 并验证 X( t) = t B 仍为 [0 , ∞ ) 上的 Bro wn 运动 .
t
第 7章 B row n 运动 1 77

t
7 .2 设{ B( t) , t≥0}为标准 Bro wn 运动 , 验证 X( t) = ( 1 - t) B ,
1 - t

0 ≤ t≤1 是 Bro wn 桥 .

7 .3 设{ B( t) , t≥0}为标准 Brow n 运动 , 计算条件概率


P{ B( 2) > 0 | B( 1) > 0} .
问事件{ B( 2) > 0} 与{ B(1 ) > 0}是否独立 ?
7 .4 设{ B1 ( t) , t≥ 0} , { B2 ( t) , t≥ 0} 为相互 独立 的标 准 Brow n 运 动 , 试
证{ X( t) = B1 ( t) - B2 ( t) }是 Brow n 运动 .
7 .5 设{ B( t) , t≥0}为标准 Brow n 运动 , 证明 M( t) = 0max B ( s) , | B( t) |
≤ s≤ t

与 M( t) - B( t) 具有相同的分布 .试找出 m( t) = 0min B ( s) 的分布 .


≤ s≤ t

t
7 .6 设{ Z( t) , 0≤ t≤1}是 Brow n 桥过 程 , 令 X( t) = (1 + t) Z ,证
1+t
明{ X( t) , t≥0}是一个 Brow n 运动 .
第 8章
随机积分与随机微分方程

本章的目的是引入关于 Brow n 运动的积分 , 讨论 其性质并 给出在随 机分


^

析及金融学中有着重要应用的 Iot 公式 .

8 .1 关于随机游动的积分

我们从讨论关于简单的随机游动的 积分开 始 .设 X1 , X2 , … , 是 独立 的随
1
机变量 , P{ X i = 1} = P{ X i = - 1} = , 令 Sn 表示相应的游动 ,
2
Sn = X1 + X2 + … + X n .
我们可以这样看这组独立随机变量 , X n 为第 n 次公 平赌博 的结 果 ( X n =
1 为赢 1 元 , X n = - 1 为输掉 1 元 ) .Fn = σ( X1 , … , X n ) ( 由 { X i , 1 ≤ i≤ n} 生成
的 σ代数 ) , 也可以理解为包含 X1 , … , Xn 的信息 .令 Bn 是 Fn - 1 可测的随机变
量序列 , 比如它表示第 n 次赌博时所下 赌注 , 则它 只能 利用第 n - 1 次及 以前
的信息 , 而不能利用第 n 次赌博的结果 .于是到时刻 n 的收益 Z n 为
n n n

Zn = ∑BX
i=1
i i = ∑B(Si=1
i i - Si - 1 ) = ∑ B ΔS ,
i= 1
i i

这里 ΔSi = S i - Si - 1 , S0 = 0 .我们称 Zn 为 B n 关于 S n 的积分 .


容易看出{ Zn } 是关于 Fn 的鞅 , 即 , 若 m < n, 则
E( Zn | Fm ) = Zm .
2
特别地 , E Zn = 0 .此外 , 如果假定 E( Bn ) < ∞ , 则
n

∑ E( B
2 2
va r ( Zn ) = E( Z ) = n i ) .
i=1
第 8章 随机积分与随机微分方程 1 79

事实上 ,
n

∑B ∑
2 2 2
Zn = i Xi + 2 Bi Bj X i X j .
i= 1 1 ≤ i < j≤ n
2
再 注意到 X i = 1 , 如果 i < j, 则 Bi , X i , Bj 都是 Fj - 1 可测的 , 且 X j 独立于 Fj - 1 ,
于是由定理 1 .12 , 得
E( Bi B j X i X j ) = E[ E( Bi B j X i X j | Fj - 1 ) ] = E[ Bi B j X i E ( X j ) ] = 0 .

8 .2 关于 Brown 运动的积分
T

本节定义关于 Brow n 运 动 的积 分 ∫ X( t) d B( t)
0
或简记为 ∫ Xd B , 这里

{ B( t)} 是一维标准 Brow n 运动 , 有时也记为 { W t } .首 先考虑一 个非随机 的简


单过程 X( t) , 即 X( t) 是一个简单函数 ( 不依赖 于 B( t) ) .由简单函 数的定 义 ,
存在 [ 0 , T ] 的分割 0 = t0 < t1 < … < tn = T 及常数 c0 , c1 , … , cn - 1 , 使得
c0 , 如果 t = 0 ,
X( t) =
ci , 如果 ti < t ≤ ti + 1 , i = 0 , 1 , … , n - 1 ,
或表示为
n - 1

X( t) = c0 I0 ( t) + ∑c I i= 0
i ( t ,t
i i+ 1
] ( t) . (8 .2 .1 )

于是 , 可定义其积分为
T n - 1

∫ X( t) d B( t) = ∑ c [ B( t
0 i=0
i i+ 1 ) - B( ti ) ] . (8 .2 .2 )

由 Brow n 运动的独立增量性可 知 , 公式 ( 8 .2 .2 ) 所定 义 的积 分是 Gau ss 分 布


的随机变量 , 其均值为 0 , 方差为
n - 1
2

var ∫Xd B = E ∑ c [ B( t
i=0
i i+ 1 ) - B( ti ) ]
n - 1 n- 1

= E ∑∑ c c
i=0 j=0
i j [ B( ti+ 1 ) - B( ti ) ] [ B( tj + 1 ) - B( tj ) ]
n - 1 n- 1

= ∑ ∑ E{ ci c j [ B( ti+ 1 ) - B( ti ) ] [ B( tj + 1 ) - B( tj ) ] }
i=0 j=0

n - 1

= ∑ ci ( ti+ 1 - ti ) .
2
(8 .2 .3 )
i=0

用取极限的方法可以将这一定义推广到一般的非随机函数 X( t) .但是我 们要
18 0 应用随机过程

定义 的是 随机 过程 的积 分 , 因 此将 简单 函 数中 的常 数 ci 用 随机 变量 ξi 来 代
替 , 并要求 ξi 是 Ft i 可测的 .这里 Ft =σ{ B( u) , 0 ≤ u≤ t} .于是 , 由 Bro wn 运动
的鞅性质得
E[ξi ( B( ti+ 1 ) - B( ti ) ) | Ft i ] = ξi E [ ( B( ti+ 1 ) - B( ti ) ) | Ft i ] = 0 ,
(8 .2 .4 )
因此
E[ξi ( B( ti + 1 ) - B( ti ) ) ] = 0 .

定义 8 .1 设 { X( t) , 0 ≤ t≤ T} 是一 个简 单随 机过 程 , 即存 在 [ 0 , T ] 的 分
割 0 = t0 < t1 < … < tn = T , 随机变 量 ξ0 ,ξ1 , … ,ξn - 1 使得 ξ0 是常 数 ,ξi 依 赖于
B ( t) , t≤ ti , 但不依赖于 B( t) , t > ti , i = 0 , 1 , … , n - 1 , 并且
n- 1

X( t) = ξ0 I0 ( t) + ∑ξ Ii= 0
i ( t ,t
i i+ 1
] ( t) . (8 .2 .5 )
^ T

此时 , Ito 积分 ∫ Xd B 定义为
0

n - 1
T

∫ X( t) d B( t) = ∑ξ[ B( t
0 i=0
i i+ 1 ) - B( ti ) ] . (8 .2 .6 )

简单过程的积分是一个随机变量 , 满足下述性质 :

性质 8 .1 (1 ) 线性 如果 X( t) , Y ( t) 是简单过程 , 则
T T T

∫ [αX ( t)
0 ∫
+ βY ( t) ] d B( t) = α 0 X( t) d B( t) + β 0 Y ( t) d B( t) , ∫
这里 α,β是常数 .
T

∫I
( 2)
0
[ a, b] ( t) d B( t) = B( b) - B( a) ,

其中 I[ a, b] ( t) 是区间 [ a, b] 的示性函数 .
2
( 3) 零均值性 如果 E(ξi ) < ∞ ( i = 0 , 1 , … , n - 1) , 则
T

E ∫ X( t) d B( t)
0
= 0 .
2
( 4) 等距性 如果 E(ξi ) < ∞ ( i = 0 , 1 , … , n - 1) , 则
T 2 T

∫ X( t) d B( t) ∫ E[ X ( t) ] d t .
2
E =
0 0

证明 性 质 ( 1 ) , ( 2 ) 和 ( 3 ) 是 简 单的 , 读 者 可 自 行 证 之 , 这 里 只 证 明 性
质 ( 4) .利用 Cauchy-Sch wa rz 不等式 , 得到
E[ ξi ( B( ti+ 1 ) - B( ti ) ) ] ≤ E(ξ2i ) E[ B( ti+ 1 ) - B( ti ) ] 2 < ∞ ,
于是
第 8章 随机积分与随机微分方程 1 81

n- 1
T 2

var ∫ 0
Xd B = E ∑ξ( B( t
i= 0
i i+ 1 ) - B( ti ) )
n- 1 n - 1

= E ∑ξ( B( t
i= 0
i i+ 1 ) - B( ti ) ) ・ ∑ξj ( B( tj + 1 ) - B( tj ) )
j= 0

n - 1

= ∑ E[ξi ( B( ti+ 1 ) - B( ti ) ) ] + 2∑ E[ξξ


2 2
i j ( B( ti+ 1 ) -
i= 0 i< j

B( ti ) ) ( B( tj + 1 ) - B( tj ) ) ] . (8 .2 .7 )
由 Brow n 运动的独立增量性以及关于 ξi 的假定 , 利用定理 1 .12( 1) , 有
E[ξξ
i j ( B( ti+ 1 ) - B( ti ) ) ( B( tj + 1 ) - B( tj ) ) ] = 0 ,

所以 , 式 (8 .2 .7 ) 中的最后一项为零 .由 Bro wn 运动的鞅性质 , 得


T n- 1

va r ∫ 0
Xd B = ∑ E[ξi 2 ( B( ti + 1 ) - B( ti ) ) 2 ]
i= 0

n- 1

= ∑ E[ E ξi ( B( ti + 1 ) - B( ti ) ) | Fti ]
2 2

i= 0

n- 1

= ∑ E[ξ2i E ( B( ti + 1 ) - B( ti ) ) 2 | Ft i ]
i= 0

n- 1

= ∑ E(ξi ) ( ti+ 1 - ti )
2

i= 0

∫ E[ X ( t) ] d t .
2
= 0

有了前面的准备 , 我们现在可以 将上述随机积分的定义扩 展到更一 般的


可测适应随机过程类 .

定义 8 .2 设 { X ( t) , t≥ 0}是 随机过 程 , {Ft , t≥0} 是 σ代 数流 , 如果 对任


何 t, X( t) 是 Ft 可测的 , 则称 { X( t)}是 {Ft }适应的 .
记 B 为 [ 0 , ∞ ) 上的 Bor el σ代数 ,
V= h: { h} 是 定 义 在 [ 0 , ∞ ) 上 的 B × F 可 测 的 适 应 过 程 , 满 足
T

∫ h ( s) d s
2
E < ∞ . 我们将随机积分的定义按下述步聚扩展到 V .
0

首先 , 令 h∈V 有界 , 并 且对 每个 ω∈Ω, h( ・ ,ω) 连续。 则存 在简 单过 程


{φn } , 其中
φn = ∑ h( t ,ω) ・1
j
j [ t ,t
j j +1
] ( t) ∈ V,

使得 , 当 n→∞时 , 对每个 ω∈Ω,


18 2 应用随机过程

∫( h - φ)
2
n dt → 0 .
0


2
因此 , 由有界收敛定理得 E ( h - φn ) d t → 0 .
0

其次 , 令 h∈V 有 界 , 可以证明 , 存 在 hn ∈V 有界 , 并且 对每 个 ω∈Ω, " n,


hn ( ・ ,ω) 连续 , 使得
T

E∫ 0
( h - hn ) 2 d t → 0 . (8 .2 .8 )

事实上 , 不妨设 | h( t,ω) | ≤ M, " ( t,ω) .定义


t

hn ( t,ω) = ∫ψ ( s -0
n t) h( s,ω) d s,

1
这里 ,ψn 是 R 上 非 负 连续 函 数 , 使得 对 所 有的 x | - , 0 ,ψn ( x) = 0 且
n


- ∞
ψn ( x ) d x = 1 , 则对每个 ω∈ Ω, hn (・,ω) 连续且 | hn ( t,ω) | ≤ M .由 h ∈ V

可以看出 hn ∈ V , 并且当 n → ∞ 时 , 对每个 ω∈ Ω, 有


T

∫ [ h ( s,ω)
0
n - h( s,ω) ] 2 d s → 0 .

因此再次利用有界收剑定理得式 ( 8 .2 .8) 。
最后 , 对任意的 f ∈V , 存在有界列 hn ∈V, 使得
T

∫ [ f ( t,ω)
2
E - hn ( t,ω) ] d t → 0 .
0

事实上 , 只要令
- n, 若 f ( t,ω) < - n,
hn ( t,ω) = f ( t,ω) , 若 - n ≤ f ( t,ω) ≤ n,
n, 若 f ( t,ω) > n,
利用控制收敛定理即得
^ T

现在 , 我们可以完成 Ito 积分 ∫ f ( t) d B( t) , f ∈ V 的 定义 .
0

定义 8 .3 设 f∈V (0 , T) , 则 f 的 Ito 积分定义为


T T

∫ f ( t,ω) d B (ω)
0
t = nlim
→∞ ∫φ ( t,ω) d B (ω)
0
n t ( L2 ( P) 中极限 ) , (8 .2 .9 )

这里{φn }是初等随机过程的序列 , 使得当 n→∞时 ,


T

E ∫ 0
( f ( t,ω) - φn ( t,ω) ) 2 d t → 0 . ( 8 .2 .10 )

注 8 .1 在实际问题 中 , 我们 常常 遇 到的 过程 并不 满足 V 中 的可 积性 条
第 8章 随机积分与随机微分方程 1 83

^
*
件而仅仅满足下述的 V 中 的条件 .事 实上 , It 积分 的定 义可 以推 广到 更广 泛
o

的过程{ h( s) : s≥ 0}类 :
T


* 2
V = h: { h} 为 B×F 可测的适应过程 , 且 " T > 0 满足 h ( s) d s < ∞ ,
0

a .s . .详细证明请参阅文献 [ 13 ] 或 [17] .
1

例 8 .1 ∫ f ( B( t) ) d B( t) .因 为 B( t) 有 连续 的路
设 f 是连续函数 , 考虑
0
1

∫ f ( B( t) ) d B( t) 有定义 .然而 , 根据
径 , 所以 f ( B( t) ) 也在 [ 0 , 1] 上连续 .因此
0

f 的不同 , 这个积分可以有 ( 或没有 ) 有限的矩 . 例如 :


1 1

( 1) 取 f ( t) = t, 则由于 ∫ E[ B ( t) ] d t < ∞ , E∫ B( t) d B( t) = 0 并且由


2

0 0

性质 8 .1 (3 ) ~ (4 ) 有
1 2 1

E∫ B( t) d B( t) =∫ E[ B2 ( t) ] d t = 1 .
0 0 2
1

∫ d B( t) .虽然积分存在 , 但由于当 t ≥ 1
2 2
( 2) 取 f ( t) = e t , 此时考虑 e B ( t)

0 4
1 1

∫ E[ e ∫ E[ f
2 B2 ( t ) 2 B 2 ( t)
时 , E[ e ] = ∞ , 所以 ] = ∞, 即 ( B( t) ) ] d t < ∞ 不成 立 .
2

0 0

说明积分的二阶矩不存在 .
1

例 8 .2 求积分 J = ∫ td B( t) 的均值与方差 .
0
1 ^

因为 ∫t dt < ∞ , 且 t 是 Ft = σ{ B( s) , 0 ≤ s ≤ t} 适应的 .所以 , Ito 积分 J


2

0
1
1 .
是适定的并且其均值为 E J = 0 , 方差为 E( J ) = ∫ t dt =
2 2

0 3
1

∫ (1

例 8 .3 估计使得积分 - t) d B( t) 适定的 α的值 .
0
1 1 ^

∫ [ (1 - ∫( 1 -

只要 ] dt < ∞ , 即 d t < ∞ , 上述 I t 积分就适定 .所
2 - 2α
t) t)
0 0 o

以只要 α < 1 即可 .
2

^
8 .3 Ito 积分过程
t

设 对任何实数 T > 0 , X ∈V , 则对任何 t ≤ T, 积分 ∫ X( s) d B( s) 是适定


*

0
18 4 应用随机过程

的 .因为对任何固定的 t, ∫ X( s) d B( s) 是一个随机变量 , 所 以作为上 限 t 的函


0

数 , 它定义了一个随机过程{ Y ( t)} , 其中
t

Y ( t) = ∫ X( s) d B( s) .
0
(8 .3 .1 )
^

可以证明 , Iot 积 分 Y ( t) 存 在 连 续 的 样 本 路 径 , 即 存 在 一 个 连 续 随 机 过 程
{ Z( t) } , 使得对所有的 t, 有 Y ( t) = Z( t) , a .s . .因 此 , 从 现在 起我 们所 讨论 的
积分都假定是其连续的样本路径 .本节将讨论这一积分过程的各种随机性质 .
现在我们可以证明其鞅性质 .

定理 8 .1 设 X( t) ∈ V , 并且 ∫ E[ X ( s) ] d s < ∞, 则
* 2

Y ( t) = ∫ X( s) d B( s) ,
0
0 ≤ t≤ T
2
是零均值的连续的平方可积鞅 ( 即sup E[ Y ( t) ] < ∞ ) .
t≤ T
T

证明 由定义 8 .3 后注 , 可知 Y ( t) = ∫ X( s) d B( s) , 0 ≤ t≤ T 是适定的 ,
0

并且具有一阶及二阶矩 .如果{ X ( t) } 是简单过程 , 则由式 ( 8 .2 .4) 之同样的证


明方法可得
t

E∫X ( u) d B( u) | F
s
s = 0, " s< t.

于是 ,
t

E[ Y ( t) | Fs ] = E ∫ X( u) d B( u) | F
0
s

s t

∫ X( u) d B( u) + E∫X ( u) d B( u) | F
= 0 s
s

∫ X( u) d B( u)
=
0
= Y ( s) .

所以{ Y ( t) }是鞅 .由等距性可得其二阶矩


t 2 t

∫ X( s) d B( s) ∫ E[ X ( s) ] d s .
2
E =
0 0

推论 8 .1 对任何有界的 Borel- 可测函数 f ( 即对任何 a ∈ R, 有 { x ∈ R :


t

f ( x ) ≤ a} ∈ B ( R) ) , ∫ f ( B( s) ) d B( s)
0
是平方可积鞅 .

证明 X( t) = f ( B( t) ) 是可测适应的并且有常数 K > 0 使得 | f ( x) | <


T

K , 于是 ∫ E[ f ( B( s) ) ] d s ≤ K T .由定理 8 .1 , 此命题得证 .
2

0
第 8章 随机积分与随机微分方程 1 85

上述的定理提供了构造鞅的方法 .在本章 8 .2 节中我们已经证明 , 非随机


^

的简单过程的 Iot 积分是正态分布的随机变量 .更一般的 , 我们有下述定理 .


T

定理 8 .2 如果 X 是非随 机的 , 且 ∫ X ( s) d s < ∞ , 则对 任何 t, Y ( t) =
2

∫ X( s) d B( s) 是正态分布的随机变量 .即{ Y ( t) , 0 ≤ t ≤ T} 是 Gau ss 过程 , 均


0

值为零 , 协方差函数为
t

∫ X ( s) d s, u≥ 0 .
2
cov ( Y ( t) , Y ( t + u) ) =
0

{ Y ( t) }也是平方可积鞅 .
t t

∫ E[ X ( s) ] d s =∫ X ( s) d s <
2 2
证明 因为被积 函 数 是非 随 机 的 , 所 以 0 0

∞ .由定理 8 .1 知 Y ( t) 具有零均值 , 再由积分及 Y ( t) 的鞅性质 , 有


t t+ u

E∫ X( s) d B( ∫
0
s)
t
X ( s) d B( s)
t t+ u

= E E ∫ 0
X( s) d B( s) ∫ t
X ( s) d B( s) Ft
t t+ u

= E∫ X( s) d B( s) E∫
0 t
X ( s) d B( s) Ft

=0 .
因此
t t+ u

cov ( Y ( t) , Y ( t + u) ) = E ∫ X( s) d B( s)∫
0 0
X( s) d B( s)
t t t+ u

= E ∫ 0
X( s) d B( s) ∫ 0
X( s) d B( s) + ∫ t
X ( s) d B( s)
t 2

= E ∫ X( s) d B( s)
0

t t

∫ E[ X ( s) ] ds =∫ X ( s) d s .
2 2
= (8 .3 .2 )
0 0

t
t3
例 8 .4 根据上述定理可得 J = ∫ 0
sd B( s) ~ N 0 ,
3
.
^

下面讨论 Iot 积分的二次变差 .


t ^

定义 8 .4 设 Y ( t) = ∫ 0
X( s) d B( s) , 0 ≤ t ≤ T 是 Ito 积分 , 如果在依概率

的意义下 , 极限
18 6 应用随机过程

n - 1

δ → n∑
n n 2
lim Y ( ti+ 1 ) - Y ( ti ) (8 .3 .3 )
n i=0
n n n n
当{ ti } i = 0 遍取 [0 , t] 的 分割 , 且 其模 δn = 0 ≤mi≤ax ( ti + 1 - ti ) → 0 时 存在 , 则称 此
n- 1

极限为 Y 的 二次变差 , 记为 [ Y , Y ] ( t) .
t ^

定 理 8 .3 设 Y ( t) = ∫ X( s) d B( s) , 0 ≤ t ≤ T 是 I t 积分 , 则 Y 的二次变
0 o

差为
t

∫ X ( s) d s .
2
[ Y , Y ] ( t) = (8 .3 .4 )
0

证明 首先考虑{ X( s) } 为简 单过 程 的情 形 , 对一 般 情形 , 我 们可 以用 简
单过程逼近的方法得到 , 所以这里我们只 证明 { X( s)} 为简 单过 程的 情形 . 不
妨假定 X( s) 在 [0 , T] 上只取两个不 同的值 , 取任 意有限多 个值的 情形可 类似
1 1
证之 .为简单起见 , 设 T = 1 , X( t) 在 0 , 上取ξ0 , 在 , 1 上取ξ1 , 即
2 2
X( t) = ξ0 I[ 0 , 12 ] ( t) + ξ1 I( 12 , 1 ] ( t) .
于是
1
ξ0 B( t) , 如果 t≤ ,
t
2
Y ( t) = ∫ X( s) d B( s)
0
=
1 1 1
ξ0 B + ξ1 ( B( t) - B , 如果 t > .
2 2 2
因此 , 对 [0 , t] 的任何分割 , 有
n n n n 1
ξ0 ( B( ti+ 1 ) - B( ti ) ) , 如果 ti < ti + 1 ≤ ,
n n 2
Y ( ti+ 1 ) - Y ( ti ) =
n n 1 n n
ξ1 ( B( ti+ 1 ) - B( ti ) ) , 如果 ≤ ti < tn+ 1 .
2
1
当 t≤ 时,
2
n - 1

[ Y , Y ] ( t) = lim∑ ( Y ( ti + 1 ) - Y ( ti ) )
n n 2

i=0

n- 1

=ξ lim∑ ( B( ti+n 1 ) - B( tin ) ) 2


2
0
i= 0

=ξ [ B, B] ( t) = ξ t = ∫ X ( s) d s;
2 2 2
0 0
0

1
当 t> 时,
2
第 8章 随机积分与随机微分方程 1 87

n- 1

[ Y , Y ] ( t) = lim∑ ( Y ( ti+ 1 ) - Y ( ti ) )
n n 2

i= 0

=ξ20 lim∑ ( B( ti+n 1 ) - B( tin ) ) 2 + ξ21 lim∑ ( B( tin+ 1 ) - B( tni ) ) 2


1 1
t < t >
i 2 i 2

t
1 1
+ ξ [ B, B] ∫ X ( s) d s,
2 2 2
=ξ [ B, B]
0 1 ,t =
2 2 0

这里的极限都是当 δn → 0 时 , 在依概率收敛的意义下的极限 .
^

对 于 同 一 个 Brow n 运 动 { B ( t ) } 的 两 个 不 同 的 Ito 积 分 Y1 ( t) =
t t t

∫ X ( s) d B( s) 和 Y
0
1 2 ( t) = ∫ X ( s) d B( s) , 由于 Y
0
2 1
∫ ( X ( s)
( t) + Y2 ( t) =
0
1 +

X2 ( s) ) d B( s) , 我们可以定义 Y1 和 Y2 的 二次协变差 ,

[ Y1 , Y2 ] ( t) = 1 ( [ Y1 + Y2 , Y1 + Y2 ] ( t) - [ Y1 , Y1 ] ( t) - [ Y2 , Y2 ] ( t) ) .
2
由定理 8 .3 , 有
t

[ Y1 , Y2 ] ( t) = ∫ X ( s) X ( s) d s .
0
1 2

8 .4 Ito 公式
^

Ito 公式 , 随机分析中的变量替换公式或链锁法则 , 是随机分析中的一个主

要工具 , 许多重要的 公 式 , 例 如 Dynki n 公 式 , Feynman-Kac 公 式以 及 分部 积


^

分公式 , 都是由 Ito 公式导出的 .


因为 Brow n 运动在 [ 0 , t] 上的二次变差为 t, 即在依概率收敛的意义下
n- 1

δ → 0∑
n n 2
lim [ B( ti + 1 ) - B( ti ) ] = t,
n i= 0

这里{ tni }是 [ 0 , t] 的分割 ,δn = 0 ≤max - tin ) .形式上 , 上式可表示为


n
( t i+ 1
i≤ n - 1
t t

∫ 0
[ d B( s) ] 2 = ∫d s = 0
t,


2
[ d B( t) ] = d t .
更一般地 , 我们有下面定理 .
n n
定理 8 .4 设 g 是有 界 连 续 函 数 , { ti } 是 [ 0 , t] 的 分 割 , 则 对 任 何 θi ∈
18 8 应用随机过程

( B( tn i + 1 ) , B( tni ) ) ( 即 B ( tni+ 1 ) , B( tin ) 之 间 的 任意 值 ) , 依 概 率 收 敛 意 义 下 的


极限
n- 1
t

li m∑ g(θ ) ( B( t ∫ g( B( s) ) d s .
n n n 2
i i+ 1 ) - B( t ) ) i = (8 .4 .1 )
δ → 0 i= 0 0
n

证明 首先取 θin = B( tin ) , 由 g 的连续性和积分的定义 , 有


n - 1 t

∑ g( B( ti ) ) ( ti+ 1 - ti ) → ∫ g( B( s) ) ds .
n n n
(8 .4 .2 )
i=0 0

我们证明
n - 1 n- 1

∑ g( B( t ) ) ( B( t ∑ g( B( t ) ) ( t - tin ) → 0
n n n 2 n n
i i+ 1 ) - B( t ) ) i - i i+ 1
i=0 i= 0

(8 .4 .3 )
2 n n n n
在 L 中成立 .记 ΔBi = B( ti + 1 ) - B( ti ) ,Δti = ti + 1 - ti , 则由 Bro wn 运动 的独
立增量性和取条件期望的方法得到
n- 1
2

∑ g( B( ti ) ) [ (ΔBi ) - Δti ]
n 2
E
i= 0

n - 1

∑ g ( B( t
2 n 2 2
= E E i ) ) [ (ΔBi ) - Δti ] | Ft i
i=0

n- 1

∑ g ( B( t ) ) E[ ( (ΔB ) - Δti ) 2 | Ft i ]
2 n 2
= E i i
i= 0

n - 1

∑ g ( B( ti ) ) (Δti )
2 n 2
=2E
i= 0

n - 1

≤2δE ∑ g ( B( ti ) )Δti → 0 ,
2 n
( 当 δ→ 0 时 ) .
i=0

因此 , 在均方收敛的意义下
n - 1

∑ g( B( t ) ) [ (ΔBi ) 2 - Δti ] → 0 ,
n
i
i=0

n - 1 n - 1

这样 , ∑ g( B( t ) ) ( B( t ) - B( t ) ) 与 ∑ g( B( tin ) ) ( tin+ 1 - tin ) 有相同的极限


n n n 2
i i+ 1 i
i=0 i= 0
t

∫ g( B( s) ) d s .
0

n n n
对任意的 θi ∈ ( B( ti + 1 ) , B( ti ) ) , 当 δn →0 时 ,
n- 1

∑ ( g(θ )
n n 2
i - g( B( ti ) ) ) (ΔBi )
i= 0
第 8章 随机积分与随机微分方程 1 89

n - 1

( g(θ ) - g( B( t ) ) ) ∑ ( B( ti+ 1 ) - B( ti ) ) .
n n n n 2
≤ max i i (8 .4 .4 )
i i=0
n n
由 g 和 B 的连续性 , 我们有 max ( g(θi ) - g( B( ti ) ) ) → 0 , a .s . .由 Brow n
i
n - 1

运动 二 次 变 差 的 定 义 得 ∑ ( B( ti+ 1 ) - B( ti ) )
n n 2
→ t . 于 是 当 δn → 0 时 ,
i=0
n- 1 n - 1 n - 1

∑ ( g(θ ) - g( B( t ) ) ) (ΔBi ) → 0 .因 此 ∑ g(θ ) (ΔBi ) 与 ∑ g( B( ti ) ) ×


n n 2 n 2 n
i i i
i= 0 i= 0 i= 0
t

(ΔBi ) 2 具有相同的依概率收敛意义的极限 ∫ g( B( s) ) d s .
0

现在 , 我们给出 Ito 公式 .

定理 8 .5 如果 f 是二次连续可微函数 , 则对任何 t, 有
t t
1
f ( B( t) ) = f ( 0) + ∫ 0
f′( B( s) ) d B( s) +
2 ∫ f″( B( s) ) d s .
0
(8 .4 .5 )
n
证明 易见式 ( 8 .4 .5) 中的积分都是适定的 .取 [ 0 , t] 的分割{ ti } , 有
n - 1

∑ ( f ( B( ti + 1 ) ) - f ( B( ti ) ) ) .
n n
f ( B( t) ) = f (0 ) +
i=0
n n
对 f ( B( t i+ 1 ) ) - f ( B( t ) ) 应用 T aylor 公式得
i

f ( B( tni+ 1 ) ) - f ( B( tin ) ) = f′( B( tin ) ) ( B( ti+n 1 ) - B( tin ) ) +


1 n n n 2
f″(θi ) ( B( ti+ 1 ) - B( ti ) ) ,
2
n n n
其中 θi ∈ ( B( ti + 1 ) , B( ti ) ) .于是
n - 1

∑ f′( B( t
n
f ( B( t) ) = f (0 ) + i ) ) ( B( ti+n 1 ) - B( tin ) ) +
i=0

n- 1
1

n n n 2
f ″(θi ) ( B( ti + 1 ) - B( ti ) ) . (8 .4 .6 )
2 i= 0
^ t

令 δn → 0 取极限 , 则式 (8 .4 .6 ) 中的第一个和收敛于 Ito 积分 ∫ f′( B( s) ) d B( s)


0
.
t

利用定理 8 .4 可知式 ( 8 .4 .6) 中的第二个和收敛于 ∫ f ″( B( s) ) d s .


0

式 ( 8 .4 .5) 称为 Bro wn 运动的 Iot 公式 , 由此看出 Bro wn 运 动的函数 可以


^

表示为一个 Iot 积分加上一个具有有界变差的绝对 连续过程 .我 们称这类 过程


^

为 Iot 过程 , 严格地 , 我们有下面定义 .


19 0 应用随机过程

定义 8 .5 如果过程 { Y ( t) , 0≤ t≤ T}可以表示为
t t

Y ( t) = Y ( 0) + ∫ 0
μ( s) d s + ∫σ( s) d B( s) ,
0
0 ≤ t ≤ T, (8 .4 .7 )

其中过程{μ( t) }和{σ( t)} 满足


T

( 1) μ( t) 是适应的并且 ∫ | μ( t)0
| dt < ∞, a .s .

( 2) σ( t) ∈V * .
^

则称{ Y ( t) }为 It 过程 .
o
^

有时我们也将 Iot 过程 (8 .4 .7 ) 记为微分的形式


d Y ( t) = μ ( t) d t + σ( t) d B( t) , 0 ≤ t ≤ T, (8 .4 .8 )
其中函数 μ( t) 称 为 漂 移 系 数 ,σ( t) 称 为 扩 散 系 数 , 它 们 可 以 依 赖 于 Y ( t ) 或
B( t) , 甚至整个路径{ B( s) , s≤ t}( 例如 μ ( t) = cos ( M ( t) + t) , 这里 M( t) =
max B( s) ) .一类非常重要的情形是 μ与σ( t) 仅 仅通 过 Y ( t) 依 赖于 t, 在 这种
s≤ t

情况下 , 式 (8 .4 .8 ) 应改写为
d Y ( t) = μ ( Y ( t) ) d t + σ( Y ( t) ) d B( t) , 0 ≤ t≤ T . (8 .4 .9 )
^

如果用微分形式表示 , Iot 公式 (8 .4 .5 ) 变为
1
d( f ( B( t) ) = f′( B( t) ) d B( t) + f ″( B( t) ) d t . ( 8 .4 .10 )
2
B( t )
例 8 .5 求 d( e ) .
^

解 对函数 f ( x ) = e 应用 Ito 公式 , 此时 f′( x ) = e x , f ″( x) = ex , 所以


x

B( t) 1
d( e ) = d f ( B( t) ) = f′( B( t) ) d B( t) + f″( B( t) ) d t
2
B( t) 1 B( t)
=e d B( t) + e dt . ( 8 .4 .11 )
2
B( t )
于是 , X( t) = e 具有随机微分形式

d X( t) = X( t) d B( t) + 1 X( t) d t .
2
在 金 融 应 用 中 , 股 票 的 价 格 S ( t ) 是 用 随 机 微 分 d S ( t) = μ S ( t) d t +
σS ( t) d B( t) 描述的 .如 果 a( t) 表示在 时刻 t 投资 者的 股票各 股收 益 , 那么 在
整个时间区间 [ 0 , T ] 内的收益为
T T T

∫ a( t) d S( t) = ∫
0
μ a( t) S( t) d t + ∫
σ a( t) S( t) d B( t) .
0 0
第 8章 随机积分与随机微分方程 1 91

^ ^

下面定理给出了关于 Iot 过程的 Ito 公式 , 其证明见参考文献 [17] .

定理 8 .6 设 { X( t)}是由
d X( t) = μ( t) d t + σ( t) d B( t)
^

给出的 Iot 过程 , g( t, x) 是 [0 , ∞ ) ×R 上的二次连续可微函数 .则


{ Y ( t) = g( t, X( t) )}
^

仍为 Iot 过程 , 并且
2
g g 1 g 2
d Y ( t) = ( t, X( t) ) d t + ( t, X ( t) ) d X( t) + 2 ( t, X( t) ) ・ ( d X( t) ) ,
t x 2 x
( 8 .4 .12 )
2
其中 ( d X( t) ) = ( d X( t) ) ・ ( d X( t) ) 按照下面规则计算 :
d t・ d t = d t・ d B( t) = d B( t) ・ d t = 0 , d B( t) ・ d B( t) = d t,
即 ( 8 .4 .12 ) 可以改写为
g g
d Y ( t) = ( t, X( t) ) + ( t, X( t) )μ( t) d t +
t x
2
g 1 g 2
( t, X( t) )σ( t) d B( t) + 2 ( t, X( t) )σ ( t) d t .
x 2 x
特别地 , 如果 g( t, x) = g( x) 只是 x 的函数 , (8 .4 .13) 简化为

d Y ( t) = g′( X( t) ) μ( t) + 1 g″( X( t) )σ2 ( t) d t + g′( X( t) )σ( t) d B( t)


2
( 8 .4 .13 )

8 .5 随机微分方程
^

上一节定义了 Iot 过程 , 本 节我 们将 上节 的随 机 积分 的形 式稍 做一 变 化 .

考虑
d X t = μ( t, X t ) d t + σ( t, X t ) d Bt , (8 .5 .1 )
这里 μ,σ是 [0 , ∞ ) ×R 上的 函数 , { Bt } 是一 维 标准 Bro w n 运 动 .这就 是所 谓
的随机微分方程 , 式 (8 .5 .1 ) 的意义是下述的随机积分方程的微分形式 .
t t

Xt = x + ∫μ( s, X ) d s +∫σ( s, X ) d B
0
s
0
s s . (8 .5 .2 )

我们自然会问 , 随机 微 分 方程 的 解是 否 存在 ? 如 果存 在 , 是 否 惟一 ? 有
19 2 应用随机过程

什么性质 ?

8 .5 .1 解的存在惟一性定理

对于一般的随机微分方程来说 , 我 们通 常很难 或者 根本 就无法 求出 显示


解 .为此 , 首先我们给出 随机 微分 方 程 ( 8 .5 .1 ) 解的 定 义 , 然 后 给出 解 的存 在
惟一性定理 .

定义 8 .6 设随机过程 { X( t) , t≥ 0}满足方程 (8 .5 .2) , 则称 { X ( t) , t≥ 0}


为随机微分方程 ( 8 .5 .1) 在初始值 X(0 ) = x 的解 .
由于随机微分方程的解是随机 过程 , 所 以本质 上与 常微 分方程 的解 有很
大差别 .事实上 , 在随机 分 析中 , 有两 种 类型 的 解 .随 机微 分 方 程第 一 种类 型
的解与常微分方程的 解的 情形 类 似 .给 定漂 移 系数、扩散 系 数 和随 机 微分 项
d Bt , 我们确定一个随机 过 程 { X t } , 它 的路 径满 足 方程 ( 8 .5 .2 ) .显然 , 正如 我
们在 ( 8 .5 .2) 右端积分中所见 到的 , { X t }依 赖 于时 间 t 及 Brow n 运动 { Bt } 过
去和现在的值 .这种类型的解称为强 解 .第二种 类型 的解就 是所 谓的 弱解 .对

于弱解 , 我们确定一个过程{X t } :


X t = f ( t,B t ) , (8 .5 .3 )

这里的 Brow n 运动与 {X t }同时确定 .由此对于随 机微分方 程的弱 解来 说 , 问题


只需分别给定漂移系数和扩散系数 .本 书中 我们讨 论随 机微 分方程 的解 就是
指第一种类型的强解 .下面给出解的存在惟一性定理 .

定理 8 .7 设 [0 , T] × R 上的函数 μ( ・ , ・ ) ,σ( ・ , ・ ) 满足
1
( 1) μ( t, x ) ,σ( t, x) 二元可测 , 且 | μ( t, x ) | 2 , |σ( t, x) | 平方可积 ;
( 2) ( Lipschitiz 条件 ) 存在常数 M > 0 , 使得对于 t∈ [0 , T]
| μ( t, x) - μ( t, y) | + | σ( t, x) - σ( t, y ) | ≤ M | x - y | , " x, y ∈ R .
(8 .5 .4 )
( 3) ( 线性增长条件 ) 存在常数 K > 0 , 使得
| μ( t, x) | + | σ( t, x ) | ≤ M(1 + | x | ) , " t ∈ [0 , T] , x∈ R .
(8 .5 .5 )
( 4) ( 初始条件 ) 随机变量 X( t0 ) 关于 Ft0 可测 , 且 E[ X2 ( t0 ) ] < ∞ .
则存在惟一的具有连续路径的随机过程{ X t : t≥ t0 }∈V( t0 , ∞ ) , 满足 随机
微分方程
第 8章 随机积分与随机微分方程 1 93

t t

Xt = X t0 + ∫ μ( s, X ) d s +∫ σ( s, X ) d B , t ≥ t
t
0
s
t
0
s s 0 . (8 .5 .6 )

把方程 ( 8 .5 .6) 的惟一解记为{ X t = X tt0 , X t0 , (ω) } , 表示解对初始 时刻和初 始值


X t0 的依赖 .
证明见参考文献 [ 17 ] .

8 .5 .2 扩散过程

随机微分方程可以刻画扩散 过程 , 扩散 过程 在物 理、生物、信 息、经济、金


融以及社会科学中有着广泛的应用 .例如 , 描述 微小 粒子运 动规 律、具有 白噪
声的信息系统、完全市场中股票价格的波动等 .因此 , 研究扩散过程有重要的应
用价值 .所谓非限制扩散过程是指具有状态空间 S = ( a, b) , - ∞≤ a < b≤∞ , 连
续时间与连续路径的 Markov 过 程 .最简 单的 例子 就是 具有 漂移 系 数 μ和 扩
散系数σ2 的 Brow n 运动
{ X t = μt + σB t , t ≥ 0} ,
其中 μ,σ为常数 , { Bt }为 标准 Bro wn 运动 .在此 情况 下 , S = ( - ∞ , ∞ ) , 在 给
定 Xs = x 时 , Xs+ t 有密度函数
1 1
x - μt )
2
p( t, x, y) = 1 e - 2σ2 t( y - . (8 .5 .7 )
(2πσ t) 2 2

由于{ Bt }具有独立增量 , 所 以自然 具有 Markov 性 .注 意到 ( 8 .5 .7) 不 依赖 于


s, 因此{ X t }是时齐的 Ma rkov 过程 .
我们可以设想 , M arkov 过程 { X t } 是 具有 连 续路 径但 不 具 有独 立 增量 的
过程 .假设给定 Xs = x , 对于 ( 无限小 ) 时间 t, 位移 Xs + t - Xs = Xs+ t - x 的 均值
2 2
和方差具有近似值 tμ( x) 与 tσ ( x) , 这里的 μ( x ) 与 σ ( x ) 是状 态 x 的函数 , 与
2
{ X t }为 Brow n 运动的 情 况 (μ与 σ 为 常数 ) 不 同 .对 于 Bro wn 运 动 而 言 , 显
然 , 当 t↓ 0 , " x∈ S, 满足
E( Xs+ t - Xs | Xs = x) = tμ( x ) + o( t) ,
2 2
E[ ( Xs+ t - Xs ) | Xs = x] = σ
t ( x) + o( t) , (8 .5 .8 )
3
E[ ( Xs+ t - Xs ) | Xs = x] = o( t) .
有 很 多 Ma rkov 过 程 虽 然 具 有 连 续 的 样 本 路 径 , 但 是 却 不 满 足 式
( 8. 5. 8) , 而是满足下面稍微弱一点的性质 :
E[ ( Xs+ t - Xs ) I{ | X s+ t - X | ≤ε}
s
| Xs = x] = μ
t ( x) + o( t) ,
2 2
E[ ( Xs+ t - Xs ) I{ | X s+ t - X | ≤ε}
s
| Xs = x] = σ
t ( x) + o( t) , (8 .5 .8 )′
19 4 应用随机过程

P{ | Xs+ t - Xs | > ε| Xs = x} = o( t) .
我们可以利用这一性质来定义扩散过程 .

定理 8 .8 状态空间为 S = ( a, b) , - ∞≤ a < b≤∞ 的 Ma rkov 过 程称 为


2
一个具有漂移系数 μ( x ) 和扩散系数 σ ( x ) > 0 扩散过程 , 如果
( 1) 具有连续路径 .
( 2) 关系式 (8 .5 .8 )′对所以的 x ∈ S 成立 .
扩散过程的另一种构造方法就是解随机微分方程
d Xt = μ( X t ) d t + σ( X t ) d Bt , X0 = x, (8 .5 .9 )
其中 μ( x ) ,σ( x) 满足定理 8 .7 中的条件 , 这里简化为
| μ ( x ) - μ( y) | + | σ( x) - σ( y ) | ≤ M | x - y | , x, y ∈ S .
( 8 .5 .10 )
x
定理 8 .9 假定式 (8 .5 .10) 成立 , 对 " x∈R , 如果 { X : t≥ 0} 表示随 机微 t

分方程
t t

X tx = x +∫ μ( Xsx ) d s + ∫σ( X ) d B , t≥ 0 .
x
s s ( 8 .5 .11 )
0 0

的解 , 则{ X tx }是R 上 漂 移 系 数和 扩 散 系 数 分别 为 μ( x ) 和 σ2 ( x ) > 0 的 扩 散
过程 .
证明 由 Riemann 积分与随机积分的可加性 , 有
t t

∫μ( X ∫σ( X
x x x x
X = X +
t s u )du + u ) d Bu , t ≥ s . ( 8 .5 .12 )
s s

对 z∈ R , 考虑方程
t t

Xt = z + ∫μ( X ) d u +∫σ( X ) d B ,
s
u
s
u u t≥ s . ( 8 .5 .13 )
t t
将方程 ( 8 .5 .13 ) 的解记为 θ( s, t, z, Bs ) , 这里 Bs = { Bu - Bs : s≤ u≤ t} .不 难验
t t x x
证 ,θ( s, t, z, Bs ) 关于 ( z , Bs ) 可 测 .因 为 { Xu : u≥ s} 是 连 续 随机 过 程 , { X u } ∈
V( s, ∞ ) , 并且由 ( 8 .5 .12 ) 知 , 它是 方程 ( 8 .5 .13 ) 在初 始值 z = Xsx 的解 .由 解
的惟一性 , 有
X tx = θ( s, t, Xsx , Bst ) , t ≥ s . ( 8 .5 .14 )
x t
因为 X 是 Fs 可测的并 且 Fs 与 B 独立 , 所以由 ( 8 .5 .14 ) 可知 , 在 给定 Fs 时
s s

X tx 的条件分布与θ( s, t, z , Bst ) 的分布 ( 记为 q( s, t, z , d y ) ) 在 z = Xsx 处的 值相


同 .因为 σ{ X ux : 0 ≤ u≤ s} Fs , 所以 Ma rkov 性得证 .下面证 明这一 Ma rkov 过
程的时齐性 .对 h > 0 , 方程
t+ h t+ h

∫ μ( X ) d u +∫ σ( X ) d B ,
X t+ h = z +
s+ h
u
s+ h
u u t≥ s ( 8 .5 .15 )
第 8章 随机积分与随机微分方程 1 95

的解 θ( s + h, t + h, z , Bs+t + hh ) 与 ( 8 .5 .13 ) 的解 θ( s, t, z , Bts ) 具有 相同 的分 布 , 因


t t+ h t
为在这两种情况 下 , 除 了 将 Bs 换成 B s+ h 外 , 其 他 函 数 都 是 相 同 的 , 而 Bs 与
B s+t + hh 又具有相同的分布 , 故 q( s+ h, t + h, z, d y) = q( s, t, z , d y) .
x
下面证明{ X t } 具 有扩 散 性 质 ( 8 .5 .8 ) , 为 了简 单 起 见 , 不 妨 假 定 μ( x ) ,
σ( x) 为有界函数 .设
| μ( x ) | ≤ c, | σ( x) | ≤ c, " x ∈ R , ( 8 .5 .16 )
于是
t t


E( X - x ) = E μ( X ) d s + E σ( Xsx ) d Bs ∫
x x
t s
0 0


= E μ( Xsx ) d s
0

∫ E[μ( X
x
= tμ( x) + s ) - μ( x ) ] d s
0

x
= tμ( x) + o( t) ( 因为lim E[μ( Xs ) - μ( x ) ] = 0 ) . ( 8 .5 .17 )
s↓ 0


t 2 t 2

∫μ( X ) ds ∫σ( X
x 2 x x
E( X t - x) = E s + E s ) d Bs +
0 0

t t

∫ ∫
x x
2E μ( X ) d s
s σ( Xs ) d Bs
0 0

∫ E[σ ( X ) ] d s +
2 2 x
= O( t ) + s o( t) . ( 8 .5 .18 )
0

事实上 , 由 Sch warz 不等式 , 得


t t

∫μ( X ) d s ∫σ( X ) d B
x x
E s s s
0 0

1 1
t 2 2 t 2

∫μ( X ∫σ( X
x x 2
≤ E s )ds E s ) d Bs
0 0

1
t 2

∫ E(σ ( X ) ) d s
2 x
= O( t) s
0

1
= O( t) O( t2 ) = o( t) ( 当 t↓0 时 ) , ( 8 .5 .19 )
从而
t

E( X tx - x ) 2 = ∫σ ( X ) d s + o( t) ( 当 t↓0 时 ) .
2 x
s ( 8 .5 .20 )
0

与 ( 8 .5 .17 ) 一样 , 有
t t t

∫ E[σ ( X ∫σ ( x ) d s +∫ E[σ ( X ) - σ2 ( x) ] d s
2 x 2 2 x
s ) ]ds = s
0 0 0
19 6 应用随机过程

= σ
t 2 ( x) + o( t) ( 当 t↓0 时 ) . ( 8 .5 .21 )
最 后 证 明 扩 散 过 程 定 义 中 性 质 ( 8 . 5 . 8 )′的 最 后 一 个 不 等 式 . 由
Cheby shev 不等式 , 有

P{ | X tx - x | > ε} ≤ 14 E[ X tx - x] 4 .
ε
由 μ( x ) ,σ( x) 的有界性 , 有
t t 4

∫μ( X ) d s +∫σ( X ) d B
x 4 x x
E[ X - x]
t = E s s s
0 0

t 4 t 4

∫μ( X ) d s ∫σ( X
3 x x
≤2 E s + E s ) d Bs
0 0

4 2 4 2
≤ 8 [ ( ct ) + 9 t c ] = O( t ) = o( t) ( 当 t↓0 时 ) .

注 8 .2 由此定理可以看出 , 随机微分方程 ( 8 .5 .11 ) 的解 是时齐 Ma rkov


过程 .不仅如此 , 我们还可以证明其具有强 Marokov 性 , 但由于 证明用到 比较
多的随机微分方程的内容 , 故从略 .对此问题有兴趣的读者 , 可参见文献 [17] .

8 .5 .3 简单例子

虽然一般的随机微 分 方程 难 于求 解 , 但 有 一部 分 简 单的 方 程 , 还 是可 以
求出显示解来 .

例 8 .6 求解 Ornstein- U hlenbeck 方程
d X t = - μX t d t + σd Bt (μ,σ为常数 ) . ( 8 .5 .22 )
解 首先 , 将方程 (8 .5 .2 2) 化为
d X t + μ X t d t = σd Bt ,
然后 , 等式两端同乘以 eμ t , 得
μt μt
e ( d X t + μ X t d t) = σe d B t ,

d( X t eμ t ) = σeμ t d Bt ,
对任意的 0≤ t0 < t≤ T, 在等式两端从 t0 到 t 积分 , 有
t


μt μt
Xt e - X t0 e 0 = σeμ s d Bs ,
t
0

于是得
t


μ( t - t)
X t = X t0 e 0 + σe - μ ( t - s) d Bs .
t
0
第 8章 随机积分与随机微分方程 1 97

例 8 .7 考虑群体增长模型
d Nt
= at N t , N0 已知 ,
dt
这里 at = rt + αBt , rt 为 增 长 率 ( 为 了 简 单 , 假 设 为 常 数 r) ,α为 常 数 , B t 为
Brow n 运动 .我们将其化为随机微分方程的形式
d Nt = r N t d t + αN t d Bt , ( 8 .5 .23 )
这种类型的方程称为几何随机微分方程 .
解 首先将方程 ( 8 .5 .23 ) 化为
d Nt
= rd t + αd Bt , ( 8 .5 .24 )
Nt
然后在等式两端从 0 到 t 积分 , 有
t
d Ns
∫0 Ns
= rd t + αB t ( B0 = 0 ) . ( 8 .5 .25 )

为计算左端的积分 , 引入函数
g( t, x ) = l n x , x > 0 .
^

由 Iot 公式 , 得

1 1 1 2
d( l n N t ) = ・ d Nt + - 2 ( d Nt )
Nt 2 Nt
d Nt d Nt α2
= - 1 2 ・α2 N2t d t = - d t,
Nt 2 Nt Nt 2
因此
2
d Nt α
= d ( ln N ) +
t d t,
Nt 2
由方程 ( 8 .5 .24 ) 得
2

r - α t + αB t ,
Nt
ln =
N0 2

α2
N t = N0 exp r - t + αB t . ( 8 .5 .26 )
2
由 Brow n 运动的性质 , 我们可以得到方程的解 Nt 的渐近性质 :
α2
( 1) 如果 r > , 则当 t→∞时 , N t →∞ , a .s .
2
2
α
( 2) 如果 r < , 则当 t→∞时 , N t →0 , a .s .
2
19 8 应用随机过程

α2
( 3) 如果 r = , 则当 t→∞时 , Nt 几乎 必然在 任意 大和 任意小 的值 之间
2
波动 .

8 .6 应用———金融衍生产品定价

随机积分已经成功的应用在金 融衍 生产品 定价 的研究 中 , 以欧 式看 涨期


权为例 , 作为随机 积 分 的 应 用我 们 给 出 两 种期 权 的 定 价 方法 : Black-Scholes
方法和等价鞅测度方法 .

8 .6 .1 Black-Scholes 模型
^

首先 , 讨论 Ito 公式在金融模型研究中的应用 : Black-Scholes 方法 .

1 . 股票的 Black-Scholes 模型
设股票在 t 时刻的价格为随机变量 X t , 且存在常数 b,σ( > 0 ) , 使得
d X t = bX t d t + σX t d Bt , (8 .6 .1 )
其中 b 称为期望收益率 ,σ称为波动率 .由与方 程 ( 8 .5 .23) 同 样的方 法可 以得
到方程 ( 8 .6 .1) 的解
2
σ
X t = X0 exp b- + σB t .
2
我们知道 , { X t }是几何 Brow n 运动 .

2 . Black-Scholes 方程
设一种标的资产 为 股票 的 ( 欧 式 ) 期 权 持有 人 ( 乙 方 ) 在 时 刻 t 的 损益 为
f ( S t ) , 股票价格 St 满足随机微分方程
d S t = St ( bd t + σd Bt ) .
设该期权的交 割时刻 为 T , 交割价格 为 K , 问在 t = 0 时刻 购买这 种期权 应付
多少钱 ? 当 f ( S T ) = ( S T - K ) + 时 , 这个期权称为欧式看涨期权 ( call op tion) ,
看涨期权的卖出方有在时刻 T 以价格 K 卖给 乙方 ( 期权的 买入 方 ) 该期 权所
系股票的义务 , 但乙方可以购买也可以 不购买 ( 只在 股票涨 的时 候购 买 , 从中
+ +
获益 ( S T - K) ) .当 f ( S T ) = ( K - S T ) 时 , 这个期 权称为 欧式看 跌期权 ( p ut
op tion ) , 看跌期权的卖出方有在时 刻 T 以价 格 K 从乙 方 ( 期权 的买 入方 ) 买
进该期权所系股票的 义务 , 但 乙 方可 以卖 也 可以 不 卖 ( 只 在 股 票跌 的 时候 才
第 8章 随机积分与随机微分方程 1 99

卖 , 从中获益 ( K - S T ) + ) .
设在时刻 T 损益为 f ( S T ) 的股票期权在 时刻 t( < T) 的价格为 F( t, S t ) ,
^

于是在 t = 0 时该期权的定价为 f0 = F(0 , S0 ) .下面用 Ito 公式求 出 F( t, S t ) 所


满足的偏微分方程 , 即著名的 Black-Sholes 方程 .
假设期权卖出方在时刻 t 买 进 Δ 份 (Δ待 定 ) 股 票 以抵 消 在 时刻 T 损 失
F ( S T ) 的风险 , 即他花费了 Δ・ St , 于是在时刻 t 他的余额为
Rt = F( t, St ) - Δ・ St .
到时刻 t + d t, 其价值变为
Rt + d t = F( t + d t, St + d t ) - Δ・ S t+ d t .
^

利用 Iot 公式 , 有
d Rt = d F( t, S t ) - Δ・d S t
Fd t + F S t ( bd t + σd Bt ) +
=
t x
2
1 F 2 2
Stσ d t - Δ・ S t ( bd t + σd Bt )
2 x2
2
F F + bS t F
- Δ + 1 σ2 S2t F
= - Δ σ S t d Bt + 2 dt .
x t x 2 x
F
如果取 Δ= ( t, St ) , 则有
x
2
F + 1 σ2 S2t F
d Rt = 2 dt .
t 2 x
可见影响随机波动的因素不再出现 , 所以 Rt 应为无风险的 , 即
d Rt
= r Rt ( r 为无风险利率 ) ,
dt
从而
2
F + 1 σ2 S2t F = r( F - Δ・ S t ) = r F - F
2 St ,
t 2 x x
即 F( t, x) 满足方程
2
F 1 2 2 F F
+ σx 2 + rx - rF = 0 . (8 .6 .2 )
t 2 x x
这就 是 著 名 的 Black-Scholes 方 程 .我 们 可 以 根 据 具 体 的 边 界 条 件 来 求 出
F( t, S t ) 的 解 析 解 或 数 值 解 .对 欧 式 看 涨 期 权 , 其 边 界 条 件 为 F ( T , S T ) =
max( S T - K , 0 ) , 而欧 式看 跌 期 权 , 其 边 界 条 件 为 F( T , S T ) = max ( K - S T ,
0 ) .在这两种情况下 , 方 程是 有显 式解 的 , 我 们称 之为 Black-Scholes 公 式 , 有
20 0 应用随机过程

兴趣的读者 请 参 阅 文 献 [ 7 ] .对 于 F ( T, S T ) = max ( S T - K , 0 ) , Black 和


Scholes 解上述 偏 微 分 方 程 并 得 到 函 数 F ( St , t ) 的 表 达 式 ( 称 之 为 Black-
Scholes 公式 ) :
- r( T - t )
F( St , t) = St N ( d1 ) - Ke N ( d2 ) , (8 .6 .3 )
这里
1 2
ln( S t/ K) + r+ σ ( T - t)
2
d1 = , (8 .6 .4 )
σ T - t
d2 = d1 - σ T - t, (8 .6 .5 )
N( di ) , i = 1 , 2 是标准正态密度的积分
d
1 e-

i 1 2
x
N( di ) = 2 dx . (8 .6 .6 )
-∞

8 .6 .2 等价鞅测度

以某种没有任 何分 红的 股 票 St 的欧 式看 涨期 权 ( European call op tion )


的定价 Ct 为例 .有 两种 方 法来 计 算无 套 利定 价 Ct , 一 种 是我 们 前 面讨 论 的

Black-Scholes 方法 .另外就是 鞅方 法 , 即 寻 找 一个 新 的概 率 使 得在 此 概率 下
P

S t 成为一个鞅 .然后我们可以用解析方法或者数值方法来计算
~ - r( T - t)
Ct = E P e [ max ( S T - K , 0) ] . (8 .6 .7 )
等价鞅测度方法与前 面的 方法 不 同 , 但 是我 们 可以 得 到 同样 的 结果 .因为 这
种方法在一般的教材中很少介绍 , 所以我们在这里给出比较详细的叙述 .

1 . 测度变换的 Girsanov 定理
为了讨论概率测度变换的 Girsanov 定理 , 首先我们讨论简单情形 .
1 ) 正态分布随机变量的变换
固定 t, 考虑正态分布随机变量 zt ~ N (0 , 1 ) , 用 f ( zt ) 表示其密度函数 , 概
率测度为
1 e- 1
( z )
2
d P( zt ) = 2 t d zt . (8 .6 .8 )

定义函数
1 2
ξ( zt ) = e z tμ - μ
2 . (8 .6 .9 )

用 d P( zt ) 乘以 ξ( zt ) , 得到新的概率 dP ( zt ) :
第 8章 随机积分与随机微分方程 2 01


1 - 1 ( z ) 2 + z μ - 1 μ2
dP ( zt ) = [ d P( zt ) ] [ξ( zt ) ] = e 2 t t 2
d zt , ( 8 .6 .10 )



1 - 12 ( z t - μ) 2
dP ( zt ) = e d zt . ( 8 .6 .11 )

不难看出 P, ( zt ) 是与 一个均值 为 μ方差 为 1 的 正态分 布的随机 变量相联 系的


概率 .即 , 测度变换

dP ( zt ) = ξ( zt ) d P( zt ) . ( 8 .6 .12 )
改变了随机变量 zt 的均值 , 而且是可逆的 .即

ξ( zt ) - 1
dP ( zt ) = d P( zt ) . ( 8 .6 .13 )
2 ) Radon-Nikodym 导数与等价测度
仍然考虑函数 ξ( zt ) :
1 2
ξ( zt ) = e z tμ - μ
2 . ( 8 .6 .14 )
用 ξ( zt ) 得到新的概率测度

dP ( zt ) = ξ( zt ) d P( zt ) , ( 8 .6 .15 )
等式两端同时除以 d P( zt ) , 得

dP ( zt )
= ξ( zt ) . ( 8 .6 .16 )
d P( zt )

这一表达式可以认为是一个导数 , 称之为概率测度 关于概率测度 P 的 Radon-


P

Nikodym 导数 , 由 ξ( zt ) 给出 . 把ξ( zt ) 视为概率测度 关于概率测度 P 的密度 .


P

根据这一点 , 如果概率测度 关于概率 测度 P 的 Radon- Ni kodym 导数 存在 , 则


P

可以用其密度 ξ( zt ) 将 zt 的均值进行变换 , 而方差保持不变 .


现在的问题是概率测度 关于概 率测 度 P 的 Radon-Nikodym 导 数存 在的


P

条件 .显然 , 由于 Radon-Nikodym 导数表示为一个分数


dP ( zt )
, ( 8 .6 .17 )
d P( zt )
那么 , 分母不应为零 .然而为了保证 逆变 换存 在 , 分子也 不应 为零 .换 言之 , 给
20 2 应用随机过程

定一个区间 d zt , 概率 和 P 满足
P

P ( zt ) > 0 当且仅当 P( zt ) > 0 . ( 8 .6 .18 )

如果条件 ( 8 .6 .18 ) 满足 , 则ξ( zt ) 存 在 , 并且 我们 可以由 下面 的式 子使得 和 P


P

相互确定 .

dP ( zt ) =ξ( zt ) d P( zt ) , ( 8 .6 .19 )

d P( zt ) =ξ( zt ) - 1 dP ( zt ) . ( 8 .6 .20 )
这说明两个概率测度对所有的实际 问题 来说是 等价 的 , 因此 称之为 等价 的概
率测度 .
3 ) Girsanov 定理
设 ( Ω, F, P) 为完备概率空间 , T > 0 在给定的区间 [0 , T] 上 , 给定一个 子 σ
代数流 ( 或者在实际中称为信息流 ){Ft } .定义随机过程{ξt } , 其中
t t
1
∫ ∫ X du
2
ξt = exp X u d Bu - u , t ∈ [0, T] , ( 8 .6 .21 )
0 2 0

这里过程{ X t }是 {Ft } 适 应的 , { B t } 是 Brow n 运 动 , 其 概 率 分布 记 为 P . 假 定


X t 满足 Novikov 条件
t

∫ X du < ∞, t ∈ [0, T] ,
2
E exp u ( 8 .6 .22 )
0

由 Iot 公式计算微分 , 有
t t
1
dξt = exp ∫ 0
X u d Bu -
2 ∫ 0
X2u d u X t d Bt , ( 8 .6 .23 )


dξt = ξt X t d Bt . ( 8 .6 .24 )
在式 ( 8 .6 .21 ) 中令 t = 0 , 得
ξ0 = 1 . ( 8 .6 .25 )
在式 ( 8 .6 .24 ) 两端取随机积分 , 得
t

ξt = 1 + ∫ξ X d B
0
s s s . ( 8 .6 .26 )


t

∫ξX d B ,
0
s s s ( 8 .6 .27 )

仍然为关于 Brow n 运动的积分 , 所以是一个鞅 , 即


第 8章 随机积分与随机微分方程 2 03

t u

E∫ξX d B
0
s s s Fu ∫ξX d B ,
= 0
s s s u < t. ( 8 .6 .28 )

因此 , 由 (8 .6 .2 6) 知{ξt }是一个鞅 .于是有下面定理 .

定理 8 .10 如果由式 ( 8 .6 .21 ) 定义 的{ξt }是 {Ft } 鞅 , 则 由下 式定 义的 过


程 {B t }
t

∫X dB ,

B t = Bt - s s t ∈ [0 , T ] , ( 8 .6 .29 )
0

是一个关于{Ft }的 Brow n 运动 , 并且概率分布 由下式给出


P

P ( A) = E P ( I AξT ) , A ∈ FT . ( 8 .6 .30 )
这一定理的意义是 , 如果 给定 一个 Brow n 运 动 , 用 其概 率分 布乘 以过 程
~ ~

{ξt } , 则我们得到一 个新 的 Brow n 运动 {B t } , 具有 概 率分 布 .两 个 Brw on 运 动


P

的关系为

dB t = d Bt - X t d t . ( 8 .6 .31 )
上述变换能够进行的条件为过程{ξt }是一个鞅 , EξT = 1 .下面我 们用一个 例子
说明这一变换的作用 .

例 8 .8 令 d St 表示某 种股 票的变 换增 量 .假设 这些变 化是 由许 多很 小


的正态分布的波动组合的结果 , 因此我们可以用随机微分方程表示 S t ,
d St = μd t + σd Bt , t ∈ [0 , ∞ ) , ( 8 .6 .32 )
这里{ Bt }是标准 Brow n 运动 , B0 = 0 , 其概率分布为 P,
1 e - 21t ( Bt ) 2 d Bt .
d P( Bt ) = ( 8 .6 .33 )
2πt
显然 , 如果漂移项 μd t≠ 0 , 则 { St } 不是鞅 .由 St 的表达式
t t


St = μ d s + σ d Bs ,
0 ∫ 0
t ∈ [0,∞ ) , ( 8 .6 .34 )

或者
S t = μt + σB t , ( 8 .6 .35 )
我们有
E( S t+ s | St ) = μ( t + s) + σE ( Bt+ s - B t | St ) + σB t ( 8 .6 .36 )
= St + μs . ( 8 .6 .37 )
故对 μ> 0 , s > 0 ,
E( S t+ s | St ) > S t . ( 8 .6 .38 )
20 4 应用随机过程

{ S t } 不是鞅 .如果令

S t = St - μt, ( 8 .6 .39 )
则可以将其转换为鞅 .这样做的前提是必须知道 μ, 但 是这一风 险回报是 不可
能事先知道的 .而利用 Girsanov 定 理 , 很容 易将 其概 率 测度 变换 为一 个等 价
的鞅测度 , 使得其漂移变为零 .为此 , 必须找 出函 数 ξ( St ) , 然 后用原 来的 概率
测度 .在原来测度 P 下 , { St }可能是一个下鞅 ,
P
E ( St + s | St ) > S t , ( 8 .6 .40 )
但是在新的概率测度下 , { St }是一个鞅 ,

E P ( St + s | St ) = S t . ( 8 .6 .41 )
为了能够进行此变换 , 我们需要计算 ξ( St ) .为此 , 首先回忆 S t 的密度函数
1 1 ( St - μt) 2
fs = exp - 2 d Bt . ( 8 .6 .42 )
2πσ t
2 2σ t

我们的目的是将式 ( 8 .6 .42 ) 定 义 的 概率 P 变 换 为 一 个 新的 概 率 测 度 , 使得
P

{ S t } 成为一个鞅 .定义
1 1 2
ξ( S t ) = exp - 2 μS t - μ t . ( 8 .6 .43 )
σ 2
用 f s 乘以ξ( S t ) , 得

dP ( S t ) = ξ( St ) d P( S t )

1 1 2 1 1
= exp - 2 μS t - μ t exp ( St - μ t ) 2
σ 2 2πσ2 t 2πσ t
2

( 8 .6 .44 )
1 1 2
= exp - 2 S t d St ( 8 .6 .45 )
2
2πσ t σt
但是与此概率测度相联系的是具有漂移为零、扩散系数为 σ的正态 分布过 程 .
即 , 我们可以将 S t 的增量改写为

d St = σdB t , ( 8 .4 .46 )
~ ~

而这一过程是一个鞅 , Brow n 运动{B t }是关于概率测度 定义的 .


P

2 . 从资产定价到鞅模型
假定某种资产 ( 例如股票 ) 的价格过程为
第 8章 随机积分与随机微分方程 2 05

S t = S0 eY t , t ∈ [0, ∞) , ( 8 .6 .47 )
其中{ Y t }是一个 Brow n 运动 , S t 的分布用概率 P 表示 .S t 的 观测值将 根据 P
出现 , 但是这不意味着 P 是最容易处理的概率 .从 上一段的 讨论我 们知道 , 可

以得到一个等价的鞅测度 , 使得资产 定价变 得容 易 , 特别地 , 在这一 概率 测度


P

下 , 资产的价格过程变成一个鞅 .我们的主要任务就是找到 .
P

1 ) 鞅测度的确定
由于 St 的分布由 Y t 的分布确定 , 因此概率 P 由下式给出 :
2
Y t ~ N (μ t,σ t) , t ∈ [0 , ∞ ) . ( 8 .6 .48 )
由 假定 S t 代表标的资产在时刻 t 的价格 , 则 Su , u < t 为较早时刻 u 的观测值 .
一般说来 , 由于无风险回报的存在 , 我们有
P - rt - ru
E (e S t | Su , u < t) > e Su ( 8 .6 .49 )
这里 E P 表示在概率 P 下取数学期望 , 即 , 由下式定义的折现过程{ Zt } ,
Zt = e - r t S t ( 8 .6 .50 )

不是鞅 .下面就来确定鞅测度 , 使得
P
~ - rt - ru
EP ( e S t | S u , u < t) = e Su , ( 8 .6 .51 )
或者

E P ( Zt | Zu , u < t) = Zu . ( 8 .6 .52 )

定义概率测度 为
P
2
N(ρt ,σ t) , ( 8 .6 .53 )

这里的漂移系数可 以 任 意选 择 , 特 别地 , 可 选为 两 个 概 率 测度 P 和 之 差 .注
P

意 , 两个测度的扩散系数是相同的 .下面来计算条件期望

E P ( e - r( t - u) S t | Su , u < t) . ( 8 .6 .54 )
容易得到
~ - r( t - u ) - r( t - u) ρ( t - u) + 1 σ2 ( t - u)
EP ( e St | Su , u < t) = ( Su e )e 2
. ( 8 .6 .55 )
由于 ρ的 任意 性 , 我们 可 以适 当 选择 ρ, 使 得条 件 期 望满 足 鞅条 件 .特 别 地 ,
定义

ρ = r - 1 σ2 , ( 8 .6 .56 )
2
参数 ρ由波动率和无风险利率确定 .这一选择 的结果 是式 ( 式 8 .6 .55 ) 右 端的
指数项等于 1 , 因为
20 6 应用随机过程

1 2
- r( t - u) + ρ( t - u) + σ ( t - u) = 0 .
2
于是

E P ( e - r( t - u) S t | Su , u < t) = Su , ( 8 .6 .57 )

~ - rt - r u
EP (e S t | Su , u < t) = e Su . ( 8 .6 .58 )
~ ~
- rt
这意味着 e S 在概率测度
t 下变成一个鞅 .而 由下面的分布给定
P P

1 2
N r - σ t,σ2 t .
2
2 ) 导出 Black-Scholes 公式
令 Ct 为某种标的资产 S t 的欧式看涨 期权的 价格 .与 Black-Scholes 的讨

论一样 , 假定无 分 红、常 利 率、无 交 易 费 .我 们 的 目 的 是 用 等 价 鞅 测 度 导出


P

Black-Scholes 公式 .
- rt
鞅性质的基本关系是 e Ct 必须满足

Ct = EtP ( e - r( T - t) CT ) , ( 8 .6 .59 )
这里 T 是 期 权的 到期 时间 .我们 知道 在到 期时 , 如果 S T > K , 期 权的 受益 是
S T - K , 否则 , 期权的值为零 .这给出了边界条件
CT = m ax{ S T - K , 0} , ( 8 .6 .60 )
- rt
由e Ct 鞅性质 , 得
~ - r( T - t)
Ct = EtP ( e m ax{ S T - K , 0}) . ( 8 .6 .61 )
为了简单 , 计算期权在时刻 t = 0 时的价格

C0 = E P ( e - rT m ax{ S T - K , 0}) , ( 8 .6 .62 )
Y
我们知道 , 如果 S t = e t , 则
~ 2
1 exp - 1 1 2
dP = 2 YT - r - σ T dY T . ( 8 .6 .63 )
2
2σ T 2σ T 2

于是可直接计算
∞ ~


- rT
C0 = e m ax{ S T - K , 0}dP . ( 8 .6 .64 )
-∞

将 S T = S0 eY T 与式 ( 8 .6 .63 ) 代入式 ( 8 .6 .64 ) 得


∞ 2
1
1 r - 1 σ2 T

- rT
C0 = e max{ S T - K , 0} exp - 2 YT - d YT .
-∞ 2
2σ T 2σ T 2

( 8 .6 .65 )
第 8章 随机积分与随机微分方程 2 07

为了去掉积分号中的 max 函数 , 我们变换积分限 . 由于条件


Y
S0 e T ≥ K ( 8 .6 .66 )
等价于
K
Y T ≥ ln . ( 8 .6 .67 )
S0
将式 ( 8 .6 .66 ) 应用于式 ( 8 .6 .65 ) , 得
∞ 2
1 exp - 1 1
∫ r - σ2 T
- rT Y
C0 = e ( S0 e T - K) YT - dY T .
ln
K
S0
2
2σ T 2σ2 T 2

( 8 .6 .68 )
将这一积分分成两部分 , 有
∞ 2
1 1 1 2
∫ r - σ T
- rT Y
C0 = S0 e e T exp - 2 YT - dY T -
ln K
S
2
2σ T 2σ T 2
0

∞ 2
1 1 1 2
∫ r - σ T
- rT
Ke exp - 2 YT - dY T . ( 8 .6 .69 )
ln K
S
2
2σ T 2σ T 2
0

为计算积分 , 定义变量

YT - r - 1 σ2 T
2
Z = , ( 8 .6 .70 )
σ T
则式 ( 8 .6 .69 ) 右端的第二个积分变为
∞ 2
1
1 r - 1 σ2 T

- rT
- Ke exp - 2 YT - d YT
ln K
S0
2
2σ T 2σ T 2

1 -

1 2
- rT Z
= - Ke ln K - ( r- 1 σ2 ) R
S0 2
e 2 dZ . ( 8 .6 .71 )
σ T

积分的下限很接近 Black-Scholes 公式中的参数 d2 .令
K S0
- ln = ln , ( 8 .6 .72 )
S0 K
得到 Black-Scholes 公式中的参数 d2 ,
S0
ln + r - 1 σ2 T
K 2
- = - d2 . ( 8 .6 .73 )
σ T
令 f ( x ) 为标准正态分布的密度函数 , 则由对称性有
∞ - L

∫ f ( x) d x =∫
L - ∞
f( x) d x . ( 8 .6 .74 )

将上述变换应用于式 ( 8 .6 .73 ) 和式 ( 8 .6 .74 ) 中 , 有


20 8 应用随机过程

- ∞ d
1 - 1 - 12 Z2
∫ ∫
- rT 1 Z2 - rT 2
Ke e 2
d Z = Ke e dZ
- d - ∞
2 2π 2π
- rT
= Ke N ( d2 ) . ( 8 .6 .75 )
因此得到 Black-Scholes 公 式 中 的 第 二 部 分 和 参 数 d2 .下 面 导 出 第 二 部 分
S0 N( d1 ) 和参数 d1 与 d2 之间的关系 .为此将 式 (8 .6 .70 ) 定义的 变量 Z 应用
于式 ( 8 .6 .69 ) 的第一个积分中 , 得
∞ 2
1 1 1 2
∫ r - σ T
- rT Y
C0 = S0 e e T
exp - 2 YT - dY T
ln K
S
2
2σ T 2σ T 2
0


1 - 12 Z2

( r - 1 σ2 ) T - rT σZ T
=e 2
e S0 e e dZ
- d
2 2π
d
1 - 12 ( Z2 + 2σZ

- rT ( r- 1 σ2 ) T 2 T )
=e e 2
S0 e dZ
- ∞

d
Tσ2 1 -

- rT ( r - 1 σ2 ) T 2 1 ( Z +σ T ) 2
= S0 e e 2
e 2
e 2
dZ
-∞

d
1 e - 12 ( Z +σ

2 2
( 做变换 H = Z + σ T )
T )
= S0 dZ
- ∞

d +σ T
1 e-

2 1 2
H
= S0 2 d H = S0 N( d1 ) , ( 8 .6 .76 )
- ∞

这里 d1 = d2 +σ T .这样我们 ( 用不同的方法 ) 得到 Black-Scholes 公式 :
∞ 2
1 1 1 2
∫ r - σ T
- rT Y
C0 = S0 e e T exp - 2 YT - dY T -
ln
K
S0 2σ2 T 2σ T 2
∞ 2
1 exp - 1 1 2
∫ σ T
- rT
Ke YT - r - dY T
ln
K
S0
2
2σ T 2σ2 T 2
- rT
= S0 N ( d1 ) + Ke N ( d2 ) . ( 8 .6 .77 )

习 题
^ t

∫( t -

8 .1 试找出使得 Ito 积分 Y ( t) = s) d B( s) 存在的α值 , 并给出过
0

程{ Y ( t) } 的协方差函数 ( 此过程称为分形 Brow n 运动 ) .


8 .2 设 X( t, s) 是 非 随 机 的 二 元 函 数 ( 不 依 赖 于 B( t) ) , 并 且 使 得
t t

∫ X ( t, s) d s < ∞ , 则对任何 t,∫ X ( t, s) d B( s) 是服 从 Gaus s 分布 的 随机 变


2

0 0
第 8章 随机积分与随机微分方程 2 09

量 , { Y ( t) , 0 ≤ t ≤ T} 是 Gauss 过程 , 其均值函数为 0 , 协方差函数为


t

cov( Y ( t) , Y ( t + u) ) = ∫ X( t, s) X( t +
0
u, s) d s, u> 0 .

8 .3 设 X( t) 具有随机微分形式
d X( t) = ( bX ( t) + c) d t + 2 X( t) d B( t) ,
并假定 X( t) ≥0 , 试找出过程{ Y ( t) = X( t) }的随机微分形式 .
^

8 .4 利用 Ito 公式证明 :
t t
1 3
∫ ∫ B( s) d s .
2
B ( s) d B( s) = B ( t) -
0 3 0

8 .5 设{ X( t)} , { Y ( t) }是 Iot 过程 , 试证
d( X( t) Y ( t) ) = X( t) d Y ( t) + Y ( t) d X( t) + d X( t) ・ d Y ( t) .
由此导出下面的分部积分公式
t

∫ X( s) d Y ( s)
0
= X ( t) Y ( t) - X( 0) Y (0 ) -
t t

∫ Y ( s) d X( s) ∫
0
- d X( s) ・ d Y ( s) .
0

8 .6 设{ B( t) }是标准的 Brow n 运动 , 定义
k
βk ( t) = E[ B ( t) ] , k = 0, 1, 2,…; t≥ 0 .
^

用 Iot 公式证明 :
t
1
βk ( t) =
2 ∫
k( k - 1) 0 βk - 2 ( s) d s, k≥2 .

由此推出
E[ B4 ( t) ] = 3 t2 ,
6
并找出 E[ B ( t) ] .
^

8 .7 设{ B( t) }是标准的 Brow n 运动 , Ft = σ( B( u) , 0 ≤ u≤ t) .利 用 Iot 公


式证明下列随机过程{ X( t) }是{Ft }鞅 :
t
( 1) X( t) = e 2 cos B( t) ;
t
( 2) X( t) = e 2 sin B( t) ;
1
( 3) X( t) = ( B( t) + t) exp - B( t) - t .
2
^

8 .8 求下列 Ito 随机微分方程的解 ( 其中 t≥ 0) :


21 0 应用随机过程

( 1) d X t = μ X t d t + σ d B ( t ) , μ, σ > 0 为 常 数 ( 此 方 程 称 为 O ren st ein-


U h lenbeck 方程 ) , X0 ~ N (0 ,σ2 ) 且与{ B( t) , t≥0}独立 ;
- t
( 2) d Xt = - X t d t + e d B( t) ;
( 3) d Xt = γd t +σX t d B( t) ,γ,σ为常数 ;
( 4) d Xt = ( m - X t ) d t + σd B( t) , m,σ > 0 为常数 ;
- t
( 5) d Xt = ( e + X t ) d t + σX t d B( t) ,σ> 0 为常数 .
第 9章
Levy 过程与关于点过程的
随机积分简介

最近由于 Levy 过程与关于点过程的随 机积分 已经成为 金融等 领域 研究


的重要工具 ( 见文献 [ 1 , 22 ] ) , 我 们 在本 章对 L evy 过程 与关 于 点过 程 的随 机
积分做简要介绍 .

9 .1 Levy 过程

Levy 过程直观上讲 , 可以看 做连续 时间 的随 机游动 .它 的特 征是 有平 稳


独立的增量 , 重要的 Levy 过程有 Brow n 运动 , P oisson 过程 , Cauchy 过程 等 ,
更一 般 的 情 况 是 稳 定 过 程 ( 定 义 见 本 章 例 9 .4 ) .在 前 面 的 章 节 中 , 我 们 对
Brow n 运动和 Pois son 过程做了比较详细的叙述 , 下面给出一般的 Levy 过程
的定义 .

定义 9 .1 ( Levy 过程 ) 随机过程{ X( t) , t≥0}称为 L evy 过程 , 如果


( 1) 对 " t > 0 , s≥0 , X t + s - X t 与 { Xγ , 0≤γ≤ t} 独立 .
( 2) 对 " t > 0 , s≥0 , X t + s - X t 与 X s 有相同的分布 , 特别地, P{ X0 = 0} = 1 .
即{ Xt , t≥0}有平稳的 ( 或称时齐 )独立增量 .
例 9 .1 ( P oisson 过程 ) 由 Pois son 过程的定义 3 .2 易见 , Poisson 过程满
足定义 9 .1 , 因此 Pois son 过 程是 Levy 过程 .容易 验证 , 复 合 Pois son 过程 也
是一类 Levy 过程 , 在定理 3 .6 中 , 我们已经证明了它的独立增量性 , 请读者证
明它具有平稳增量 .

例 9 .2 (Brow n 运动 ) 由 于 Brow n 运 动 是有 独 立平 稳 增 量并 且 服从 正
21 2 应用随机过程

态分布的过程 , 它是被研究最多 , 结果最丰富的一类 Levy 过程 .

例 9 .3 ( Cauchy 过程 ) Cauchy 过程 { X ( t) , t≥ 0} 是以 ( R , B ( R ) ) 为 状
态空间的独立平稳增量过程 , 其增量分布为
s
∫ π( s
P{ X t + s - X t ∈ A} = A
2
+ x2 )
d x, " A ∈ B( R )

P{ X0 = 0} = 1 .

例 9 .4 ( 稳定过程 ) 稳 定过程 { X ( t ) , t≥ 0} 是满 足 下面 条件 的独 立平 稳
1
增量过程 : 存在α> 0 , 使得对 " c > 0 , Xc t 和 cα Xt 有相同的分布 , 其中α称为稳
定过程的阶 .一般称阶为α 的稳 定 过程 为 α 稳定 过 程 , 特 别当 α= 2 时 , 就 是
B row n 运动 , 当 α= 1 时 , 就是 Cauchy 过程 .对于一般 的α稳定 过程最近 也有
很多研究 ( 参见文献 [3 , 18] ) .

9 .2 关于 Poisson 点过程的随机积分

在第 8 章中我们介绍了关于 B row n 运动的随机积分 , 那是 一种具有 连续


路径的积分 .当前 , 在金 融 领域 的 研究 中 , 越来 越 多地 涉 及到 带 跳跃 的 过 程 ,
因此 , 这里 介 绍 一 类 带 跳 跃 项 的 随 机 积 分———关 于 Poisson 点 过 程 的 随 机
积分 .
令 ( x , B ( X) ) 是一个可测空间 , M 是由 ( x, B ( X) ) 上 所有 非负测 度构 成的
+
空间 .BM 是使得对 " μ∈M, " B∈B( X ) ,μ( B) ∈Z ∪{∞} 为可测的 M 上的
最小 σ代数 , 其中Z + 是非负整数集 .

定义 9 .2 Pois son 随机测度 一个取值在 ( M, BM ) 上 的随机变 量 μ称为


一个 P oisson 随机测度 , 如果
( 1) " B∈B( X) ,μ ( B) 服从 P oisson 分布 , 即
n

P{μ( B) = n} = (λ ( B) ) exp ( - λ ( B) ) ,
n!
n = 0, 1, 2, …, λ( B) = E[μ( B) ] , B ∈ B ( X) ,
如果 λ( B) = ∞ , 规定 μ( B) = ∞ , a .s .
( 2) 如果 B1 , B2 , … , Bn ∈B( X) 互不相 交 , 则 μ( B1 ) ,μ( B2 ) , … ,μ( Bn ) 相
互独立 .

定义 9 .3 ( 点函数 ) 设 Dp 是 ( 0 , ∞ ) 的一个可 数子集 , 从 Dp 到 可测 空间


第 9章 Levy过程与关于点过程的随机积分简介 2 13

( X , B ( X) ) 的函数
p: Dp → X
称为 X 上的点函数 .
一个点函数 p 可以定义一个乘积空 间 ( 0 , ∞ ) × X 上的 计数 测度 N p ( d t,
d x) :
N p ( d t, d x) = # { s ∈ Dp : s ≤ t, p( s) ∈ U} , t > 0, U ∈ B ( X) ,
其中“ # ”指计数 .
令ⅡX 为 X 上 的 点 函 数 全 体 , B ( ⅡX ) 是 使 得 所 有 p → N p ( ( 0 , t] × U ) ,
t > 0 , U∈B ( X) 为可测的最小 σ代数 .

定义 9 .4 ( 点过程 ) X 上的 点 过程 { p}是 指 一个 ( ⅡX , B ( ⅡX ) ) 值 的随 机
变量 .点过程{ p}称为稳定的 , 如果 " t > 0 , p 和θt p 有相同的分布 , 其中
(θt p ) ( s) = p( s + t) ,
Dθt p = { s ∈ (0 , ∞ ) , s + t ∈ Dp } .
{ p}称为 Poisson 点过程 , 如果 N p ( d t, d x) 是 ( 0 , ∞ ) × X 上 的 P oisson 随
机测度 .
可以 证 明 , 一 个 Poisson 点 过 程 { p} 是 稳 定 的 当 且 仅 当 np ( d t, d x ) ≡
E( N p ( d t, d x) ) 有形式
np ( d t, d x) = d tn( d x) ,
这里 n( d x) 是 ( X , B( X) ) 上的一个测度 , 称之为 { p} 的特征测度 .
上面关于 P oisson 点过程的定义比较抽象 , 为 便于理解 , 我 们给出一 个直
观的说明 .
设{ξt , t≥ 0}是一个 Poisson 过程 , 令 T0 (ω) = 0 , Tn (ω) 是{ξt } 的 第 n 次跳
跃时刻 , 在第 3 章中我们已经知道 Tn 的分布为

(λt ) j
∑e
- λt
P{ Tn ≤ T} = P{ξt ≥ n} = .
j= n j !
再令
N ( t) = # { n ≥ 1 : Tn (ω) ≤ t} ,
即 t 时刻前{ξt }的跳跃次数 , 实际上 N( t) =ξt . 易知 N( t) 单调增加 , 它对 应一
个测度 N ( d t) 称为 计数 测 度 .考虑 更一 般 的情 况 , 即复 合 Pois son 过程 情 况 ,
第 n 次的跃度不再是 1 , 而是一个随机变量 Y n , 则计数测度为
N ( t, A) = # { n ≥ 1 : ( Tn (ω) , Y n (ω) ) ∈ (0 , t] × A} .

定义 9 .5 ( P oisson 点过程 ) 点过程{ p}称为 Poisson 点过程 , 如果


21 4 应用随机过程

( 1) 存在 B( ( 0 , + ∞ ) × X) 上 的测 度 n( ・ ) 使 得 N ( ( s, t ] × A) 服 从 以
n( ・ ) 为强度参数的 P oisson 分 布 ( 当 n( D) = + ∞时 , 定 义 n( D) = + ∞ ) , 此
时称 n( ・ ) 为强度测度 ;
( 2) 设 D1 , … , Dk ∈B ( ( 0 , + ∞ ) × X ) 且互 不相交 , 则 N( D1 ) , … , N ( Dk )
相互独立 .
事实上 , 我们容易由 Pois son 过程得到点过程 , 其强度测度为
n( ( s, t] × A) = ( t - s)δA ( 1) ,
其中 δA ( ・ ) 是 Dir ac 测度 .
^

定义 9 .6 ( 补偿测度 ) 随机测度 ( t, A) 称为点过程{ p}的补偿测度 , 如果


N
^

N p ( t, A) N- ( t, A)
是一个鞅 .
容易证明 , n( ( s, t] × A) 就是 Pois son 点过程的补偿测度 .而复合 Pois son
N( t)

点过程 ξt ∑ Y i
i= 1

的补偿测度是
( t, A) = λtF ( A) ,
^
N

其中 λ是 N ( t) 的 强 度 参数 , F ( ・ ) 是 Y i 的分 布 函 数 .给 定 Poisson 点 过 程
{ p} , 记
^

Np ( d t, d x ) = N p ( d t, d x) N- p ( d t, d x ) .
下面介绍关于 P oisson 点过程{ p}的随机积分 .首 先介绍 ( Ft ) -P oisson 点
过程的概念 , 这里{Ft } t≥ 0 是 Ω上的σ代数流 , 并且满足通常条件 , 即 :
( 1) Ft 单调增加 , 即对 " t > s≥0 , Fs Ft ;
( 2) Ft 右连续 , 即 Ft = ∩ u > t Fu ;
( 3) Ft 完备 , 即 F0 Ft , F0 包含所有 P-零集 .

定义 9 .7 ( ( Ft ) -Pois son 点过程 ) 点 过程 { p}称 为 ( Ft ) -Pois son 点过 程 ,


如果
( 1) 它是{Ft } 适应的、
σ有限的 Poisson 过程 ;
( 2) 对 " U∈B( X) , { N p ( t + h, U ) - N p ( t, U ) }与 Ft 独立 ; 这里 σ有 限是
指 : v Un ∈ B( X) , n = 1 , 2 , … , 使得 Un ↑ X( 即 ∪n U n = X) E( N p ( t, U ) ) < ∞ ,
" t> 0 , n = 1, 2, … .
以下我们只考虑满足条件 : t→ E( N p ( t, U ) ) 连续的 ( Ft ) -Pois son 点过 程 ,
第 9章 Levy过程与关于点过程的随机积分简介 2 15

其中
U ∈ Γp ≡ { U ∈ B( X) , E( N p ( t, U ) ) < ∞} ,
^

此时 p ( t, U ) = E[ N p ( t, U ) ] .
N

定义 9 .8 定义在 [0 , ∞ ) × X ×Ω 上的 实 值函 数 f ( t, x, ω) 称 为 ( Ft ) -可
料的 , 如果 ( t, x ,ω) → f ( t, x,ω) 关于 φ | B ( R ) 可测 . 其 中 φ是使 得满 足以 下
条件的映射为可料的最小σ代数 :
( 1) " t > 0 , ( x,ω) → g( t, x,ω) 是 B( X) ×Ft -可测的 ;
( 2) " ( x,ω) , t→ g( t, x,ω) 左连续 .
考虑如下两类函数
t+

( 1) Fp = f ( t, x ,ω) : f 是 ( Ft ) - 可 料 的 , 并 且 " t > 0 , ∫∫ 0 X


f ( s, x ,

ω) N p ( d s, d x ) < ∞ , a .s . ;
t+

( 2) F′p = f ( t, x,ω) : f 是 ( Ft ) - 可料的 , 并 且 " t > 0 , E ∫∫ 0 X


f ( s,
^

x, ・) N p ( d s, d x ) < ∞ .

对于 f∈ Fp , 我们可以按照 Lebesgue-Stieltjes 积分的定 义方式 定义 随机


积分
t+

∫∫ 0 X
f ( s, x, ・) N p ( d s, d x) , a .s .


s ≤ t ( s) ∈ D
p n
f ( s, p( s) , ・)

当 n→∞时的极限 .
对 f∈ F′
p , 可以证明

t+ t ^

E∫∫ 0 X
f ( s, x, ・) N p ( ds, d x) = E ∫∫
0 X
f ( s, x, ・) N ( d s, d x) ,

这意味着 Fp p , 令
F′
t+ ~ t+

∫∫ 0 x
f ( s, x , ・)N p ( d s, d x ) = ∫∫ f ( s, x, ・) N
0 X
p ( d s, d x ) -
t ^

∫∫ f ( s, x, ・)
0 X N
p ( d s, d x) ,
t+ ~

则 t→ ∫∫ f ( s, x , ・)
0 X N
p ( d s, d x ) 是{Ft } 鞅 .
21 6 应用随机过程

^
(1 ) ( n)
定理 9 .1 (Iot 公式 ) 设 X( t) = ( X ( t) , … , X ( t) ) 有如下形式 :
t+ t+ ~

∫∫ f ∫∫ g ( s, x, ・)
( i) ( i) i i
X = X (0 ) + ( s, x, ・) N p ( d s, d x ) + p ( d s, d x) .
0 X 0 X N

2 n
若 F∈ C ( R ) , 则 F( X( t) ) 的形式为
t+

F( X( t) ) - F( X(0)) = ∫∫ 0 X
F( X( s - ) + f ( s, x,・) ) - F( X( s - )) Np (ds,d x) +
t+ ~

∫∫ 0 X
F( X( s - ) + g( s, x,・) ) - F( X( s)) N p (ds, dx) +
t+

∫∫ 0 X
F( X( s) + g( s, x,・) ) - F( X( s) ) -

^Np (ds,d x) ,
∑ g ( s, x,・) F′( X( s))
i
i

F
其中 F′i = .
xi
证明略 .
^

上面的 Iot 公式看似简洁 , 但是从 应用的角度看 , 不是很方 便 .所以 我们给


^

出一个更为直接的带有跳跃项的 Iot 公式 .考察 一个具 有下述形 式的随机 微分


方程
d S t = at d t + σt d Bt + d Jt , t ≥ 0, (9 .2 .1 )
这里{ Bt }是标准 Bro wn 运动 , d J t 表示跳跃项 , 假定跳跃项在有限时段内 具有
零均值 , 即
E(ΔJt ) = 0 . (9 .2 .2 )
此外还要对跳跃项做如下约定 : 在跳跃时 间 τj ( j = 1 , 2 , … ) , 跳跃是 一个 离散
的随机变量 ( 假设有 k 种可能 的跳 跃 类型 和跳 跃尺 度 { ai , i = 1 , 2 , … , k} ) .跳
跃的发生强度 λt 依赖于最后 的观察 S t .一旦 跳跃 发生 , 其类 型和 尺度 都是 独
立随机的 , 发生尺度为 ai 跳跃的概率为 p i .
这样 , 在一个很小的时间 ( t, t + h] 区间内 , 跳跃增量 ΔJ t 由下式给出
k

ΔJ t = ΔN t - λt h ∑ap
i= 1
i i , (9 .2 .3 )

这里 N t 是直到时刻 t 所发生的跳跃的总和 , 严格地讲 , 就是 ΔNt , 如果在时间


k

h 内 , 跳跃尺度为 ai , 则 ΔN t 的值为 a i .∑ ai p i 表示跳跃的期望值 ,λt h 表示跳


i=1
第 9章 Levy过程与关于点过程的随机积分简介 2 17

跃发生的概率 .将这些量从 ΔNt 中减去 , 使得 ΔJ t 不可预测 .


在上述的条件下 , 漂移系数 at 可以表示为两个漂移的和
k

at = μt + λt ∑ap i= 1
i i , (9 .2 .4 )
^

这里 μt 表示 S t 中连续运动的漂移系数 .于是 Ito 公式为


k
1
∑ ( F( St + ai , t) - F( St , t) ) pi +
2
d F( St , t) = 2 + λ
F′ t F″
1 1σ dt +
i=1 2
F′
1 d St + d JF , (9 .2 .5 )
2
F F F
这里 F′
2 = , F′
1 = , F′
11 = , 而 d J F 由下式给出 :
t s s s
k

d J F = [ F( St , t) - F( S , t) ] - λt ∑ ( F( S
-
t t + ai , t) - F( St , t) ) pi d t,
i =1

(9 .2 .6 )
其中
-
S t = lim Ss . (9 .2 .7 )
s→ t -

在实 际 问 题中 如 何计 算 d J F 呢 ? 首 先应 计 算随 机 跳跃 的 期 望变 化 , 即
式 ( 9 .2 .6) 的右端第二项 .在计算中用到了在 时间 d t 内 的可 能跳跃 的强 度和
由于 S t 跳跃引起的 F( ・ ) 的跳跃尺度的期望值 .如果观察到在 这一特别 时间
内的跳跃 , 则式 (9 .2 .6 ) 右端第一项存在 , 否则为零 .
习题参考答案

第 2 章

2 .1 证明 ( 必要性 ) 由宽平稳过程的定义 , 只需计算 E[ X( S) X ( s + t) ] .


由γ( s + t, s) 只与 t 有关 , 故是仅依赖于 t 的函数 , 与 s 无关 .
( 充分性 ) 只需证明
γ ( t, s) = γ( 0 , t + s)
对任何 s, t 成立 .令 t - s = t′, 则
γ ( t, s) = γ( s + t′, s) ,
由 γ( s + t′, s) 仅与 t′有关与 s 无关可知 ,γ( t, s) 只 与 t - s 有 关 , 故得 { X ( t)} 的
宽平稳性 .
2 .2 解 因 Z1 , Z2 是独立且有相同正态分布的随机变量 , 且
X ( t) = Z1 cosλt + Z2 sinλt,
2 2
故 E( X t ) < ∞ 且 E Z1 = E Z2 = 0 , var ( Z1 ) = var ( Z2 ) = σ , E( Z1 Z2 ) = E Z1 E Z2
= 0 .则
E X t = cosλt E Z1 + sinλt E Z2 = 0 ,
γ ( s, t) = E( Z1 cosλs + Z2 sinλs) ( Z1 cosλt + Z2 sinλt )
= cosλscosλtE Z21 + cos λssinλt E Z1 Z2 +
2
sinλscosλt E Z2 Z1 + sinλssinλtE Z2
=σ2 cosλ( t - s) .
所以{ X t }是宽平稳的 .
2 .3 证明 因为 " n1 < n2 < … < nk ,
n
i+1

X( ni+ 1 ) - X( ni ) = ∑
s = n +1
i
Z( s) , " i = 0 , 1 , 2 … ,

又 Z0 , Z1 , … , 是 独 立同 分布 的随 机变 量 . 故 X ( ni + 1 ) - X( ni ) 相互 独 立 . 即
{ Xn , n≥0} 是独立增量过程 .
2 .4 证明 (1 ) 过程{ Y ( t) 的均值函数为
E( Y ( t) ) = E( 1・ I{ X ( t ) ≤ x} + 0 ・ I{ X( t) > x } )
= 1・ P{ X( t) ≤ x} + 0 ・ P{ X( t) > x}
习题参考答案 2 19

= P{ X( t) ≤ x}
= F X ( x) ,
即 Y ( t) 的均值函数为 X( t) 的一维分布函数 .
( 2) 过程{ Y ( t)} 的相关函数为
E[ Y ( t1 ) Y ( t2 ) ] = 1 × 1 × P{ X( t1 ) ≤ x1 , X( t2 ) ≤ x2 } +
1 × 0 × P{ X( t1 ) ≤ x1 , X( t2 ) > x2 } +
0 × 1 × P{ X( t1 ) > x1 , X( t2 ) ≤ x2 } +
0 × 0 × P{ X( t1 ) > x1 , X( t2 ) > x2 }
= P{ X( t1 ) ≤ x1 , X( t2 ) ≤ x2 }
= Ft1 , t2 ( x1 , x2 ) ( " t1 , t2 ∈ T ) ,
即 Y ( t) 的相关函数为 X( t) 的二维分布函数 .
2 .5 解 过程{ Y ( t)} 的均值函数为
E[ Y ( t) ] = E[ X( t) + φ( t) ] = μX ( t) + φ( t) .
过程{ Y ( t) }的协方差函数为
γY ( t1 , t2 ) = cov( Y ( t1 ) , Y ( t2 ) )
= E[ Y ( t1 ) - E( Y ( t1 ) ) ] [ Y ( t2 ) - E( Y ( t2 ) ) ]
= E[ Y ( t1 ) Y ( t2 ) - E( Y ( t1 ) ) E( Y ( t2 ) ) ]
= E[ ( X( t1 ) + φ( t1 ) ) ( X( t2 ) + φ( t2 ) ) -
(μX ( t1 ) + φ( t1 ) ) (μX ( t2 ) + φ( t2 ) ) ]
= E[ X( t1 ) X( t2 ) - μX ( t1 )μX ( t1 2) ]
= cov( X( t1 ) , X( t2 ) ) = γX ( t1 , t2 ) .

1
2 .6 证明 ( 1) 因 E[ X( t) ] = E( sin Ut ) = ∫ 1 2π
sin utd u = 0 ,

γX ( t1 , t2 ) = E( sin Ut1 sin U t2 )



1

=
1 2π
sin Ut1 sin Ut2 d u

1 1
= ∫
2π 0
-
2
[ cos u( t1 + t2 ) - cos u( t1 - t2 ) ] d u

1
, t1 = t2 ,
= 2 t1 , t2 ∈ N .
0, t1 ≠ t2 ,
故{ ( X( t) , t = 1 , 2 , …}是宽平稳过程 .
又 t = 1 , 2 时 , sin U 与 sin 2 U 的分布函数不同 , 故{ X( t) , t = 1 , 2 , … , }不
22 0 应用随机过程

是严平稳过程 .
2 2
( 2) 因 | si n Ut | ≤1 , 所以 E( | sin Ut | ) < ∞ . 故 X( t) 是二阶矩过程 , 又
0, t = 0,
E[ X( t) ] = 1 - cos2πt 对于 " t ≥ 0 , 有 E[ X( t) ] ≠ μ( 常数 ) .
, t≠ 0 ,
2πt
故 { X( t) , t≥ 0}不是宽平稳过程 .又 X( 0) 与 X(1 ) = sin U 的分布函数不同 , 故
{ X( t) , t≥0}也不是严平稳过程 .
2 .7 证明 这是因为

1 - τ γ(τ) dτ
2T
1
lim
T→ ∞ ∫
T 0 2T

1 - τ σ2 cos τdτ
2T
1
= T→
lim∞ ∫
T 0 2T
=0 .
对固定的 τ,
1 2T
τ1

2
lim 1 - ( B(τ1 ) - γ (τ) ) dτ1 ≠ 0 .
T→ ∞ T 0 2T
其中 B(τ1 ) = E[ X( t +τ+ τ1 ) X ( t +τ1 ) X( t +τ) X( t) ] .

第 3 章

3 .1 解 由 条 件 可 知 , 接 受 体 检 的 同 学 的 人 数 服 从 强 度 为 λ= 30 的
Possion 分布 , 即 E[ N( t) ] = 30 .
P{ N( t + 1 ) - N ( t) ≤ 40} = P{ N (1 ) ≤ 40}
40

= ∑ P{ N (1 ) - N(0 ) = i}
i= 1

40 i

= ∑ 30 e - 30 .
i= 0 i !

3 .2 解 (1 )
p = P{ T N 1 < T N2 }
∞ t N - 1 N -1
(λ1 t1 ) 1 (λ2 t2 ) 2
∫ d∫
2
= t 2 λ1 e - λ1 t1 ・ λ2 e - λ2 t2 d t1 .
0 0 ( N1 - 1) ! ( N2 - 1 ) !
1
( 2) .
2
3 .3 解 (1 ) 记 第 i 个 过程 中 第 一 次 事 件 发 生 的 时 刻 为 t i1 , i = 1 ,
2 , … , n, 则 T = mi n{ ti1 , i = 1 , 2 , … , n} . 由 ti1 服从指数分布 , 有
习题参考答案 2 21

P{ T ≤ t} = 1 - P{ T > t}
= 1 - P{min{ ti1 , i = 1 , 2 , … , n} > t}
= 1 - P{ ti1 > t, i = 1 , 2 , … , n}
n

=1 - ∏ P{ t
i=1
i1 > t}
n

=1 - ∏ {1
i=1
- ( 1 - e - λi t )}
n

= 1 - exp - ∑λ i= 1
it .
n

( 2) a . N (0 ) = ∑ N ( 0)
i= 1
i = 0 .

b . 由{ Ni ( t) , i = 1 , 2 , … , n} 为 相 互 独 立 的 Pos sion 过 程 知 , 对 于 " s,


t≥0 ,
n

N ( t + s) - N( t) = ∑( N ( t +
i=1
i s) - N i ( t) )

与 t 无关 , 且 N ( t) 为独立增量过程 .
c . " t,τ> 0 ,
P{ N ( t + τ) - N ( t) = n}
n

= P ∑ [ N ( t + τ)
i= 1
i - Ni ( t) = n ]
n

= ∑P
n = n
i
Ni ( t + τ) - Ni ( t) = ni , ∑ ni = n, i = 1 , … , n
i =1

n n n
λi i n - λ τ

∑∏
i
= τe i=1

n = n i=1
i
ni !
n
n
τ∑λi n
i= 1 - λ τ
i
= e i= 1
, n = 1, 2, …
n!
这里利用了公式
n n
λi i
(λ1 + … + λn ) ∑∏
n
= n !,
n = n i=1
i
ni !
n n

故 N( t) = ∑ N ( t) , t ≥ 0
i= 1
i 是参数为 λ = ∑λ 的 Possion 过程 .
i= 1
i
22 2 应用随机过程

( 3) P{ N1 ( t) = 1 | N ( t) = 1}
= P{ N1 ( t) = 1 , Ni ( t) = 0 , i = 1 , 2 , …}/ P{ N ( t) = 1}
n n
n
-λt

∏e ∑λi te i = 1 i
-λ t λt
= λ1 te i -
1

i= 2 i= 1

λ1
= .
λ1 + … + λn
3 .4 证明 对于过程{ N ( t) , t ≥ 0} , 设每次事件发生时 , 有 r 个人对此
r

以 概率 p1 , p2 , … , pr 进行记录 , 且 ∑ pi = 1 , 同时事件的发生与被记录之间相
i =1

互 独立 , r 个人的行为也相互独立 .以 N i ( t) 为到 t 时刻第 i 个人所记录的事件


的数目 .可 以 证 明 { Ni ( t) , i = 1 , 2 , … , r} 是 相 互 独立 的 P oisson 过 程 , 强 度
为 λp i .
3 .5 解 设{ N( t) , t≥ 0}是服从参数为 3 的 Poisson 过程 . 则
3 3
3i - 3
P{ N (1 ) ≤ 3} = ∑ P{ N( 1) - N( 0) = i} = ∑ e
i= 0 i=0 i!
-3 32 33 -3
=e 1 +3+ + = 13e ,
2 ! 3!
P{ N(1) = 1 , N(3) = 2} = P{ N(3) - N(1) = 1} P{ N(1) - N(0) = 1}
61 - 6 31 - 3 - 9
= e ・ e = 18e ,
1! 1!
-3
P{ N( 1) ≥ 2} 1 - 4e
P{ N (1 ) ≥ 2 , N( 1) ≥ 1} = = - 3 .
P{ N( 1) ≥ 1} 1 - e
3 .6 证明 当 s< t 时,

P{ N ( s) = k | N ( t) = n} = P{ N( s) = k, N( t) = n}
P{ N ( t) = n}
P{ N ( s) = k, N ( t) - N( s) = n - k}
=
P{ N( t) = n}
(λs) k - λ s ( ts)λ n - k - λ( t - s)
e ・ e
k! ( n - k) !
=
(λt ) n - λt
e
n!
k n- k
n! sk ( t - s) n - k s t - s
= ・ n = C nk
k !( n - k) ! t t t
k n- k
n s s
= 1 - , k = 0, 1, …, n .
k t t
3 .7 解 不是 .提示 : 求 X ( t) 的特征 函数 , 利用特 征函数与 分布函 数的
习题参考答案 2 23

一一对应关系 , 证明 X( t) 的特征函数是
ir - ir
φX ( r) = exp[ (λ1 te + λ2 te ) - (λ1 + λ2 ) t] .
3 .8 解 由于 X1 , X2 , X3 i・i・ d , 且服从指数分 布 P(λ) , 故 X1 , X2 ,
X3 的联合分布函数为
P X { t′ 2 , t′
1 , t′ 3 } = P{ X1 < t′
1 , X2 < t′
2 , X3 < t′
3 }

3
= λ e - λ( t′ 2 + t′
1 + t′ 3 ) .

T1 = X1 , X1 = T1 ,
又由于 T2 = X1 + X2 , X2 = T2 - T1 , J =1,
T3 = X1 + X2 + X3 , X3 = T3 - T2 ,
所以
P T { t1 , t2 , t3 } = P X { t1 , t2 - t1 , t3 - t2 } ・ J
3 - λt
λe 3
, 0 < t1 < t2 < t3 ,
=
0, 其他 .
3 .9 解 对 s > 0,
E[ N ( t) N ( t + s) ] = E[ N( t) ( N( t + s) - N( t) + N ( t) ) ]
2
= E[ N( t) ( N( t + s) - N( t) ) ] + E[ N ( t) ]
2
= E[ N( t) - N (0 ) ] E[ N( t + s) - N( t) ] + E[ N( t) ]
2
= λt・λs + λt + (λt )
= (λt ) 2 + λt (λs + 1 ) .
3 .1 0 解 由题意知 , 接受服务 的患者 人数 N ( t) 是 强度 为 3 的 Possion
过程 .
设 8 : 00 为 0 时刻 , 第 i 个呼 唤者 在医 院停留 的时 间为 T i , 则 在 ( 0 , t) 时
间内接受过治疗的患者平均在医院停留的时间为
N( t)

-
E ∑T i=1
i

T = ,
E [ N( t) ]

N( t) N ( t)
t
E ∑T
i= 1
i = E E ∑Ti= 1
i | N ( t) = n =
2
E[ N( t) ] ,

且 t = 4 , 所以
E[ N ( t) ] = 3 × 4 = 12 ,
N ( t)

E ∑T
i= 1
i = 24 ,
22 4 应用随机过程

N( t)

-
E ∑T
i=1
i
24
T = = = 2,
E [ N( t) ] 12
即接受过治疗的患者平均在医院停留了 2h .
3 .11 解 ( 1) P{ X2 > t | X1 = τ} = P{ N (τ+ t) - N(τ) = 0 | X1 = τ}
= P{ N (τ+ t) - N(τ) = 0}
= e - [ m (τ+ t) - m(τ) ]
τ+ t
= e∫
- λ( s) d s
τ ( 与 τ有关 ) ,
即 X2 与 X1 不独立 , 所以 { X i , i = 1 , 2 , …} 不独立 .
t

= 1 - e∫0
- m( t ) - λ( s) d s
( 2) P{ X1 ≤ t} = 1 - P{ X1 > t} = 1 - e ,
P{ X2 ≤ t} = 1 - P{ X2 > t}

= 1 - ∫ P{ X 0
2 > t | X1 = τ} P{ X1 = τ}dτ


- m ( t+ τ)
= 1 - e m(τ) dτ,
0

故 X1 与 X2 分布不同 ( 虽然都服从指数分布 , 但分布的参数不同 ) .


3 .1 2 解 考虑非齐次 P ossion 过程 , 强度函数为
120 , 0 < t≤ 1,
λ( t) = 60 , 1 < t≤ 4, ( 单位 : h)
120 , 4 < t≤ 5,
41
则 m( t) =∫12 3 λ( t) d t = 280 , 即从早上 7 : 30 到中午 11 : 20 平均有 280 辆汽 车经
过此路口 , 且在这段时间经过此路口的车辆数超过 500 辆的概率为
1 1 1 1
P N 4 - N > 500 = 1 - P N 4 - N ≤ 500
3 2 3 2
500 n
280 - 280
=1 - ∑ n= 1 n!
e .
N ( t)

3 .1 3 解 设 X( t) = ∑Y i=1
i 表示到时刻 t 为止系统所受的损害 , 则
N( t)

P{ T > t} = P{ X( t) < A} = P ∑Y
i= 1
i < A
∞ N ( t)

=∑P ∑Y i < A | N ( t) = n P{ N ( t) = n}
n=0 i= 1
习题参考答案 2 25

∞ 1 n n
- λt - λt (λt )
∑∫
A
=e + μ xn - 1 e - μ d x e
x
.
n!
n=1
0 Γ( n)
n
1 1 1
由于 Y i ~ P ~ Γ 1, , 故 ∑ Y i ~ Γ n, .
μ μ i= 1 μ

ET = ∫ P{ T >0
t}d t


x n- 1
∞ A ∞ n
1 μ (λt ) - λt
∫e ∑∫ ∫
x
- λt -
= dt + e μdx e dt
0 n= 1 0 μ ( n - 1) ! 0 n!
n- 1


x
A
1 μ
= 1 + 1∑ ∫
x
e- μ d x
λ λn=1 0 μ ( n - 1) !
n- 1

x
1 μ
A
1 1
∫∑
- x
= + e μdx
λ λ 0
n=1 μ ( n - 1) !
1 1 A
= + ・
λ λ μ
μ+ A
= ,
λμ
μ+ A
故系统的平均寿命为 .
λμ

第 4 章

4 .1 解 √,×, √ .
4 .2 解 (1 )
P{ N ( t) = k} = P{ N( t) ≥ k} - P{ N ( t) ≥ k + 1}
= P{ T k ≤ t} - P{ T k+ 1 ≤ t}
k k+ 1

= P ∑X
i= 1
i ≤ t - P ∑X i= 1
i ≤ t
t nk n( k+ 1 )
λ xn k - 1 e - λ x - λ

=
0 Γ( nk ) Γ( n( k + 1) )
xn( k+ 1 ) - 1 e - λ x d x

( 2) ( 略 )
T N( t) t TN ( t) + 1
( 3) 由 T N + 1 < t < TN ( t) + 1 知 , < < .由 强大数定 律知 , 当
N ( t) N ( t) N ( t)
22 6 应用随机过程

TN ( t) T N( t)
N( t) →∞时 , 以概率 1 , →μ。又 N ( t) →∞时 , t→∞ .故当 t→∞时 ,
N( t) N ( t)
→μ, a .s .
T N ( t) + 1 T N( t) + 1 N ( t) + 1 N ( t) 1
同理 , 有 = →μ, a .s .故 t→∞ , → , a .s .
N ( t) N( t) + 1 N ( t) t μ
4 .3 证明
M( t) = E[ N ( t) ] =λt ,
∞ ∞

∑F
n= 1
n ( t) = ∑ P{ Tn < t}
n= 1

∞ t n
λ xn - 1 e - λ x d x
=∑ ∫
n= 1 0 Γ( n)

t
(λx ) n - 1 - λ x

=λ 0 ∑
n=1 ( n - 1) !
e dx

=λt .
4 .4 解 计算
1 2
1- = , s = 0,
3 3
P{ N (1 ) = s} = 1 1
- 0= , s = 1,
3 3
0, s≥ 2 .
1 2 1 1 8
+ - × = , s = 1,
3 3 3 3 9
P{ N (2 ) = s} = 1 1 1
× = , s = 2,
3 3 9
0, s= 0 或 s≥3 .
1 1 1 2 1 2 4
1- × - × - × = , s= 1 ,
3 3 3 3 3 3 9
5 1 1 1 2
- × × = , s= 2 ,
P{ N (3 ) = s} = 9 3 3 3 3
1
, s= 3 ,
27
0, s= 0 或 s≥ 4 .
4 .5 解 过程每回到状态 i 就称为一次“开”, 设过程第 1 次到达状态 i
的时刻为 t0 , 记 X( k) 为过程第 k 次处于“开”的时间 ( 即第 k 次在状态 i 停留的
习题参考答案 2 27

∑Y
( k) ( k) ( k)
时 间 Xi ) , 而 Y j 为过程第 k 次在状态 j 所停留的时间 , 于是称 Y = j
j , j≠ i

为 系统为“ 关闭”的时间 , 则 X( k) 之间 , Y ( k) 之间 , 及 X( k) 与 X ( j) ( k ≠ j) 之间相


互独立 .
考虑较大的 t 满足 t > t0 , 从 t0 时刻开始计时 , 则原问题转化为求
lim P{时刻 t - t0 系统处于“开”} .
t→ ∞

由于 E( X ( k) + Y ( k) ) = E( X1 + … + X n ) < ∞且 X1 + … + Xn 的分 布为 非格 点
的 , 由交替更新过程的更新定理 ( 定理 4 .10) , 有
E( X ( k) ) E( X i )
lim P( t - t0 ) = = .
E( X ( k) + Y ( k) )

t→ ∞
E( X i )

4 .6 解 考 虑 一 个 更 新过 程 , 记 Y ( t) = T N ( t ) + 1 - t 为 t 时 刻 的 剩 余 年 龄 ,
A( t) = t - T N ( t ) 为 t 时刻的寿命 .记两次更新之间的时间间隔为 X .若在 时刻 t
年龄小于或等于 x , 称系统在 t 时刻“开着”.( 否则称为“关着”)
X, x > X,
令 Y 为包含 t 的更新区间中开着的时间 , 则 Y =
x, x≤ X .
若 E X < ∞ , 且 X 的分布不是格点时 , 由定理 4 .10 .有

lim P{ A( t) ≤ x} = EY = lim P{在时刻 t 系统开着}


t→ ∞ EX t→ ∞


1
=
μ ∫ P{ Y
0
> y}d y
x ∞

= 1 ∫ P{ X > y}d y + ∫ P{ x > y}d y


μ 0 x

x
1
= ∫ P{ X
μ 0
> y} d y
x
1
=
μ ∫ ( y) d y .
-
0
F

同理
lim P{ Y ( t) ≤ x} = t→
lim P{ 在时刻 t 系统关着}
t→ ∞ ∞

= 1 ∫ ( y) d y .
-
μ 0
F

4 .7 解 设 H 是 Z n 的分布 , G 是 Y n 的分布 , F 是 Zn + Y n 的分布 .并 记


P( t) = P{ t 时刻系统是开的} . 又设 E( Yn + Zn ) < ∞ , 且 F 不 是格 点的 .每 当
系统打开时就记为 一次更新 .对 t 之前 ( 或 t 时 ) 最 后一 次更 新发生 的时 刻取
条件 , 得
22 8 应用随机过程

P{ t 时刻系统开着 | T N( t) = x}
P{ Z1 > t| Z1 + Y1 > t} , x=0
= P{ Z > t - x | Z + Y > t - x} , 0< x<t
0, x≥ t .
所以
P( t) = P{在时刻 t 系统开着 | T N ( t) = 0} P{ T N( t) = 0} +

∫ P{在时刻 t 系统开着 |
0
T N( t) = x}d F T N( t) ( x )

= P{ Z1 > t | Z1 + Y1 > t} P{ T N ( t) = 0} +
t

∫ P{ Z >0
t - x | Z + Y > t - x}d FT N( t ) ( x )
- -
- t -
( t) ( t - x)

H H
= - ( t) + - ( t - x) d m( x)
F (F t) 0 F ( t F- x)
-
t

∫( t -
-
= ( t) +
H x) d m( x) ,
0
H

- ∞ -

其中 m( x) = ∑ n=1
Fn ( y ) H, ( t) 非负不增 , 且 ∫ -
0
H
( t) d t = EZ < ∞ .因而也有 t→
lim∞
( t)
H

= 0 .利用关键更新定理 , 得

1 EZ n
lim P( t) =
t→ ∞ μF ∫ ( t) d t =
-
0
H
E Z n + EY n
令 Q( t) = P{在时刻 t 关着 } , 则有
EY n
lim Q( t) = .
t→ ∞ E Z n + EY n
4 .8 解 设 { X n , n = 1 , 2 , …} 为一列独立非负随机变量 , X1 的分布函
n

数为 G( t) , Xn 具有分布 F( t) , n > 1 .令 T0 = 0 , Tn = ∑ X , n ≥ 1 .且定义


i= 1
i

N D ( t) = sup{ n: Tn ≤ t} .

P{ N D ( t) = n} = P{ T n < t} - P{ Tn + 1 ≤ t}
= ( G * Fn - 1 ) ( t) - ( G * Fn ) ( t) .

令 M( t) = E[ N0 ( t) ] = ∑( G* F
n= 1
n- 1 ) ( t) , 则

M( t) = G * ∑ Fn - 1 ( t)
n= 1
习题参考答案 2 29

= G + G * ∑ Fn ( t)
n= 1

= G + F * ∑ G * Fn - 1 ( t)
n= 1

= ( G + F * M) ( t) ,

t

M( t) = G( t) + ∫ M( t -
0
s) d F( s) ,

其中 F( t) 为独立同分布的非负随机变量的分布函数 , Fn ( t) 为 F 的重卷积 .
4 .9 证明 设 T N ( t) 表示 t 时 刻 之 前 ( 或 在 t 时 刻 ) 最 后 一 次 更 新 的 时
刻, 则

P{ T N ( t) ≤ s} = ∑ P{ T N ( t) ≤ s | N( t) = n} P{ N( t) = n}
n= 0

= ∑ P{ Tn( t) < s, N ( t) = n}
n= 0

= ∑ P{ Tn( t) < s, Tn+ 1 > t}


n= 0

= P{ T0 < s, T1 > T} + ∑ P{ T
n=1
n( t ) < s, Tn+ 1 > t}
∞ ∞

∑∫ P{ T
-
= ( t) +
F n < s, Tn+ 1 > t | Tn = y}d Fn ( y)
n= 1 0


∑∫ P{ T
-
= ( t) +
F n < s, Tn+ 1 - T n > t - y}d Fn ( y)
0
n= 1


s

∑∫ P{ s
-
= ( t) +
F 1 > t - y}d Fn ( y )
n= 1 0


s

∑∫ ( t -
-
= ( t) +
F - y ) d Fn ( y)
n= 1 0
F

s ∞

∫(t - ∑F
-
= ( t) +
F - y) d n ( y)
0 n= 1
F

∫(t -
-
= ( t) +
F - y) d M( y) ,
0
F
-

" t≥ s≥0 成立 .其中 ( t) = 1 - F( t) .


F
23 0 应用随机过程

第 5 章

5 .1 解 在天气预报 模 型中 考 虑共 有 4 个状 态 的 马尔 可 夫链 , 分别 是
状态
0 = ( R , R) = { 昨天 , 今天两天有雨} ,
1 = ( N , R) = {昨天无雨 , 今天有雨 } ,
2 = ( R , N) = {昨天有雨 , 今天无雨 } ,
3 = ( N , N) = {昨天无雨 , 今天无雨} .( 其中 R: 下雨 , N: 无雨 )
由题意知 , P0 0 = 0. 7 , P1 0 = 0 .5 , … , 则其一步转移概率矩阵为
0 .7 0 0 .3 0
0 .5 0 0 .5 0
P = ,
0 0 .4 0 0 .6
0 0 .2 0 0 .8
两步转移概率矩阵为
0 .4 9 0 .1 2 0 .2 1 0 .1 8
(2 ) 2
0 .3 5 0 .2 0 0 .1 5 0 .3 0
P = P =
0 .2 0 0 .1 2 0 .2 0 0 .4 8
0 .1 0 0 .1 6 0 .1 0 0 .6 4
由于星期四下雨意味过程处于 0 , 1 状态 , 故 星期 一、二连续 下雨 , 星 期四 下雨
的概率为 P = P0( 20 ) + P01( 2 ) = 0 .49 + 0 .12 = 0 .61 .
5 .2 解 ( 1 ) 设 此 人身 边 所有 的 雨伞 数 为 xn , 则 { xn } 为 马 尔 可 夫 链 ,
S = {0 , 1 , 2 , … , r} , 其 转 移 概 率 为 p0 , r = 1 , pi , r - i = 1 - p , pi , p - i + 1 = p, i =
1 ,2 ,…, r .
( 2) 求极限分布的方程为
πr = π0 + π1 p,
πj = πr - j (1 - p) + πr - j+ 1 p, j = 1 , 2 , … , r - 1 ,
π0 = πr ( 1 - p) ,
记 q = 1 - p , 易得
q
, 若 i = 0,
r+ q
πi =
1
, 若 i = 1, 2,…, r .
r+ q
pq
( 3) 此人被淋湿的概率为 pπ0 = .
r+ q
习题参考答案 2 31

5 .3 解 因为 6 个状态都 是互 通 的 , 故只 须判 别 其中 之一 即可 , 状态 3
容易识别 .由
f3( 13 ) = 0 ,
( 2) 1 1 1 1 1 1 1 5
f3 3 = × + × + × + ×1 = ,
4 2 4 2 4 2 4 8

f3( 33 ) = 1 × 1 × 1 + 1 × 1 × 1 = 1 ,
4 2 2 4 2 2 8

f3( 43 ) = 1 × 1 × 1 × 1 + 1 × 1 × 1 × 1 +
4 2 2 4 2 2 2
1 1 1 1 1
× × × = ,
4 2 2 2 8

n- 2 n- 2
1 1
= 1 × + 1 × , n ≥ 2,
( 2 n)
f 33
16 2 16 4
n- 2
( 2 n- 1) 1 1
f 33 = × , n ≥ 2,
8 4
从而
∞ ∞

∑f 且 μ3 = ∑ nf < ∞,
( n) ( n)
f3 3 = 33 = 1, 33
n= 1 n= 1

故状态 3 是常返的 , 非周期的 .


5 .4 解 (1 ) 因为
∞ ∞ ∞

∑p = f ij ・ ∑ p ∑p
( n) ( n) ( n)
ij jj < jj ,
n= 1 n= 0 n= 0

并且 f j j < 1 , 所以

1
∑p < ∞ .
( n)
jj =
n= 0 1 - f jj

∑p
( n)
ij < ∞ .
n=1

( 2) 由于
∞ ∞ ∞

∑p = ∑ ∑ f (ijl ) p(j jn - l )
( n)
ij
n= 1 n=1 l=1

∞ ∞

= ∑ ∑ f ij p j j
( l) ( n - l)

l= 1 n= l
23 2 应用随机过程

∞ ∞

=∑ f ∑p
( l) ( n - l)
ij jj
l=1 n= l

= f ij ∑ p(jjn)
n= 0

∑f
( n)
= f ij + ij p jj ,
n= 1


∑p
( n)
ij
n= 1
f ij = ∞ .
∑p
( n)
1 + jj
n= 1

5 .5 解 (1 ) 设 X n 为 蚂蚁在 时 刻 n 所处 的 位置 , 则 过程 { Xn , n = 0 , 1 ,
2 , … , N}是马尔可夫链 , 其转移概率矩阵为
1 0 0 0 … 0 0 0
p 0 q 0 … 0 0 0
0 p 0 q … 0 0 0
P =
… … … … … … …
0 0 0 0 … p 0 q
0 0 0 0 … 0 1 0 ( N + 1 ) ×( N+ 1 )

不难看出 , 此马尔可夫链有两类 : {0} , {1 , 2 , … , N} . 因为



( n) (1 )
f 00 = f00 = f00 = 1,
n= 1


1 = 1 , 故蚂
所以 0 是吸收态 μ0 = ∑ nf .d( 0) = 1 , 则有lim
( n) ( n)
00 = 1 p20 =
n=1
n→ ∞ μ0
蚁被吃掉的概率为 1 .
( 2) 提示 : 讨论蚂蚁被吃掉的问题与赌徒输光问题类似 .
5 .6 解 ( 1 ) 设 Xn , Y n 分 别 表 示 时 刻 n 蜘 蛛 和 蚂 蚁 所 处 的 位 置 , 令
pn = P{ Xn = 0 , Y n = 1} , p′n = P{ X n = 1 , Yn = 0} , 则
p n = P{ Xn = 0 , Y n = 1}
= P{ Xn = 0 , Y n = 1 | X n - 1 = 0 , Y n - 1 = 1} ・ Pn - 1 +
P{ Xn = 0 , Y n = 1 | X n - 1 = 1 , Y n - 1 = 0} ・ p′n - 1
= 0 .49 pn - 1 + 0 .09 p′
n - 1 .

类似地 , 有 p′ n - 1 + 0 .0 9 pn - 1 , 所以
n = 0 .49 p′
习题参考答案 2 33

n
pn + p′
n = 0 .58 ( pn - 1 + p′
n - 1 ) = 0 .58 ( p1 = 0 .49 , p′
1 = 0 .09 ) .

从而在时刻 n, 蚂蚁被吃掉的概率为
n
1 - ( pn + p′
n ) = 1 - 0 .58 .
( 2) 蚂蚁被吃掉的概率为 P = p0 0 p1 0 + p01 p11 = 0 .42 , 蚂 蚁被吃 掉的 平均
1
时间为 1/ P = ≈2 .381 .
0 .42
5 .7 解 (1 ) 设 X( n) 为 n 次交换后甲盒中的红球 数 , 则易见 { X( n)} 是
马尔可夫链 , 状态空间为 S = {0 , 1 , 2} ; 转移矩阵为
1 1
0
2 2
P = 3 4 1
8 8 8
0 1 0
(2 ) 由于 S = {0 , 1 , 2}有限 , 且 S 中状态互通 , 即不可约的 , 故 { X( n) }是正
常返的 , 又状态 1 为非周期的 , 故 1 是遍历的 , 所以{ X( n)}是遍历链 .
( 3) 极限分布是平稳分布 , 满足方程
1 3
π0 = π0 + π1 ,
2 8
1 4
π1 = π0 + π1 + π2 ,
2 8
1
π2 = π1 .
8
2 8 1 2 8 1
解得 π0 = ,π1 = ,π2 = .故极限分布为 , , .
5 15 15 5 15 15
5 .8 解 设 X n 表示抽球后甲盒中的红球数 , 则 { X n }是一 个非时齐 的马
尔可夫链 , 状态空间为 S1 = {0 , 1 , 2 , … , 100} .转移概率为
k
P{ X n+ 1 = k - 1 | X n = k} = ,
100
n- k
P{ X n+ 1 = k + 1 | X n = k} = .
100
设 Y n 表示抽球后乙盒中的红球数 , 状态空间为 S2 = {50} .转移概率为
P{ Xn+ 1 = 50 | X n = 50} = 1 .
设 Zn 表示抽球后甲盒中的红球 数 , 状 态空间为 S3 = {0 , 1 , 2 , … , 40} .转
移概率为
23 4 应用随机过程

k
P{ X n+ 1 = k - 1 | Xn = k} = ,
100 - n
100 - n - k
P{ X n+ 1 = k | Xn = k} = .
100 - n
分别计算三种情况下 , 抽取如下记录 ( 红 , 红 , 红 , 红 , 白 ) 的概率 P:

P甲 = 90 × 89 × 88 × 87 × 14 = 0 .08585 ,
100 100 100 100 100
5
50
P乙 = = 0 .03125 ,
100
40 39 38 37 60
P丙 = × × × × = 0 .01457 ,
100 99 98 97 96
可见 P甲 > P乙 > P丙 , 故最可能选取甲盒 .
5 .9 解 由于马尔 可夫 链 是状 态 有限 的 遍历 链 , 极 限 分 布是 惟 一的 平
稳分布 , 满足
π0 + π2 + … + πn = 1 ,
n

πj = ∑π p
i =1
i ij , j = 1 , 2… , n,

1 1 1 1
解得 π1 = π2 = … = πn = .故极限分布为 , ,…, .
n n n n
5 .1 0 解 考虑 Y ule 过程 设 在 时刻 0 , 群 体中 只 有一 个个 体 , 则群 体
的状态空间可以设为 S = {1 , 2 , … , } , 记 T i ( i≥1) 为群体数目从 i 增 加到 i + 1
所需时间 , 假设在任意长度为 h 的时间区 间内 , 任意一个 个体 将以概 率 λ h +
o( h) 独立繁殖 .记 X( t) 为时刻 t 群体的总量 , 则{ X( t) , t≥ 0} 是 Yu le 过程 , 其
中 λn =λn .又设 T 为群体从 1 增加到 N 的时间 , 则
n - 1

T = ∑T i=1
i .

由于 Ti 是相 互独 立的服 从指 数分 布的随 机变 量 , 参数 为 λi = iλ, i = 1 , 2 , … ,


N - 1, 故
n- 1 n - 1
1 1 1+ 1 + …+ 1
ET = ∑ ET
i= 1
i = ∑λ
i=1 i
=
λ 2 N - 1
.

5 .1 1 解 假定一生物群 体中 的 各个 个体 以指 数率 λ出 生 , 以指 数 率 μ
死亡 , 另外 , 还存在由迁入引起的指数增长率 θ.设 Xt 为 t 时刻群体的总量 , 易
知{ X t } t≥ 0 为一生灭过程 , 其中
λn = nλ + θ, n ≥ 0 ,
习题参考答案 2 35

μn = nμ, n ≥ 1 .
若设 Ti 为群体数目从 i 增加到 i + 1 的时间 , 则 Ti 服从参数 为 iλ + θ+ iμ的
指数分布 .
5 .1 2 解 由 5 .11 题知 , 在 n≤ N - 1 时 , 同样有
λn = nλ + θ, n ≥ 0,
μn = nμ, n≥ 1 .
当 n≥ N 时 ,
λn = nλ, n ≥ 0,
μn = nμ, n≥ 1 .
5 .1 3 解 显然 , 该马尔可夫链是一个齐次马尔可夫过程 , 转移概率为
p01 ( h) = λ h + o ( h) ,
p10 ( h) = μ h + o ( h) ,
1 - p0 0 ( h) p01 ( h)
q0 0 = lim = lim = q01 = λ,
h→ 0 h n→0 h
1 - p1 1 ( h) p10 ( h)
q1 1 = lim = lim = q10 = μ.
h→ 0 h n→0 h
由 Kolmogrov 向前方程得
p′
0 0 = q10 p01 ( t) - q00 p00 ( t)

= p01 ( t) - p00 ( t)
= μ(1 - p0 0 ( t) ) - λp 00 ( t)
= - (λ+ μ) p0 0 ( t) + μ.
解得
(λ+ μ) t (λ+ μ) t
e 0 0 ( t) + (λ+ μ) p00 ( t) ] = μe
[ p′ ,
d [ e (λ+ μ) t p 00 ( t) ] = μe(λ+ μ) t ,
dt

μ e(λ+ μ) t + C .
e(λ+μ) t p0 0 ( t) =
λ+ μ
λ
又 p00 (0 ) = 1 , 所以 C= , 因此
λ+ μ
μ - (λ+ μ) t λ
p00 ( t) = e + .
λ+ μ λ+ μ
类似地 , 有
23 6 应用随机过程

p′
01 = q01 p00 ( t) - q11 p01 ( t)

=λp 00 ( t) - μ p 01 ( t)
=λ (1 - p0 1 ( t) ) - μ p01 ( t)
= - (λ+ μ) p01 ( t) + λ,

λ - λ e - (λ+μ) t .
p01 ( t) =
λ+ μ λ + μ
由对称性 , 有
λ μ - (λ+μ) t
p11 ( t) = + e ,
λ+ μ λ + μ
μ μ - (λ+μ) t
p10 ( t) = - e .
λ+ μ λ + μ
5 .1 4 解 若 i= 2 ,则
1 1 1
p i, i+ 1 ( h) = h + o( h) qi, i+ 1 = , qi, i+ 1 = , qii = 1 (1 )
2 2 2
1
p i, i - 1 ( h) = h + o( h) ,
2
p i, i ( h) = 1 - h + o( h) .
类似地 , 可得 , " i∈ S = {1 , 2 , 3} , 式 (1 ) 成立 .其中 当 i = 1 时 , i - 1 = 3 , 当 i = 3
时 , i + 1 = 1 , Kol mogorov 向前方程为
p′
ij = - qj j p i j ( t) + qj + 1 , j p i, j + 1 ( t) + qj - 1 pi , j - 1 ( t)

1 1
= - p ij ( t) + pi j + 1 ( t) + p i, j - 1 ( t) .
2 2

3

∑p
j=1
ij = 1,


1
p′
ij = - p ij ( t) + ( 1 - pi j ( t) )
2
3 1
= - p ij ( t) + ,
2 2
解得
t
1 - 32 ( t - s)

- 3t
p ij ( t) = e d s + p ij ( 0) e 2 .
0 2
利用初始条件
1, i = j,
p ij (0 ) =
0, i ≠ j,
解得
习题参考答案 2 37

1 2 -3t
+ e 2 , i = j,
3 3
p ij ( t) =
1 1 - 32 t
- e , i≠ j .
3 3
5 .1 5 解 对于例 5 .25 的排队模型 , 若设 X t 为 t 时刻系统中 的总人 数 ,
则{ X t , t≥ 0} 是一个 生灭 过程 , 其来 到率 是参 数为 λ的 P oisson 过 程 , 系统 中
有 n 个顾客的离去率是
nμ, 1 ≤ n ≤ s,
μn =
sμ, n > s, n≥0 .
次生灭过程转移概率满足
p i, i+ 1 ( t) =λh + o ( h) ,
iμh + o( h) , 1 ≤ i ≤ s,
p i, i - 1 ( t) =
sμh + o ( h) , i > s,
1 - (λ+ iμ) h + o ( h) , 1 ≤ i ≤ s,
p i, i ( t) =
1 - (λ+ sμ) h + o( h) , i > s.

第 6 章

6 .1 解 X 的可 能 取 值为 1 , 2 , … , 6 , Y 的 可 能 取 值为 2 , 3 , … , 12 , 且
Y - X = 1 ,2 ,…, 6 .
y- 1

P{ Y = y} = ∑ P{ X = x, Y - X = y - x}
x= 1

1
, y = 2 , 12 ,
36
2
, y = 3 , 11 ,
36
3
, y = 4 , 10 ,
36
=
4
, y = 5, 9,
36
5
, y = 6, 8,
36
6
, y = 7,
36

23 8 应用随机过程

1
P{ X | Y = y} = P{ X = x, Y - X = y - x} = 36
P{ Y = y} P{ Y = y}
1, y = 2 , 12 ,
1 , y = 3 , 11 ,
2
1 , y = 4 , 10 ,
3
= 1 , y = 5, 9,
4
1
, y = 6, 8,
5
1
, y = 7,
6
从而
y- 1
y
E( X | Y = y) = ∑x=1
P{ X = x | Y = y} x =
2
, y = 2 , 3 , … , 12 .

6 .2 证明 由于 (1 ) 显然 Mn 关于 X1 , … , Xn 可测 ;
- n tS
( 2) E( | Mn | ) = E( | ( m( t) ) e n
|)
= ( m( t) ) - n E ( e t( X1 + … + X n ) )
n

∏ E( e
- n tX
= ( m( t) ) i )
i= 1

=1 < ∞ ( X1 , X2 , … 独立同分布 ) .

- n- 1 tS
( 3) E( Mn+ 1 | X1 , … , X n ) = E[ ( m( t) ) e n+ 1 | X1 , … , X n ]
- n- 1 tS tX
= E[ ( m( t) ) e n ・e n+ 1
| X1 , … , Xn ]
= ( m( t) ) - n - 1 etS n ・ m( t)
- n tS
= ( m( t) ) e n = Mn .
故由鞅的定义 , 知 Mn 是关于 X 1 , … , X n 的鞅 .
6 .3 证明 首先 , 由于 Mn = μ- n X n 关于σ ( X0 , X1 , … , X n ) 可测 , 又因
X
n-1

E X n = E[ E( X n | X n - 1 ) ] = E E ∑Z i=1
i | Xn - 1

= E X n - 1 EZ i = μ E X n - 1
= ( m( t) ) - n - 1 etS n ・ m( t)
习题参考答案 2 39

= … = μn ,

E( | Mn | ) = E( | μ- n X n | ) = μ- n E ( | Xn | ) = 1 < ∞ .
于是
E( Mn+ 1 | X0 , X1 , … , X n ) = E(μ- X n+ 1 | X0 , X1 , … , X n )
n - 1

- n - 1
=μ E( X n+ 1 | X0 , X1 , … , X n )
= μ- n - 1
E( X n+ 1 | X n )
- n - 1 - n
=μ X nμ = μ X n = Mn .
故{ Mn }是关于 σ( X1 , … , X n ) 的鞅 .
n

6 .4 证明 ( 1) 设 Sn 表示时刻 n 所处的位置 , 则 Sn = S0 + ∑X i=1


i , 其中

X i = 1( 概率 p) 或 - 1( 概率 1 - p) ,
于是
S
1 - p n+ 1
E( Mn+ 1 | S0 , S1 , … , Sn ) = E S0 , S1 , … , Sn
p
S + X
1 - p n n+ 1
= E S0 , S1 , … , S n
p
S X
1 - p n 1 - p n+ 1
= E S0 , S1 , … , Sn
p p
S X
1 - p n
1 - p n+ 1
= E
p p
S
1 - p n
1 - p 1 - p- 1
= p・ + ( 1 - p) ・
p p p
S
1 - p n
= = Mn .
p
显然有 Mn 关于σ( S0 , S1 , … , Sn ) 可测 , 并且
a+ n
1 - p p
E( | Mn | ) ≤ max , < ∞,
p 1 - p
这里 a = S0 , 故 { Mn } 是关于 σ( S0 , S1 , … , Sn ) 的鞅 .
( 2 ) 由 题 设 可 知 , T = min { n: Sn = 0 或 N } 是 停 时 . 由 ( 1 ) 知 ,
S
1- p n
Mn = 是鞅 , 若 P{ T < ∞} = 1 , 则由停时定理 , 有
p
a
1 - p
EM T = EM0 = .
p
N
1- p
由于 S T 只取两个值 (0 和 N ) , 从而 MT 只取两个值 1 和 , 因此
p
24 0 应用随机过程

N N
1 - p 1 - p
EM T = 1・ P{ M T = 1} + P MT = .
p p
从而
a N
1 - p 1 - p
= 1・ P{ S T = 0} + P{ S T = N} .
p p

P{ S T = 0} + P{ S T = N} = 1 ,
解上述两个方程得
a N
1 - p 1 - p
-
p p
P{ S T = 0} =
1 - p N
1 -
p
pN ( 1 - p) a - pa ( 1 - p) N
= .
p N + a - pa ( 1 - p) N
6 .5 证明 (1 ) 易见 Mn = Sn + ( 1 - 2 p) n 关于 σ( S0 , S1 , … , Sn ) 可 测 ,
并且 E( | Mn | ) ≤ E ( | Sn | ) + ( 1 - 2 p) n < ∞ .因 为 E X n + 1 = p - ( 1 - p) =
2 p - 1 = - (1 - 2 p) , 所以有
E( Mn+ 1 S0 , S1 , … , Sn ) = E[ Sn+ 1 + (1 - 2 p) ( n + 1) S0 , S1 , … , Sn ]
= Sn - ( 1 - 2 p) + (1 - 2 p) ( n + 1)
= Sn + ( 1 - 2 p) n = Mn .
故{ Mn }是关于 σ( S0 , S1 , … , Sn ) 的鞅 .
( 2) 因为 T = mi n{ n: Sn = 0 或 N} 是停时 , 由停 时定理 , 有 E T = E M0 = a .
又因为
EM T = ES T + ( 1 - 2 p) E T ,
a
1 - p
- 1
p
ES T = 0 ・ P{ St = 0} + N P{ S T = N} = N・ N ,
1 - p
- 1
p
所以
a
1 - p
- 1
1 p
ET = a - N・ N .
1 - 2p 1 - p
- 1
p
2
6 .6 证明 (1 ) 因为 Fn =σ( X0 , X1 , … , X n ) , E Zi = μ, var( Zi ) =σ , 所以
X
n

∑Z
2 2
E X n+ 1 | Fn = E i Fn
i =1
习题参考答案 2 41

2 X n ( X n - 1)
= E σ + μ X n + 2・ Fn
2
= (σ2 + μ) X n + ( X2n - X n )μ2 = μ2 X2n + σ2 X n .
( 2) 由 (1 ) 的结论 , 有
2 -2n 2
E( M n ) = E[ E(μ X n | Fn - 1 ) ]
= μ- 2 n E(μ2 X2n - 1 + σX 2n - 1 )
n

=μ μ + σ ∑ μ2 ( i - 1 ) E X n - i
- 2n 2n 2

i= 1

n
E Xn - i
≤ 1 + σ∑
2

μ μn - i + 2
n- i
i=1

n - ( n - i)
μ E X n- i
= 1 + σ∑ 2
n - i+2 .
i=1 μ
- n
由于{ Mn = μ X n }是鞅 , 所以 E Mn = E M0 = E X0 = μ, 从而
n - ( n - i) n
E(μ Xn- i ) 1
E( M ) ≤ 1 + σ ∑ ≤ 1 + σ2 μ ∑ n - i + 1 .
2 2
n n - i+ 2
i=1 μ i=1 μ

如果 μ> 1 , 则上式中级数收敛 , 故存在常数 C > 0 , 使得


2
E( Mn ) ≤ C .
( 3) 如果 μ≤ 1 , 则前面的级数不收敛 , 因此上式不成立 .
Xn
6 .7 证明 设 Xn 表示第 n 次摸球后红球的数目 , 因为 Mn = , 所以
n+2
k
P Mn = = P{ Xn = k} .
n+2
故只需证明
1 ,
P{ X n = k} = k = 1, 2,…, n + 1 .
n+1
1
利用数学归纳法 : 当 n = 1 时 , P{ X1 = 1} = , 结论 成立 ; 假定 取自 然数 n 时 ,
2
结论成立 , 即
1 ,
P{ X n = k} = k = 1, 2, … , n + 1;
n+1
下面证明结论在 n + 1 时成立 .由于
P{ X n+ 1 = k} = P{ Xn+ 1 = k | X n = k} P{ X n = k} +
P{ Xn+ 1 = k | X n = k - 1} P{ X n = k - 1}
n+2 - k 1 k- 1 1 1
= ・ + ・ = ,
n+2 n+ 1 n+ 2 n+ 1 n+2
24 2 应用随机过程

说明结论在 n + 1 时成立 , 由数学归纳法可知结论成立 .


m

6 .8 证明 设 (1 ) Y m = ∑ n= 1
Xn I{ T≥ n} , 则 Y m ↑ Y , 对任意 m, 有
m

EY m = ∑ E( X n I{ T≥ n} ) < μm < ∞ ,
n= 1

EY1 = E( X1 ) > - ∞ .
由单调收敛定理知 , Y 的积分存在 , 且 E Ym ↑ E Y, 所以 E Y < ∞ .
( 2) 因为对任意 n,
Mn = X1 - μ+ … + X T n - μ
= ( X1 - μ) I{ T≥ 1} + … ( X n - μ) I{ T≥ n} ,
因此有 | Mn | < Y . 又
E( Mn+ 1 | Fn ) = E( Mn + 1 I{ T≤ n} + Mn+ 1 I{ T > n} | Fn )
= E( Mn + 1 I{ T≤ n} | Fn ) + E( Mn+ 1 I{ T > n} | Fn )
= Mn I{ T≤ n} + Mn I{ T > n} = Mn ,
即{ Mn } 是 鞅 . 又 因 为 存 在 非 负 随 机 变 量 Y = T ( | X | + | μ| ) 使 得 E Y =
E[ T( | X | + |μ| ) ] < ∞且 | Mn | < Y , " n, 故{ Mn }一致可积 .

( 3) 因为 E T < ∞ , 所以 E T = ∑ P{ T ≥ n}
n= 1
< ∞ , 因此 n→
lim∞
P{ T ≥ n} =

0 , 从而 P{ T < ∞} = 1 . 又
E( | MT | ) ≤ E( T ( | X | + | μ| ) ) < ∞ .
利用 ( 2) , 根据鞅停时定理 , 有
T

EM T = E ∑( X
n= 1
n - μ)
T

= E ∑X
n= 1
n - μE T = EM1 = 0 ,

所以
T

E ∑X
n=1
n = μE T .

6 .9 证明 考虑 Mn = S n - nμ, 则
E( | Mn | ) = E( 1 + X1 + … + X n - nμ )
≤1 + n( E( X ) - μ)
< 1 + n(2 - μ) < ∞ .
所以由
习题参考答案 2 43

EXi = ∑ k
k P{ X i = k} = ( - 1 ) P{ X i = - 1} + ∑ kP{ X
k= 1
i = k} = μ < 0 ,

可得

∑ kP{ X
k=1
i = k} < P{ X i = - 1} < 1 ,

所以

E( | X i | ) = ∑ kP{ X
k= 1
i = k} + P{ X i = - 1} < 2 .

注意到
E( Mn+ 1 | Fn ) = E[ Sn+ 1 - ( n + 1)μ| Fn ]
= E( Sn - nμ + X n+ 1 - μ| Fn )
= Sn - nμ = Mn ,
所以{ Mn }是关于 σ( X1 , … , X n ) 的鞅 .令 T = min{ n: Sn = 0} , T n = min{ T, n} .
考虑 MT n , 类似于习题 6 .8 , 由停时定理得 , E MT n = E M0 = 1 , 而
EM T n = ES T n - μE T n ,
所以
ES T n - 1 ES T n - 1 1
ET n = ≤ ≤ , " n.
μ μ | μ|
由于 P{ T < ∞} = 1 , 故
1
ET ≤ .
| μ|
6 .1 0 证明 ( 1) 证明{ F t = X t } 是鞅 .
首先 , Ft 关于σ( Xu , 0 ≤ u≤ t) 显然是可测的 ; 其次
t

E( Ft ) = E X0 + ∑i= 1
λi

≤ X0 + t× E( λi )

= X0 + 2 t < ∞ ;
3
最后 , 看鞅的性质
t

E( F t σ( Xu , 0 ≤ u ≤ t) ) = E Xs + ∑λ σ( X
i = s+ 1
i u , 0 ≤ u ≤ t)
t

= E Xs + ∑λ
i = s+ 1
i

= Xs .
24 4 应用随机过程

故{ Ft = X t }是鞅 .
2 2
( 2) 证明 Gt = X t - t 是鞅 .
3
2
首先 , Gt = X2t - t 关于σ( Xu , 0≤ u≤ t) 显然是可测的 ; 其次
3

E( Gt ) = E X2t - 2 t
3
2 2
≤ E( X t ) + t
3
2 2
= E( X0 ) + t < ∞,
3
1
其中 λi 以等概率 取值 - 1 , 0 , 1 ; 最后 , 看鞅的性质
3
2 2
E( Gt σ( Xu , 0 ≤ u ≤ t) ) = E Xs - t σ( X u , 0 ≤ u ≤ t)
3
t t
2 2 2
s + 2 Xs ∑ λi + ∑λi
2
= E X - s - ( t - s)
3 i = s+ 1 i = s+ 1 3
2 2
= Xs - s = Gs .
3
故{ Gt = X t }是鞅 .

第 7 章

7 .1 解 考 虑 随 机 向 量 X = ( B ( 1 ) , … , B ( n) )′, 由 于 { B ( t) } 是 标 准
Brow n 运动 , 所以 X 服从多元正态分布 , 具有零均值 , 其协方差矩阵为
1 1 1 1 … 1 1 1
1 2 2 2 … 2 2 2
1 2 3 3 … 3 3 3
Σ= .
… … … … … … …
1 2 3 4 … n- 2 n- 1 n - 1
1 2 3 4 … n- 2 n- 1 n n× n

令 A = ( 1 , 1 , … , 1 ) , 则 A X = B( 1) + B( 2) + … + B( n) 是具有零均值的 随机变
量 , 方差为

AΣA′= n( n + 1 ) ( 2 n + 1) .
6
习题参考答案 2 45

1
又因为 X( t) = tB , 所以 X (0 ) = 0 , 于是
t
1 1
X( t) - X( s) = tB - sB
t s
1 1 1 1
= tB - tB + tB - sB
t s s s
1 1 1
= t B - B + ( t - s) B ~ N( 0 , | t - s | ) .
t s s
1
所以 X( t) 是独 立 平稳 增 量过 程 , 又 X ( t) = t B ~ N ( 0 , t) , 所 以 { X ( t) :
t
t≥0}是 Brow n 运动 .
7 .2 解 因为
t
E[ X( t) ] = ( 1 - t) E B = 0,
1 - t
t s
var [ X( t) ] = E(1 - t) B (1 - s) B
1 - t 1 - s
t s
= ( 1 - t) (1 - s) min , = s( 1 - t) ( s ≤ t) .
1 - t 1 - s
所以{ X( t) }是 Gauss 过程 , 均值为零 , 协方差为 s(1 - t) , 即为 Bro wn 桥 .
7 .3 解 因为
P{ B( 2) > 0 , B(1 ) > 0}
P{ B( 2) > 0 | B( 1) > 0} =
P{ B(1 ) > 0}
= 2 P{ B( 2) > 0 , B(1 ) > 0}
= 2 P{ B( 2) - B(1 ) > - B(1 ) , B( 1) > 0}

∫ P{ B( 2)
=2
0
- B(1 ) > - x} f ( x ) d x

∫ [ 1 - Φ( -
=2
0
x) ] dΦ( x )


=2 0
Φ( - x) dΦ( x)
1


=2 1
yd y = 3 ,
2 4
所以{ X( t) }是 Gauss 过程 , 均值 为 零 , 协 方差 为 s( 1 - t) , 即为 Brow n 桥 .又
1
P{ B( 2) > 0} = , 所以事件{ B( 2) > 0}与事件 { B(1 ) > 0}不独立 .
2
7 .4 证明 因 为 { B1 ( t ) , t≥ 0} 与 { B2 ( t) , t≥ 0} 为 相 互 独 立 的 标 准
24 6 应用随机过程

Brow n 运动 , 所以 X( 0) = B1 ( 0) - B2 ( 0 ) = 0 , 并 且 X ( t) - X ( s) = [ B1 ( t) -
B1 ( s) ] - [ B2 ( t) - B2 ( s) ] .由于 B1 ( t) , B2 ( t) 的独立平稳增量性 , 可知{ X( t) ,
t≥0} 也具有独 立 平 稳 增 量 .又 E [ X ( t ) ] = E [ B1 ( t ) ] - E [ B2 ( t ) ] = 0 ,
var [ X( t) ] = va r [ B1 ( t) ] + va r [ B2 ( t) ] = 2 t, 故 X ( t) ~ N ( 0 , 2 t) , { X ( t) } 是
Brow n 运动 .
7 .5 证明 已知 , 对任意 x > 0 , M( t) 的分布为
∞ 2
2
∫e
- y
P{ M( t) ≥ x} = x
2
dy .
2π t

对任意 x > 0 , | B( t) | 的分布为


P{ | B( t) | ≥ x} = P{ B( t) ≥ x, B( t) ≤ - x}
x
∞ 2 - 2
1 1
∫e ∫
- y t - y
= x
2
dy + e 2
dy
0
2π t 2π
∞ 2
2

- y
= x
e 2 dy .
2π t

P{ M( t) - B( t) ≥ x} = P{max ( B( s) - B( t) ) ≥ x} , 注意到 B( s) - B( t) 的
0 ≤ s≤ t

分布与 B( t - s) 的分布相同 , 可知
P{ M( t) - B( t) ≥ x} = P{m ax ( B( s) ) ≥ x} .
0 ≤ s≤ t

对于 x≤0 , 显然二者相同 .
m( t) = 0min B( s) 的分布可如下计算 , 对 x < 0 , 有
≤ s≤ t
∞ 2
2

- y
P{0min B ( s) ≤ x} = P{ T x ≤ t} = |x|
e 2
dy .
≤ s≤ t
2π t

7 .6 证明 对于 s≤ t, 有
t s
cov [ X( s) , X( t) ] = ( 1 + s) ( 1 + t) cov Z ,Z ,
1+ t 1 + s
由于{ Z( t) }与{ B( t) - B( 1) }同分布 , 其中{ B( t) }是 Brow n 运动 , 可见
t t
cov[ X( s) , X( t) ] = (1 + s) (1 + t) cov B ,B -
1+ t 1+ t
t cov B(1) , B s s cov B t
- , B(1) +
1+ t 1+ s 1+ s 1+ t
st cov( B( 1) , B(1 ) )
( 1 + s) ( 1 + t)
= s( 1 + t) - s t - s t + s t
= s( s ≤ t) .
习题参考答案 2 47

易见{ X( t) }是正态过程 , E( X( t) ) = 0 , 故得{ X( t) }是 Brow n 运动 .

第 8 章
^ t

∫[ ( t -
-α 2
8 .1 解 由 Ito 积分定义可知 , 只要对 " t ≥ 0 , s) ] ds < ∞ 成
0

t
1
∫( t -

立 , 即可定义 Y ( t) = s) d B( s) , 由此可知 α < 即可 .
0 2
t

Y ( t) 的协方差函数为 cov( Y ( t) , Y ( t + u) ) = ∫( t -0
s) - α ( t + u - s) - α d s .

8 .2 证明 { Y ( t) , 0 ≤ t ≤ T} 是零均值的 Gauss 过程 , 由定理 8 .1 易


见 .
计算其协方差函数 :
t t+ u

cov( Y ( t) , Y ( t + u) ) = E ∫ X( t, s) d B( s)∫
0 0
X( t + u, s) d B( s)
t t

= E ∫ 0
X( t, s) d B( s)∫ X( t +
0
u, s) d B( s) +
t t+ u

∫ X( t, s) d B( s)∫
0 t
X ( t + u, s) d B( s)
t

∫ X( t, s) X( t +
=
0
u, s) d s +
t t+ u

E E ∫ 0
X( t, s) d B( s) ∫ t
X ( t + u, s) d B( s) Fs
^

( Ito 等距 )
t

∫ X( t, s) X( t +
= 0
u, s) d s, u > 0 .
^

8 .3 解 由 Ito 公式 , 得
1
d Y ( t) = X( t) ′( bX ( t) + c) + 2 x ( t) ″・2 X( t) d t +

X( t) ′・2 X( t) ・ d B( t)
b Y ( t) + c - 1 d t + d B( t) .
=
2 2 Y ( t)
^
1 3
8 .4 证明 对 B ( t) 应用 Iot 公式 , 可得
3
1 3
d B ( t) = B2 ( t) d B( t) + B( t) d t,
3
24 8 应用随机过程

t t
1 3
∫ B ( s) d B( s) +∫ B( s) d s .
2
即 B ( t) =
3 0 0

8 .5 提示 对 X( t) Y ( t) 应用 Ito 公式可得结论 . 分部积分公式显然 .


^

8 .6 提示 对 Bk ( t) 用 Ito 公式展开 , 可得
t t
1
∫ kB ∫B
k k -1 k -2
B ( t) = ( s) d B( s) + k( k - 1) ( s) d s .
0 2 0

上式等号右边第一项取期望值为 0 , 立得习题结论 .
t


t s
8 .7 证明 (1 ) X( t) = e cos B( t) = X(0 ) -
2 e 2 sin B( s) d B( s) .
0


t s
( 2) X( t) = e si n B( t) = X(0 ) +
2 e 2 cos B( s) d B( s) .
0

t
( 3) X( t) = ( B( t) + t) exp - B( t) -
2
t
1
∫exp
= 0
- B( s) -
2
s (1 - B( s) - s) d B( s) .
t

∫e
μt μ( t - s)
8 .8 解 ( 1) X t = X0 e + d Bs .
0

- t - t
( 2) X t = e X 0 + e B t .
σ2 σ2 t

( 3) X t = exp σB t -
2
X0 + γ 0 exp
2 ∫
( s - t) - σ( Bt - Bs ) d s .
t


+ σ e( s- t) d Bs .
- t
( 4) X t = m + ( X( 0) - m) e
0

2 t 2

( 5) X t = X0 exp 1 - σ t + σB t + ∫exp 1 - σ ( t - s) - s +
2 0 2

σ( Bt - Bs ) d s .
文 献 评 注

第3章 关于 P oisson 过程理论方面的详细讨论请 见 [ 24] ; 有关 Poisson


过程的应用请见 [ 33] 或 者 [ 39 ] ; P oisson 过 程 在经 典 风险 理 论 研究 中 的应 用
在一般保险理论的著作中都会提及 , 例如 [21] .
第4章 关于更新过程理论 方面的 讨论 请见 [ 24 ] 或 Ka rlin 和 T aylor 的
著作 [ 11 ] ; 应用方面请见 Feller 的著作 [5 ] , Ross 的著作 [ 33 ] 和 伏见正则 的著
作 [ 26 ] .
第5章 这一章的内容是随机 过程 的主要 内容 , 所 有随 机过程 的教 科书
都将其作为重点来讲 . 所以 , 可以 参考的 书很 多 , 比较 全面 的见 王梓 坤 的《随
机过程通论》( 上、下卷 ) , Feller 的著作 [ 5] 及 Karlin 和 Taylor 的著作 [11] .
第6章 这一章的内容是随机 过程 的主要 内容 , 很 多随 机过程 的教 科书
都有涉及 .但是 , 多数教 材 在介 绍 鞅时 , 都用 到 了测 度 的 知识 .有关 离 散鞅 的
比较详细的介绍请见史及民的著作 [ 35 ] , 连续鞅的内容请见钱 敏平和龚 光鲁
的著作 [ 32 ] , Kar lin 和 Taylor 的著作 [ 11 ] .进一 步的讨 论见 Kallenberg 的著
作 [ 9] .
第7章 Brow n 运动 是随 机 过程 的 主要 内 容 , 是 随 机积 分 的基 础 , 很 多
随机过程的教科书都 有 涉 及 .比 较详 细 的介 绍 请见 Karli n 和 T aylor 的著 作
[ 11 ] 、劳斯的著作 [33] 和 Kallenberg 的著作 [9 ] .
第8章 随机积分是随机分析 的基 础 , 但是国 内的 教材 对这一 内容 很少
涉及 ( 见林元烈的著作 [ 30 ] ) .但 国 外很 多随 机 过程 的 教 科书 都 有涉 及 , 比 较
详细的介绍请见 Karli n 和 T aylor 的著 作 [ 11 ] , Kallenberg 的 著作 [ 9 ] , Bhat -
t acharya 的著作 [2 ] .介绍随机微分方程的理论专著有 Ok sendal 的著 作 [ 17] ,
Ikeda 和 Watanabe 的著作 [ 8] , 中文书有龚光鲁的著作 [ 28 ] , 应 用方面著 作请
见 Neftci 的著作 [ 15 ] 和 Sobczyk 的著作 [20] .
第9章 本章的内容在一般的 教科 书中很 少介 绍 , 但是 它在应 用中 的重
要性越来越明 显 ( 见 [ 1 , 22 ] ) .钱 敏 平 龚 光 鲁的 著 作《随 机 过 程论》中 有 些 介
绍 , 比较全面的是 Jean Ber t oin 的 专 著《Levy P rocesses》( 1996 ) 和 Sat o 的 专
著《Levy Proces ses and Infinitely Divisib le Distrib utions》(1999) .关于点过程
的随机 积 分 见 Ikeda 和 Watanabe 的 专 著《St ochastic Diffe ren tial Equations
and Diffu sion P roces ses》 .
参 考 文 献

[1 ] Aase K K . Contingen t claims valuation w hen th e securit y price is a combina tion


^
of an It process and a rando m poin t proces s . Stoch astic processes and App lications . 1988
o

(28) , 185~200
[2 ] Bh attacha rya R N , Waymire E G . Stochastic P roces ses wit h Applications . John
Wiley & Sons , 1990
[3 ] Jean Ber toin . Levy Processes . Cam bridge U niversit y Pr es s, 1996
[4 ] Elliot t R J . St och astic Calc ulus a nd A pplications . New York Heid elbe rg Be rlin :
Springer-Verlag , 1982
[5 ] Felle r W . An In troduction to P robability T heory and its Applications . Vol II ,
2nd ed . John Wiley & Sons , 1971
[6 ] Gihman I I , Skorohod A V . Stoch astic Differ ential Equations . Berlin : Springer-
Verlag , 1972
[7 ] John C H ull . Options, Fu t ur es , and Oth er Derivatives . Pren tice- Hall Inc .1997 ,
1993 , 1989
[ 8] Ik eta N , Watana be S . Stochastic Differen tial Equations and Diffusion Processes .
2nd ed . Nor t h- Holland and Koda nsha , Amsterdam and Tokyo , 1989
[9 ] Kallenberg O . Found ations of Modern P robability . Berlin , Springer ( 1997 ) .
Beijing , 2001
[10] Kannan D . Int roduction t o St oc hastic Proces ses . New York : Elsevier Nor t h
Holla nd , Inc . 1979
[11] Kar lin S , Taylor H M . A first ( second ) cooour se in Stochastic Processes .
Academic Pr es s, 1975(1981)
[12] Kle baner F C . Int roduction to Stochastic Calcul us with Applications . London :
I mper ial College P res s , 1998
[13] Lam ber ton D, La peyr e B . In troduction to Stochastic Calc ulus Applied to
Finance . London : Chap ma n & Hall , 1996
[14] Lip tse r R S ,Shi ryayev A N . Th eory of Mar tingales . Kluwer , 1989
[15] Neftci S N . A n Intoduction to th e Math ematics of Finacial De riva tives . Sa n
Diego : Academic Pr ess , 1996
[16] Roge rs L C G , Williams D . Diffusions , Markov Processes , and Mar tingales .
Vol .1 . Foundations . Wiley , 1994
参考文献 2 51

[17] /O ksendal B . Stoch astic Differ ential E quations . An int roduction wit h applica-
tions . 4 t h Edition . Berlin : Springer- Ve rla g , 1995
[18] Sat o K . Levy Processes and Infinitely Divisible Distr ibu tions . KEN-IT I , 1999
[19] A br amson N . Infor mation Th eory and Coding . New York : McGraw-
Hill , 1963
[20] Sobczyk K . Stochastic Differen tial E quations . Kluwer Academic P ublishe rs .
Boston : Dordr ech t , 1990
[21] Sore n A sm ussen .Ruin P robabilities . World Scien tific , 2000
[22] Svishchuk A V . Kalema nova A V . T he st oc hastic stability of in terest r ates
wit h ju mp ch ang es . T heoretical P robability and Mathematical Statistics .No . 1999(61)
[23] 成世学 . 破产论研究综述 .中国人民 大学信息 学院保 险数学 研讨班 综述报 告 ,
2000 .8
[24] 邓永录 , 梁之舜 . 随机点过程及其应用 . 北京 : 科学出版社 , 1998
[25] 方兆本 , 缪柏其 . 随机过程 . 合肥 : 中国科技大学出版社 , 1993
[26] 伏见正则著 , 李明哲译 . 概率论和随机过程 . 北京 : 世界图书出版公司 , 1997
[27] 复旦大学 .概率论 ( 第三册随机过程 ) . 北京 : 人民教育出版社 , 1981
[28] 龚光鲁 . 随机微分方程引论 .第二版 .北京 : 北京大学出版社 , 1995
[29] 刘次华 . 随机过程 . 武汉 : 华中理工大学出版社 , 1999
[30] 林元烈 . 应用随机过程 .北京 : 清华大学出版社 , 2002
[31] 钱敏平 , 龚光鲁 . 应用随机过程 . 北京 : 北京大学出版社 , 1998
[32] 钱敏平 , 龚光鲁 . 随机过程论 .北京 : 北京大学出版社 , 1997
[33] 劳 斯 S M 著 , 何 声 武 , 谢 盛 荣 , 程 依 明 译 . 随机 过 程 .北 京 : 中 国 统 计 出 版
社 , 1997
[34] 申鼎煊 . 随机过程 . 武汉 : 华中理工大学出版社 , 1990
[35] 史及民 . 离散鞅论及其应用 . 北京 : 科学出版社 , 1999
[36] 汪仁官 . 概率论引论 . 北京 : 北京大学出版社 , 1994
[37] 王寿仁 . 概率论基础和随机过程 . 北京 : 科学出版社 , 1997
[38] 王梓坤 . 随机过程通论( 上 , 下卷 ) . 北京 : 北京师范大学出版社 , 1996
[39] 严颖 , 成世学 , 程侃 . 运筹学随机模型 . 北京 : 中国人民大学出版社 , 1995
[40] 严加安 , 彭实戈 , 方诗赞等 . 随机分析选讲 . 北京 : 科学出版社 , 1996
[41] 张尧庭 . 金融市场的统计分析 .桂林 : 广西师范大学出版社 , 1998

You might also like