CH 1

数理统计
第一章 - 事件及其概率
许佩蓉
上海交通大学
办公室：理科群楼 6 号楼 526
Email: prxu@sjtu.edu.cn
助教团队：孙辰妮，王祉静
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第一章 1 / 42
关于课程
目录
1 关于课程
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
关于课程
教材和参考文献
教材:
All of Statistics — A concise course in statistical inference, by Larry Wasserman
统计学完全教程, L. 沃塞曼著，张波，刘中华，魏秋萍，代金译, 科学出版社
参考文献:
应用数理统计, 邰淑彩，孙韫玉，何娟娟，武汉大学出版社
统计思想欣赏, 王静龙，科学出版社
应用数理统计, 李忠范，高文森，高等教育出版社
魅力统计, 王静龙，梁小筠，中国统计出版社
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
关于课程
课程大纲
事件；概率；随机变量；期望；
概率不等式；随机变量的收敛
样本；抽样分布
参数推断：矩估计、极大似然估计及性质
Delta 方法，多参数模型，Bootstrap 方法
假设检验：Wald 检验，卡方检验，置换检验，似然比检验，多重检验，拟合优度检验
线性回归和 Logistics 回归
分类：错判率，贝叶斯分类器，高斯分类器，线性分类器
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
关于课程
成绩评定
成绩构成
内容所占百分比
考勤和课堂互动 7% + 3%
作业 40%
期末考试 50%
考勤: Canvas 系统上点名签到三分之一次没到，考勤分为 0

作业：
纸质作业请在截至时间之前提交pdf 文件至 Canvas 系统
编程作业请在截至时间之前提交包含程序和结果的 pdf 文件至 Canvas 系统
迟交的作业不收，算该次作业分为 0
课堂互动：课堂答题、课后讨论、擦黑板等
期末考试：15%是书本或课堂上的原题或非常相似的题目
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
引言
目录
2 引言
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
引言
概率与统计
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
引言
随机性
概率统计研究随机性，例如：
博彩业：早期的概率统计 (尤其是初等概率) 几乎都来自于现实生活中的赌博
17 世纪，帕斯卡与费马通信讨论赌博赌本的分配问题
保险业：人寿险通过研究整个人群的年龄分布来设计产品；汽车保险通过研究不同价
位 (不同人群、不同城市等) 汽车交通意外概率设计产品
信用风险：通过对不同人群研究违约概率来决定授信额度
药物研发、量化交易、电商等其他领域
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
引言
统计学
统计学的分类：
描述统计学：统计量，图表
推断统计学：估计，假设检验等
1 频率学派统计学 (传统的统计学)
2 贝叶斯学派统计学
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
样本空间和事件
目录
3 样本空间和事件
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
样本空间
定义 1
一个随机试验 E 的所有可能结果所组成的集合称为随机试验 E 的样本空间, 记为Ω. 样本空
间中的元素，即 E 的每个结果，称为样本点, 记为ω。样本空间 Ω 的最小元素成为 E 的基
本事件，子集称为 E 的称随机事件, 简称事件, 通常以大写英文字母A, B, C 来表示事件.
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
样本空间
定义 1
例2
将一枚硬币连续抛两次，则
Ω = {HH, HT, TH, TT}
“第一次出现正面” 的事件是
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
样本空间
定义 1
例2
将一枚硬币连续抛两次，则
Ω = {HH, HT, TH, TT}
“第一次出现正面” 的事件是 A = {HH, HT}
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例3
记录某公共汽车站某日上午某时刻的等车人数, 则
Ω=
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例3
Ω = {0, 1, 2, 3, 4, · · · }
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例3
Ω = {0, 1, 2, 3, 4, · · · }
“等车人数不超过 10 人” 的事件是
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例3
Ω = {0, 1, 2, 3, 4, · · · }
“等车人数不超过 10 人” 的事件是 A = {k ∈ N : 0 ≤ k ≤ 10}
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例3
Ω = {0, 1, 2, 3, 4, · · · }
例4
通过寿命试验考察某种电子产品的寿命, 则
Ω=
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例3
Ω = {0, 1, 2, 3, 4, · · · }
例4
Ω = {t : t > 0}
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例3
Ω = {0, 1, 2, 3, 4, · · · }
例4
Ω = {t : t > 0}
“产品寿命超过 100 小时” 的事件是
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例3
Ω = {0, 1, 2, 3, 4, · · · }
例4
Ω = {t : t > 0}
“产品寿命超过 100 小时” 的事件是A = {t : t > 100}
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例3
Ω = {0, 1, 2, 3, 4, · · · }
例4
Ω = {t : t > 0}
“产品寿命超过 100 小时” 的事件是A = {t : t > 100}
根据样本空间 Ω 的大小，可以将其分为三类：有限样本空间、可数无穷样本空间、不
可数样本空间.
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
事件之间的关系
子事件：A ⊂ B
事件的和：A ∪ B = {ω : ω ∈ A或ω ∈ B},
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
事件之间的关系
子事件：A ⊂ B
事件的和：A ∪ B = {ω : ω ∈ A或ω ∈ B}, ∪ni=1 Ai = {ω : 至少存在某个 Ai 使得 ω ∈ Ai }
事件的交：A ∩ B = AB = {ω : ω ∈ A且ω ∈ B}
事件的差：A − B = {ω : ω ∈ A且ω ∈
/ B}
互不相容：AB = ∅
对逆：AAc = Φ, A ∪ Ac = Ω
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
事件的集合运算-1
对于可列个事件 A1 , A2 , · · · ,
∞
∪ Ai = {ω : 至少存在某个 Ai 使得 ω ∈ Ai , i = 1, 2, . . .},
i=1
∞
∩ Ai = {ω : 对所有 Ai 有 ω ∈ Ai , i = 1, 2, . . .},
i=1
以及德 · 摩根公式
∞ ∞ ∞ ∞
{ ∪ Ai }c = ∩ Aci , { ∩ Ai }c = ∪ Aci .
i=1 i=1 i=1 i=1
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
定义 5 (单调序列的极限)
∞
单调增 A1 ⊂ A2 ⊂ A3 ⊂ · · · , 记 lim An = ∪ Ai .
n→∞ i=1
∞
单调减 A1 ⊃ A2 ⊃ A3 ⊃ · · · , 记 lim An = ∩ Ai .
n→∞ i=1
例6
令 Ω = R，
∞ ∞
Ai = [0, 1/i), i = 1, 2, . . .，则 ∪ Ai = [0, 1), ∩ Ai = {0}
i=1 i=1
Ai = (0, 1/i), i = 1, 2, . . .，则
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
定义 5 (单调序列的极限)
∞
单调增 A1 ⊂ A2 ⊂ A3 ⊂ · · · , 记 lim An = ∪ Ai .
n→∞ i=1
∞
单调减 A1 ⊃ A2 ⊃ A3 ⊃ · · · , 记 lim An = ∩ Ai .
n→∞ i=1
例6
令 Ω = R，
∞ ∞
Ai = [0, 1/i), i = 1, 2, . . .，则 ∪ Ai = [0, 1), ∩ Ai = {0}
i=1 i=1
∞ ∞
Ai = (0, 1/i), i = 1, 2, . . .，则 ∪ Ai = (0, 1), ∩ Ai = ∅
i=1 i=1
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
概率的定义和性质
目录
4 概率的定义和性质
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
概率的定义
1933 年, 苏联数学家柯尔莫哥洛夫提出概率论的公理化结构, 给出概率的严格定义
定义 7 (概率的公理化定义)
定义在概率空间 Ω 上的函数 P : Ω → [0, 1] 称为一个概率，如果其满足下述三条公理:
非负性: P(A) ≥ 0;
规范性: P(Ω) = 1;
可列可加性: 对于两两互不相交事件 A1 , A2 , . . . 有
∞
∑
∞
P( ∪ Ai ) = P(A1 + A2 + · · · ) = P(Ai ).
i=1
i=1
注:
数学上只要满足上述三条公理的任意函数 P 都是概率. . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
概率的常见性质
基于概率定义的三条公理，可推导出下列常见性质:
(1) P(∅) = 0.
(2) (有限可加性) 若 Ai , i = 1, . . . , n 互不相容，则
∑
n ∑
n
P( Ai ) = P(Ai ).
i=1 i=1
(3) (单调性与可减性) 若 A ⊂ B，则
P(A) ≤ P(B), P(B − A) = P(B) − P(A).
(4) P(Ac ) = 1 − P(A).

(5) (加法公式) 对于任意两个事件 A 和 B,
P(A ∪ B) = P(A) + P(B) − P(A ∩ B).

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
加法公式的推广
三个事件的和
P(A1 ∪ A2 ∪ A3 )
= P(A1 ) + P(A2 ) + P(A3 ) − P(A1 A2 ) − P(A2 A3 ) − P(A1 A3 ) + P(A1 A2 A3 )
n 个事件的和
∑
n ∑
P(∪ni=1 Ai ) = P(Ai ) − P(Ai Aj )
i=1 1≤i<j≤n
∑
+ P(Ai Aj Ak ) + · · · + (−1)n−1 P(A1 A2 · · · An ).
1≤i<j<k≤n
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例8
某工厂职工可以订阅两种读物: 报纸和杂志，其中订阅报纸的概率为 0.7，订阅杂志的概率
为 0.2, 两种都订阅的概率为 0.1. 求
(1) 订阅报纸而不订阅杂志的概率;
(2) 至少订阅一种读物的概率;
(3) 两种读物都不订阅的概率.
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例8
某工厂职工可以订阅两种读物: 报纸和杂志，其中订阅报纸的概率为 0.7，订阅杂志的概率
为 0.2, 两种都订阅的概率为 0.1. 求
(1) 订阅报纸而不订阅杂志的概率;
(2) 至少订阅一种读物的概率;
(3) 两种读物都不订阅的概率.
例9
设 A ⊃ C, B ⊃ C, P(A) = 0.7, P(A − C) = 0.4, P(AB) = 0.5, 求 P(AB − C).
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
有限样本空间上的概率
定义 10 (等可能概型)
如果 Ω 是有限的，且每种结果都是等可能发生的，则
|A| A 所包含的样本点个数
P(A) = = .
|Ω| 样本点总数
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例 11
袋中有 a 只白球，b 只红球，k 个人作有放回抽样, 依次在袋中取一只球，求第 i(1 ≤ i ≤ k)
个人取到白球的概率.
例 12
假设每人的生日在一年 365 天中的任一天是等可能的, 即都等于 1/365, 求 64 个人中至少
有 2 人生日相同的概率.
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
条件概率
目录
5 条件概率
条件概率的定义
全概率公式
贝叶斯公式
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
条件概率条件概率的定义
条件概率定义
定义 13
对于两个事件 A, B, 如果 P(B) > 0, 那么给定事件 B，事件 A 发生的条件概率为：
P(AB)
P(A|B) = .
P(B)
同理可得, 如果 P(A) > 0，则

P(AB)
P(B|A) =
P(A)
为事件 B 发生的条件下事件 A 发生的条件概率.
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例 14
疾病 D 的医学检验结果可能为 + 和 −，概率如下：
D Dc
+ 0.009 0.099
− 0.001 0.891
则 P(+|D) 和 P(−|Dc ) 分别为
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例 14
D Dc
+ 0.009 0.099
− 0.001 0.891
则 P(+|D) 和 P(−|Dc ) 分别为
P(+|D) = 0.9, P(−|Dc ) = 0.9.
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例 15
设 10 件产品中有 4 件次品，6 件正品。现每次从中任取一件产品，且取后不放回，求：
(1) 前两次均取到次品的概率；
(2) 已知取出的一个是次品的条件下另外一个也是次品的概率.
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
乘法公式
定理 16
对于两个事件 A, B, 如果 P(A) > 0，则
P(AB) = P(B|A)P(A).
推论 17
设 A, B, C 为事件，且 P(AB) > 0，则
P(ABC) = P(C|AB)P(B|A)P(A);
设 A1 , A2 , . . . , An 为 n 个事件，且 P(A1 A2 · · · An−1 ) > 0，则
P(A1 A2 · · · An ) = P(An |A1 A2 · · · An−1 ) × P(An−1 |A1 A2 · · · An−2 ) × · · · × P(A2 |A1 ) × P(A1 ).
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例 18
设某光学仪器厂制造的透镜, 第一次落下时打破的概率为 1/2, 若第一次落下未打破, 第二
次落下打破的概率为 7/10 , 若前两次落下未打破, 第三次落下打破的概率为 9/10. 试求透
镜落下三次而未打破的概率.
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
条件概率全概率公式
样本空间的划分
定义 19 (样本空间的划分)
称 A1 , A2 , · · · 为样本空间 Ω 的一个划分，如果
Ai ∩ Aj = ∅, i =
̸ j, i, j = 1, 2, · · · ;
∪∞
i=1 Ai = Ω.
例 20
设 Ai = [i − 1, i), i = 1, 2, · · · , 则 A1 , A2 , · · · 为 [0, ∞) 的一个划分.
例 21
[0, ∞) 的一个自然划分为
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
样本空间的划分
定义 19 (样本空间的划分)
称 A1 , A2 , · · · 为样本空间 Ω 的一个划分，如果
Ai ∩ Aj = ∅, i =
̸ j, i, j = 1, 2, · · · ;
∪∞
i=1 Ai = Ω.
例 20
设 Ai = [i − 1, i), i = 1, 2, · · · , 则 A1 , A2 , · · · 为 [0, ∞) 的一个划分.
例 21
[0, ∞) 的一个自然划分为A 和 Ac ，对任意事件 A ⊂ [0, ∞) 成立.
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
全概率公式
定理 22 (全概率公式)
设 B1 , · · · , Bn 为样本空间 Ω 的一个划分，且 P(Bi ) > 0, i = 1, . . . , n, 对任意事件 A 有
∑
n
P(A) = P(A|Bi )P(Bi ).
i=1
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例 23
有一批同一型号的产品，已知其中由一厂生产的占 30%，二厂生产的占 50%，三厂生产的
占 20%，又知这三个厂的产品次品率分别为 2%，1%，1%，问从这批产品中任取一件是次
品的概率是多少?
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
条件概率贝叶斯公式
贝叶斯公式
定理 24 (贝叶斯公式)
设 B1 , · · · , Bn 为样本空间 Ω 的一个划分，且 P(Bi ) > 0, i = 1, . . . , n, P(A) > 0, 则
P(A|Bi )P(Bi )
P(Bi |A) = ∑
n , i = 1, . . . , n,
P(A|Bj )P(Bj )
j=1
称此为贝叶斯公式.
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
注：
(1) 贝叶斯公式反映了因果关系互换之间的概率关系.
(2) P(Bi ) 称为先验概率 (prior probability)，P(Bi |A) 称为后验概率 (posterior probability).
(3) 在实际中 B, Bc 是一个自然的划分，此时贝叶斯公式为
P(A|B)P(B)
P(B|A) = .
P(A|B)P(B) + P(A|Bc )P(Bc )
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例 25
对以往数据分析结果表明, 当机器调整得良好时, 产品的合格率为 98%, 而当机器发生某种
故障时, 其合格率为 55%. 每天早上机器开动时, 机器调整良好的概率为 95%. 试求已知某
日早上第一件产品是合格品时, 机器调整得良好的概率是多少?
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例 25
对以往数据分析结果表明, 当机器调整得良好时, 产品的合格率为 98%, 而当机器发生某种
故障时, 其合格率为 55%. 每天早上机器开动时, 机器调整良好的概率为 95%. 试求已知某
日早上第一件产品是合格品时, 机器调整得良好的概率是多少?
概率 0.95 是先验概率, 由以往的数据分析得到的;

概率 0.97 是后验概率, 得到信息之后再重新加以修正的.
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例 26 (例 18 续)
D Dc
+ 0.009 0.099
− 0.001 0.891
则 P(D|+) =
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
例 26 (例 18 续)
D Dc
+ 0.009 0.099
− 0.001 0.891
则 P(D|+) = 1/12 = 8.3%.
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
独立事件
目录
6 独立事件
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
独立事件
定义 27 (两个事件相互独立)
对于两个事件 A 和 B, 如果
P(AB) = P(A) × P(B),
则称事件 A 与 B 独立。记为 A ⨿ B。
推论 28
对于两个事件 A 和 B, 如果 P(B) > 0，则 A, B 相互独立的充分必要条件是
P(A|B) = P(A).
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
独立事件
定理 29 (独立扩张定理)
对于两个事件 A 和 B, 下面四个陈述相互等价：
(1) A 与 B 相互独立;
(2) A 与 Bc 相互独立;
(3) Ac 与 B 相互独立;
(4) Ac 与 Bc 相互独立;
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
独立事件
定义 30 (一列事件相互独立)
称一列事件 {Ai : i ∈ I} 相互独立，如果对所有 J ⊂ I 有
∩ ∏
P( Ai ) = P(Ai ).
i∈J i∈J
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
独立事件
独立与互斥
1. “A, B 独立” 与 “A, B 互斥” 之间无必然联系

2. 正概率的互斥事件不可能是独立的
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
独立事件
例 31
两个人轮流投篮，第 1 个人投进的概率是 1/3，第 2 个人投进的概率是 1/4，问第 1 个人
比第 2 个人先投进的概率是多少？
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
独立事件
例 32
下面是一个串并联电路示意图. A、B、C、D、E、F、G、H 都是电路中的元件. 它们下方的
数是它们各自正常工作的概率. 求电路正常工作的概率.
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .

CH 1

Uploaded by

Document Information

Original Title

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

CH 1

Uploaded by

Copyright:

Available Formats

数理统计

考勤: Canvas 系统上点名签到三分之一次没到，考勤分为 0

Ai = (0, 1/i), i = 1, 2, . . .，则

(3) (单调性与可减性) 若 A ⊂ B，则

P(A) ≤ P(B), P(B − A) = P(B) − P(A).

(4) P(Ac ) = 1 − P(A).

P(A ∪ B) = P(A) + P(B) − P(A ∩ B).

同理可得, 如果 P(A) > 0，则

则 P(+|D) 和 P(−|Dc ) 分别为

则 P(+|D) 和 P(−|Dc ) 分别为

P(+|D) = 0.9, P(−|Dc ) = 0.9.

设 A1 , A2 , . . . , An 为 n 个事件，且 P(A1 A2 · · · An−1 ) > 0，则

概率 0.95 是先验概率, 由以往的数据分析得到的;

则 P(D|+) = 1/12 = 8.3%.

P(AB) = P(A) × P(B),

1. “A, B 独立” 与 “A, B 互斥” 之间无必然联系

You might also like