研究生概率论与数理统计课
使用教材:,农业试验统计方法及原理,
课堂教学,36 × 2 =72学时
统计软件 SAS上机实习,2 × 4 =8学时
成绩评定,期末闭卷考试
任课教师,余家林(理学院数理系)
联系电话,外线 87285311,内线 85311
研究生概率论与数理统计课
通过抽样调查或试验得到样本
根据样本的观测值对总体作定性分析
对总体的数字特征进行估计与假设检验,用数字、图表、方程式作定量分析{
撰写研究论文
讲述:统计分析常用方法的原理及新方法
为了解总体 (指它的某一项指标)
研究生概率论与数理统计课
用到微积分与线性代数知识(不必系统复习)
学习要求,理解概念,熟悉原理,掌握方法,
上机计算,解释结果
系统听课,仔细解答习题,上机看结果
研究生处规定:凡选课者,必须参加考试
第一章 概率论专题
§ 1.1 二维随机变量的协方差及相关系数
1,协方差的定义及其性质
2,相关系数的定义及其性质
3,协方差矩阵的定义及其性质
4,相关系数矩阵的定义及其性质
已学习过一维随机变量的数字特征:
数学期望及方差
二维随机变量的协方差及相关系数是二维随机变量的数字特征
可由二维随机变量的 分布 确定
二维随机变量的 协方差及相关系数可用来说明两个随机变量的 线性相关关系
若( X,Y)为离散型随机变量 且分布律为
,,ijji pbYaXP
,)(,)(
i j
ijj
i j
iji pbYEpaXE则
i j
jiji pbaXYE?)(
,)(,)( 2222
i j
ijj
i j
iji pbYEpaXE
),( yxp
xoyxoy
d x d yyxpyYEd x d yyxpxXE,),()(,),()(则
x o y
d x d yyxpxyXYE?),()(
若( X,Y)为连续型随机变量且分布密度为,
XY
YXYX
YXYX
EYYEXXE
或协方差并记作的与或一维随机变量的协方差量为二维随机变定义
),(),,c ov (
,),(
)])([(
xoyxoy
d x d yyxpyYEd x d yyxpxXE,),()(,),()( 2222
定义 为
X与 Y的(线性)相关系数。
)()(
)])([(),(
YX
EYYEXXEYX
EYEXXYE
EYYEXXE
)(
)])([(计算时
,)()()()( 2222 EXXEEXXEX
2222 )()()()( EYYEEYYEY
计算时用到数学期望与方差的性质。
数学期望的性质:
1) ;
)()(,XkEkXEk?则为常数若
2) ;
)()()( YEXEYXE
推论:;
)( 21 nXXXE
)()()( 21 nXEXEXE
推论:;
)( 2211 nn XkXkXkE
)()()( 2211 nn XEkXEkXEk
3)
,相互独立与若 YX
))(()( EYEXXYE?则
方差的性质:
1) ;
)()(,2 XDkkXDk?则为常数若
2)
则相互独立与若,YX
)()()( YDXDYXD
)( 21 nXXXD则
)()()( 21 nXDXDXD
)( 2211 nn XkXkXkD
)()()( 2222121 nn XDkXDkXDk
,,,,21 相互独立若 nXXX推论:;
证明:
22 )()()()( EYYEXXEEYEXYXE
2)()()( YXEYXEYXD
))((2)()( 22 EYYEXXEYYEXXE
,))((2)()( 22 EYYEXXEEYYEEXXE
,)()(,)()( 22 YDEYYEXDEXXE式中的则相互独立与若,YX
,0))(())(())(()(
))(())((
EYEXEYEXEYEXXYE
EYEXY E XXEYXYEEYYEXXE
)()()( YDXDYXD因此
1,协方差的定义及其性质则相互独立与若已经证明,,YX
0))(( EYYEXXE
则若,0))(( EYYEXXE
不相互独立与 YX
XYYXYX
YXYX
EYYEXXE
或协方差并记作的与或一维随机变量的协方差量为二维随机变定义
),(),,c o v (
,),(
)])([(
))(()(),c o v (,EYEXXYEYX可以证明
),c o v (2)()()(
,
YXYDXDYXD
YX
则不相互独立与若
:),c o v ( 的性质如下YX
)(),c ov (,)(),c ov ( YDYYXDXX
),c o v (),c o v ( XYYX?
,0),c o v (,?YXYX 则相互独立与若
反之不一定成立
)])([(),c o v (,EYYEXXEYX即
① ;
② ;
③
2,相关系数的定义及其性质当 X与 Y不相互独立,也就是 X与 Y之间有某一种相互的关系时,这一种关系很可能就是线性关系或者与线性关系近似。
因此有必要研究以 X的线性函数 a+bX 近似地表达 Y时,Y与 a+bX 的均方误差
)]([ 2 bXaYE
则若记
,),(
),()(),()(
)()(
)])([(
22
YX
EYYEXXEYX
YDYXDX
2)]([ bXaYE
2)]()()[( b EXaEYEXXbEYYE
2222 )()()[( b EXaEYEXXbEYYE
))((2))((2 bE XaEYEYYEXXEYYb
]))((2 bE XaEYEXX
2222 )()()( b EXaEYXbY
00)()(),(2 YXYXb
)()()()( 2222222 YYXbY
2)()()(),(2 b E XaEYYXYXb
配方,合并同类项,提公因式后
)],(1)[()]([ 222 YXYbXaYE
,)(),()( 22)( )(2 bE XaEYYXbX XY
,),(,)( )( 时当 XYYXbbE XEYa
)],(1)[(
22 YXY上述均方误差取最小值的线性回归对于为随机变量称 XYbXaY
为回归系数为回归常数称方程 ba,,
为回归系数为回归常数称方程的线性回归对于为随机变量称
dc
YXdYcX
,,
dYcY?的线性函数同样的方法可以求出以的均方误差与时近似地表达 dYcXX?,
)],(1)[()]([ 222 YXXdYcXE
,)(),()( 22)( )(2 d EYcEXYXdY YX
,),(,)( )( 时当 YXYXdd E YEXc
)],(1)[(
22 YXX上述均方误差取最小值
比较 Y对于 X的线性回归方程的均方误差
与 X对于 Y的线性回归方程的均方误差两者都与 成正比。
bXaY
,)],(1)[( 22 YXY为
dYcX
)],(1[ 2 YX
,)],(1)[( 22 YXX为
因此 定义 为
X与 Y的(线性)相关系数。
)()(
)])([(),(
YX
EYYEXXEYX
因为 Y对于 X的回归系数
X对于 Y的回归系数
b与 d 的符号均由 决定,故当
,),( )( )( XYYXb
,),( )( )( YXYXd
),( YX?
不相关与称时 YXYX,0),(
,,0),( 负相关与称时 YXYX
,,0),( 正相关与称时 YXYX
又因为 较大时,较小,称 X与 Y的线性关系 紧密 ;
),( YX? XY?
有时候,又记作 。
因为 较小时,较大,称 X与 Y的线性关系 松懈 ;
),( YX? )],(1[ 2 YX
),( YX? )],(1[ 2 YX
:),( 的性质如下YX?
① ;
② ;
③
1),(1,1),( YXYX 即
:),( 的性质如下YX?
1),(,),(),( XXXYYX
,0),(,?YXYX?则相互独立与若
反之不一定成立
不相关不一定相互独立关系不相关指的是没有线性注意,:
:以下举例说明
3,协方差矩阵的定义及其性质记维随机变量对于 ),,,,( 21 nXXXn?
,)(,),c o v ( iiijiij XDXX
nnnn
n
n
21
22221
11211
则称矩阵
),,,(
,),,,(
21
21
n
n
XXXC O V
XXX 记作的协方差矩阵为
,,,,2,1 jinji 且与?
:),,,( 21 的性质如下nXXXCOV?
为对称矩阵时 C O Vji jiij,,① ;
)( iXD主对角线上的元素为为相关时各个变量相互独立或不 COV
② ;
③
nnnn
n
n
21
22221
11211
对角矩阵
4,相关系数矩阵的定义及其性质记维随机变量对于 ),,,,( 21 nXXXn?
,1,),( iijiij XX
nnnn
n
n
21
22221
11211
则称矩阵
),,,(
,),,,(
21
21
n
n
XXXC O R R
XXX 记作的相关系数矩阵为
,,,,2,1 jinji 且与?
:),,,( 21 的性质如下nXXXC O R R?
为对称矩阵时 C O R Rji jiij,,① ;
1主对角线上的元素为为相关时各个变量相互独立或不 C O R R
② ;
③
nnnn
n
n
21
22221
11211
单位矩阵
使用教材:,农业试验统计方法及原理,
课堂教学,36 × 2 =72学时
统计软件 SAS上机实习,2 × 4 =8学时
成绩评定,期末闭卷考试
任课教师,余家林(理学院数理系)
联系电话,外线 87285311,内线 85311
研究生概率论与数理统计课
通过抽样调查或试验得到样本
根据样本的观测值对总体作定性分析
对总体的数字特征进行估计与假设检验,用数字、图表、方程式作定量分析{
撰写研究论文
讲述:统计分析常用方法的原理及新方法
为了解总体 (指它的某一项指标)
研究生概率论与数理统计课
用到微积分与线性代数知识(不必系统复习)
学习要求,理解概念,熟悉原理,掌握方法,
上机计算,解释结果
系统听课,仔细解答习题,上机看结果
研究生处规定:凡选课者,必须参加考试
第一章 概率论专题
§ 1.1 二维随机变量的协方差及相关系数
1,协方差的定义及其性质
2,相关系数的定义及其性质
3,协方差矩阵的定义及其性质
4,相关系数矩阵的定义及其性质
已学习过一维随机变量的数字特征:
数学期望及方差
二维随机变量的协方差及相关系数是二维随机变量的数字特征
可由二维随机变量的 分布 确定
二维随机变量的 协方差及相关系数可用来说明两个随机变量的 线性相关关系
若( X,Y)为离散型随机变量 且分布律为
,,ijji pbYaXP
,)(,)(
i j
ijj
i j
iji pbYEpaXE则
i j
jiji pbaXYE?)(
,)(,)( 2222
i j
ijj
i j
iji pbYEpaXE
),( yxp
xoyxoy
d x d yyxpyYEd x d yyxpxXE,),()(,),()(则
x o y
d x d yyxpxyXYE?),()(
若( X,Y)为连续型随机变量且分布密度为,
XY
YXYX
YXYX
EYYEXXE
或协方差并记作的与或一维随机变量的协方差量为二维随机变定义
),(),,c ov (
,),(
)])([(
xoyxoy
d x d yyxpyYEd x d yyxpxXE,),()(,),()( 2222
定义 为
X与 Y的(线性)相关系数。
)()(
)])([(),(
YX
EYYEXXEYX
EYEXXYE
EYYEXXE
)(
)])([(计算时
,)()()()( 2222 EXXEEXXEX
2222 )()()()( EYYEEYYEY
计算时用到数学期望与方差的性质。
数学期望的性质:
1) ;
)()(,XkEkXEk?则为常数若
2) ;
)()()( YEXEYXE
推论:;
)( 21 nXXXE
)()()( 21 nXEXEXE
推论:;
)( 2211 nn XkXkXkE
)()()( 2211 nn XEkXEkXEk
3)
,相互独立与若 YX
))(()( EYEXXYE?则
方差的性质:
1) ;
)()(,2 XDkkXDk?则为常数若
2)
则相互独立与若,YX
)()()( YDXDYXD
)( 21 nXXXD则
)()()( 21 nXDXDXD
)( 2211 nn XkXkXkD
)()()( 2222121 nn XDkXDkXDk
,,,,21 相互独立若 nXXX推论:;
证明:
22 )()()()( EYYEXXEEYEXYXE
2)()()( YXEYXEYXD
))((2)()( 22 EYYEXXEYYEXXE
,))((2)()( 22 EYYEXXEEYYEEXXE
,)()(,)()( 22 YDEYYEXDEXXE式中的则相互独立与若,YX
,0))(())(())(()(
))(())((
EYEXEYEXEYEXXYE
EYEXY E XXEYXYEEYYEXXE
)()()( YDXDYXD因此
1,协方差的定义及其性质则相互独立与若已经证明,,YX
0))(( EYYEXXE
则若,0))(( EYYEXXE
不相互独立与 YX
XYYXYX
YXYX
EYYEXXE
或协方差并记作的与或一维随机变量的协方差量为二维随机变定义
),(),,c o v (
,),(
)])([(
))(()(),c o v (,EYEXXYEYX可以证明
),c o v (2)()()(
,
YXYDXDYXD
YX
则不相互独立与若
:),c o v ( 的性质如下YX
)(),c ov (,)(),c ov ( YDYYXDXX
),c o v (),c o v ( XYYX?
,0),c o v (,?YXYX 则相互独立与若
反之不一定成立
)])([(),c o v (,EYYEXXEYX即
① ;
② ;
③
2,相关系数的定义及其性质当 X与 Y不相互独立,也就是 X与 Y之间有某一种相互的关系时,这一种关系很可能就是线性关系或者与线性关系近似。
因此有必要研究以 X的线性函数 a+bX 近似地表达 Y时,Y与 a+bX 的均方误差
)]([ 2 bXaYE
则若记
,),(
),()(),()(
)()(
)])([(
22
YX
EYYEXXEYX
YDYXDX
2)]([ bXaYE
2)]()()[( b EXaEYEXXbEYYE
2222 )()()[( b EXaEYEXXbEYYE
))((2))((2 bE XaEYEYYEXXEYYb
]))((2 bE XaEYEXX
2222 )()()( b EXaEYXbY
00)()(),(2 YXYXb
)()()()( 2222222 YYXbY
2)()()(),(2 b E XaEYYXYXb
配方,合并同类项,提公因式后
)],(1)[()]([ 222 YXYbXaYE
,)(),()( 22)( )(2 bE XaEYYXbX XY
,),(,)( )( 时当 XYYXbbE XEYa
)],(1)[(
22 YXY上述均方误差取最小值的线性回归对于为随机变量称 XYbXaY
为回归系数为回归常数称方程 ba,,
为回归系数为回归常数称方程的线性回归对于为随机变量称
dc
YXdYcX
,,
dYcY?的线性函数同样的方法可以求出以的均方误差与时近似地表达 dYcXX?,
)],(1)[()]([ 222 YXXdYcXE
,)(),()( 22)( )(2 d EYcEXYXdY YX
,),(,)( )( 时当 YXYXdd E YEXc
)],(1)[(
22 YXX上述均方误差取最小值
比较 Y对于 X的线性回归方程的均方误差
与 X对于 Y的线性回归方程的均方误差两者都与 成正比。
bXaY
,)],(1)[( 22 YXY为
dYcX
)],(1[ 2 YX
,)],(1)[( 22 YXX为
因此 定义 为
X与 Y的(线性)相关系数。
)()(
)])([(),(
YX
EYYEXXEYX
因为 Y对于 X的回归系数
X对于 Y的回归系数
b与 d 的符号均由 决定,故当
,),( )( )( XYYXb
,),( )( )( YXYXd
),( YX?
不相关与称时 YXYX,0),(
,,0),( 负相关与称时 YXYX
,,0),( 正相关与称时 YXYX
又因为 较大时,较小,称 X与 Y的线性关系 紧密 ;
),( YX? XY?
有时候,又记作 。
因为 较小时,较大,称 X与 Y的线性关系 松懈 ;
),( YX? )],(1[ 2 YX
),( YX? )],(1[ 2 YX
:),( 的性质如下YX?
① ;
② ;
③
1),(1,1),( YXYX 即
:),( 的性质如下YX?
1),(,),(),( XXXYYX
,0),(,?YXYX?则相互独立与若
反之不一定成立
不相关不一定相互独立关系不相关指的是没有线性注意,:
:以下举例说明
3,协方差矩阵的定义及其性质记维随机变量对于 ),,,,( 21 nXXXn?
,)(,),c o v ( iiijiij XDXX
nnnn
n
n
21
22221
11211
则称矩阵
),,,(
,),,,(
21
21
n
n
XXXC O V
XXX 记作的协方差矩阵为
,,,,2,1 jinji 且与?
:),,,( 21 的性质如下nXXXCOV?
为对称矩阵时 C O Vji jiij,,① ;
)( iXD主对角线上的元素为为相关时各个变量相互独立或不 COV
② ;
③
nnnn
n
n
21
22221
11211
对角矩阵
4,相关系数矩阵的定义及其性质记维随机变量对于 ),,,,( 21 nXXXn?
,1,),( iijiij XX
nnnn
n
n
21
22221
11211
则称矩阵
),,,(
,),,,(
21
21
n
n
XXXC O R R
XXX 记作的相关系数矩阵为
,,,,2,1 jinji 且与?
:),,,( 21 的性质如下nXXXC O R R?
为对称矩阵时 C O R Rji jiij,,① ;
1主对角线上的元素为为相关时各个变量相互独立或不 C O R R
② ;
③
nnnn
n
n
21
22221
11211
单位矩阵