经济预测与决策方法
第三章 回归预测方法
—— 因果预测
什么是回归分析?
确定性关系 函数关系
非确定性关系 相关关系
经济预测与决策方法
§ 1 一元线性回归
一、预测模型结构
二、预测模型的参数确定
三、预测模型的检验
四、用预测模型进行预测
五、预测结果的精确度
经济预测与决策方法
● 结 构
散点目测确定
已知:有 n组样本,( xi yi/i=1,2),散点图呈
现直线关系,则
回归系数,模型参数—、
计算值—实际值,—
或
ba
y
bxa
εbxay
i
i
i
i
iii
y
y
?
?
??
???
经济预测与决策方法
● 参 数
?
?
?
?
?
?
?
????
?
?
??
?
?
?
?
????
?
?
????
?
?
? ????
? ????
??
?
?
? ?
? ? ? ?
???
??
?
?
?
?
xby
n
x
b
n
y
a
S
S
xx
yyxx
xxn
yxyxn
b
yxxbxa
yxbna
ii
xx
xy
i
ii
ii
iiii
iiii
ii
222
2
)(
))((
)(
0
0
?
a
Q
a
Q
min)bx-a(y
min)y(yQ
2
i
n
1i
i
2
i
n
1i
i
Δ
经济预测与决策方法
● 检 验 —— 相关性分析
相关系数,
)R(S
)bxa(y
)y-(yQ
QR
SS
S
R
SS
S
yyxx
yyxx
R
yy
ii
i
i
yyxx
xy
yyxx
xy
ii
iii
2
2
2
2
22
1
?
)()(
))(?(
??
???
?
?
?
???
??
?
?
?
? ?
?
?
之间的关系:与
经济预测与决策方法
● 检 验
之间的线性关系不密切与 说明
很大时,反之当
之间线性关系密切与说明
当
分析
yx
SQR
yx
yy QR
RR
RSQ
yy
ii
yy
??
???
????
??
0
?0时,ii)
111i)
)1(
2
经济预测与决策方法
① 当 R= 0时,Sxy=0,b=0
x与 y无关
② 当 0< R< 1时,b> 0
x与 y之间有一定线性关系,且呈正相关,γ越大,趋势越明显。
反之,当 -1< R< 0时,b< 0
x与 y之间有一定线性关系,且呈负相关,γ越小,趋势越明显。
③ 当 |R|= 0时,
x与 y之间完全线性相关,x与 y之间存在着确定的线性弓数关系。
ii yy ??
● 结 论
经济预测与决策方法
检验步骤
( 1)计算相关 R的值;
( 2)给定显著性水平 α(置信度为 1-α),查出相应的
临界值 Rα,n-2
( 3)比较 |R|与 Rα,n-2的大小
若 |R| ≥ Rα,n-2,则表明 x与 y之间存在线性相关
关系;
若 |R| < Rα,n-2,则表明 x与 y之间不存在线性相
关关系。
经济预测与决策方法
置信区间
%7.993S?
%4.952S?
%3.68S?y
2
)?(
Sn
2
)?(
)
)(
)(1
1(?
0
0
00
2
2,2/
2
2
2
0
2,2/0
范围内的概率为 落在
范围内的概率为 落在
范围内的概率为落在
:则由正态分布性质可知
接近于正态分布,若令较大时,
简化算法:
?
?
?
?
?
?
?
?
?
?
?
???
?
?
?
?
?
?
y
y
y
n
yy
t
n
yy
xx
xx
n
ty
ii
n
ii
i
n
?
?
经济预测与决策方法
实例 一元线性回归模型计算表 单位亿元
年份 国内生产总值 y 固定资产投资完成额 x xy x2 y2
1978 195 20 3900 400 38025
1979 210 20 4200 400 44100
1980 244 26 6344 676 59536
1981 264 35 9240 1225 69696
1982 294 52 15288 2704 86436
1983 314 56 17584 3136 98596
1984 360 81 29160 6561 129600
1985 432 131 56592 17161 186624
1986 481 149 71669 22201 231361
1987 567 163 92421 26569 321489
1988 655 232 151960 53824 429025
1989 704 202 42208 40804 495616
合计 4720 1167 600566 175661 2190104
试配合适当的回归模型并进行显著性检验;若 1990年该省回定资产投资完成额
为 249亿元,当显著性水平 α= 0.05时,试估计 1990年国内生产总值的预测区间。
经济预测与决策方法
1、绘制散点图
2、建立一元线性回归模型
bxay ???
3、计算回归系数
2767.27460431698552116717566112 4720116760056612)(? 222 ???? ??????? ??? ? ?xxn yxxynb
9 2 4 3.171121 1 6 72 7 6 7.2124 7 2 0?? ?????? ?? n xbn ya
所求回归预测模型为,xy 2 7 6 7.29 2 4 3.1 7 1? ??
解,
经济预测与决策方法
4.检验线性关系的显著性
222222 47202 1 9 0 1 0 41211671 7 5 6 6 112
472011676 0 0 5 6 612
)( ?????
????
???
??
? ?? ?? ? ? )y(ynxxn
yxxyxR
9829.0487.1728090 16985524002848746043 1698552 ????
当显著性水平 α= 0.05,自由度= n-m= 12-2= 10时,查相关系
数临界值表,得 R0.05( 10)= 0.576,因
R= 0.9829> 0.576= R0.05( 10)= 0.576
故在 α= 0.05显著性水平上,检验通过,说明两变量之间相关关
系显著。
经济预测与决策方法
5.预测
( 1)计算估计标准误差。
212
6 0 0 5 6 62767.247209243.1712 1 9 0 1 0 4
2
??2
?
?????
?
??? ? ? ?
n
xybyayS
y
6 3 4 3.3310 6 9 1 8.1 1 3 1 2 ??
( 2)当显著性水平 α= 0.05,自由度= n-m=10时,查 t分布
表得,
t0.025(10)=2.228
经济预测与决策方法
( 3)当 x0=249亿元时,代入回归模型得 y的点估计值为,
)(8 2 2 6.7382492 7 6 7.29 2 4 3.171? 0 亿元????y
预测区间为,
? ?????? 22
2
0
2/0
11)( ?
)x(xn
)x-n ( x
n
Smnty y??
746043
75.15112
12
116343.33228.28226.738 2?????? ?
3 5 1 8.908 2 2 6.7 3 8
2 0 5 7.16 3 4 3.332 2 8.28 2 6 6.7 3 8
?
?
?
???
即:当 1990年全省固定资产投资完成额为 249亿元时,在 α=
0.05的显著性水平上,国内生产总值的预测区间为,648.4708~
829.1744亿元之间。
经济预测与决策方法
§ 2.多元线性回归
● 结构
mm xbxbxbxbby ??????? ?3322110?
二元时,
22110? xbxbby ???
经济预测与决策方法
● 参数确定
m in)?(
1
2?
?
? ????
n
i
ii yyQ
?
?
????
n
i
i ii xbxbby
1
2
22110 )(
0
0
0
2
1
0
?
?
?
?
?
?
?
?
?
b
Q
b
Q
b
Q
?
?
?
?
?
?
?
???
????
???
????
????
? ? ?
2
22211202
212
2
11101
22110
iiiiii
iiiiii
iii
xbxxbxbyx
xxbxbxbyx
xbxbnby
经济预测与决策方法
设有 n组样本 ),,2,1/( 1 nixxy miii ?? ?
矩阵形式,eXBYXB Y ??? 或 ?
?
?
?
?
?
?
?
?
?
?
?
?
?
n
y
y
y
Y
?
2
1
?
?
?
?
?
?
?
?
?
?
?
?
?
m
b
b
b
B
?
1
0
?
?
?
?
?
?
?
?
?
?
?
?
?
n
e
e
e
e
?
2
1
?
?
?
?
?
?
?
?
?
?
?
?
?
mnnn
m
m
xx
xxx
xxx
X
?
?????
?
?
21
22212
12111
1
1
1
经济预测与决策方法
m in
1
2 ? ??? ?
?
n
i
ieQ
XBXBYXBXBYYY
XBYXBY
XBYXBY
''''''
))('''(
)()'(
????
???
???
根据,
X ' Y'XB =
X ' X BYX=
B
Q
B ' X ' YXBY
YXBXBYAbAB
1
)X(
02'2
'
'')''(,'')'(
?
??
?
?
??
=
是同值矩阵与所以:
经济预测与决策方法
例:设某邮电研究所以新产品开发和技术服务为主要任务,近十年来该所
收入,经费支出和科技人员数如表所示(见表前 3栏),
某邮电研究所的收入与经费支出科技人员数的回归计算
年份
序号
收入 (万元 )
Yi
经费支出 (万元 )
X1i
科技人员 (人 )
X2i X1i
2 X2i2 X1iX2i X1iYi X2iYi
1 235 254 160 64516 25600 40640 59690 37600
2 238 257 163 66049 26569 41891 61166 38794
3 256 275 166 75625 27556 45650 70400 42496
4 264 290 169 84100 28561 49010 76560 44616
5 271 295 172 87025 29584 50740 79945 46612
6 273 296 175 87616 30625 51800 80808 47775
7 289 311 178 96721 31684 55358 89879 51441
8 298 318 181 101124 32761 57558 94764 5393
9 304 327 184 106929 33856 60168 99408 559
10 310 341 187 116281 34969 63767 108438 594
合计 2746 2964 1735 885986 301765 51682 821058 478
经济预测与决策方法
用接线性相关拟合回归预测模型。如果次年该所经费预算定为 380万元,
科技人员增加到 200人,预测其收入可能达到多少?
根据题意要求,此二元线性回归预测模型为,
2210? XbbbY ???
将表中有关数据代入后式,得,
b1=0.6858
b2=0.8721
b0=-79.9805
则二元线性回归预测模型为,
21 8 7 2 1.06 8 5 8.09 8 0 5.79? XXY ????
若次年的科研经费支出预测为 380万元,科技人员增加到 200人,分别代入
X1和 X2,则,
)(0435.3552008721.06858.09805.79? 万元??????Y
即为该研究所次年可能达到的收入水平。
经济预测与决策方法
§ 3.非线性回归预测
一、常见一元非线性回归预测模型结构
(1)双曲线回归模型
(2)多项式回归模型
(3)对数曲线回归模型
(4)三角函数回归模型
(5)幂函数回归模型
(6)指数回归模型
x
bay ???
kk xbxbxbxbby ?????? ?332210?
xbay ln? ??
b S in xay ???
baxy ??
xaby ??
经济预测与决策方法
二、参数确定的方法
(1)直接换元法
(2)间接代换法 (如对数变换等 )
(3)线性化迭代方法
经济预测与决策方法
(1)直接换元法
通过简单的变量换元直接化为线性回归模型
如
令,
由于这类模型因变量没有变形,直接采用
最小平方法估计回归系数,并进行检验和预测。
x
bay ???
xbayxax ????? ?,则
经济预测与决策方法
(2)间接代换法
通过对数变形的代换间接地化为线性回归模型
如
令
则,
由于经变换后改变了因变量的形态,使得变形后
模型的最小平方估计失去了原模型的残差平方和最小
的意义,从而估计不到原模型的最佳回归系数,造成
回归模型与原数列之间的偏差较大。
baxy ??
xbay lnln?ln ??
aaxxyy ln,ln,?ln? ??????
xbay ??????
经济预测与决策方法
(3)线性化迭代方法
一般在矢法用数学的轶换或代换变为线性函数时
采用。
如,
高斯 — 牛顿迭代方法的基本思想就是使用泰勒级
数展开或去近似地代替非线性回归模型,通过多次迭
代,多次修正系数,使回归系数不断逼近非线性回归
模型的最佳回归系数,最后使原模型的残差平方和达
到最小。
xcbay ???
第三章 回归预测方法
—— 因果预测
什么是回归分析?
确定性关系 函数关系
非确定性关系 相关关系
经济预测与决策方法
§ 1 一元线性回归
一、预测模型结构
二、预测模型的参数确定
三、预测模型的检验
四、用预测模型进行预测
五、预测结果的精确度
经济预测与决策方法
● 结 构
散点目测确定
已知:有 n组样本,( xi yi/i=1,2),散点图呈
现直线关系,则
回归系数,模型参数—、
计算值—实际值,—
或
ba
y
bxa
εbxay
i
i
i
i
iii
y
y
?
?
??
???
经济预测与决策方法
● 参 数
?
?
?
?
?
?
?
????
?
?
??
?
?
?
?
????
?
?
????
?
?
? ????
? ????
??
?
?
? ?
? ? ? ?
???
??
?
?
?
?
xby
n
x
b
n
y
a
S
S
xx
yyxx
xxn
yxyxn
b
yxxbxa
yxbna
ii
xx
xy
i
ii
ii
iiii
iiii
ii
222
2
)(
))((
)(
0
0
?
a
Q
a
Q
min)bx-a(y
min)y(yQ
2
i
n
1i
i
2
i
n
1i
i
Δ
经济预测与决策方法
● 检 验 —— 相关性分析
相关系数,
)R(S
)bxa(y
)y-(yQ
QR
SS
S
R
SS
S
yyxx
yyxx
R
yy
ii
i
i
yyxx
xy
yyxx
xy
ii
iii
2
2
2
2
22
1
?
)()(
))(?(
??
???
?
?
?
???
??
?
?
?
? ?
?
?
之间的关系:与
经济预测与决策方法
● 检 验
之间的线性关系不密切与 说明
很大时,反之当
之间线性关系密切与说明
当
分析
yx
SQR
yx
yy QR
RR
RSQ
yy
ii
yy
??
???
????
??
0
?0时,ii)
111i)
)1(
2
经济预测与决策方法
① 当 R= 0时,Sxy=0,b=0
x与 y无关
② 当 0< R< 1时,b> 0
x与 y之间有一定线性关系,且呈正相关,γ越大,趋势越明显。
反之,当 -1< R< 0时,b< 0
x与 y之间有一定线性关系,且呈负相关,γ越小,趋势越明显。
③ 当 |R|= 0时,
x与 y之间完全线性相关,x与 y之间存在着确定的线性弓数关系。
ii yy ??
● 结 论
经济预测与决策方法
检验步骤
( 1)计算相关 R的值;
( 2)给定显著性水平 α(置信度为 1-α),查出相应的
临界值 Rα,n-2
( 3)比较 |R|与 Rα,n-2的大小
若 |R| ≥ Rα,n-2,则表明 x与 y之间存在线性相关
关系;
若 |R| < Rα,n-2,则表明 x与 y之间不存在线性相
关关系。
经济预测与决策方法
置信区间
%7.993S?
%4.952S?
%3.68S?y
2
)?(
Sn
2
)?(
)
)(
)(1
1(?
0
0
00
2
2,2/
2
2
2
0
2,2/0
范围内的概率为 落在
范围内的概率为 落在
范围内的概率为落在
:则由正态分布性质可知
接近于正态分布,若令较大时,
简化算法:
?
?
?
?
?
?
?
?
?
?
?
???
?
?
?
?
?
?
y
y
y
n
yy
t
n
yy
xx
xx
n
ty
ii
n
ii
i
n
?
?
经济预测与决策方法
实例 一元线性回归模型计算表 单位亿元
年份 国内生产总值 y 固定资产投资完成额 x xy x2 y2
1978 195 20 3900 400 38025
1979 210 20 4200 400 44100
1980 244 26 6344 676 59536
1981 264 35 9240 1225 69696
1982 294 52 15288 2704 86436
1983 314 56 17584 3136 98596
1984 360 81 29160 6561 129600
1985 432 131 56592 17161 186624
1986 481 149 71669 22201 231361
1987 567 163 92421 26569 321489
1988 655 232 151960 53824 429025
1989 704 202 42208 40804 495616
合计 4720 1167 600566 175661 2190104
试配合适当的回归模型并进行显著性检验;若 1990年该省回定资产投资完成额
为 249亿元,当显著性水平 α= 0.05时,试估计 1990年国内生产总值的预测区间。
经济预测与决策方法
1、绘制散点图
2、建立一元线性回归模型
bxay ???
3、计算回归系数
2767.27460431698552116717566112 4720116760056612)(? 222 ???? ??????? ??? ? ?xxn yxxynb
9 2 4 3.171121 1 6 72 7 6 7.2124 7 2 0?? ?????? ?? n xbn ya
所求回归预测模型为,xy 2 7 6 7.29 2 4 3.1 7 1? ??
解,
经济预测与决策方法
4.检验线性关系的显著性
222222 47202 1 9 0 1 0 41211671 7 5 6 6 112
472011676 0 0 5 6 612
)( ?????
????
???
??
? ?? ?? ? ? )y(ynxxn
yxxyxR
9829.0487.1728090 16985524002848746043 1698552 ????
当显著性水平 α= 0.05,自由度= n-m= 12-2= 10时,查相关系
数临界值表,得 R0.05( 10)= 0.576,因
R= 0.9829> 0.576= R0.05( 10)= 0.576
故在 α= 0.05显著性水平上,检验通过,说明两变量之间相关关
系显著。
经济预测与决策方法
5.预测
( 1)计算估计标准误差。
212
6 0 0 5 6 62767.247209243.1712 1 9 0 1 0 4
2
??2
?
?????
?
??? ? ? ?
n
xybyayS
y
6 3 4 3.3310 6 9 1 8.1 1 3 1 2 ??
( 2)当显著性水平 α= 0.05,自由度= n-m=10时,查 t分布
表得,
t0.025(10)=2.228
经济预测与决策方法
( 3)当 x0=249亿元时,代入回归模型得 y的点估计值为,
)(8 2 2 6.7382492 7 6 7.29 2 4 3.171? 0 亿元????y
预测区间为,
? ?????? 22
2
0
2/0
11)( ?
)x(xn
)x-n ( x
n
Smnty y??
746043
75.15112
12
116343.33228.28226.738 2?????? ?
3 5 1 8.908 2 2 6.7 3 8
2 0 5 7.16 3 4 3.332 2 8.28 2 6 6.7 3 8
?
?
?
???
即:当 1990年全省固定资产投资完成额为 249亿元时,在 α=
0.05的显著性水平上,国内生产总值的预测区间为,648.4708~
829.1744亿元之间。
经济预测与决策方法
§ 2.多元线性回归
● 结构
mm xbxbxbxbby ??????? ?3322110?
二元时,
22110? xbxbby ???
经济预测与决策方法
● 参数确定
m in)?(
1
2?
?
? ????
n
i
ii yyQ
?
?
????
n
i
i ii xbxbby
1
2
22110 )(
0
0
0
2
1
0
?
?
?
?
?
?
?
?
?
b
Q
b
Q
b
Q
?
?
?
?
?
?
?
???
????
???
????
????
? ? ?
2
22211202
212
2
11101
22110
iiiiii
iiiiii
iii
xbxxbxbyx
xxbxbxbyx
xbxbnby
经济预测与决策方法
设有 n组样本 ),,2,1/( 1 nixxy miii ?? ?
矩阵形式,eXBYXB Y ??? 或 ?
?
?
?
?
?
?
?
?
?
?
?
?
?
n
y
y
y
Y
?
2
1
?
?
?
?
?
?
?
?
?
?
?
?
?
m
b
b
b
B
?
1
0
?
?
?
?
?
?
?
?
?
?
?
?
?
n
e
e
e
e
?
2
1
?
?
?
?
?
?
?
?
?
?
?
?
?
mnnn
m
m
xx
xxx
xxx
X
?
?????
?
?
21
22212
12111
1
1
1
经济预测与决策方法
m in
1
2 ? ??? ?
?
n
i
ieQ
XBXBYXBXBYYY
XBYXBY
XBYXBY
''''''
))('''(
)()'(
????
???
???
根据,
X ' Y'XB =
X ' X BYX=
B
Q
B ' X ' YXBY
YXBXBYAbAB
1
)X(
02'2
'
'')''(,'')'(
?
??
?
?
??
=
是同值矩阵与所以:
经济预测与决策方法
例:设某邮电研究所以新产品开发和技术服务为主要任务,近十年来该所
收入,经费支出和科技人员数如表所示(见表前 3栏),
某邮电研究所的收入与经费支出科技人员数的回归计算
年份
序号
收入 (万元 )
Yi
经费支出 (万元 )
X1i
科技人员 (人 )
X2i X1i
2 X2i2 X1iX2i X1iYi X2iYi
1 235 254 160 64516 25600 40640 59690 37600
2 238 257 163 66049 26569 41891 61166 38794
3 256 275 166 75625 27556 45650 70400 42496
4 264 290 169 84100 28561 49010 76560 44616
5 271 295 172 87025 29584 50740 79945 46612
6 273 296 175 87616 30625 51800 80808 47775
7 289 311 178 96721 31684 55358 89879 51441
8 298 318 181 101124 32761 57558 94764 5393
9 304 327 184 106929 33856 60168 99408 559
10 310 341 187 116281 34969 63767 108438 594
合计 2746 2964 1735 885986 301765 51682 821058 478
经济预测与决策方法
用接线性相关拟合回归预测模型。如果次年该所经费预算定为 380万元,
科技人员增加到 200人,预测其收入可能达到多少?
根据题意要求,此二元线性回归预测模型为,
2210? XbbbY ???
将表中有关数据代入后式,得,
b1=0.6858
b2=0.8721
b0=-79.9805
则二元线性回归预测模型为,
21 8 7 2 1.06 8 5 8.09 8 0 5.79? XXY ????
若次年的科研经费支出预测为 380万元,科技人员增加到 200人,分别代入
X1和 X2,则,
)(0435.3552008721.06858.09805.79? 万元??????Y
即为该研究所次年可能达到的收入水平。
经济预测与决策方法
§ 3.非线性回归预测
一、常见一元非线性回归预测模型结构
(1)双曲线回归模型
(2)多项式回归模型
(3)对数曲线回归模型
(4)三角函数回归模型
(5)幂函数回归模型
(6)指数回归模型
x
bay ???
kk xbxbxbxbby ?????? ?332210?
xbay ln? ??
b S in xay ???
baxy ??
xaby ??
经济预测与决策方法
二、参数确定的方法
(1)直接换元法
(2)间接代换法 (如对数变换等 )
(3)线性化迭代方法
经济预测与决策方法
(1)直接换元法
通过简单的变量换元直接化为线性回归模型
如
令,
由于这类模型因变量没有变形,直接采用
最小平方法估计回归系数,并进行检验和预测。
x
bay ???
xbayxax ????? ?,则
经济预测与决策方法
(2)间接代换法
通过对数变形的代换间接地化为线性回归模型
如
令
则,
由于经变换后改变了因变量的形态,使得变形后
模型的最小平方估计失去了原模型的残差平方和最小
的意义,从而估计不到原模型的最佳回归系数,造成
回归模型与原数列之间的偏差较大。
baxy ??
xbay lnln?ln ??
aaxxyy ln,ln,?ln? ??????
xbay ??????
经济预测与决策方法
(3)线性化迭代方法
一般在矢法用数学的轶换或代换变为线性函数时
采用。
如,
高斯 — 牛顿迭代方法的基本思想就是使用泰勒级
数展开或去近似地代替非线性回归模型,通过多次迭
代,多次修正系数,使回归系数不断逼近非线性回归
模型的最佳回归系数,最后使原模型的残差平方和达
到最小。
xcbay ???