第三章 经典单方程计量经济学模
型:多元回归
? 多元线性回归模型
? 多元线性回归模型的参数估计
? 多元线性回归模型的统计检验
? 多元线性回归模型的预测
? 回归模型的其他形式
? 回归模型的参数约束
§ 3.1 多元线性回归模型
一、多元线性回归模型
二、多元线性回归模型的基本假定
一、多元线性回归模型
多元线性回归模型,表现在线性回归模型中的
解释变量有多个。
一般表现形式,
ikikiii XXXY ????? ????????? 22110
i=1,2…,n
其中,k为解释变量的数目,?j称为 回归参数
( regression coefficient)。
习惯上,把 常数项 看成为一 虚变量 的系数, 该
虚变量的样本观测值始终取 1。 这样:
模型中解释变量的数目为 ( k+1)
ikikiii XXXY ????? ????????? 22110
也被称为 总体回归函数 的 随机表达形式 。 它 的
非随机表达式 为,
kikiikiiii XXXXXXYE ???? ???????? 2211021 ),,|( ?
方程表示,各变量 X值固定时 Y的平均响应 。
?j也被称为 偏回归系数, 表示在其他解释变
量保持不变的情况下, Xj每变化 1个单位时, Y
的均值 E(Y)的变化 ;
或者说 ?j给出了 Xj的单位变化对 Y均值的, 直
接, 或, 净, ( 不含其他变量 ) 影响 。
总体回归模型 n个随机方程的 矩阵表达式 为
μX βY ??
其中
)1(21
22212
12111
1
1
1
??
?
?
?
?
?
?
?
?
?
?
?
?
?
knknnn
k
k
XXX
XXX
XXX
?
????
?
?
X
1)1(
2
1
0
??
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
kk
?
?
?
?
?
β
1
2
1
?
?
?
?
?
?
?
?
?
?
?
?
?
?
nn
?
?
?
?
μ
样本回归函数,用来估计总体回归函数
kikiiii XXXY ???? ????? 22110 ????? ?
其 随机表示式,
ikikiiii eXXXY ?????? ???? ???? 22110 ?
ei称为 残差 或 剩余项 (residuals),可看成是总
体回归函数中随机扰动项 ?i的近似替代。
样本回归函数 的 矩阵表达,
βXY ?? ? 或 eβXY ?? ?
其中:
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
k?
?
?
?
?
?
? 1
0
?
β
??
?
?
?
?
?
??
?
?
?
?
?
?
ne
e
e
?
2
1
e
二、多元线性回归模型的基本假定
假设 1,解释变量是非随机的或固定的,且各
X之间互不相关(无多重共线性)。
假设 2,随机误差项具有零均值、同方差及不
序列相关性
0)( ?iE ?
22 )()( ??? ?? ii EV a r
0)(),( ?? jiji ECo v ????
njiji,,2,1,???
假设 3,解释变量与随机项不相关
0),( ?ijiXC o v ?
假设 4,随机项满足正态分布
),0(~ 2?? Ni
kj,2,1 ??
上述假设的 矩阵符号表示 式:
假设 1,n?(k+1)矩阵 X是非随机的,且 X的秩 ?=k+1,
即 X满秩。
假设 2,0
)(
)(
)(
11
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
nn E
E
EE
?
?
?
?
??μ
? ?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?? n
n
EE ??
?
?
?? 1
1
)( μμ
?
?
?
?
?
?
?
?
?
?
?
2
1
1
2
1
nn
n
E
???
???
?
???
?
I2
2
2
1
11
0
0
)v a r (),c o v (
),c o v ()v a r (
?
?
?
???
???
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
???
?
?
???
?
nn
n
假设 3,E(X’?)=0,即
0
)(
)(
)(
11 ?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
iKi
ii
i
iKi
ii
i
EX
EX
E
X
X
E
?
?
?
?
?
?
??
假设 4,向量 ?有一多维正态分布,即
),(~ 2 I0μ ?N
同一元回归一样,多元回归还具有如下两个重要假设:
假设 5,样本容量趋于无穷时,各解释变量的方差趋于有
界常数,即 n?∞ 时,
jjjiji QXXnxn ??? ?? 22 )(
11 或 Qxx ??
n
1
其中,Q为一非奇异固定矩阵,矩阵 x是由各解释变量
的离差为元素组成的 n?k阶矩阵
?
?
?
?
?
?
?
?
?
?
?
knn
k
xx
xx
?
???
?
1
111
x
假设 6,回归模型的设定是正确的。