Bài giảng Kinh tế lượng - Chương 4: Hàm hồi quy đa biến - Nguyễn Minh Đức

1Hàm hồi quy đa biến
TS Nguyễn Minh Đức 2009
n Ý nghĩa của hệ số hồi quy
n Giả định
1. Mô hình hồi qui tuyến tính
2. Giá trị kì vọng của biến số ngẫu nhiên=0 
3. Phương sai của biến số ngẫu nhiên không đổi
(Homoscedasticity)
4. Không có hiện tượng tự tương quan giữa các biến số ngẫu nhiên
5. Không có tương quan giữa ui và Xi
6. Số quan sát phải lớn hơn số lượng tham số
7. Mô hình hồi qui được giả định là chính xác
8. Không có tương quan tuyến tính chính xác giữa các biến độc lập
9. Biến độc lập Xi phải có sự biến thiên
iiii
uXXY +++= 33221 βββ
2TS Nguyễn Minh Đức 2009
n Phương pháp bình phương tối thiểu
ikikiii
eXXXY +++++= ββββ ˆ...ˆˆˆ 33221
( )2
1
33221
1
2 ˆ...ˆˆˆ∑∑
==
−−−−−=
n
i
kikiii
n
i
i
XXXYe ββββ
( )
( )
( ) 0ˆ...ˆˆˆ2
...
0ˆ...ˆˆˆ2
0ˆ...ˆˆˆ2
1
,,33,221
1
2
,2
1
,,33,221
2
1
2
1
,,33,221
1
1
2
=−−−−−−=
∂
∂
=−−−−−−=
∂
∂
=−−−−−−=
∂
∂
∑
∑
∑
∑
∑
∑
=
=
=
=
=
=
ki
n
i
iKKiii
k
n
i
i
i
n
i
iKKiii
n
i
i
n
i
iKKiii
n
i
i
XXXXY
e
XXXXY
e
XXXY
e
βββββ
βββββ
βββββ
TS Nguyễn Minh Đức 2009
n Kết quả:
33221 X
ˆXˆYˆ β−β−=β
2
n
1i
i,3i,2
n
1i
2
n
1i
2
n
1i
i,3i,2
n
1i
i,3i
n
1i
2
n
1i
i,2i
2
xxxx
xxxyxxy
ˆ
i,3i,2
i,3






−























−











=β
∑∑∑
∑∑∑∑
===
====
2
n
1i
i,3i,2
n
1i
2
n
1i
2
n
1i
i,3i,2
n
1i
i,2i
n
1i
2
n
1i
i,3i
3
xxxx
xxxyxxy
ˆ
i,3i,2
i,2






−























−











=β
∑∑∑
∑∑∑∑
===
====
3TS Nguyễn Minh Đức 2009
TSS
RSS
1
TSS
ESS
R 2 −==
kn
1n
)R1(1R
22
−
−
−−=
v
Phân phối của ước lượng tham số
)var()(
^^
kk
se ββ =












=
∑∑
∑
==
=
n
1i
2
i,3
n
1i
2
i,2
n
1i
i,3i,2
XX
xx
xx
r
32( ) 22
n
1i
i,3i,2
n
1i
2
i,3
n
1i
2
i,2
n
1i
2
i,3
2
xxxx
x
ˆvar σ






−











=β
∑∑∑
∑
===
=
Quan hệ giữa R2 và F
)(
)1(
)1(
)1)(1(
)(
)(
)1(
SS
2
2
2
2
kn
R
k
R
Rk
Rkn
kn
RSS
k
E
F
−
−
−
=
−−
−
=
−
−
=
TS Nguyễn Minh Đức 2009
( ) ( )
2
2
23
n
1i
2
i,2
2
r1x
1ˆvar σ
−
=β
∑
=
Nếu r223 = 0, phương sai của hệ số ước lượng β2 của hàm hồi
quy đa biến và hồi quy đơn là giống nhau
Nếu X2 và X3 có tương quan tuyến tính hoàn hảo thì r
2
23 =1, phương sai của
hệ số ước lượng β2 vô cùng lớn
Nếu X2 và X3 tương quan tuyến tính cao, nhưng không hoàn hảo
thì hệ số ước lượng β2 là không chệch nhưng không hiệu quả
2
1
32
1
2
3
1
2
2
1
32
1
3
1
2
3
1
2
22
ˆ






−























−











+=
∑∑∑
∑∑∑∑
===
====
n
i
ii
n
i
i
n
i
i
n
i
ii
n
i
ii
n
i
i
n
i
ii
xxxx
xxxxx εε
ββ
4TS Nguyễn Minh Đức 2009
Không chệch
2
^
2 )( ββ =E
Khi thay đổi của giá trị biến hồi qui càng lớn so với giá trị
trung bình của nó thì phương sai hệ số ước lượng càng nhỏ, 
tham số ước lượng càng chính xác. 
Thông thường biến đổi của biến hồi qui càng lớn khi cỡ mẫu
(số quan sát) của chuỗi dữ liệu càng lớn. 
Cóthể giải thích điều này bằng đồ thị hàm mật độ xác xuất. 
Như vậy số quan sát nào là đủ lớn cho một bộ dữ liệu?
TS Nguyễn Minh Đức 2009
Kiểm định mức ý nghĩa chung của mô hình
H0: β2 = β3 = β4  = βk = 0 hay R
2=0
H1: Không phải tất cả các hệ số đồng thời =0
F* > F (k-1,n-k,α) thì bác bỏ H0 
F* ≤ F (k-1,n-k,α) thì không thể bác bỏ H0
),1(2
2
~
)1)(1(
)(
k)-(n
SS
1)-(k
SS
knk
F
kR
knR
R
E
F
−−
−−
−
==
5TS Nguyễn Minh Đức 2009
Kiểm định giả thuyết về hệ số hồi quy
)(~
)(
^^
^
*
knt
se
t
k
kk
−
−
=
β
ββ
Kiểm định giả thuyết về phương sai của sai số
)ˆ(e.stˆ)ˆ(e.stˆ m)2/1,kn(mmm)2/1,kn(m β+β≤β≤β−β α−−α−−
Ước lượng phương sai của sai số
kn
e
s
n
1i
2
i
2
−
=
∑
=
ε
2
sε là ước lượng không chệch của σ
2, hay ( ) 22sE σ=ε
TS Nguyễn Minh Đức 2009
2
0
2 δδ ≠
H0: 
H1: 
2
0
^
2
2 )(
δ
δχ kn
o
−
= )()(
2
2/1
22
2/ knkn o −− −αα χχχ pp
2
0
2 δδ =
Kiểm định Wald
(U)
(R)
H0: βm == βk-1=0
H1: có ít nhất một βj ≠0
uXXXXXY
kkmmmm
++++++++=
−−−− 111122110 ....... ββββββ
vXXXY
mm
+++++=
−− 1122110 .... ββββ
6TS Nguyễn Minh Đức 2009
n Hồi quy mô hình không bị ràng buộc (U), k tham số, RSS(U) có (n-k) bậc
tự do
n Hồi quy mô hình (R), m tham số, RSS(R) có (n-m) bậc tự do
n Nếu FW > Fα (k-m, n-k): bác bỏ H0
n Kiểm định Wald thường được sử dụng khi kiểm định tổ hợp tuyến tính, 
kiểm định thừa biến
n Kiểm định tổ hợp tuyến tính về hệ số hồi quy
),(2
22
~
))(1(
)(
)/(
)/()(
knmk
U
RU
U
UR
W
F
knR
mkRR
knRSS
mkRSSRSS
F
−−
−−
−−
=
−
−−
=
(U)
uXXY +++= 22110 βββ
H0: β1 = β2 H1: β1 ≠ β2
TS Nguyễn Minh Đức 2009
n Cách 1: Kiểm định Wald
uZuXXY ++=+++= 102110 )( ββββ
)3,1(2
22
~
)3)(1(
)23(
−
−−
−−
=
n
U
RU
W
F
nR
RR
F
Cách 2: Kiểm định t gián tiếp
đặt δ=β1- β2 ; H0: β1 = β2 ; H0: δ=0
uXXXuXXY +−++=+−++= 2211021110 )()( δββδβββ
uXZY +−+= 210 δββ
3^^
^
* ~
)(
0
−
−
=
n
t
se
t
δ
δ
7TS Nguyễn Minh Đức 2009
n Cách 3: Kiểm định t trực tiếp
)()(
0
^
2
^
1
^
^
2
^
1
^^
^
*
ββ
ββ
δ
δ
−
−
=
−
=
sese
t
)(var)(
^
2
^
1
^^
2
^
1
^ ββββ −=−se
),cov(2)(var)(var)(var
^
2
^
1
^
2
^^
1
^^
2
^
1
^ ββββββ −+=−
TS Nguyễn Minh Đức 2009
Hàm hồi qui với biến giả
n Trong phân tích hồi qui biến giả thường được sử dụng cho những
biến định tính: nam, nữ, việc thích hay không thích, tôn giáo, tốt
nghiệp đại học hay chưa, sống ở thành thị hay nông thôn, màu da, 
quốc tịch
n Những biến định tính này có thể được lượng hóa là 0, 1hoặc trong
khoảng 1-9
n Yi = b1 + b2Xi+ b3Di + ei
Cách xây dựng biến giả:
Ví dụ: xem ảnh hưởng của trình độ đối với lương của giáo viên
n Cách 1: D = 0: nếu là cử nhân, thuộc tính cơ sở
D=1: nếu là thạc sĩ
Y = b1 + b2D + u
n b1 lương trung bình của giáo viên có trình độ cử nhân
n (b1 + b2) lương trung bình của giáo viên có trình độ thạc sĩ
8TS Nguyễn Minh Đức 2009
n Nếu biến giả có n thuộc tính, có (n-1) biến giả
n Giả sử: có 3 mức độ về trình độ giáo viên (cử nhân, thạc sĩ, tiến sĩ)
Y = b1 + b2D1+ b3D2 + u
n b1 lương trung bình của giáo viên có trình độ cử nhân
n (b1 + b2) lương trung bình của giáo viên có trình độ thạc sĩ
n (b1 + b3) lương trung bình của giáo viên có trình độ tiến sĩ
n b2 chênh lệch giữa mức lương của giáo viên có trình độ cử nhân và
thạc sĩ
n b3 chênh lệch giữa mức lương của giáo viên có trình độ cử nhân và
tiến sĩ
TS Nguyễn Minh Đức 2009
kỹ thuật sử dụng biến giả
n Y = b1 + b2X+ b3D + u
Y: lương của giáo viên
X: số năm giảng dạy
D: giới tính (nam=1, nữ=0)
Dịch chuyển số hạng tung độ gốc: lương khởi điểm của giáo viên nam và nữ
khác nhau nhưng tốc độ tăng lương theo số năm giảng dạy là như nhau
n PRF: Y = b1 + b2X+ b3D + u
n SRF: nữ: Y = β1 + β2X
n nam: Y = β1 + β2X+ β3
n Kiểm định giả thuyết H0: β3 =0
Dịch chuyển số hạng độ dốc: lương khởi điểm là như nhau nhưng tốc độ
tăng khác nhau
PRF: Y = b1 + b2X+ b3(D.X) + u
(D.X): biến tương tác
SRF: nữ: Y = β1 + β2X
n nam: Y = β1 + β2X+ β3X= β1 + (β2+ β3)X
n Kiểm định giả thuyết H0: β3 =0
9TS Nguyễn Minh Đức 2009
Dịch chuyển số hạng độ dốc và số hạng tung độ gốc: lương khởi
điểm khác nhau và tốc độ tăng lương khác nhau
n PRF: Y = b1 + b2X+ b3D + b4(D.X) + u
n SRF: nữ: Y = β1 + β2X
n nam: Y = (β1 + β3) + (β2 + β4) X 
n Kiểm định giả thuyết H0: β3 = β4 =0