Với mức ý nghĩa , mô hình hồi qui phù hợp.. Với mức ý nghĩa , mô hình hồi quy không phù hợp.. Nếu P -Value thì chưa có cơ sở bác bỏ giả thuyết H 0, có thể cho rằng mô hình hồi quy k
Trang 11
PHẦN 1: TÓM TẮT LÝ THUYẾT CHƯƠNG 1: NHỮNG VẤN ĐỀ CƠ BẢN CỦA HỒI QUY ĐƠN
1 Mô hình hồi quy tuyến tính
❖ Hàm hồi quy tổng thể (PRF): E(Y X =X i)=1 +2X i,(i=1,N)
❖ Mô hình hồi quy tổng thể (PRM): Y i =1+2X i+U i
❖ Hàm hồi quy mẫu (SRF): Yˆi = ˆ1+ ˆ2X i, (i=1,n)
❖ Mô hình hồi quy mẫu (SRM): Y i =ˆ1+ˆ2X i +e i
❖ Ý nghĩa kinh tế của các hệ số hồi quy:
+ 1, ( ˆ1) hệ số chặn (nếu có ý nghĩa): khi biến độc lập nhận giá trị bằng 0 thì giá trị trung bình của biến phụ thuộc có giá trị bằng 1, ( ˆ1) đơn vị
+ 2, ( ˆ2) hệ số góc có ý nghĩa khi biến độc lập thay đổi một đơn vị thì giá trị trung bình của biến phụ thuộc thay đổi 2 , (|ˆ2|) đơn vị
i
U : sai số ngẫu nhiên, e i: phần dư
CHƯƠNG 2: MÔ HÌNH HỒI QUY ĐƠN
1 Phương pháp bình phương nhỏ nhất
❖ Ước lượng của các hệ số hồi quy:
=
=
i i
n i i i
x
y x
1 2
1 2
−
❖ Phương sai, độ lệch chuẩn của ˆ1,ˆ2:
2 2
2 1
i
n
i
X
❖ Ước lượng không chệch của : 2
2
2 2
−
=
=
n
e
n
i i
Trang 22
❖ Sai số chuẩn của ˆ1,ˆ2:
2 2 1
2 1 2
2 1
ˆ
i
n
i n i i
n i i
X
x
=
=
=
2 Hệ số xác định trong mô hình hồi quy đơn
1
1
i
n
i
=
( )
1
ˆ 2
n i i
=
❖ Công thức liên hệ giữa RSS, ESS và TSS thông qua hệ số xác định:
3 Khoảng tin cậy và kiểm định giả thuyết
❖ Khoảng tin cậy của hệ số j(j= 1, 2 )
j
❖ Kiểm định giả thuyết đối với j(j= 1, 2 )
*
2
ˆ
~ ˆ ( )
j
j
Se
−
−
=
Bảng 2.1: Kiểm định giả thuyết đối với các hệ số hồi quy j
Loại giả thuyết Giả thuyết H 0 Đối thuyết H 1 Miền bác bỏ
2 /
t t
t
t t
t
t t
t
Trang 33
Cách 2: Phương pháp xác suất ý nghĩa (P - Value):
Loại giả
thuyết Giả thuyết H 0 Đối thuyết H 1 P - Value
Nếu P -Value thì bác bỏ giả thuyết H0, chấp nhận đối thuyết H1
Nếu P -Value thì chưa có cơ sở bác bỏ giả thuyết H 0
❖ Khoảng tin cậy của phương sai sai số ngẫu nhiên 2:
( )
2
/2 1 /2
−
( )
2 2
2 2
ˆ 2
n
n
−
( )
2 2
2 2 1
ˆ 2
n
n
−
−
❖ Kiểm định giả thuyết đối với phương sai sai số ngẫu nhiên 2:
0
2
2 2 2
2
ˆ
−
−
Bảng 2.2: Kiểm định giả thuyết đối với phương sai sai số ngẫu nhiên
Loại giả thuyết Giả thuyết H 0 Đối thuyết H 1 Miền bác bỏ
0
2
−
−
2 2 2 / 1 2
2 2 2 /
2 2
n
n
W
0
2
0
2
1 2 2
➢ Có thể sử dụng phương pháp P - value để kiểm định đối với 2
4 Kiểm định sự phù hợp của mô hình hồi quy
Cách 1: Kiểm định cặp giả thuyết:
H0: R =2 0 (mô hình hồi quy không phù hợp)
H1: R 2 0 (mô hình hồi quy phù hợp)
Trang 44
2
/1
~ (1 ) / ( 2)
n
R
−
=
+ Miền bác bỏ: W =F F F( 1 ,n−2 )
+ Tính F qs; tra giá trị ( 1 , - 2 )
α
n
F Nếu F qs Fα(1, -2n ) thì F qs W, bác bỏ giả thuyết H0, chấp nhận đối thuyết H1 Với mức ý nghĩa , mô hình hồi qui phù hợp
Nếu F qs Fα(1, -2n ) thì F qs W, chưa có cơ sở bác bỏ giả thuyết H0 Với mức ý nghĩa , mô hình hồi quy không phù hợp
Cách 2: Kiểm định cặp giả thuyết:
H0: 2 =0 (mô hình hồi quy không phù hợp)
H1: 2 0 (mô hình hồi quy phù hợp)
2
ˆ ˆ ( )
n
Se
−
=
2 /
−
t T T
W + Tính T , tra giá trị qs ( 2 )
2 /
−
n
t , so sánh và kết luận
T
F =
Cách 3: Phương pháp xác suất ý nghĩa (P - Value): P - Value =P F( F qs)
Nếu P -Value thì bác bỏ giả thuyết H0, kết luận mô hình hồi quy phù hợp Nếu P -Value thì chưa có cơ sở bác bỏ giả thuyết H 0, có thể cho rằng mô hình hồi quy không phù hợp
5 Phân tích hồi qui và dự báo
❖ Dự báo giá trị trung bình của biến phụ thuộc khi biết X =X0:
0 ( ) 0 n/ 2 ( / 0 ) 0 ( ) 0 n/ 2
trong đó:
2
ˆ
n
❖ Dự báo giá trị cá biệt của biến phụ thuộc khi biết X = X0:
0 ( 0 ) n/ 2 0 0 ( 0 ) n/ 2
trong đó:
2
ˆ
n
Trang 55
CHƯƠNG 3: HỒI QUY BỘI
1 Mô hình hồi quy k biến (k>2)
❖ Hàm hồi quy tổng thể (PRM):
1 2 2
ji
❖ Mô hình hồi quy tổng thể (PRF): Y i =1+2X2i + +k X ki +U i
❖ Hàm hồi quy mẫu (SRF): Yˆi = ˆ1+ ˆ2X2i+ + ˆk X ki, (i 1,n)=
❖ Mô hình hồi quy mẫu (SRM): Y i =ˆ +ˆ X i + +ˆk X k i+e i
2 2 1
2 Hệ số xác định bội R2
1
1
i
n
i
=
( )
1
ˆ
n i i
=
2
1 ( )
SD Y
3 Khoảng tin cậy và kiểm định giả thuyết đối với mô hình hồi quy k biến
❖ Khoảng tin cậy của hệ số j (j=1, )k
2 / )
( 2
) ˆ (
j j
j k n j
j −Se t − +Se t−
j j
j −Se t−
j j
j +Se t −
* j T
~ ) βˆ (
β -βˆ
j
j
Se
T =
Bảng 3.1: Kiểm định giả thuyết đối với các hệ số hồi quy j
Loại giả thuyết Giả thuyết H 0 Đối thuyết H 1 Miền bác bỏ
t t
t −
t t
t −
W
Trang 66
❖ Kiểm định đồng thời đối với hai hệ số hồi quy:
) ˆ ˆ (
) ˆ ˆ
s j
s j
T b
a Se
c b
a
+
− +
=
với (a,b,c ,R js)
Bảng 3.2: Kiểm định giả thuyết đối với tổ hợp tuyến tính các hệ số hồi quy
Loại giả
thuyết Giả thuyết H 0 Đối thuyết H 1 Miền bác bỏ
t t
t −
t t
t − −
W
Chú ý: Có thể sử dụng phương pháp P - Value để kiểm định đối các hệ số hồi quy
❖ Khoảng tin cậy đối với 2
2 / 1
2 2
) ( 2 2 /
2 ( )ˆ ˆ
) (
k n k
n
k n k
n
−
−
−
−
−
2
2 ( )ˆ
k n
k n
−
−
1
2
2 ( )ˆ
k n
k n
−
−
−
❖ Kiểm định giả thuyết đối với : 2
k
2 0
2 2
~
Bảng 3.3: Kiểm định giả thuyết đối với phương sai sai số ngẫu nhiên
Loại giả thuyết Giả thuyết H 0 Đối thuyết H 1 Miền bác bỏ
0
2
−
−
k n
k n
2 / 1 2
2 2 /
2 2
0
2
0
2
−
1 2 2
Trang 77
4 Kiểm định F đối với mô hình k biến
❖ Kiểm định sự phù hợp của hàm hồi quy
+ Kiểm định cặp giả thuyết:
H0: R2 =0 (hàm hồi quy không phù hợp)
H1: R2 0 (hàm hồi quy phù hợp)
2
1, 2
/ ( 1)
~ (1 ) / ( )
k n k
− −
−
=
F F
F − −
+ Tính F ; tra giá trị qs (k n k)
Fα −1, - , so sánh và kết luận
❖ Kiểm định sự thu hẹp của hàm hồi quy
Giả sử có mô hình hồi quy k biến (k>2):
1 2 2 ( ) 1 ( 1)
i i k m k m i k m k m i k ki i
Bài toán: Kiểm định xem có thể loại đồng thời m biến X k−m+1, ,X k,mk −1 ra khỏi mô hình ban đầu hay không?
Các bước:
1
1, R
RSS Bước 2: Hồi quy mô hình: Y i = 1+ 2X2i+ + k m− X(k m i− ) +U i thu được 2
2
2, R
RSS Bước 3: Kiểm định cặp giả thuyết:
H0: k−m+1 = =k =0 (nên loại m biến X k−m+1, ,X k)
H1: j 0(j=k-m+1,k) (không nên loại m biến X k−m+1, ,X k )
+ Tiêu chuẩn kiểm định:
2 2
( ; )
2
~
m n k
−
F F
F −
+ Tính F , tra giá trị qs F(m;n−k) so sánh và kết luận
5 Dự báo với mô hình hồi quy bội
❖ Dự báo giá trị trung bình của biến phụ thuộc khi biết X = X0:
Y −Se Y t− E Y X +Y Se Y t−
trong đó: Se Y( )ˆ 0 = ULVar( )Yˆ 0
❖ Dự báo giá trị cá biệt của biến phụ thuộc khi biết X = X0:
( ) ( ) ( ) ( )
0 0 /2 0 0 0 /2
Y −Se Y t− Y +Y Se Y t−
trong đó: Se Y( )0 = ULVar( )Y0
Trang 88
6 Một số dạng của mô hình hồi quy
❖ Mô hình hồi quy tuyến tính: Y i = 1+ 2X i+ + k X ki+ U i
❖ Mô hình có dạng hàm mũ (hàm có hệ số co giãn không đổi):
2 k U i
Y =e X X e
Ln Y( )i =1 +2Ln X( )2i + + k Ln X( )ki +U i
Ý nghĩa kinh tế:
, ( 2, )
j j k
đổi 1% trong điều kiện các yếu tố khác không đổi thì giá trị trung bình của biến phụ thuộc thay đổi j %
❖ Mô hình có dạng hàm bán loga
Dạng 1: Y i = 1+ 2Ln X( 2i) + +k Ln X( ki)+U i
Ý nghĩa kinh tế:
, ( 2, )
j j k
không đổi thì giá trị trung bình của biến phụ thuộc thay đổi(j / 100) đơn vị
Dạng 2: Ln Y( )i = 1+ 2X2i + + k X ki + U i
Ý nghĩa kinh tế:
, ( 2, )
j j k
khác không đổi, thì giá trị trung bình của biến phụ thuộc thay đổi (j *100%)
Trang 99
CHƯƠNG 4: HỒI QUY VỚI BIẾN GIẢ
1 Bản chất của biến giả
Biến giả là biến dùng để lượng hóa biến định tính
2 Mô hình có một biến giải thích là biến định tính
3 Mô hình có một biến lượng và một biến định tính (có hai phạm trù)
4 Mô hình có biến tương tác
Ví dụ: Thu nhập - Y (triệu đồng) có phụ thuộc vào thâm niên công tác - X (năm)
và giới tính - D (Nam - Nữ)
Mô hình: Y i = 1+2D i +3X i +4D i X i +U i
trong đó: D i =
1 2
1 2 3 4
Ý nghĩa của các hệ số hồi quy:
1
lao động mới vào làm việc) thu nhập trung bình của lao động nữ bằng 1
2
3
của người lao động nữ thay đổi 2triệu đồng
4
công tác tăng lên một năm
5 Ứng dụng
❖ So sánh hai hồi quy
❖ Tuyến tính từng khúc
1 nếu quan sát là nam
0 nếu quan sát là nữ
Trang 1010
CHƯƠNG 5: ĐA CỘNG TUYẾN
1 Bản chất của đa cộng tuyến
Giữa các biến giải thích có mối quan hệ phụ thuộc tuyến tính
2 Hậu quả của đa cộng tuyến
3 Phát hiện đa cộng tuyến
Giả sử mô hình ban đầu có dạng: Y i =1 +2X2i + +k X ki +U i,(k 2)
❖ Hồi quy phụ:
Các bước tiến hành:
Bước 1: Hồi quy mô hình hồi quy phụ:
1 2 2 1 1 1 1 , ( 2, )
ji i j j i j j i k ki i
j
R
Bước 2: Kiểm định cặp giả thuyết:
H0: 2
0 ( 2, )
j
H1: 2
0
j
+ Tiêu chuẩn kiểm định:
2
( 2, 1) 2
/ ( 2)
~ (1 ) / ( 1)
j
− − +
−
=
W = F F Fk− n k− − + Tính F ; tra giá trị qs F(k−2,n−k+1)
Nếu tất cả các kiểm định đều cho kết luận chưa có cơ sở bác bỏ H0 thì có thể kết luận mô hình gốc không có đa cộng tuyến
Nếu j, j( =2, k) để bác bỏ giả thuyết R2j =0, thì kết luận MH gốc có đa cộng tuyến
❖ Độ đo Theil
Các bước tiến hành:
Bước 2: Lần lượt hồi quy các mô hình sau:
1 2 2 1 1 1 1 ( 2, )
2
k
j j
=
Bước 4: Kết luận
Nếu m 0 thì không có đa cộng tuyến
Nếu m R2 thì có đa cộng tuyến gần hoàn hảo
m càng lớn thì mức độ đa cộng tuyến càng cao
4 Biện pháp khắc phục đa cộng tuyến
Trang 1111
CHƯƠNG 6: PHƯƠNG SAI SAI SỐ THAY ĐỔI
1 Bản chất của phương sai sai số thay đổi
Phương sai sai số ngẫu nhiên không đồng đều tại mỗi giá trị của biến độc lập
2 Hậu quả của phương sai sai số thay đổi
3 Phát hiện phương sai sai số thay đổi
❖ Kiểm định Park
❖ Kiểm định Glejser
❖ Kiểm định White
Giả sử mô hình ban đầu có dạng: Y i = 1 +2X2i +3X3i +U i
Các bước tiến hành:
Bước 1: Hồi quy mô hình ban đầu tìm được các phần dư e , từ đó thu được i e i2
Bước 2: Hồi quy mô hình:
i i i i
i
e
i
+ +
+
5
2 4 3 3 2 2 1 2
3
w
R
Bước 3: Kiểm định:
H0: 2 =3 =4 =5 =6 =0 (Phương sai sai số không thay đổi)
H1: j 0(j=2, 6) (Phương sai sai số thay đổi)
Kiểm định cặp giả thuyết này theo một trong các cách sau:
Cách 1: Dùng tiêu chuẩn kiểm định: 2 = w2 2(k w−1)
nR
trong mô hình White)
2
1, 2
~
k n k
w w
− −
−
=
k w n k w
Tính giá trị quan sát, tra giá trị tới hạn và kết luận
❖ Kiểm định dựa trên biến phụ thuộc
Giả sử mô hình ban đầu có dạng: Y i =1+2X2i + +k X ki +U i,(k 2)(1) Các bước tiến hành:
i
i
Yˆ ,
i
e
2 1
Trang 1212
Bước 3: Kiểm định cặp giả thuyết:
H0: Mô hình ban đầu có phương sai sai số không thay đổi
H1: Mô hình ban đầu có phương sai sai số thay đổi
Kiểm định cặp giả thuyết này theo một trong các cách sau:
Cách 1: Dùng tiêu chuẩn kiểm định: 2 = nR12 2(1)
W =
Cách 2: Dùng tiêu chuẩn kiểm định:
2 2
1, 2 1
2
2
2 ˆ
~
n
−
−
W = F F F −
Cách 3: Dùng tiêu chuẩn kiểm định:
( )2 ( 2)
2
~ ˆ
T Se
T
/2
W = T T t− Tính giá trị quan sát, tra giá trị tới hạn và kết luận
4 Biện pháp khắc phục phương sai sai số thay đổi
Trang 1313
CHƯƠNG 7: TỰ TƯƠNG QUAN
1 Bản chất của tự tương quan
Giữa các sai số ngẫu nhiên có quan hệ tương quan:(Cov U U( i, j) 0, i j)
Tự tương quan bậc nhất, AR(1): U t =U t−1+V t
Tự tương quan bậc p, AR(p): U t =1U t−1+2U t−2 + +p U t−p +V t
2 Hậu quả của tự tương quan
3 Phát hiện tự tương quan
❖ Kiểm định đoạn mạch
❖ Kiểm định Durbin - Watson
Giả sử mô hình ban đầu có dạng: Y t = 1+ 2X2t + + k X kt+U t, (k 2) (1)
Các bước tiến hành:
Bước 1: Hồi quy mô hình (1) thu được được e và t e t−1
Bước 2: Kiểm định cặp giả thuyết:
H0: Mô hình ban đầu không có tự tương quan bậc 1
H1: Mô hình ban đầu có tự tương quan bậc 1
Tiêu chuẩn kiểm định:
=
−
t t
n t
t t
e
e e d
1 2 2
2
1) (
Với =0.05, n , k’=k-1 tra giá trị dL và du và thiết lập bảng quyết định sau:
Tự tương
quan (+)
Không có kết luận
Không có tự tương quan
Không có kết luận
Tự tương quan (-)
0 dL du 4-du 4-dL 4
So sánh dqs với bảng trên và kết luận
❖ Kiểm định Breusch - Godfrey(BG)
Giả sử mô hình ban đầu có dạng: Y t = 1 +2X2t + + k X kt+U t, k( 2) (1) Các bước tiến hành:
Bước 1: Hồi quy mô hình (1) thu được phần dư e và t e t−1, ,e t−p,p1
Bước 2: Lần lượt hồi quy các mô hình sau:
t p t p t
k t k t
e =1+2 2 + + +1 −1+ + − + thu được R và 12 RSS 1
Trang 1414
Bước 3:
+ Kiểm định cặp giả thuyết:
H1: Mô hình ban đầu có tự tương quan bậc p
1
p
R p
W =
+ Tính giá trị quan sát, tra giá trị tới hạn và kết luận
4 Biện pháp khắc phục tự tương quan
Trang 1515
CHƯƠNG 8: CHỈ ĐỊNH MÔ HÌNH VÀ KIỂM ĐỊNH
VỀ CHỈ ĐỊNH MÔ HÌNH
1 Chỉ định mô hình
2 Phát hiện các sai lầm chỉ định (Kiểm định các biến bị bỏ sót)
❖ Phương pháp Ramsey
Giả sử mô hình ban đầu có dạng: Y i =1+2X2i + +k X ki +U i,(k2) Các bước tiến hành:
Bước 1: Ước lượng mô hình ban đầu thu đượcR 2, Yˆ , từ đó thu được i ˆ2, , ˆp
i
i Y
Y Bước 2: Ước lượng mô hình Ramsey:
2
1 2 2 2ˆ ˆp
Bước 3: Kiểm định cặp giả thuyết:
H1: Mô hình ban đầu bỏ sót biến Tiêu chuẩn kiểm định:
1
2 2 1
1 /
1
1
+
−
−
−
−
−
F p
k n R
p R R F
Miền bác bỏ: = (p− 1 ,n−k−p+ 1 )
F F F
W
Tính F ; tra giá trị qs F(p−1,n−k−p+1) so sánh và kết luận
❖ Phương pháp nhân tử Lagrange (LM)
Các bước tiến hành:
Bước 1: Hồi quy mô hình ban đầu thu được e ˆ i,Y i, từ đó thu được ˆ2, , ˆp
i
i Y
Y Bước 2: Hồi quy mô hình:
t
p i p i
ki k i
e = + + + + ˆ2 + + ˆ +
2 2
2
Bước 3: Kiểm định cặp giả thuyết:
H0: Mô hình ban đầu không bỏ sót biến thích hợp
H1: Mô hình ban đầu bỏ sót biến
1
−
nR
qs
; tra giá trị 2 (p− 1 )
Trang 1616
3 Kiểm định tính phân bố chuẩn của sai số ngẫu nhiên
+ Kiểm định cặp giả thuyết:
H0: U có phân phối chuẩn
+ Tiêu chuẩn Jarque - Bera:
2
2 ( 3)
K S
JB
B B
W = J J + Tính JB , tra giá trị qs 2 ( ) 2