Tiểu luận Mô hình hồi quy bội

Chương I - Nội dung mô hình hồi quy bội 1 .Xây dựng mô hình 1.1 .Giới thiệu Mô hình hồi quy hai biến mà chúng ta đã nghiên cứu ở chương 3 thường không đủ khả năng giải thích hành vi của

Trang 1

Chương I - Nội dung mô hình hồi quy bội

1 Xây dựng mô hình

1.1 Giới thiệu

Mô hình hồi quy hai biến mà chúng ta đã nghiên cứu ở chương 3 thường không đủ khả năng giải thích hành vi của biến phụ thuộc Ở chương 3 chúng ta nói tiêu dùng phụ thuộc vào thu nhập khá dụng, tuy nhiên có nhiều yếu tố khác cũng tác động lên tiêu dùng, ví dụ độ tuổi, mức độ lạc quan vào nền kinh tế, nghề nghiệp Vì thé chúng ta cần bé sung thêm biến giải thích(biến độc lập) vào mô hình hôi quy

Mô hình với một biến phụ thuộc với hai hoặc nhiều biến độc lập được gọi là hồi

quy bội

Chúng ta chỉ xem xét hồi quy tuyến tính bội với mô hình tuyến tính với trong tham số, không nhất thiết tuyến tinh trong bién sé

Mô hình hồi quy bội cho tổng thé

Y, =B,+B;X;; +B;X;; + +B,X.¡+e; (4.1)

Với X¿¡, X:¡, Xu¡ là giá trị các biến độc lập ứng với quan sát ¡

Bo, Bo, B3,- , By 1a cae tham số của hồi quy

e¡ là sai số của hồi quy

Với một quan sát i, chúng ta xác định giá trị kỳ vọng cua Yi

E[Y|X's]= Bị, +B;X;;¡ +B:X;, + +B,X,;(4.2)

1.2.Y nghĩa cúa tham số

Các hệ số B được gọi là các hệ số hồi quy riêng

a[rlxs]

% m

B¿ đo lường tác động riêng phần của biến X„ lên Y với điều kiện các biến số khác trong mô hình không đổi Cụ thé hon nếu các biến khác trong mô hình không đổi, gia tri ky vong cua Y sé tang B,, don vi néu Xin tang | don vi

1.3 Giả định của mô hình

Sử dụng các giả định của mô hình hồi quy hai biến, chúng ta bổ sung thêm giả định sau:

(1) Các biến độc lập của mô hình không có sự phụ thuộc tuyến tính hoàn hảo,

nghĩa là không thé tìm được bộ số thực (A.As, ,À„) sao cho

Xị+À¿X;¡+¿X:,+ +AvX(j=0 Với mọi i

Giả định này còn được được phát biểu là “ không có sự đa cộng tuyến hoàn hảo trong mô hình”

(2) Số quan sátn phải lớn hơn số tham số cần ước lượng k

() Biến độc lập X; phải có sự biến thiên từ quan sát này qua quan sát khác hay Var(X,)>0

2.Ước lượng tham số của mô hình hồi quy bội

2.1.Hàm hồi quy mẫu và ước lượng tham số theo phương pháp bình phương

tối thiểu

Trong thực tế chúng ta thường chỉ có dữ liệu từ mẫu Từ số liệu mẫu chúng ta ước lượng hồi quy tổng thé

1 SVTH : Nguyén Thé Hing — KHDT3

Trang 2

Hàm hồi quy mẫu

Y, =Ô, +Ö; X¿, +B, X3,+ +B, X,\ +e, (4.4)

e, =Y; -Y, =Y, -B, -B,X;, -Ê,X ị T tHẾC BX;

Voi cac B,, 14 ude lvong cia tham sé B,, Ching ta trông đợi Š„ là ước lượng không chệch của „„ hơn nữa phải là một ước lượng hiệu quả Với một số giả định chặt chẽ như ở mục 3.3.1 chương 3 và phân bô sung ở 4.1, thì phương pháp tôi thiểu tổng bình phương phần dư cho kết quả ước lượng hiệu quả B„,

Phương pháp bình phương tối thiểu

Chọn ÿ¡, B2, ., By sao cho

de =>, -Â, -B,X,, -B,X,, ~ -B,X,,) (4.5)

dat cực tiểu

Điều kiện cực trị của (4.5)

odes

ap, - 25%, - B, - B, Xi -f,X 3 =.= BX q,)=

ode!

ap, =-2Š \Y,- -B, - ô, Xi -Š,X Bi = BX es Kas = 0 (4.6)

8i

a =-2`ÍY,- -B,- BX, - BX; - BX qj Ky =0

7 i=l

Hệ phương trình (4.6) được gọi là hệ phương trình chuẩn của hồi quy mẫu (4.4) Cách giải hệ phương trình (4.4) gọn gàng nhất là dùng ma trận Do giới hạn của chương trình, bài giảng này không trình bày thuật toán ma trận mà chỉ trình bày kết quả tính toán cho hồi quy bội đơn giản nhất là hồi quy ba biến với hai biến độc lập Một số tính chất của hồi quy ta thấy được ở hồi quy hai biến độc lập có thể áp dụng cho hồi quy bội tổng quát

2.2.Ước lượng tham sô cho mô hình hồi quy ba biến

Hàm hồi quy tông thể

Y, =B, +B,X,, + BX, +, (4.7)

Hàm hồi quy mẫu

Ÿ, = ô, +B,X,, +B,X,, +e,(4.8)

Nhắc lại các giả định

(1) Kỳ vọng của sai số hồi quy bằng 0: Ee, X:,.X:, )- 0

(2) Không tự tương quan: cov{e,„e,)= 0, ivy

(3) Phương sai đồng nhất: var(e,)= ø?

(4) Không có tương quan giữa sai số và từng X„: cove, ,X;j)= covle,,X5; )= 0 (5) Không có sự đa cộng tuyến hoàn hảo giữa X; và X

2 SVTH : Nguyễn Thé Hing — KHDT3

Trang 3

(6) Dạng hàm của mô hình được xác định một cách đúng đắn

Với các giả định này, dùng phương pháp bình phương tôi thiêu ta nhận được ước lượng các hệ sô như sau

B, =Y-B,X, ~B,X,(4.10)

[Sve] Ses (Eom, [So (4.11)

Ele ee)

ee Es) Be [Een

(= [Es) Es)

2.3 Phân phối của ước lượng tham số

Trong phần này chúng ta chỉ quan tâm đến phân phối của các hệ số ước lựơng Ô,

Ô; =

và Ô, Hơn nữa vì sự tương tự trong công thức xác định các hệ số ước lượng nên chúng ta chỉ khảo sát Ô„ Ở đây chỉ trình bày kết quả!

ô, là một ước lượng không chệch : E|ộ,)= ; (4.13)

3X:

i=l

Nhắc lại hệ số tương quan giữa X; và X;: t,x, =

Đặt ry x, = 123 bién déi đại số (4.14) ta được

var(§,)= ——! n 6?(4.15)

Deis)

Tir cdc biéu thire (4.13) va (4.15) chúng ta có thể rút ra một số kết luận như sau: (1) Nếu X2 và X3 có tương quan tuyến tính hoàn hảo thì r3, =1 Hé qua 1a var(3,) vô cùng lớn hay ta không thể xác định được hệ số của mô hình hồi quy (2) Nếu X2 và X3 không tương quan tuyến tính hoàn hảo nhưng có tương quan tuyến tính cao thì ước lượng Ô, vẫn không chệch nhưng không hiệu quả Những nhận định trên đúng cho cả hồi quy nhiều hơn ba biến

3 R? và 8?

Trang 4

Nhắc lại khái niệm về R°: R?=FŠŠ„¡_ RŠ5

Một mô hình có R” lớn thì tổng bình phương sai số dự báo nhỏ hay nói cách khác

độ phù hợp của mô hình đối với dữ liệu càng lớn Tuy nhiên một tính chất đặc trưng quan trọng của là nó có xu hướng tăng khi số biến giải thích trong mô hình tăng lên Nếu chỉ đơn thuần chọn tiêu chí là chọn mô hình có R? cao, người ta có

xu hướng đưa rất nhiều biến độc lập vào mô hình trong khi tác động riêng phần của các biến đưa vào đối với biến phụ thuộc không có ý nghĩa thống kê

Để hiệu chỉnh phạt việc đưa thêm biến vào mô hình, người ra đưa ra trị thống kê

R? hiệu chinh(Adjusted R? )°

R?=I-q-

Với n là số quan sát và k là số hệ số cần ước lượng trong mô hình

Qua thao tác hiệu chỉnh này thì chỉ những biến thực sự làm tăng khả năng giải thích của mô hình mới xứng đáng được đưa vào mô hình

4 Kiểm định mức ý nghĩa chung của mô hình

Trong hồi quy bội, mô hình được cho là không có sức mạnh giải thích khi toàn bộ các hệ số hôi quy riêng phần đều bằng không

Giả thiết

Hạ: Bạ = Bà = ” = B.= 0

H¡: Không phải tất cả các hệ số đồng thời bằng không

Trị thống kê kiểm định Hạ:

¬ Dig ~ RSS (k-Ln-k)

(n-k)

Quy tắc quyết định

> Néu Fy > Focin-ka) thi bac bỏ Họ

> Néu Fe $ Foc-in-koy thi khong thé bac bo Hp

5.Quan hé giira R? va F

"RSS (k-1)RSS_ (k—1)(TSS— ESS)

_ (n-k)E§STSS (n-k)R? RA (k -1)

_(@&W-D(-ESS/TSS) (Œ&-D(-R?) (I-R va

(n=k)

6 Ước lượng khoảng và kiếm định giả thiết thống kê cho hệ số hồi quy

Ước lượng phương sai của sai số

Ye

2 = _ (4.17

si = SE 4.17)

Người ta chứng minh được sỹ là ước lượng không chệch của ø”, hay F(s?)= o

Trang 5

(n —k)s? 2 Nếu các sai số tuân theo phân phối chuẩn thì Xin:

G

Ký hiệu se(Ô„)=s, =6, Ta có trị thống kêP»—Ê» ô„ =B„ ~

" se(Ô„)

Ước lượng khoảng cho B„ với mức ý nghĩa œ là

ỗ„ —tụ.i„2S€(„) €B„ €Ổ„ + tụ v.¿25€(/,) (4-18)

Thông thường chúng ta muốn kiểm định giả thiết Hụ là biến X„ không có tác động

nà phân lên Y

: Bm=0

: Bm#0

Quy tắc quyết định

> Nếu /t-stat/> tin-kw2) thi ta bác bỏ Hạ

> Nếu /t-stat/< t„x „2; thì ta không thé bác bỏ Hụ

7 Biến phân loại (Biến giá-Dummy variable)

Trong các mô hình hồi quy mà chúng ta đã khảo sát từ đầu chương 3 đến đây đều dựa trên biến độc lập và biến phụ thuộc đều là biến định lượng Thực ra mô hình hồi quy cho phép sử dụng biến độc lập và cả biến phụ thuộc là biến định tính Trong giới hạn chương trình chúng ta chỉ xét biến phụ thuộc là biến định lượng Trong phần này chúng ta khảo sát mô hình hồi quy có biến định tính

Đối với biến định tính chỉ có thể phân lớp, một quan sát chỉ có thê rơi vào một lớp Một số biến định tính có hai lớp như:

Tốt nghiệp đại học Đã Chưa

Bảng 4.1 Biên nhị phân

Người ta thường gán giá trị I cho một lớp và giá trị 0 cho lớp còn lại Ví dụ ta ký hiệu S là giới tính với S =1 nếu là nữ và S = 0 nếu là nam

Các biến định tính được gán giá trị 0 va 1 như trên được gọi là biến giả(dummy variable), biến nhị phân, biến phân loại hay biến định tính

7.1 Hồi quy với một biến định lượng và một biến phân loại

Ví dụ 4.1 Ở ví dụ này chúng ta hồi quy tiêu dùng cho gạo theo quy mô hộ có xem xét hộ đó ở thành thị hay nông thôn

Mô hình kinh tế lượng như sau:

Y¡=B¡ + B¿X ¡† B:D; + ci(4.19)Y: Chi tiêu cho gạo, ngàn đồng/năm

X: Quy mô hộ gia đình, người

D: Biến phân loại, D = I nếu hộ ở thành thị, bằng D =0 nếu hộ ở nông thôn Chúng ta muốn xem xét xem có sự khác biệt trong tiêu dùng gạo giữa thành thị và nông thôn hay không ứng với một quy mô hộ gia đình Xi xác định

Đối với hộ ở nông thôn

E|Y,|X,,D, =0]=B, +B„X,(4.20)

Đối với hộ ở thành thị

Trang 6

E|Y,|X,.D, =1]= (8, +B,)+B;„X,(4.21)

Vậy sự chênh lệch trong tiêu dùng gạo giữa thành thị và nông thôn như sau

E|Y,|x,,D, =1]—E[Y,|X,.D, =0]=B; (4.22)

Sự khác biệt trong tiêu dùng gạo giữa thành thị và nông thôn chỉ có ý nghĩa thống

kê khi ; khác không có ý nghĩa thống kê

Chúng ta đã có phương trình hồi quy như sau

Y=187 +508*X -557*D (4.23)

t-stat [0,5] [6,4] [-2.2]

RỶ hiệu chỉnh = 0,61

Hệ số hồi quy ô, =-557 khác không với độ tin cậy 95% Vậy chúng ta không thể bác bỏ được sự khác biệt trong tiêu dùng gạo giữa thành thị và nông thôn

Chúng ta sẽ thay tác động của làm cho tung độ góc của phuơng trình hồi quy của thành thị và nông thôn sai biệt nhau một khoảng j = -557 ngàn đồng/năm Cụ thể ứng với một quy mô hộ gia đình thì hộ ở thành thị tiêu dùng gạo ít hơn hộ ở nông thôn 557 ngàn đồng/năm.Chúng ta sẽ thấy điều này một cách trực quan qua đồ thị

sau:

> A Thành thị

a

Š 4000 — tôi quy nông thôn + + a

Zz = 3000

& =

5

= 2000 =

ỗ

1000

Quy mô hộ gia đình (Người)

Hình 4.1 Hồi quy với một biến định lượng và một biến phân loại

7.2 Hồi quy với một biến định lượng và một biến phân loại có nhiều hơn hai phân lớp

Vi du 4.2 Giả sử chúng ta muốn ước lượng tiền lương được quyết định bởi số năm kinh nghiệm công tác và trình độ học vân như thế nào

Gọi Y : Tiền lương

X : Số năm kinh nghiệm

D: Học vấn Giả sử chúng ta phân loại học vấn như sau : chưa tốt nghiệp đại học, đại học và sau đại học

Phuong án 1:

= 0 nếu chưa tốt nghiệp đại học

Di = 1 nếu tốt nghiệp đại học

Di =2 nếu có trình độ sau đại học

Trang 7

Cách đặt biến này đưa ra giả định quá mạnh là phần đóng góp của học vấn vào tiền lương của người có trình độ sau đại học lớn gấp hai lần đóng góp của học vấn đối với người có trình độ đại học Mục tiêu của chúng ta khi đưa ra biến D chỉ là phân loại nên ta không chọn phương án này

Phương án 2: Đặt bộ biến giả

D.;D;; Học vấn

00 Chưa đại học

10 Đại học

01 Sau đại học

Mô hình hồi quy

Yi = Bi + BoX + B3Di;+ BaDoi + (4.24)

Khai triển của mô hình (4.24) như sau

Đối với người chưa tốt nghiệp đại học

E(Y: )= Bi + B2X (4.25)

Đôi với người có trình độ đại học

ECY; )E (Bị + Bạ)+t BaX:(4.26)

Đôi với người có trình độ sau đại học

E(Y; )= (Bị + Bạ+ B¿ }* B;X (4.27)

7.3 Cái bây của biên giả

Số lớp của biến phân loạiSố biến giả

Trong ví dụ 4.1 21

Trong ví dụ 4.232

Điều gì xảy ra nếu chúng ta xây dựng số biến giả đúng bằng số phân lớp?

Ví dụ 4.3 Xét lại ví dụ 4.1

Giả sử chúng ta đặt biến giả như sau

D.¡D;¡Vùng

10Thành thị

0I1Nông thôn

Mô hình hồi quy là

Y¡=Bị+;sX¡+t B:D¡; + BDoi +ei(4 28)

Chúng ta hãy xem kết quả hồi quy bằng Excel

Standard

Intercept 2235,533 0 65535 #NUM!

xX 508,1297 80,36980143 6,322396 1,08E-06

Kết qua hôi quy rất bất thường và hoàn toàn không có ý nghĩa kinh tế

Lý do là có sự đa cộng tuyến hoàn háo giữa D1, D2 và một biến hằng X2 =-l D+ Dz + X2 =0 Vi

Hiện tượng đa cộng tuyến hoàn hảo này làm cho hệ phương trình chuẩn không có lời giải Thực tế sai số chuẩn tiến đến vô cùng chứ không phải tiến đến 0 như kết quả tính toán của Excel Hiện tượng này được gọi là cái bây của biến giả

Quy tắc: Nếu một biến phân loại có k lớp thi chi sir dung (k-1) biến giả

7.4 Hồi quy với nhiều biến phân loại

Trang 8

Ví dụ 4.4 Tiếp tục ví dụ 4.2 Chúng ta muốn khảo sát thêm có sự phân biệt đối xử trong mức lương giữa nam và nữ hay không

Đặt thêm biến và đặt lại tên biến

GT;: Giới tính, 0 cho nữ va 1 cho nam

TL : Tiền lương

KN: Số năm kinh nghiệm làm việc

DH: Bang I nếu tốt nghiệp đại học và 0 cho chưa tốt nghiệp đại học

SDH: Bang 1 nếu có trình độ sau đại học và 0 cho chưa

Mô hình hồi quy TL¡ = Bị + BạKN; + BạÐH; + B„SĐH; +sGT;+ z¡(4.29)

Chúng ta xét tiền lương của nữ có trình độ sau đại học

E(TL; /SDH=1NGT=0)= (8, + By)+ B2KN;

7.5 Biến tương tác

Xét lại ví dụ 4.1 Xét quan hệ giữa tiêu dùng gạo và quy mô hộ gia đình.Để cho đơn giản trong trình bày chúng ta sử dụng hàm toán như sau

Nông thôn: Y = œ¡ + ¡X

Thành thi: Y = a, + B.X

D: Bién phan loai, bang 1 nếu hộ ở thành thị và bằng 0 nếu hộ ở nông thôn

Có bón trường hợp có thể xảy ra như sau

(1) ơ¡=œ; và B¡= J›, hay không có sự khác biệt trong tiêu dùng gạo giữa thành thị và nông thôn

Mô hình : Y =a+bX

Trong đó œ¡=ơ; = a và ¡= Ba= b

(2) ơ¡#o; và B¡= P›, hay có sự khác biệt về tung độ gốc

Mô hình: Y = a + bX + cD

Trong đó ơi = a, dạ = a + c và ¡ = ; = b

(3) ơi=œa và B¡# Bo, hay có sự khác biệt về độ dốc

Mô hình: Y = a + bX + c(DX)

Trong đó DX = X nếu nếu D =1 và DX =0 nếu D=0

ơi =ơ;=a,j¡ =b và Bạ=b + c

(4) ơi#o; và B¡# Ba, hay có sự khác biệt hoàn toàn về cả tung độ gốc và độ dốc

Mô hình: Y = a + bX + cD + d(DX)

ơi =a,0¿=a+c,ị =b và Pạ=b + d

Trang 9

Tiêu dùng gạo, Y Tiêu dùng gạo, Y

Quy mô hộ, X - Quy mô hộ, X

4 Mô hình đông nhât b Mô hình song song

Tiệu dùng gạo, Y Tiêu dùng gạo, Y

Bo

a lee

c Mô hình đồng quv d Mô hình phân biêt

Hình 4.2 Các mô hình hồi quy

Biến DX được xây dựng như trên được gọi là biến tương tác Tổng quát nếu X, là một biến định lượng và D, là một biến giả thì X pDạ là một biến tương tác Một mô hình hồi quy: tuyến tổng quát có thể có nhiều biển định lượng, nhiều biến định tính

và một số biến tương tác

Trang 10

Chương II - Phương pháp lập mô hình , phân tích và dự báo hiện tượng

kinh tế bằng Eviews Bảng dưới đây cho các giá trị quan sát về thu nhập (Y- -USD/đầu người ), tỉ lệ lao động nông nghiệp (X; - %) và sô năm trung bình được đào tạo đối với những người trên 25 tuổi (Xa — năm )

10

12

16

10

12

14

12

16

14

10

12

10

II

9

10

II

Khởi động Eviews , từ cửa số Eviews chọn File — New — Workfile

igi=m Edit Object View Proc Quick pun Window | =

Close

Hộp thoại mở Workfiel như sau :

Workfile Range

~ Frequent $$

@ Annual Weekly

Start date End date

10 SVTH : Nguyén Thé Hing — KHĐT3

Định dạng
Số trang	18
Dung lượng	5,63 MB