Chương 3: Mô hình hồi quy bội pot

CHƯƠNG MƠ HÌNH H I QUI B I H i qui b i Nguy n Th Minh Hi u I MƠ HÌNH H I QUI BI N I.1 D ng mơ hình Hàm h i qui t ng th (PRF): E(Y|X2i ,X3i) = β1 + β2X2i + β3X3i Yi = E(Y|X2i ,X3i) + ui = β1 + β2X2i + β3X3i + ui Y: bi n ph thu c X2, X3: bi n gi i thích u: sai s ng u nhiên i th t c a quan sát H i qui b i Nguy n Th Minh Hi u I.1 D ng mơ hình β1 : h s ch n β1 = E(Y|X2=X3=0): cho bi t tác đ ng trung bình c a bi n khơng có mơ hình lên bi n ph thu c ñư c th hi n b ng giá tr trung bình c a Y X2 = X3 =0 β2 ,β3 : g i h s h i qui riêng ∂E (Y ¦X ) β2 = ∂X cho bi t s thay đ i trung bình c a bi n ph thu c Y X2 thay ñ i ñơn v v i ñi u ki n X3 khơng đ i H i qui b i Nguy n Th Minh Hi u Các gi thi t OLS Các bi n gi i thích phi ng u nhiên Kỳ v ng c a sai s ng u nhiên u b ng 0, E(u|Xi) = Phương sai c a u thu n nh t (b ng nhau) var(u|Xi) = σ2 (v i ∀i) Khơng có t tương quan gi a y u t ng u nhiên Cov(ui ,uj|Xi,Xj) = (v i ∀i ≠ j) u X không tương quan v i Cov (ui, Xi) = Gi a bi n X2, X3 khơng có quan h n tính xác (đa cơng n hồn h o) u có phân b chu n, u~N (0,σ2 ) H i qui b i Nguy n Th Minh Hi u Ư c lư ng tham s c a mơ hình h i qui bi n b ng phương pháp OLS ˆ ˆ ˆ Yi = β1 + β X 2i + β X 3i + e i ˆ ˆ ˆ e i = Yi − β1 − β X 2i − β X 3i n n ( ˆ ˆ ˆ e = ∑ Yi − β1 − β X 2i − β X 3i ∑ i =1 H i qui b i i i =1 Nguy n Th Minh Hi u ) ⇒ Ư c lư ng tham s c a mơ hình h i qui bi n b ng phương pháp OLS n ∂∑ e ˆ ˆ ˆ = ∑ Yi − β1 − β X 2i − β3 X 3i ˆ ∂β i =1 ) ( −1) = n ∂∑ e ˆ ˆ ˆ = ∑ Yi − β1 − β X 2i − β3 X 3i ˆ ∂β i =1 )(−X n ∂ ∑ ei2 ˆ ˆ ˆ = ∑ Yi − β1 − β X 2i − β3 X 3i ˆ ∂β i =1 )(−X i ( i ( 2i )=0 3i )=0 ( H i qui b i Nguy n Th Minh Hi u Ư c lư ng tham s c a mơ hình h i qui bi n b ng phương pháp OLS  ˆ ˆ ˆ nβ1 + β ∑ X 2i + β ∑ X 3i = ∑ Yi  i =1 i =1 i =1  n n n ˆ n ˆ ˆ β1 ∑ X 2i + β ∑ X 2i + β ∑ X 2i X 3i = ∑ Yi X 2i  i =1 i =1 i =1  i =1 n n n  n ˆ ˆ ˆ β1 ∑ X 3i + β ∑ X 2i X 3i + β ∑ X 3i = ∑ Yi X 3i i =1 i =1 i =1  i =1 n H i qui b i n Nguy n Th Minh Hi u n Ư c lư ng tham s c a mơ hình h i qui bi n b ng phương pháp OLS ˆ ˆ ˆ β1 = Y − β X − β X  n  n   n  n   ∑ yi x2i  ∑ x3i  −  ∑ yi x3i  ∑ x2i x3i   i =1   i =1  i =1  ˆ β =  i =1 n n n   2 ∑ x2i ∑ x3i −  ∑ x2i x3i  i =1 i =1  i =1   n  n   n  n   ∑ y i x3i  ∑ x i  −  ∑ y i x i  ∑ x i x3i    i =1   i =1   i =1  ˆ β =  i =1 n n n   2 ∑ x i ∑ x3i −  ∑ x3i x3i  H i qui b i i =1 i =1  i =1  Ư c lư ng tham s c a mơ hình h i qui bi n b ng phương pháp OLS y i = Yi − Y x 2i = X 2i − X n X = ∑ Xi n i =1 • x 3i = X i − X n Y = ∑ Yi n i =1 ˆ ˆ ˆ β1 , β , β3 ñư c g i c lư ng bình phương nh nh t Nguy n Th Minh Hi u Phương sai ñ l ch chu n c a c lư ng bình phương nh nh t n ˆ var (β ) = ∑x i =1 n n ∑x ∑x 2i i =1 = H i qui b i ∑x σ 2i i =1 3i 3i  n  −  ∑ x i x 3i   i =1  σ 2 (1 − r ) 23 Nguy n Th Minh Hi u 10 Ki m ñ nh s phù h p c a hàm h i qui (ti p) • H s xác ñinh b i, R2 ˆ RSS = ∑ ei2 = e ' e = Y ′Y − β ′ X ′Y TSS = ∑ yi2 = ∑ Yi + 2∑ YY + nY = Y ' Y − nY i ˆ ′ X ′Y − nY ESS = TSS − RSS = β R2 = H i qui b i ˆ ′ X ′Y − nY β ′Y − nY Y Nguy n Th Minh Hi u 24 Ki m ñ nh s phù h p c a hàm h i qui (ti p) • R = R đư c g i h s tương quan b i, ño s k t h p n tính đ ng th i c a bi n ph thu c Y v i t t c bi n gi i thích X • R2 đư c g i h s xác ñ nh b i, cho ta bi t % s thay ñ i c a bi n ph thu c đư c gi i thích b i bi n đ c l p mơ hình • R2 tăng theo s bi n ñ c l p đư c đưa vào mơ hình, c bi n ñ c l p ñư c ñưa thêm vào khơng gi i thích s bi n đ ng c a Y H i qui b i Nguy n Th Minh Hi u 25 Ki m ñ nh s phù h p c a hàm h i qui (ti p) • Cân nh c vi c đưa m t bi n gi i thích m i vào mơ hình, ngư i ta s d ng h s xác ñ nh b i ñã hi u ch nh, R RSS /(n − k ) RSS n − n −1 R = 1− = 1− = − (1 − R ) TSS /(n − 1) TSS n − k n−k • k↑ ⇒ R ↑ (do R2 ↑) ⇒ R ↓ (theo công th c) ⇒n u đưa thêm bi n vào mơ hình mà làm R gi m khơng nên đưa thêm bi n vào mơ hình H i qui b i Nguy n Th Minh Hi u 26 Ki m ñ nh s phù h p c a hàm h i qui (ti p) R2 • Tính ch t c a • N u k>1, R ≤ R ≤ có nghĩa n u tăng s bi n , gi i thích R có th tăng ln tăng ch m R2 khơng âm R có th âm • R • R m t hai tiêu chu n (k thu t) đ xét có nên đưa thêm bi n vào mơ hình hay khơng + R tăng + H s ng v i bi n m i đưa vào có ý nghĩa v m t th ng kê H i qui b i Nguy n Th Minh Hi u 27 Ki m ñ nh s phù h p c a hàm h i qui • H0: β2 =β3 = =βk = ⇔ R2 = ⇔ h i qui không phù h p • H1: ∃βi ≠ ⇔ R2 > ⇔ hàm h i qui phù h p ESS /(k − 1) ESS n−k R2 n − k F= = ⋅ = ⋅ RSS /(n − k ) TSS − ESS k − 1 − R k − • F ∼ Fα(k-1,n-k) H i qui b i Nguy n Th Minh Hi u 28 III.3 Ki m ñ nh s thu h p h i qui Yi = β1 + β2X2i + β3X3i + + βkXki + Ui (UR) H0: β2 = β3 = = …= βr+1 = H1: ∃βi ≠ 0, (i = 2, 3, , r+1) Gi thi t H0 cho r ng r h s b ng ⇒ bao g m r ràng bu c Yi = β1 + βr+2Xr+2i + + βkXki + Ui (R): hàm h i qui thu h p (r h s ) (R) 29 Ki m ñ nh s thu h p h i qui (ti p) • Các bư c ki m đ nh + H i qui (UR) (R), thu ñư c t ng bình phương ph n dư, RSSUR RSSR RSSUR có dfUR = n – k RSSR có dfR = [n – (k – r)] RSS R − RSSUR n − k F= ⋅ ~ F (r , n − k ) RSSUR r H i qui b i Nguy n Th Minh Hi u 30 Ki m ñ nh s thu h p h i qui (ti p) • Do (UR) (R) có bi n ph thu c ⇒ TSSUR=TSSR = TSS (TSS − ESS R ) − (TSS − ESSUR ) ⋅ n − k F= TSS − ESSUR r R −R n−k F= ⋅ ~ F (r , n − k ) − RUR r UR H i qui b i R Nguy n Th Minh Hi u 31 V.1 D báo giá tr trung bình ˆ ˆ = X ′ β c lư ng c a E(Y|X ) v i Y0 • 0 ' kì v ng X β phương sai là: ( ) ( ) ( ) ˆ ˆ ˆ = var X ′β = X ′ cov β X var Y0 0 ′σ X ′X −1 X = σ X ′ X ′X −1 X = X0 ( ) ) 0 ( không bi t, s d ng ˆ thay th • σ σ ˆ ) = σ X ′ ( X ′X )−1 X ˆ ⇒ se(Y0 0 H i qui b i Nguy n Th Minh Hi u 32 V.1 D báo giá tr trung bình (ti p) V i m c ý nghĩa α, giá tr trung bình c a bi n ph thu c tương ng v i vecto bi n ñ c l p X0 ñư c d báo n m kho ng: ˆ Y − t  α /2 H i qui b i ( n−k ) ( ) ˆ ˆ se Y0 , Y0 + tα / Nguy n Th Minh Hi u ( n −k ) ( ) ˆ se Y0   33 V.2 D báo giá tr cá bi t ˆ ˆ = X ′ β c lư ng c a Y v i kì Y0 • 0 ' v ng X β phương sai là: ( ( ) ) ˆ ˆ = var X ′ β + σ var Y0 − Y0 1 + X ′ ( X ′X )−1 X  =σ 0   không bi t, s d ng ˆ thay th • σ σ ˆ ) = σ + X ′ ( X ′X )−1 X ˆ ⇒ se(Y0 − Y0 0 H i qui b i Nguy n Th Minh Hi u 34 V.2 D báo giá tr cá bi t (ti p) • V i m c ý nghĩa α, giá tr cá bi t c a bi n ph thu c tương ng v i vecto bi n ñ c l p X0 ñư c d báo n m kho ng ( ) ( ) ˆ ˆ ˆ ˆ Y0 − tα / 2( n −k ) se Y0 − Y0 , Y0 + tα / 2( n −k ) se Y0 − Y0    H i qui b i Nguy n Th Minh Hi u 35 M t s d ng hàm h i qui • Hàm Cobb-Douglas (log - log) β2 β3 βk Y = β1 X X X k ⇔ ln Y = ln β1 + β ln X + β3 ln X + β k ln X k ε Y Xi ∂Y X i = = βi ∂X i Y H i qui b i Nguy n Th Minh Hi u 36 M t s d ng hàm h i qui • Hàm log – lin VD: Yt = Y0(1 + r)t ln(Yt) = ln(Y0) + t*ln(1 + r) ⇔ ln(Yt) = β1 + Xt*β2 dY β2 = Y dX H i qui b i Nguy n Th Minh Hi u 37 M t s d ng hàm h i qui • Hàm lin – log VD: Y= β1 + β2ln(X) dY β2 = dX X H i qui b i Nguy n Th Minh Hi u 38 ...I MƠ HÌNH H I QUI BI N I.1 D ng mơ hình Hàm h i qui t ng th (PRF): E(Y|X2i ,X3i) = β1 + β2X2i + β3X3i Yi = E(Y|X2i ,X3i) + ui = β1 + β2X2i + β3X3i + ui Y: bi n ph thu c X2, X3: bi n gi... ng tham s c a mơ hình h i qui bi n b ng phương pháp OLS Khơng có σ2 nên s d ng ˆ σ H i qui b i ˆ σ thay th ∑e = i n−3 Nguy n Th Minh Hi u 11 II Mơ hình h i qui k bi n t ng qt Mơ hình h i qui k... quan sát H i qui b i Nguy n Th Minh Hi u I.1 D ng mơ hình β1 : h s ch n β1 = E(Y|X2=X3=0): cho bi t tác đ ng trung bình c a bi n khơng có mơ hình lên bi n ph thu c ñư c th hi n b ng giá tr trung