thảo luận hiện tượng đa cộng tuyến đại học thương mại

LỜI MỞ ĐẦU Trong mô hình phân tích hồi quy bội, chúng ta giả thiết giữa các biến giải thích Xj của mô hình độc lập tuyến tính với nhau, tức là các hệ số hồi quy đối với một biến cụ thể l

A LỜI MỞ ĐẦU

Trong mô hình phân tích hồi quy bội, chúng ta giả thiết giữa các biến giải thích Xj của mô hình độc lập tuyến tính với nhau, tức là các hệ số hồi quy đối với một biến cụ thể là số đo tác động riêng phần của biến tương ứng khi tất cả các biến khác trong mô hình được giữ cố định Tuy nhiên khi giả thiết đó bị vi phạm tức là các biến giải thích có tương quan thì chúng ta không thể tách biệt

sự ảnh hưởng riêng biệt của 1 biến nào đó

Hiện tượng trên được gọi là đa cộng tuyến Vậy đa cộng tuyến là gì, hậu quả của hiện tượng này như thế nào, làm thế nào để phát hiện và biện pháp khắc phục nó Để trả lời những câu hỏi trên, sau đây chúng ta cùng đi thảo luận đề tài

“ Hiện tượng đa cộng tuyến”

B NỘI DUNG

I Đa cộng tuyến và hậu quả của đa cộng tuyến.

1 Bản chất của đa cộng tuyến.

Trường hợp lý tưởng là các biến X i trong môi trường hồi quy bội không có tương quan với nhau ; mỗi 1 biến X i chứa 1 thông tin riêng về Y i , thông tin không chứa trong bất kì X ikhác Trong thực hành, khi điều này xảy ra ta không gặp hiện tượng đa cộng tuyến

Ở trường hợp ngược lại, chúng ta gặp hiện tượng đa cộng tuyến hoàn hảogiả sử ta phải ước lượng hàm hồi quy Y gồm k biến giải thích X1, X 2 X3… X k,

Y i=β1X 1 i+β2X 2 i+…+ β k X ki+U i

Đa cộng tuyến hoàn hảo xảy ra khi một biến giải thích được biểu diễn dưới dạng tổ hợp tuyến tính các biến giải thích còn lại đối với mọi điểm của tập số liệu hoặc có thể phát biểu : đa cộng tuyến hoàn hảo giữa các biến giải thích

X1, X 2 X3… X k xảy ra nếu điều kiện sau thỏa mãn :

λ1X1+λ2X2+….+ λ k X k= 0

Trong đó λ1, λ2… … λ k không đồng thời bằng không

Thuật ngữ đa cộng tuyến được Rignar Frisch sử dụng vào năm 1934 với nội dung trên Tuy nhiên ngày nay, thuật ngữ này được sử dụng theo nghĩa rộng hơn Nó bao gồm cả đa cộng tuyến hoàn hảo và trường hợp trong đó các biến giải thích tương quan với nhau theo nghĩa sau :

λ1X 1 i+λ2X 2 i+… +λ k X ki+V i=0

Trong đó V i là sai số ngẫu nghiên

Các biến giải thích X biến phụ thuộc Y

Nguồn gốc của cộng tuyến tính :

- Do phương pháp thu thập dữ liệu : các giá trị của các biến độc lập phụ thuộc lẫn nhau trong mâu thuẫn nhưng không phụ thuộc lẫn nhau trong tổng thể

Vd: người có thu nhập cao hơn sẽ có khuynh hướng có nhiều của cải hơn Điều này có thể đúng với mẫu mà không đúng với tổng thể Trong tổng thể sẽ có những quan sát về các cá nhân có thu nhập cao nhưng không có nhiều của cải

và ngược lại

- Các biến độc lập vĩ mô được quan sát theo dữ liệu chuỗi thời gian :

Ví dụ: Nhập khẩu quốc gia phụ thuộc vào GDP và CPI (các chỉ số này được thuthập từ dự liệu chuỗi thời gian)

Các khu vực giao cho thông tin từ nguồn gốc độc lập không có có cộng tuyến tính

Y

Cộng tuyến tính hoàn toàn

Thông tin đồng nhất không

có hồi quy

Y

Mức độ cộng tuyến tính nào

đó giữa các biến X; nhưng vấn

đề hồi quy phụ thuộc vào bậc của cộng tuyến tính

Y

Y

Tương quan ngược chiều giữa các biến X cộng tuyến mạnh

2 Hậu quả của đa cộng tuyến.

Trong trường hợp có tồn tại đa cộng tuyến gần hoàn hảo thì có thể gặp một số tình huống sau:

2.1 Phương sai và hiệp phương sai của các ước lượng bình quân bé nhất lớn

- Chúng ta xét mô hình hồi quy 3 biến sau

2

∑x312 (1−r232 ) (3)Và: Cov(^β2, ^ β3) = −r23σ

2

(1−r232 )√ ∑X212

∑X312 (4)Trong đó r23 là hệ số tương quan giữa X2 , X3

Từ (2) và (3) ta thấy khi r23 tăng dần đến 1 (nghĩa là cộng tuyến tăng) thì

phương sai của 2 ước lượng này tăng đến vô hạn (4) chỉ ra rằng khi r23 tăng lên đến 1 thì : Cov(^β2, ^ β3) tăng về giá trị tuyệt đối

2.2 Khoảng tin cậy rộng hơn.

- Như ta đã biết trong chương trước khoảng tin cậy 95% cho ^β2và ^β3 khi

√ ¿ ¿ ¿ (7) Cho nên ta có thể viết lại các khoảng tin cậy 95% cho β2

2.3 Tỷ số t mất ý nghĩa.

Như đã biết, khi kiểm định giả thiết H0 : β2 = 0, chúng ta đã sử dụng tỷ số

t = ^β2/se ^β2 và đem so sánh giá trị t đã được ước lượng với giá trị tới hạn t nhưng khi có đa cộng tuyến gần hoàn hảo thì sai số tiêu chuẩn ước lượng được

sẽ rất cao vì vậy làm cho tỉ số t nhỏ đi Kết quả sẽ làm tăng khả năng chấp nhận giả thiết H0

2.4 R2 cao nhưng tỉ số t ít ý nghĩa.

Để giải thích điều này Ta hãy xét mô hình hồi quy k biến như sau:

Yi = β1 + β2X2i + β3X3i + … + β kXki + Ui

Trong trường hợp có đa cộng tuyến gần hoàn hảo, như đã chỉ ra ở trên ta có thể tìm được một hoặc một số hệ số góc riêng là không có ý nghĩa về mặt thống kê trên cơ sở kiểm định t, nhưng trong khi đó R2 lại có thể rất cao, nên bằng kiểm định F, chúng ta có thể bác bỏ giả thiết: H0 : β2 = β3 = … = β k = 0 Mâu thuẫn này cũng là tín hiệu của đa cộng tuyến

2.5 Các ước lượng bình phương bé nhất và các sai số tiêu chuẩn của chúng trở nên rất nhạy đối với những thay đổi nhỏ trong số liệu.

2.6 Dấu của các ước lượng của hệ số hồi quy có thể sai.

Khi có đa cộng tuyến gần hoàn hảo thì có thể thu được các ước lượng của các

hệ số hồi quy trái chiều với chúng ta mong đợi, chẳng hạn lý thuyết kinh tế lượng cho rằng đối với hàng hóa bình thường khi thu nhập tăng, cầu hàng hóa tăng, nghĩa là khi hồi quy thu nhập là một trong các biến giải thích, biến phụ thuộc là lượng cầu của hàng hóa, nếu xảy ra hiện tượng đa cộng tuyến gần hoàn

hảo thì ước lượng của hệ số của biến thu nhập có thể mang dấu âm – mâu thuẫnvới điều ta mong đợi.

2.7 Thêm vào hay bớt đi các biến cộng tuyến với các biến khác, mô hình sẽ thay đổi về độ lớn của các ước lượng hoặc dấu của chúng.

Tóm lại triệu chứng chủ yếu của đa cộng tuyến mà ta nói ở trên là tăng sai số tiêu chuẩn, sai số tiêu chuẩn cao hơn có ngụ ý rằng sự biến thiên của hệ số hồi quy từ mẫu này đến mẫu khác cao hơn do đó một sự thay đổi nhỏ trong số liệu hoặc trong mô hình hồi quy ( như thêm vào hoặc bớt đi một biến) sẽ gây ra sự thay đổi lớn của các hệ số

II Phát hiện đa cộng tuyến và biện pháp khắc phục

1 Phát hiện sự tồn tại đa cộng tuyến.

1.1 R² cao nhưng tỉ số t thấp

Trong trường hợp R² cao ( thường R²> 0,8 ) mà tỷ số t thấp như trên đã chú ý

đó chính là dấu hiệu của đa cộng tuyến

1.2 Tương quan cặp giữa các biến giải thích cao

Nếu hệ số tương quan cặp giữa các biến giải thích cao ( vượt 0,8 ) thì có khả năng có tồn tại đa cộng tuyến Tuy nhiên tiêu chuẩn này thường không chính xác Có những trường hợp tương quan cặp không cao nhưng vẫn có đa cộng tuyến Thí dụ, ta có 3 biến X1 X2 và X3 như sau

1.3 Xem xét tương quan riêng

Vì vấn đề này được đề cập đến dựa vào tương quan bậc không Farrar và

Glauber đã đề nghị sử dụng hệ số tương quan riêng Trong hồi quy của Y đối với các biến X2, X3, X4 Nếu ta nhận thấy rằng r²1,234 cao trong khi đó r²12,34 ;

X4có tương quan cao và ít nhất một trong các biến này là thừa

Dù tương quan riêng rất có ích nhưng nó cũng không đảm bảo rằng sẽ cung cấp cho ta hướng dẫn chính xác trong việc phát hiện ra đa cộng tuyến

1.4 Hồi quy phụ

Một cách có thể tin cậy được để đánh giá mức độ tin cậy của đa cộng tuyến

là hồi quy phụ Hồi quy phụ là hồi quy mỗi biến giải thích Xi theo các biến giải thích còn lại R2 được tính từ hồi quy này ta kí hiệu R2

ta vẫn phải quyết định liệu biến Xi nào sẽ bị loại khỏi mô hình Một trở ngại của

kỹ thuật hồi quy phụ là gánh nặng tính toán Nhưng ngày nay nhiều chương trình máy tính đã có thể đảm đương được công việc tính toán này

1.5 Nhân tử phóng đại phương sai

Một thước đo khác của hiện tượng đa cộng tuyến là phân tử phóng đại

phương sai gắn với biến Xi, kí hiệu là VIF(Xi)

VIF(Xi) được thiết lập trên cơ sở hệ số xác định R2

i trong hồi quy biến Xi vớicác biến như sau:

ích nhiều và nó không cung cấp cho ta biết phải làm gì với tình huống đó Nó chỉ cho biết rằng tình hình là không lý tưởng.

Đồ thị mối liên hệ của R2

i và VIF như chỉ ra ở hình sau:

m = R2 – ∑

i−2

k

(R2¿ −R−2i) ¿

Trong đó R2 là hệ số xác định bội trong hồi quy của Y đối với các biến X2, X3,

… X k trrong mô hình hồi quy:

Y i= β1 + β2X 2i +β3X 3 i + … + β k X ki + U i

R−2i là hệ số xác định bội trong mô hình hồi quy của biến Y đối với các biến X2,

X3, … , X i−1, X i +1, ….,

2 Biện pháp khắc phục đa cộng tuyến.

2.1 Sử dụng thông tin tiên nghiệm

Một trong các cách tiếp cận để giải quyết vấn đề đa cộng tuyến là phải tậndụng thông tin tiên nghiệm hoặc thông tin từ nguồn khác để ước lượng các hệ sốriêng

Thí dụ : ta muốn ước lượng hàm sản xuất của 1 quá trình sản xuất nào đó códạng : Qt =ALt

α

K t β e Ut

Trong đó Qt là lượng sản phẩm được sản xuất thời kỳ t; Lt lao động thời kỳt; Kt vốn thời kỳ t; Ut là nhiễu ; A, , β là các tham số mà chúng ta cần ước lượng.Lấy ln cả 2 vế (1.16) ta được :

LnQt + = LnA + lnLt + βKtlnUtĐặt LnQt = Qt* ; LnA = A* ; LnLt = Lt*

Qt* = A* + Lt* + (1 - ) K*t + Utt (2)

Từ đó ta được Qt* – Kt* = A* + (Lt* – Kt*) + Ut

Đặt Qt* – Kt* = Yt* và Lt* – Kt* = Zt* ta được:

Yt* = A* +  Zt* + Ut

Thông tin tiên nghiệm đã giúp chúng ta giảm số biến độc lập trong mô hìnhxuống còn 1 biến Zt*

Sau khi thu được ước lượng α^của  thì ^βtính được từ điều kiện ^β=1−^α

2.2 Thu thập số liệu hoặc lấy thêm mẫu mới

Vì đa cộng tuyến là đặc trưng của mẫu nên có thể có mẫu khác liên quan đến

cùng các biến trong mẫu ban đầu mà đa cộng tuyến có thể không nghiêm trọngnữa Điều này có thể làm được khi chi phí cho việc lấy mẫu khác có thể chấp nhậnđược trong thực tế

Đôi khi chỉ cần thu thập thêm số liệu, tăng cỡ mẫu có thể làm giảm tính nghiêmtrọng của đa cộng tuyến

2.3 Bỏ biến

Giả sử trong mô hình hồi quy của ta có Y là biến được giải thích còn X2, X3,

…, Xk là các biến giải thích X2 tương quan chặt chẽ với X3 Khi đó nhiều thông tin

về Y chứa ở X2 thì cũng chứa ở X3 Vậy nếu ta bỏ 1 trong 2 biến X2 hoặc X3 khỏi

mô hình hồi quy, ta sẽ giải quyết được vấn đề đa cộng tuyến nhưng sẽ mất đi 1phần thông tin về Y

Bằng phép so sánh R2 và R trong các phép hồi quy khác nhau mà có và không2

có 1 trong 2 biến chúng ta có thể quyết định nên bỏ biến nào trong biến X2 và X3khỏi mô hình

Thí dụ R2 đối với hồi quy của Y đối với tất cả các biến X1, X2, X3, …, Xk là0.94; R2 khi loại biến X2 là 0.87 và R2 khi loại biến X3 là 0.92; như vậy trongtrường hợp này ta loại X3

Hạn chế của biện pháp này là trong các mô hình kinh tế có những trường hợpđòi hỏi nhất định phải có biến này hoặc biến khác ở trong mô hình Trong trườnghợp như vậy việc loại bỏ 1 biến phải được cân nhắc cẩn thận giữa sai lệch khi bỏ 1

biến cộng tuyến với việc tăng phương sai của các ước lượng hệ số khi biến đó ởtrong mô hình.

2.4 Sử dụng sai phân cấp 1

Mặc dù biện pháp này có thể giảm tương quan qua lại giữa các biến nhưngchúng cũng có thể được sử dụng như 1 giải pháp cho vấn đề đa cộng tuyến

- B1: xây dựng mô hình hồi quy gốc ban đầu

- B2: xây dựng mô hình hồi quy thứ hai, trong đó, loại bỏ một quan sát đầutiên (do mô hình hồi quy đúng với t quan sát thì cũng đúng với t-1 quansát)

- B3: Dùng mô hình ở B1 – B2 ta có mô hình sai phân bậc 1

Mô hình sai phân B3 có thể giảm hiện tượng đa cộng tuyến của các biến độclập

Thí dụ chúng ta có số liệu chuỗi thời gian biểu thị liên hệ giữa các biến Y vàcác biến phụ thuộc X2 và X3 theo mô hình sau :

Tuy nhiên biến đổi sai phân bậc nhất sinh ra 1 số vấn đề chẳng hạn như số hạngsai số Vt trong (4) có thể không thỏa mãn giả thiết của mô hình hồi quy tuyến tính

cổ điển là các nhiễu không tương quan Vậy thì biện pháp sửa chữa này có thể lạicòn tồi tệ hơn

2.5 Giảm tương quan trong hồi quy đa thức

Nét khác nhau của hồi quy đa thức là các biến giải thích xuất hiện với lũy thừakhác nhau trong mô hình hồi quy Trong thực hành để giảm tương quan trong hồiquy đa thức người ta thường sử dụng dạng độ lệch Nếu việc sử dụng dạng độ lệch

mà vẫn không giảm đa cộng tuyến thì người ta có thể phải xem xét đến kỹ thuật

Nhưng tất cả các biên pháp đã trình bày ở trên có thể làm giải pháp cho vấn đề

đa cộng tuyến như thế nào còn phụ thuộc vào bản chất của tập số liệu và tínhnghiêm trọng của vấn đề đa cộng tuyến

III VÍ DỤ MINH HỌA

Y: Tổng thu nhập quốc gia ( triệu đôla mỹ)

X: giá trị nhập khẩu hàng hóa ( triệu đô la mỹ)

Z: giá trị xuất khẩu hàng hóa (triệu đô la Mỹ)

Yêu cầu: Hãy phát hiện hiện tượng đa cộng tuyến và tìm biện pháp khắc phục Choα=5%

Tiến hành hồi quy bộ số liệu trên eviews bằng phương pháp bình phương nhỏ nhất

ta được kết quả như sau:

2.1 Hệ số xác định bội R2 cao nhưng t thấp

2.2 Hệ số tương quan cặp giữa các biến giải thích cao

Từ cửa sổ chính eviews, chọn Quick/ Group Statistics/ Correlations, đưa vào cửa

sổ Series List danh sách các biến của ma trận tương quan Sử dụng lệnh y x z ta được kết quả:

Ta thấy: r23= 0.965442 cao, điều này cho biết giữa X và Z có thể có quan hệ tuyếntính

Như vậy: ta càng có cơ sở kết luận có hiện tượng đa cộng tuyến trong mô hình trên

2.3 Hồi quy phụ

Ta hồi quy biến X theo biến Z ta được kết quả như sau:

Ta thấy giá trị p-value của thống kê F là 0.000000< α=0.05

Bác bỏ giả thiết H0 chấp nhận giả thiết H1 Hay nói cách khác có tồn tại mối liên hệgiữa biến X và Z

Vậy càng có cơ sở khẳng định mô hình trên có hiện tượng đa cộng tuyến

2.4 Sử dụng nhân tử phóng đại phương sai

Từ bảng hồi quy X theo Z

VIF=1−R1

2

2=1−0.9320771 =14.72255> 10Theo lý thuyết thì VIF ≥10 thì có hiện tượng đa cộng tuyến giữa hai biến độc lập trong mô hình

Vậy mô hình có xảy ra hiện tượng đa cộng tuyến

2.5 Đo độ Theil

 Xét mô hình hồi quy Y theo X ta được kết quả:

Sử dụng câu lệnh: LS y c x

 Xét mô hình hồi quy Y theo Z ta được kết quả:

m=R2−(R2−r122 )−(R2−r132 )

=0.972067- (0.972067- 0.943656) – (0.972067- 0.963887)

=0.935476

Vậy độ đo của Theil về mức độ đa cộng tuyến là 0.935476

3 Khắc phục hiện tượng đa cộng tuyến

Với K t=Y t−Y t −1 H t=X t−X t −1

O t=Z t−Z t −1 I t=U t−U t−1

Bước 1: Tính trên Exel ta được bảng số liệu mô hình (3) như sau:

Bước 3: Tìm hệ số tương quan giữa các biến giải thích

Bước 4: Hồi quy phụ của biến sai phân H t theo O t ta được:

Bước 5: Kiểm định cặp giả thiết sau:

{H0: H t k h ô ng t ươ ng quan v ớ iO t

H1: H t c ó t ươ ng quan v ớ i O t

Nhìn bảng eview trên ta thấy, P value=0.4434>α=0.05

 Chưa có cơ sở bác bỏ H0=> H t k h ô ng t ươ ng quan v ớ i O t

3.2 Bỏ biến

*** Bước 1: Hồi quy Y theo X

*** Bước 2: Hồi quy Y theo Z