Chuong IV-Mo hinh hoi qui boi pptx

Nguyễn Đình Thông CHƯƠNG IV: MÔ HÌNH HỒI QUI BỘI Nguyễn Đình Thơng I. MƠ HÌNH HỒI QUI 3 BIẾN Trong đó: Y là biến phụ thuộc, X 2 và X 3 là các biến giải thích (hay biến độc lập), U là số hạng nhiễu ngẫu nhiên, và i là quan sát thứ i. Hay: Y i = β 1 + β 2 X 2i + β 3 X 3i + U i E(Y/ X 2 ,X 3 )= β 1 + β 2 X 2 + β 3 X 3 Khái quát hóa hàm hồi qui tổng thể (PFR) hai biến, chúng ta có thể viết PRF ba biến như sau: 1. Hàm hồi qui tổng thể (PRF) Nguyễn Đình Thơng I. MƠ HÌNH HỒI QUI 3 BIẾN  β 3 đo lường thay đổi trong giá trò trung bình của Y khi X 3 thay đổi một đơn vò, giữ X 2 không đổi.  β 2 đo lường sự thay đổi trong giá trò trung bình Y, E(Y  X 2 , X 3 ) khi X 2 thay đổi một đơn vò, giữ X 3 không đổi.  β 1 là số hạng tung độ gốc. Nó cho biết ảnh hưởng trung bình của tất cả các biến bò loại ra khỏi mô hình đối với Y, mặc dù giải thích nó một cách máy móc là giá trò trung bình của Y khi X 2 và X 3 đồng thời bằng zero.  Ý nghóa của các hệ số hồi qui: Nguyễn Đình Thơng I. MƠ HÌNH HỒI QUI 3 BIẾN (2) Không có tự tương quan giữa các U i , hay: cov(U i ,U j ) = 0  i ≠ j (3) Phương sai c a các Uủ i không đổi, hay: var(U i ) = σ 2 (4) Không có hiện tượng cộng tuyến giữa X 2 và X 3, tức là không có quan hệ tuyến tính rõ ràng giữa 2 biến giải thích (độc lập). 2. Các giả thiết của mô hình (1) Giá trò trung bình của đlnn U i bằng 0 E(U i  X 2i , X 3i ) = 0 , i : 2 σ (5) Ui có phân phối chuẩn: Ui N(0, ) : Nguyễn Đình Thơng I. MƠ HÌNH HỒI QUI 3 BIẾN 3.Ước lượng các tham số – PP bình phương nhỏ nhất Để tìm các hàm ước lượng OLS, đầu tiên viết hàm hồi qui mẫu (SRF) tương ứng với PRF ba biến như sau: trong đó e i là số hạng phần dư, tương ứng với quan sát thứ i. Y i = β Â 1 + β Â 2 X 2i + β Â 3 X 3i + e i 1 2 2 3 3 ˆ ˆ ˆ i i i i e Y X X β β β = − − − Nguyễn Đình Thơng I. MƠ HÌNH HỒI QUI 3 BIẾN 3.Ước lượng các tham số – PP bình phương nhỏ nhất Theo nguyên lý của phương pháp bình phương nhỏ nhất, các giá trò sao cho: ( ) 2 2 1 2 2 3 3 ˆ ˆ ˆ min i i i i e Y X X β β β = − − − → ∑ ∑ Phương pháp đơn giản nhất để thu được các hàm ước lượng có khả năng sẽ tối thiểu hóa hàm trên là đạo hàm nó theo các đại lượng chưa biết, cho biểu thức thu được bằng không, và giải các biểu thức này cùng một lúc. Phương pháp này cho ta những phương trình chuẩn sau: 1 2 3 ˆ ˆ ˆ , va β β β Nguyễn Đình Thơng I. MƠ HÌNH HỒI QUI 3 BIẾN 3.Ước lượng các tham số – PP bình phương nhỏ nhất 1 2 2 3 3 ˆ ˆ ˆ X X β β β Υ = + + 2 2 1 2 2 2 3 2 3 ˆ ˆ ˆ i i i i i i Y X X X X X β β β = + + ∑ ∑ ∑ ∑ 2 3 1 3 2 2 3 3 3 ˆ ˆ ˆ i i i i i i Y X X X X X β β β = + + ∑ ∑ ∑ ∑ (1) (2) (3) Từ phương trình (1) ta có thể suy ra rằng: 1 2 2 3 3 ˆ ˆ ˆ Y X X β β β = − − Chính là hàm ước lượng OLS của tung độ gốc tổng thể β 1 . Nguyễn Đình Thơng I. MƠ HÌNH HỒI QUI 3 BIẾN 3.Ước lượng các tham số – PP bình phương nhỏ nhất Từ các phương trình chuẩn (2) và (3), ta rút ra các các công thức sau: ( ) ( ) ( ) ( ) ( ) ( ) 2 2 3 3 2 3 2 2 2 2 2 3 2 3 ˆ i i i i i i i i i i i y x x y x x x x x x x β − = − ∑ ∑ ∑ ∑ ∑ ∑ ∑ ( ) ( ) ( ) ( ) ( ) ( ) 2 3 2 2 2 3 3 2 2 2 2 3 2 3 ˆ i i i i i i i i i i i y x x y x x x x x x x β − = − ∑ ∑ ∑ ∑ ∑ ∑ ∑ Trong đó: 2 2 2 3 3 3 ; ; i i i i i i y Y Y x X X x X X= − = − = − Nguyễn Đình Thơng I. MƠ HÌNH HỒI QUI 3 BIẾN 3.Ước lượng các tham số – PP bình phương nhỏ nhất Người ta chứng minh được: 2 2 2 2 2 2 2 2 2 3 3 3 2 2 2 2 3 2 3 2 3 2 2 2 3 3 3 ( ) ( ) ( ) i i i i i i i i i i i i i i i i i i x X n X x X n X y Y n Y x x X X nX X y x Y X nYX y x Y X nYX = − = − = − = − = − = − ∑ ∑ ∑ ∑ ∑ ∑ ∑ ∑ ∑ ∑ ∑ ∑ Nguyễn Đình Thông I. MÔ HÌNH HỒI QUI 3 BIẾN Ví dụ: Ước lượng các tham số [...]... HÌNH HỒI QUI 3 BIẾN 4 Phương sai và sai số chuẩn của các hệ số hồi qui: Sau khi đã có được các hàm ước lượng OLS của các hệ số hồi qui, chúng ta có thể tính được các phương sai và sai số chuẩn của các hàm ước lượng này Tương tự như trong trường hợp hai biến, chúng ta cần tính những sai số chuẩn để thiết lập khoảng tin cậy và kiểm đònh các giả thiết thống kê Nguyễn Đình Thơng I MƠ HÌNH HỒI QUI 3 BIẾN... hệ số hồi qui: 2 2 2  X 2 ∑ x3i + X 32 ∑ x2i − 2 X 2 X 3 ∑ x2i x3i  2 ˆ = 1 + × var β1 σ 2 2 2 n  ∑ x2i ∑ x3i − ( ∑ x2i x3i )   ( ) ( ) ( ) ˆ ˆ se β1 = var β1 Nguyễn Đình Thơng I MƠ HÌNH HỒI QUI 3 BIẾN 4 Phương sai và sai số chuẩn của các hệ số hồi qui: ( ) ˆ var β 2 = ∑x 2 3i ( ∑x ) ( ∑x ) −( ∑ x 2 2i 2 3i ( ) ( ) ˆ = var β ˆ se β 2 2 Nguyễn Đình Thơng x 2 i 3i ) 2 σ 2 I MƠ HÌNH HỒI QUI 3 BIẾN... Nguyễn Đình Thơng x 2 i 3i ) 2 σ 2 I MƠ HÌNH HỒI QUI 3 BIẾN 4 Phương sai và sai số chuẩn của các hệ số hồi qui: ( ) ˆ var β3 = 2 x2i ∑ ( ∑ x ) ( ∑ x ) −( ∑x 2 2i 2 3i ( ) ( ) ˆ ˆ se β 3 = var β 3 Nguyễn Đình Thơng x 2 i 3i ) 2 σ 2 I MƠ HÌNH HỒI QUI 3 BIẾN 4 Phương sai và sai số chuẩn của các hệ số hồi qui: Trong đó σ2 là phương sai của Ui nhưng chưa biết Trong ei2 RSS thực hành người ta thường dùng σ 2... HỒI QUI 3 BIẾN 5 Hệ số xác đònh mô hình: TSS = ∑ (Yi − Y ) = ∑ Yi − nY 2 2 2 ˆ ˆ ESS = β 2 ∑ yi x2i +β 3 ∑ yi x3i RSS = TSS − ESS ESS 2 R = TSS Nếu tăng số biến giải thích (độc lập) của mô hình thì R 2 cũng tăng Vì vậy, khi so sánh 2 mô hình hồi qui có cùng biến phụ thuộc nhưng số biến độc lập khác nhau, ta cần cẩn thận trong việc lựa chọn mô hình với R2 cao nhất Nguyễn Đình Thơng I MƠ HÌNH HỒI QUI. .. 1 : tức số biến giải thích càng lớn thì hệ số xác đònh hồi qui bội đã điều chỉnh càng nhỏ hơn hệ số xác đònh chưa điều chỉnh Mặc dù R2 luôn dương nhưng R2 hiệu chỉnh có thể âm, trong trường hợp R2 điều chỉnh âm ta coi giá trò của nó bằng 0 Nguyễn Đình Thơng I MƠ HÌNH HỒI QUI 3 BIẾN 5 Hệ số xác đònh mô hình: Người ta dùng hệ số xác định hồi qui bội đã điều chỉnh để quyết định có nên đưa thêm biến giải... hệ số xác định đã hiệu chỉnh còn tăng lên và hệ số hồi qui của biến được đưa thêm vào mơ hình khác khơng có ý nghĩa thống kê  Để biết được hệ số hồi qui của biến mới đưa vào mơ hình khác có ý nghĩa thống kê, ta kiểm định giả thiết: Ho:βk=0; H0: βk#0 Nếu giả thiết Ho bị báo bỏ thì biến Xk sẽ được đưa vào mơ hình Nguyễn Đình Thơng I MƠ HÌNH HỒI QUI 3 BIẾN So sánh R2 giữa các mơ hình:Dùng R2 để so sánh... cần thỏa mản các đk sau: Có cùng cỡ mẫu (n)  Cùng số biến độc lập Nếu các hàm hồi qui khơng cùng số biến độc lập thì dùng hệ số xác định có hiệu chỉnh Biến phụ thuộc xuất hiện trong hàm hồi qui có cùng dạng nhưng các biến độc lập có thể ở các dạng khác nhau Nguyễn Đình Thơng Ví dụ: Tính hệ số xác đònh của mô hình hồi qui theo số liệu của VD trước: TSS = ∑ Yi 2 − nY 2 = 590.748 ˆ ˆ ESS = β 2 ∑ yi x2i... β3 với độ tin cậy là 1-α ˆ ˆ ˆ ˆ  β 3 − tα * se( β 3 ); β3 + tα * se( β 3 )  2 2    Lưu ý: Khi tra bảng T-Student, trong trường hợp hàm hồi qui 3 biến thì bậc tự do là (n-3) Nguyễn Đình Thơng I MƠ HÌNH HỒI QUI 3 BIẾN 6 Khoảng tin cậy của các hệ số hồi qui: VD Với số liệu đã cho ở ví dụ trước, tìm khoảng tin cậy β2, β3 với hệ số tin cậy 95% Giải: với hệ số tin cậy 1-α =95% =>α = 5% => α/2 = 0,025... Nguyễn Đình Thơng đ/năm I MƠ HÌNH HỒI QUI 3 BIẾN 6 Khoảng tin cậy của các hệ số hồi qui: VD Khoảng tin cậy β3: 2,560152±2,262*0,379407 hay (1,702< β3Fα (2,n-3), bác bỏ giả thiết H0 , tức các hệ số hồi qui của các biến độc lập không đồng thời bằng 0 Nếu F≤Fα (2,n-3), chấp nhận giả thiết H0 , tức các hệ số hồi qui của các biến độc lập đồng thời bằng 0, các biến độc lập không ảnh hưởng đến biến phụ thuộc Nguyễn Đình Thơng I MƠ HÌNH HỒI QUI 3 BIẾN b) Kiểm đònh giả thiết đồng thời Ví dụ  Ví dụ trên ta đã tính được R2 . HỒI QUI 3 BIẾN 4. Phương sai và sai số chuẩn của các hệ số hồi qui: ( ) ( ) 1 1 ˆ ˆ varse β β = Nguyễn Đình Thông I. MÔ HÌNH HỒI QUI 3 BIẾN 4. Phương sai và sai số chuẩn của các hệ số hồi qui: (. β 3 X 3 Khái quát hóa hàm hồi qui tổng thể (PFR) hai biến, chúng ta có thể viết PRF ba biến như sau: 1. Hàm hồi qui tổng thể (PRF) Nguyễn Đình Thơng I. MƠ HÌNH HỒI QUI 3 BIẾN  β 3 đo lường thay. bình của Y khi X 2 và X 3 đồng thời bằng zero.  Ý nghóa của các hệ số hồi qui: Nguyễn Đình Thơng I. MƠ HÌNH HỒI QUI 3 BIẾN (2) Không có tự tương quan giữa các U i , hay: cov(U i ,U j ) = 0