Bài giảng Xác suất thống kê: Hồi quy và tương quan - Nguyễn Văn Thìn

Bài giảng Xác suất thống kê: Hồi quy và tương quan gồm có những nội dung chính: Giới thiệu, mô hình hồi quy tuyến tính đơn, khoảng tin cậy cho mô hình hồi quy, kiểm định giả thuyết cho mô hình hồi quy, tương quan, mô hình hồi quy tuyến tính bội, kiểm định giả thuyết trong mô hình hồi quy bội.

Outline HỒI QUY VÀ TƯƠNG QUAN HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Nguyễn Văn Thìn HỒI QUY VÀ TƯƠNG QUAN Giới thiệu Mơ hình hồi quy tuyến tính đơn Giới thiệu Giới thiệu Mơ hình hồi quy tuyến tính đơn Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Tương quan Tương quan Mơ hình hồi quy tuyến tính bội Mơ hình hồi quy tuyến tính bội Mơ hình hồi quy tuyến tính bội Nguyễn Văn Thìn Khoảng tin cậy cho mơ hình hồi quy BỘ MƠN THỐNG KÊ TỐN HỌC KHOA TOÁN - TIN HỌC Kiểm định giả thuyết cho MHHQ ĐẠI HỌC KHOA HỌC TỰ NHIÊN TP.HCM Tháng năm 2016 Kiểm định giả thuyết mơ hình hồi quy bội Nội dung Outline HỒI QUY VÀ TƯƠNG QUAN Giới thiệu Nguyễn Văn Thìn Mơ hình hồi quy tuyến tính đơn HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Mơ hình hồi quy tuyến tính đơn Giới thiệu Mơ hình hồi quy tuyến tính đơn Giới thiệu Khoảng tin cậy cho mơ hình hồi quy Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho mơ hình hồi quy Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Giới thiệu tốn hồi quy hồi quy tuyến tính đơn Các giả định sai số ngẫu nhiên Ước lượng hệ số hồi quy phương pháp bình phương bé (BPBN) Hệ số xác định Các tính chất ước lượng BPBN Khoảng tin cậy cho hệ số hồi quy, trung bình biến đáp ứng Dự đốn giá trị quan trắc Kiểm định giả thuyết cho β0 , β1 Phân tích thặng dư, tương quan Kiểm định giả thuyết cho hệ số tương quan Nội dung Mơ hình hồi quy tuyến tính bội Phân tích hồi quy HỒI QUY VÀ TƯƠNG QUAN Biểu diễn mơ hình theo dạng ma trận HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Ước lượng bình phương bé Nguyễn Văn Thìn Ước lượng phương sai sai số Giới thiệu Tính chất ước lượng bình phương bé Mơ hình hồi quy tuyến tính đơn Kiểm tra phù hợp mơ hình Khoảng tin cậy cho mơ hình hồi quy Kiểm định ý nghĩa mơ hình Mơ hình hồi quy tuyến tính đơn Mối liên hệ chiều cao cỡ giầy người, từ cửa hàng bán giầy dép xác định xác cỡ giầy khách hàng biết chiều cao, Khoảng tin cậy cho mơ hình hồi quy Độ giãn nở loại vật liệu theo nhiệt độ môi trường, Giới thiệu Kiểm định giả thuyết cho MHHQ Hệ số xác định hệ số xác định hiệu chỉnh Kiểm định giả thuyết cho MHHQ Tương quan Kiểm định giả thuyết cho hệ số hồi quy Tương quan Mơ hình hồi quy tuyến tính bội Khoảng tin cậy cho trung bình biến đáp ứng Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Khoảng tin cậy cho giá trị dự báo Phần đọc thêm Kiểm định giả thuyết mơ hình hồi quy bội Phân tích hồi quy HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn • Phân tích hồi quy sử dụng để xác định mối liên hệ giữa: biến phụ thuộc Y (biến đáp ứng), Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn hay nhiều biến độc lập X1 , X2 , , Xp ; biến gọi biến giải thích Biến phụ thuộc Y phải biến liên tục, Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Kiểm định giả thuyết cho MHHQ Tương quan Tương quan Kiểm định giả thuyết mơ hình hồi quy bội Để giải vấn đề trên, ta sử dụng kỹ thuật phân tích hồi quy (Regression Analysis) HỒI QUY VÀ TƯƠNG QUAN Mô hình hồi quy tuyến tính đơn Mơ hình hồi quy tuyến tính bội Doanh thu bán loại sản phẩm số tiền chi cho quảng cáo khuyến mãi, Phân tích hồi quy Giới thiệu Khoảng tin cậy cho mơ hình hồi quy Bài tốn: hoạt động khoa học - kỹ thuật, kinh tế, xã hội, ta có nhu cầu xác định mối liên hai hay nhiều biến ngẫu nhiên với Ví dụ: Các biến độc lập X1 , X2 , , Xp biến liên tục, rời rạc phân loại Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Mối liên hệ X1 , , Xp Y biểu diễn hàm tuyến tính Sự thay đổi Y giả sử thay đổi X1 , , Xp gây • Trên sở xác định mối liên hệ biến phụ thuộc Y biến giải thích X1 , X2 , , Xp , ta có thể: dự đốn, dự báo giá trị Y , giải thích tác động thay đổi biến giải thích lên biến phụ thuộc Outline HỒI QUY VÀ TƯƠNG QUAN Mơ hình hồi quy tuyến tính HỒI QUY VÀ TƯƠNG QUAN Giới thiệu Nguyễn Văn Thìn Nguyễn Văn Thìn Mơ hình hồi quy tuyến tính đơn Giới thiệu Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho mơ hình hồi quy Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Tương quan Mơ hình hồi quy tuyến tính bội Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội Mơ hình hồi quy tuyến tính đơn HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội HỒI QUY VÀ TƯƠNG QUAN Trong phương trình (1), thay p = ta Nguyễn Văn Thìn (2) (2) gọi mơ hình hồi quy tuyến tính đơn (simple linear regression model); mơ hình có biến phụ thuộc Y biến giải thích X β0 β1 hệ số chặn (intercept) hệ số góc (slope) đường thẳng hồi quy Với (x1 , y1 ), , (xn , yn ) n cặp giá trị quan trắc mẫu ngẫu nhiên cỡ n, từ (2) ta có Yi = β0 + β1 xi + i , i = 1, 2, , n Một mơ hình thống kê tuyến tính bội (Multiple linear regression model) liên quan đến biến ngẫu nhiên Y tập biến giải thích x1 , , xp phương trình có dạng Y = β0 + β1 x1 + β2 x2 + · · · + βp xp + (1) với • β0 , , βp tham số chưa biết, gọi hệ số hồi quy, • x1 , , xp biến độc lập, khơng ngẫu nhiên, • thành phần sai số, giả sử có phân phối chuẩn với E( ) = Var ( ) = σ Mơ hình hồi quy tuyến tính đơn Định nghĩa Y = β0 + β1 x + Định nghĩa (3) Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội • Sử dụng đồ thị phân tán (Scatter plot) để biểu diễn cặp giá trị quan trắc (xi , yi ) hệ trục tọa độ Oxy Các giả định sai số ngẫu nhiên HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Ước lượng hệ số hồi quy • Các sai số ngẫu nhiên i , i = 1, , n mơ hình (3) giả sử thỏa điều kiện sau Các sai số i độc lập với nhau, Giới thiệu E( i ) = Var ( i ) = σ , Khoảng tin cậy cho mơ hình hồi quy Các sai số có phân phối chuẩn: Mơ hình hồi quy tuyến tính đơn i Khoảng tin cậy cho mơ hình hồi quy ∼ N(0, σ ) • Với quan trắc x biết, E(Y |x) = β0 + β1 x Tương quan Mô hình hồi quy tuyến tính bội Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Kiểm định giả thuyết cho MHHQ HỒI QUY VÀ TƯƠNG QUAN (4) • Từ (3) ta có Y ∼ N(β0 + β1 x, σ ) Kiểm định giả thuyết mô hình hồi quy bội (5) Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Nguyễn Văn Thìn Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ i Kiểm định giả thuyết mơ hình hồi quy bội = yi − (β0 + β1 xi ) (7) Tổng bình phương sai số (Sum of Squares for Errors - SSE) hay tổng bình phương thặng dư cho n điểm liệu định nghĩa sau n n ei2 SSE = i=1 Tìm βˆ0 βˆ1 : dùng phương pháp bình phương bé (method of least squares) Từ (8), lấy đạo hàm theo β0 β1 , Nguyễn Văn Thìn ∂SSE = −2 ∂β0 Giới thiệu Khoảng tin cậy cho mơ hình hồi quy ∂SSE = −2 ∂β1 [yi − (β0 + β1 xi )] (8) i=1 Nội dung PPBPBN tìm ước lượng βˆ0 βˆ1 cho SSE đạt giá trị bé Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội n [yi − (β0 + β1 xi )] = i=1 n [yi − (β0 + β1 xi )] xi = i=1 ta thu hệ phương trình Kiểm định giả thuyết cho MHHQ n nβ0 + β1 Tương quan = Một đường thẳng ước lượng tốt phải "gần với điểm liệu" HỒI QUY VÀ TƯƠNG QUAN Mơ hình hồi quy tuyến tính đơn Định nghĩa Tương quan Mơ hình hồi quy tuyến tính bội i Ta định nghĩa thặng dư thứ i: Giới thiệu (6) Phương pháp bình phương bé Với liệu (xi , yi ), i = 1, , n, từ ta có yi = β0 + β1 xi + Đường thẳng hồi quy với hệ số ước lượng (fitted regression line): Yˆ = βˆ0 + βˆ1 x Kiểm định giả thuyết mơ hình hồi quy bội Phương pháp bình phương bé (PPBPBN) HỒI QUY VÀ TƯƠNG QUAN Gọi βˆ1 βˆ0 ước lượng β0 β1 i=1 n n i=1 yi i=1 n xi2 = xi + β1 β0 n xi = i=1 xi yi i=1 (9) Ước lượng bình phương bé HỒI QUY VÀ TƯƠNG QUAN Giả hệ (14), ta tìm ước lượng BPBN β0 β1 Nguyễn Văn Thìn n i=1 xi yi βˆ1 = Mơ hình hồi quy tuyến tính đơn Kiểm định giả thuyết cho MHHQ n i=1 yi ) n − = n i=1 xi ) ( Sxy Sxx (10) (11) n n (xi − x¯)2 = i=1 n (12) n i=1 n i=1 Kiểm định giả thuyết mơ hình hồi quy bội n i=1 xi ) ( xi2 − (xi − x¯)(yi − y¯ ) = Sxy = Nguyễn Văn Thìn Mơ hình hồi quy tuyến tính đơn xi yi − Kiểm định giả thuyết cho MHHQ Tương quan ( n i=1 xi ) ( n i=1 yi ) n i=1 (13) Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Ví dụ HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội (1) n (yi − yˆi )2 SSE = i=1 đạt giá trị bé nhất, (2) n n (yi − yˆi ) = SE = i=1 ei = i=1 với SE tổng thặng dư (Sum of Errors) Độ đo biến thiên liệu Ví dụ Một nhà thực vật học khảo sát mối liên hệ tổng diện tích bề mặt (đv: cm2 ) đậu nành trọng lượng khô (đv: g) Nhà thực vật học trồng 13 nhà kính đo tổng diện tích trọng lượng sau 16 ngày trồng, kết cho bảng sau X 411 550 471 393 427 431 492 371 470 419 407 489 439 Y 2.00 2.46 2.11 1.89 2.05 2.30 2.46 2.06 2.25 2.07 2.17 2.32 2.12 Kiểm định giả thuyết cho MHHQ Tương quan • Các ước lượng βˆ0 βˆ1 tìm gọi ước lượng BPBN • Đường thẳng yˆ = βˆ0 + βˆ1 x gọi đường thẳng BPBN, thỏa tính chất sau: Khoảng tin cậy cho mơ hình hồi quy với Sxx Sxy xác định Sxx = HỒI QUY VÀ TƯƠNG QUAN Giới thiệu n βˆ0 = y¯ − βˆ1 x¯ Tương quan Mô hình hồi quy tuyến tính bội − n i=1 xi ) ( ( n i=1 xi Giới thiệu Khoảng tin cậy cho mơ hình hồi quy Ước lượng bình phương bé HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn (b) Tìm đường thẳng hồi quy biểu diễn mối liên hệ trọng lượng Y theo diện tích X Vẽ đường thẳng hồi quy tìm đồ thị phân tán n (yi − y¯ )2 SST = Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ (a) Vẽ biểu đồ phân tán biểu diễn diện tích X trọng lượng khô Y đậu nành với mẫu quan sát cho Gọi • SST : Tổng bình phương tồn phần (Total Sum of Squares) Tương quan i=1 • SSR: Tổng bình phương hồi quy (Regression Sum of Squares) n i=1 • SSE : Tổng bình phương sai số (Error Sum of Squares) Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội (ˆ yi − y¯ )2 SSR = n (yi − yˆi )2 SSE = i=1 Độ đo biến thiên liệu HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ - SST : đo biến thiên giá trị yi xung quanh giá trị trung tâm liệu y¯ , - SSR: giải thích biến thiên liên quan đến mối quan hệ tuyến tính X Y , - SSE : giải thích biến thiên nhân tố khác (khơng liên quan đến mối quan hệ tuyến tính X Y ) Ta có: n n i=1 i=1 (yi − yˆi )2 (14) i=1 SST = SSR + SSE Kiểm định giả thuyết mơ hình hồi quy bội HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ n (ˆ yi − y¯ )2 + (yi − y¯ )2 = Tương quan Mơ hình hồi quy tuyến tính bội Độ đo biến thiên liệu Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Hệ số xác định HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Định nghĩa Hệ số xác định (Coefficient of Determination) tỷ lệ tổng biến thiên biến phụ thuộc gây biến thiên biến độc lập (biến giải thích) so với tổng biến thiên toàn phần Hệ số xác định thường gọi R - bình phương (R-squared), ký hiệu R Cơng thức tính: SSR (15) R2 = SST Chú ý: ≤ R ≤ • Hệ số xác định mơ hình hồi quy cho phép ta đánh giá mơ hình tìm có giải thích tốt cho mối liên hệ biến phụ thuộc Y biến phụ thuộc X hay không Hệ số xác định mối liên hệ X Y HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Hệ số xác định mối liên hệ X Y Hệ số xác định mối liên hệ X Y HỒI QUY VÀ TƯƠNG QUAN HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Nguyễn Văn Thìn Giới thiệu Giới thiệu Mơ hình hồi quy tuyến tính đơn Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Kiểm định giả thuyết cho MHHQ Tương quan Tương quan Mơ hình hồi quy tuyến tính bội Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội Ước lượng phương sai σ sai số HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Xét mơ hình Yi = β0 + β1 xi + i , Thành phần sai số thứ i: i ∼ N(0, σ ) Ta cần ước lượng phương sai σ Từ (5), ta có: Yi ∼ N(β0 + β1 xi , σ ) Do đó, Yi − (β0 + β1 xi ) ∼ N(0, 1) σ Ta có, Kiểm định giả thuyết cho MHHQ n Yi − (βˆ0 + βˆ1 xi ) Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội i = 1, , n σ2 i=1 = SSE ∼ χ2 (n − 2) σ2 Nên, E SSE σ2 =n−2 hay E SSE = σ2 n−2 Ước lượng phương sai σ sai số HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn SSE ước lượng không chệch cho σ n−2 Suy ước lượng σ ˆ σ tính Ta kết luận σ ˆ2 = Giới thiệu Mô hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội SSE n−2 (16) • Tìm SSE : SSE = SST − βˆ1 Sxy • Sai số chuẩn (Standard Error) σ ˆ2 SE (ˆ σ) = SSE n−2 Sử dụng SE (ˆ σ ) để đo biến thiên giá trị quan trắc y với đường thẳng hồi quy So sánh sai số chuẩn Tính chất ước lượng BPBN HỒI QUY VÀ TƯƠNG QUAN HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Nguyễn Văn Thìn Giới thiệu Giới thiệu Mơ hình hồi quy tuyến tính đơn Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Kiểm định giả thuyết cho MHHQ Tương quan Tương quan Mơ hình hồi quy tuyến tính bội Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội Tính chất ước lượng BPBN Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Xét Y = β0 + β1 x + mơ hình hồi quy tuyến tính đơn với ∼ N(0, σ ); với n quan trắc độc lập yi , i = 1, , n ta có tương ứng sai số i Gọi βˆ0 βˆ1 ước lượng β0 β1 tìm từ phương pháp bình phương bé nhất, (a) βˆ0 βˆ1 tuân theo luật phân phối chuẩn (b) Kỳ vọng phương sai βˆ0 βˆ1 x¯2 + n Sxx σ2 E(βˆ1 ) = β1 , Var (βˆ1 ) = Sxx E(βˆ0 ) = β0 , Var (βˆ0 ) = σ2, (17) (18) Tính chất ước lượng BPBN HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Định lí HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Định nghĩa Trong mơ hình hồi quy tuyến tính đơn, sai số chuẩn (SE) ước lượng βˆ0 βˆ1 SE (βˆ0 ) = SE (βˆ1 ) = x¯2 + n Sxx σ ˆ2 Sxx σ ˆ2 (19) (20) Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội Định lí (Gauss - Markov) Xét mơ hình hồi quy tuyến tính đơn Y = β0 + β1 x + có βˆ0 βˆ1 ước lượng BPBN cho β0 β1 , βˆ0 βˆ1 ước lượng khơng chệch tốt Outline HỒI QUY VÀ TƯƠNG QUAN Khoảng tin cậy cho hệ số hồi quy HỒI QUY VÀ TƯƠNG QUAN Giới thiệu Nguyễn Văn Thìn Mơ hình hồi quy tuyến tính đơn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho mơ hình hồi quy Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Tương quan Kiểm định giả thuyết mô hình hồi quy bội Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mô hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Z1 = • Do Z1 Tβ1 = • Đặt SSE = n−2 n−2 • Tương tự, βˆ0 ∼ N β0 , Nguyễn Văn Thìn n yi − (βˆ0 + βˆ1 xi ) i=1 MSE gọi trung bình bình phương sai số (Mean Square Error) Khi βˆ1 − β1 Tβ1 = (21) MSE Sxx Tβ1 có phân phối Student với n − bậc tự ∼ t(n − 2) SSE /σ n−2 Khoảng tin cậy cho hệ số hồi quy HỒI QUY VÀ TƯƠNG QUAN MSE = βˆ1 − β1 √ ∼ N(0, 1) σ/ Sxx SSE SSE độc lập với βˆ1 ∼ χ2 (n − 2) nên σ2 σ Kiểm định giả thuyết mô hình hồi quy bội Khoảng tin cậy cho hệ số hồi quy Nguyễn Văn Thìn σ2 • Vì βˆ1 ∼ N β1 , , đặt Sxx Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội HỒI QUY VÀ TƯƠNG QUAN Yˆ = βˆ0 + βˆ1 x Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính bội • Xét đường thẳng hồi quy: Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội βˆ0 − β0 Z0 = Giới thiệu x¯2 + n Sxx σ x¯2 + n Sxx σ , đặt ∼ N(0, 1) • Do βˆ0 SSE độc lập nên ta có Tβ0 = Z0 SSE /σ n−2 = βˆ0 − β0 MSE x¯2 + n Sxx Tβ0 có phân phối Student với n − bậc tự (22) Khoảng tin cậy cho hệ số hồi quy HỒI QUY VÀ TƯƠNG QUAN MSE n−2 ≤ β1 ≤ βˆ1 + t1−α/2 Sxx n−2 βˆ1 − t1−α/2 Giới thiệu Khoảng tin cậy cho mô hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội HỒI QUY VÀ TƯƠNG QUAN • Khoảng tin cậy 100(1 − α)% cho β1 : Nguyễn Văn Thìn Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho trung bình biến đáp ứng MSE Sxx (23) Giới thiệu • Khoảng tin cậy 100(1 − α)% cho β0 : n−2 βˆ0 −t1−α/2 MSE x¯2 + n Sxx Nguyễn Văn Thìn Mơ hình hồi quy tuyến tính đơn n−2 ≤ β0 ≤ βˆ0 +t1−α/2 MSE x¯2 + n Sxx (24) với Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Nguyễn Văn Thìn n−2 - t1−α/2 phân vị mức − α/2 biến ngẫu nhiên t(n − 2) Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mô hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội (βˆ0 + βˆ1 x0 ) − (β0 + β1 x0 ) Var (ˆ µY |x0 ) σ (¯ x − x0 )2 + n Sxx SSE n−2 = (¯ x − x0 )2 + n Sxx ∼ N(0, 1) µ ˆY |x0 − (β0 + β1 x0 ) MSE (2) Kỳ vọng phương sai µ ˆY |x0 E(ˆ µY |x0 ) = β0 + β1 x0 Var (ˆ µY |x0 ) = Kiểm định giả thuyết mơ hình hồi quy bội (¯ x − x0 )2 + σ n Sxx • Khoảng tin cậy 100(1 − α)% cho trung bình biến đáp ứng Nguyễn Văn Thìn n−2 Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy ã Vỡ Y |x0 c lp vi SSE /σ ∼ χ2 (n − 2) nên µ ˆY |x0 − (β0 + β1 x0 ) (1) µ ˆY |x0 tuân theo luật phân phối chuẩn Khoảng tin cậy cho trung bình biến đáp ứng • Ta có = •µ ˆY |x0 có tính chất sau Mơ hình hồi quy tuyến tính bội HỒI QUY VÀ TƯƠNG QUAN µ ˆY |x0 − E(ˆ µY |x0 ) µ ˆY |x0 = βˆ0 + βˆ1 x0 Tương quan - n = số cặp giá trị quan trắc (xi , yi ); Khoảng tin cậy cho trung bình biến đáp ứng HỒI QUY VÀ TƯƠNG QUAN • Cho trước giá trị x0 , cần tìm khoảng tin cậy cho µY |x0 = E(Y |x0 ) = β0 + β1 x0 , gọi trung bình biến đáp ứng Ước lượng µY |x0 từ đường thẳng hồi quy ∼ t(n−2) (¯ x − x0 )2 + n Sxx Kiểm định giả thuyết cho MHHQ µ ˆ Y |x0 −t1−α/2 MSE (¯ x − x0 )2 + n Sxx n−2 ≤ µY |x0 ≤ µ ˆ Y |x0 +t1−α/2 MSE (¯ x − x0 )2 + n Sxx (26) với - µ ˆY |x0 = βˆ0 + βˆ1 x0 , −2 - t1n−α/ : phân vị mức − α/2 biến ngẫu nhiên t (n − 2) Tương quan (25) Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội - MSE = SSE /(n − 2): trung bình bình phương sai số Dự đốn giá trị quan trắc Dự đoán giá trị quan trắc HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội HỒI QUY VÀ TƯƠNG QUAN • Giả sử với giá trị x0 , ta cần dự đoán giá trị quan trắc Y0 tương lai tương ứng với x0 Từ mơ hình hồi quy, ta có Yˆ0 = βˆ0 + βˆ1 x0 (27) Yˆ0 ước lượng điểm giá trị quan trắc Y0 • Cần tìm khoảng tin cậy cho Y0 • Cho trước giá trị x0 , cần phân biệt rõ khoảng tin cậy trung bình biến ngẫu nhiên Y µY |x0 khoảng tin cậy giá trị quan trắc thực Y tương ứng với x0 Kiểm định giả thuyết mơ hình hồi quy bội Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mô hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Dự đốn giá trị quan trắc HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Dự đoán giá trị quan trắc HỒI QUY VÀ TƯƠNG QUAN • Đặt η = Y0 − Yˆ0 Vì Y0 Yˆ0 có phân phối chuẩn nên η có phân phối chuẩn với kỳ vọng phương sai (¯ x − x0 )2 Var (η) = Var (Y0 ) + Var (Yˆ0 ) = σ + σ + n Sxx (¯ x − x0 ) σ2 = 1+ + n Sxx η ∼ N 0, + (¯ x − x0 + n Sxx • Và, Giới thiệu )2 σ2 Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Yˆ0 − Y0 Z= σ2 Mơ hình hồi quy tuyến tính đơn E(η) = E(Y0 ) − E(Yˆ0 ) = Do đó, Nguyễn Văn Thìn (¯ x − x0 )2 1+ + n Sxx • Nếu ta thay σ σ ˆ = MSE = T = ∼ N(0, 1) SSE , thu n−2 Yˆ0 − Y0 (¯ x − x0 )2 MSE + + n Sxx ∼ t(n − 2) (28) Ví dụ Dự đốn giá trị quan trắc HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn HỒI QUY VÀ TƯƠNG QUAN • Khoảng tin cậy 100(1 − α)% cho giá trị dự báo Y0 ứng với giá trị x0 cho trước Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy ˆ0 −t n−2 Y 1−α/2 MSE + (¯ x − x0 ) + n Sxx ˆ0 +t n−2 ≤ Y0 ≤ Y 1−α/2 MSE + với −2 - t1n−α/ phân vị mức − α/2 t (n − 2), (¯ x − x0 )2 + n Sxx (29) - MSE = SSE n−2 Kiểm định giả thuyết mơ hình hồi quy bội Khoảng tin cậy cho mơ hình hồi quy Tương quan Mơ hình hồi quy tuyến tính bội Giới thiệu Nguyễn Văn Thìn -1 -5 -4 2 -2 -7 6 13 11 21 12 20 -3 -9 (a) Vẽ biểu đồ phân tán cho liệu, tìm đường thẳng hồi quy (b) Tìm ước lượng σ ˆ cho phương sai σ sai số ngẫu nhiên (c) Thiết lập khoảng tin cậy 95% cho hệ số β0 β1 (d) Thiết lập khoảng dự đoán 95% x = Kiểm định giả thuyết cho β0 HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Mơ hình hồi quy tuyến tính đơn Giới thiệu Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho mơ hình hồi quy Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Tương quan Kiểm định giả thuyết mơ hình hồi quy bội x y Kiểm định giả thuyết mơ hình hồi quy bội Outline Mơ hình hồi quy tuyến tính bội Xét mẫu ngẫu nhiên gồm 10 cặp giá trị (xi , yi ) cho bảng Mơ hình hồi quy tuyến tính đơn Kiểm định giả thuyết cho MHHQ Tương quan HỒI QUY VÀ TƯƠNG QUAN Ví dụ Giới thiệu Kiểm định giả thuyết cho MHHQ Mơ hình hồi quy tuyến tính bội Nguyễn Văn Thìn Kiểm định giả thuyết mơ hình hồi quy bội Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội • Bài tốn kiểm định giả thuyết cho hệ số chặn β0 mơ hình hồi quy tuyến tính đơn gồm trường hợp sau: (a) H0 : β0 = b0 H1 : β0 = b0 (b) H0 : β0 = b0 H1 : β0 < b0 (c) H0 : β0 = b0 H1 : β0 > b0 với giá trị b0 mức ý nghĩa α cho trước Thông thường b0 = Kiểm định giả thuyết cho β0 Kiểm định giả thuyết cho β0 HỒI QUY VÀ TƯƠNG QUAN HỒI QUY VÀ TƯƠNG QUAN Các bước kiểm định Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Nguyễn Văn Thìn Phát biểu giả thuyết H0 đối thuyết, Giới thiệu Xác định mức ý nghĩa α, Mơ hình hồi quy tuyến tính đơn Tính giá trị thống kê kiểm định: Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ tβ0 = Tương quan MSE Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết cho MHHQ βˆ0 − b0 x¯2 + n Sxx H1 : β0 = b0 p = 2P(Tn−2 ≥ |tβ0 |) H1 : β0 < b0 H1 : β0 > b0 Nguyễn Văn Thìn Nguyễn Văn Thìn • Bài tốn kiểm định giả thuyết cho hệ số góc β1 mơ hình hồi quy tuyến tính đơn gồm trường hợp sau: Mơ hình hồi quy tuyến tính đơn (a) H0 : β1 = b1 H1 : β1 = b1 (b) H0 : β1 = b1 H1 : β1 < b1 (c) H0 : β1 = b1 H1 : β1 > b1 với giá trị b1 mức ý nghĩa α cho trước Thông thường b1 = Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Các bước kiểm định Phát biểu giả thuyết H0 đối thuyết, Xác định mức ý nghĩa α, Tính thống kê kiểm định: Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội p = P(Tn−2 ≤ tβ0 ) p = P(Tn−2 ≥ tβ0 ) Kết luận: Bác bỏ H0 /Chưa đủ sở để bác bỏ H0 Kiểm định giả thuyết cho β1 HỒI QUY VÀ TƯƠNG QUAN Tương quan p - giá trị n−2 |tβ0 | > t1−α/2 n−2 tβ0 < −t1−α n−2 tβ0 > t1−α Kiểm định giả thuyết mơ hình hồi quy bội HỒI QUY VÀ TƯƠNG QUAN Kiểm định giả thuyết cho MHHQ Miền bác bỏ Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết cho β1 Khoảng tin cậy cho mơ hình hồi quy Đối thuyết Tương quan Kiểm định giả thuyết mơ hình hồi quy bội Giới thiệu Xác định miền bác bỏ tβ1 = βˆ1 − b1 MSE Sxx Phân tích thặng dư Kiểm định giả thuyết cho β1 HỒI QUY VÀ TƯƠNG QUAN HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Xác định miền bác bỏ Giới thiệu Đối thuyết Miền bác bỏ p - giá trị H1 : β1 = b1 n−2 |tβ1 | > t1−α/2 p = 2P(Tn−2 ≥ |tβ1 |) H1 : β1 < b1 n−2 tβ1 < −t1−α p = P(Tn−2 ≤ tβ1 ) H1 : β1 > b1 n−2 tβ1 > t1−α p = P(Tn−2 ≥ tβ1 ) Kết luận: Bác bỏ H0 /Chưa đủ sở để bác bỏ H0 Khoảng tin cậy cho mơ hình hồi quy Mơ hình hồi quy tuyến tính bội Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội Phân tích thặng dư • Với n cặp quan trắc (xi , yi ), gọi ei = yi − yˆi thặng dư thứ i Để kiểm tra giả định mơ hình có thỏa hay không, nhận xét đồ thị giá trị thặng dư Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Đồ thị giá trị thặng dư tương ứng với giá trị biến độc lập X phải có hình dạng thơ, khơng (roughly), trải dọc theo chiều ngang đối xứng qua trục Ox Đồ thị xác suất chuẩn (Normal Probability plot) giá trị thặng dư phải có dạng gần tuyến tính (roughly linear) Đường thẳng hồi quy tổng thể: Y = β0 + β1 x + với β0 β1 số cho với giá trị x, E(Y |x) = β0 + β1 x Phương sai nhau: phương sai biến đáp ứng (biến phụ thuộc) Y với giá trị biến độc lập X , tức Var (Y |x) = σ Phân phối chuẩn: với giá trị biến độc lập, phân phối có điều kiện (cho trước giá trị x) biến đáp ứng phân phối chuẩn, Y |x ∼ N(β0 + β1 x, σ ) Độc lập: quan trắc biến đáp ứng Y độc lập với Phân tích thặng dư HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Giới thiệu • Nếu giả định mơ hình hồi quy thỏa, thì: Kiểm định giả thuyết cho MHHQ Tương quan Nguyễn Văn Thìn • Các giả định mơ hình: Mơ hình hồi quy tuyến tính đơn Tương quan HỒI QUY VÀ TƯƠNG QUAN • Phân tích thặng dư (Analysis of Residuals) sử dụng để kiểm tra giả định mơ hình hồi quy tuyến tính Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội • Đồ thị thặng dư: Outline Phân tích thặng dư HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn HỒI QUY VÀ TƯƠNG QUAN • Đồ thị xác suất chuẩn: Giới thiệu Nguyễn Văn Thìn Mơ hình hồi quy tuyến tính đơn Giới thiệu Giới thiệu Mơ hình hồi quy tuyến tính đơn Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Khoảng tin cậy cho mơ hình hồi quy Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Kiểm định giả thuyết cho MHHQ Tương quan Tương quan Tương quan Mô hình hồi quy tuyến tính bội Mơ hình hồi quy tuyến tính bội Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội Phân tích tương quan HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Giới thiệu Phân tích tương quan HỒI QUY VÀ TƯƠNG QUAN • Phân tích tương quan (Correlation Analysis) dùng để đo độ mạnh mối liên hệ tuyến tính hai biến ngẫu nhiên Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Định nghĩa 10 Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Xét hai biến ngẫu nhiên X , Y Hiệp phương sai (Covariance) X Y , ký hiệu Cov (X , Y ), định nghĩa sau Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Kiểm định giả thuyết mô hình hồi quy bội Cov(X , Y ) = E [(X − E(X ))(Y − E(Y ))] = E(XY )−E(X )E(Y ) (30) Kiểm định giả thuyết cho MHHQ Định nghĩa 11 Hệ số tương quan (Correlation coefficient) hai biến ngẫu nhiên X Y , ký hiệu ρXY , xác định sau ρXY = Cov(X , Y ) Var(X )Var (Y ) Với hai biến ngẫu nhiên X Y Tương quan Mơ hình hồi quy tuyến tính bội Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội −1 ≤ ρXY ≤ (31) Phân tích tương quan Phân tích tương quan HỒI QUY VÀ TƯƠNG QUAN HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Định nghĩa 12 n i=1 (Xi n i=1 (Xi ¯ )(Yi − Y¯ ) −X ¯ )2 −X n i=1 (Yi − Y¯ )2 =√ SXY (32) SXX SST Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Tương quan Mô hình hồi quy tuyến tính bội Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội Đánh giá hiệp phương sai HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Nguyễn Văn Thìn Cov(X , Y ) > 0: X Y có xu hướng thay đổi chiều Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Giới thiệu Mơ hình hồi quy tuyến tính đơn Cov(X , Y ) < 0: X Y có xu hướng thay đổi ngược chiều SST rXY SXX suy ra, SXY SSR SXX rXY = βˆ1 = βˆ1 = SST SST SST • Hệ số xác định, R , mơ hình hồi quy tuyến tính đơn với bình phương hệ số tương quan mẫu R = rXY Đánh giá hệ số tương quan HỒI QUY VÀ TƯƠNG QUAN Giới thiệu βˆ1 = Giới thiệu Với mẫu ngẫu nhiên cỡ n: (Xi , Yi ), i = 1, , n Hệ số tương quan mẫu, ký hiệu rXY , xác định sau rXY = Chú ý rằng: Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Miền giá trị: −1 ≤ rXY ≤ 1, −1 ≤ rXY < 0: tương quan âm rXY gần −1 biểu thị mối liên hệ tuyến tính nghịch X Y mạnh < rXY ≤ 1: tương quan dương rXY gần biểu thị mối liên hệ tuyến tính thuận X Y mạnh Tương quan Cov(X , Y ) = 0: X Y độc lập (tuyến tính) Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội rXY gần 0, biểu thị mối liên hệ tuyến tính yếu rXY = 0: khơng có mối liên hệ tuyến tính X Y Đánh giá hệ số tương quan Kiểm định giả thuyết cho hệ số tương quan HỒI QUY VÀ TƯƠNG QUAN HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Nguyễn Văn Thìn Giới thiệu Giới thiệu Mơ hình hồi quy tuyến tính đơn Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Kiểm định giả thuyết cho MHHQ Tương quan Tương quan Mơ hình hồi quy tuyến tính bội Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết cho hệ số tương quan HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Nguyễn Văn Thìn Giới thiệu Giới thiệu Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan • Bài tốn kiểm định giả thuyết cho hệ số tương quan gồm trường hợp sau: H0 : ρ = (a) H1 : ρ = H0 : ρ = (b) H1 : ρ < với mức ý nghĩa α cho trước H0 : ρ = (c) H1 : ρ > H0 : ρ = Thống kê kiểm định T = rXY n−2 − rXY có phân phối Student với n − bậc tự Kiểm định giả thuyết cho hệ số tương quan HỒI QUY VÀ TƯƠNG QUAN Mơ hình hồi quy tuyến tính đơn Ta cần kiểm định giả thuyết H0 : khơng có mối liên hệ tuyến tính X Y Các bước kiểm định Phát biểu giả thuyết H0 đối thuyết, Mơ hình hồi quy tuyến tính đơn Xác định mức ý nghĩa α, Khoảng tin cậy cho mơ hình hồi quy Tính thống kê kiểm định: Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội T = rXY n−2 − rXY T có phân phối Student với n − bậc tự (33) Outline Kiểm định giả thuyết cho hệ số tương quan HỒI QUY VÀ TƯƠNG QUAN HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Xác định miền bác bỏ Mơ hình hồi quy tuyến tính đơn Giới thiệu Giới thiệu Đối thuyết Miền bác bỏ p - giá trị H1 : ρ = n−2 |t| > t1−α/2 n−2 t < −t1−α n−2 t > t1−α p = 2P(Tn−2 ≥ |t|) Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Tương quan Tương quan Mơ hình hồi quy tuyến tính bội Mơ hình hồi quy tuyến tính bội Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ H1 : ρ < H1 : ρ > Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội p = P(Tn−2 ≥ t) Kết luận: Bác bỏ H0 /Chưa đủ sở để bác bỏ H0 Giới thiệu HỒI QUY VÀ TƯƠNG QUAN p = P(Tn−2 ≤ t) Giới thiệu HỒI QUY VÀ TƯƠNG QUAN Định nghĩa 13 Một mơ hình thống kê tuyến tính bội (Multiple linear regression model) liên quan đến biến ngẫu nhiên Y tập biến giải thích x1 , , xk phương trình có dạng Y = β0 + β1 x1 + β2 x2 + · · · + βk xk + (34) Nguyễn Văn Thìn • β0 , , βp tham số chưa biết, gọi hệ số hồi quy, • x1 , , xk biến độc lập, khơng ngẫu nhiên, • thành phần sai số, giả sử có phân phối chuẩn với E( ) = Var ( ) = σ Từ slide trở sau dùng để đọc thêm Một số dạng khác mơ hình: Mơ hình đa thức Y = β0 + β1 x + β2 x + β3 x + Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy với Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Nếu đặt x1 = x, x2 = x , x3 = x , ta có Y = β0 + β1 x1 + β2 x2 + β3 x3 + Mơ hình với tương tác Y = β0 + β1 x1 + β2 x2 + β12 x1 x2 + Nếu đặt x3 = x1 x2 β3 = β12 , ta có Y = β0 + β1 x1 + β2 x2 + β3 x3 + Biểu diễn mơ hình theo dạng ma trận HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội HỒI QUY VÀ TƯƠNG QUAN Xét y1 , , yn n giá trị quan trắc độc lập Y Khi đó, yi biểu diễn dạng yi = β0 + β1 xi1 + β2 xi2 + · · · + βk xik + Giới thiệu Mơ hình hồi quy tuyến tính đơn Biểu diễn mơ hình theo dạng ma trận i Giới thiệu với xij biến độc lập thứ j quan trắc thứ i, i = 1, 2, , n sai số i độc lập với tương tự mơ hình hồi quy tuyến tính Đặt x0 = 1, định nghĩa ma trận sau:       y1 x11 x12 x1k β0 β1  y2  1 x21 x22 x2k        y =   ; X =   ; β =   ;   .   yn xn1 xn2 xnk Nguyễn Văn Thìn βk Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy     =   2   k ˆ =Xy X Xβ Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ (38) Giải hệ (38) ta tính véc-tơ ước lượng bình phương bé ˆ = (X X)−1 X y β (39) ˆ = [β0 , β1 , , βk ] , mơ hình hồi quy ước lượng có dạng Với β k yˆi = βˆ0 + βˆj xij , i = 1, , n (40) j=1 Tương quan Mô hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội n L= = = (y − Xβ) (y − Xβ) (36) i=1 ˆ mà làm cho Ta tìm véc-tơ ước lượng bình phương bé β L đạt giá trị nhỏ nhất, nghiệm phương trình ∂L =0 (37) ∂β HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Ví dụ 14 Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan ˆ Biểu diễn dạng ma trận: yˆ = Xβ Véc-tơ giá trị thặng dư: e = y − yˆ Tổng quát, y véc-tơ cỡ (n × 1) chứa giá trị quan trắc, X ma trận cỡ (n × p) chứa biến độc lập, β véc-tơ cỡ (p × 1) chứa hệ số hồi quy véc-tơ cỡ (n × 1) sai số ngẫu nhiên (chú ý: p = k + 1) Tổng bình phương thặng dư mơ hình hồi quy bội định nghĩa sau Tương quan Mơ hình hồi quy tuyến tính bội (35) Ví dụ Kết thu lấy đạo hàm (37) Nguyễn Văn Thìn y = Xβ + Kiểm định giả thuyết cho MHHQ Ước lượng bình phương bé HỒI QUY VÀ TƯƠNG QUAN Mơ hình hồi quy bội dạng ma trận Mơ hình hồi quy tuyến tính bội (41) Kiểm định giả thuyết mơ hình hồi quy bội Cho liệu sợi dây làm chất bán dẫn (tụ): gồm y = lực tác động (dùng để phát vỡ tụ), x1 = chiều dài sợi dây x2 = chiều cao khối tụ Hãy thiết lập mơ hình hồi quy tuyến tính bội biểu diễn mối quan hệ y x1 , x2 Dữ liệu chứa file Wire-bond-data.csv Xem code R file: ex-multiple-regression.R Ước lượng phương sai sai số Tính chất ước lượng bình phương bé HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn HỒI QUY VÀ TƯƠNG QUAN Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Giới thiệu ∼ N(0, σ ) Mô hình hồi quy tuyến tính đơn Ước lượng σ cho công thức σˆ2 = Kiểm định giả thuyết cho MHHQ Tương quan Nguyễn Văn Thìn Sai số mơ hình hồi quy n i=1 ei n−p SSE = n−p Khoảng tin cậy cho mơ hình hồi quy (42) Kiểm định giả thuyết cho MHHQ Tương quan Với p = k + Mơ hình hồi quy tuyến tính bội Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội Tính chất ước lượng bình phương bé HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan ˆ = [β0 , β1 , , βk ] véc-tơ chứa ước lượng bình Gọi β ˆ thỏa tính chất sau: phương bé nhất, β ˆ = β, tức β ˆ ước lượng không chệch E(β) (unbiased estimator) cho β Đặt C = (X X)−1 (C ma trận đối xứng cỡ p × p), ta có Var (βˆj ) = σ Cjj , Cov (βˆi , βˆj ) = σ Cij , j = 0, 1, , p i =j ˆ ma trận Tổng quát, ma trận hiệp phương sai β đối xứng cỡ p × p thành phần thứ jj phương sai βˆj thành phần thứ ij hiệp phương sai βˆi βˆj có dạng sau ˆ = σ (X X)−1 = σ C Cov (β) Kiểm tra phù hợp mơ hình HỒI QUY VÀ TƯƠNG QUAN Ví dụ, trường hợp p = 2, ta có  C00  C = C10 C20 ma trận C  C01 C0,2 C11 C12  C21 C22 Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Phương sai βˆj σ Cjj , j = 0, 1, Sai số chuẩn ước lượng bình phương bé xác định sau SE (βˆj ) = σ ˆ Cjj (43) Để kiểm tra phù hợp mơ hình kiểm tra giả định, ta sử dụng dạng đồ thị sau nhận xét: Đồ thị xác suất Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội Đồ thị phân tán: biến phụ thuộc biến độc lập; đồ thị thặng dư Outline HỒI QUY VÀ TƯƠNG QUAN Kiểm định ý nghĩa mơ hình hồi quy HỒI QUY VÀ TƯƠNG QUAN Giới thiệu Nguyễn Văn Thìn Nguyễn Văn Thìn Mơ hình hồi quy tuyến tính đơn Giới thiệu Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho mơ hình hồi quy Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết mơ hình hồi quy bội Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định ý nghĩa mơ hình hồi quy HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn với Nguyễn Văn Thìn n Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Kiểm định giả thuyết mơ hình hồi quy bội yi2 − ( i=1 n i=1 yi) n n =yy− ( n i=1 yi) n ei2 = e e (yi − yˆi ) = SSE = i=1 i=1 ˆ ta thu Thay e = y − ^ y = y − Xβ, Tương quan Mô hình hồi quy tuyến tính bội HỒI QUY VÀ TƯƠNG QUAN SST = SSR + SSE SST = SSE = y y − βˆ X y suy ra, SSR = βˆ X y − ( n i=1 yi) n H0 :β1 = β2 = = βk = H1 :βj = với giá trị j (44) Việc bác bỏ H0 suy có biến độc lập x1 , x2 , , xk có mối liên hệ tuyến tính với y , tức mơ hình có ý nghĩa Thống kê kiểm định cho giả thuyết H0 SSR/k MSR F0 = = (45) SSE /(n − p) MSE với MSR trung bình bình phương hồi quy (Mean Squared Regression) MSE trung bình bình phương sai số (Mean Squared Error) Kiểm định ý nghĩa mơ hình hồi quy Nhắc lại rằng, Giới thiệu Kiểm định ý nghĩa mơ hình hồi quy kiểm định dùng để xác định xem liệu có tồn mối liên hệ tuyến tính biến phụ thuộc y biến độc lập x1 , x2 , , xk hay không Giả thuyết đối thuyết phát biểu sau n Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Bảng phân tích phương sai cho kiểm định ý nghĩa mơ hình hồi quy bội: Nguồn gốc biến thiên Hồi quy Sai số Tổng cộng Tổng bình phương SSR SSE SST Bậc tự k n-p n-1 Trung bình bình phương MSR MSE Bác bỏ H0 khi: f0 > fα;k,n−p Với fα;k,n−p phân vị mức α biến ngẫu nhiên F (k, n − p) F0 MSR/MSE Hệ số xác định Hệ số xác định hiệu chỉnh HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Tương tự mơ hình hồi quy tuyến tính đơn, để đánh giá phù hợp mơ hình hồi quy bội, ta sử dụng hệ số xác định R− bình phương R-squared: Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết cho hệ số hồi quy R2 = SSR SSE =1− SST SST (46) Ta có nhận xét R lớn mơ hình phù hợp; nhiên, nhược điểm ta thêm biến vào mơ hình R ln tăng lên; điều gây khó khăn việc đánh giá ta muốn xác định biến thêm vào có phù hợp với mơ hình hay không Để khắc phục điều này, ta sử dụng hệ số xác định hiệu chỉnh Radj =1− Kiểm định giả thuyết mơ hình hồi quy bội SSE /(n − p) SST /(n − 1) (47) HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Nguyễn Văn Thìn T0 = Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ βˆj SE (βˆj = βˆj σ ˆ Cjj HỒI QUY VÀ TƯƠNG QUAN |t0 | > (49) n−p t1−α/2 Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội y = Xβ + Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Trung bình biến đáp ứng y điểm cho trước (x01 , x02 , , x0k ) có dạng E(Y |x0 ) = µY |x0 = x β Với   x01    x0 =     Kiểm định giả thuyết cho MHHQ Tương quan n−p t1−α/2 (48) Xét mơ hình hồi quy bội Nguyễn Văn Thìn Thống kê T0 có phân phối Student với n − p bậc tự Bác bỏ H0 khi: H1 :βj = Khoảng tin cậy cho trung bình biến đáp ứng Thống kê kiểm định cho giả thuyết H0 Giới thiệu H0 :βj = Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết cho hệ số hồi quy HỒI QUY VÀ TƯƠNG QUAN Khi ta thêm biến vào mơ hình hồi quy làm tăng tổng bình phương hồi quy (SSR) giảm tổng bình phương sai số (SSE ) (Đó lý hệ số xác định R tăng thêm biến), Do vậy, ta phải định xem mức độ tăng R đủ lớn để đưa biến vào mơ hình Hơn nữa, việc đưa biến khơng quan trọng vào mơ hình làm tăng trung bình bình phương sai số, điều làm mơ hình phù hợp với liệu Ta cần thực kiểm định ý nghĩa cho hệ số hồi quy, từ đưa định nên thêm biến vào mơ hình hay khơng, với giả thuyết đối thuyết với phân vị mức − α/2 biến ngẫu nhiên T0 ∼ t(n − p) Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội x0k Ước lượng µY |x0 ˆ µ ˆ Y |x0 = x β (50) Khoảng tin cậy cho giá trị dự báo Khoảng tin cậy cho trung bình biến đáp ứng HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Var (µ ˆ Y |x0 ) = σ x (X X)−1 x0 Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ HỒI QUY VÀ TƯƠNG QUAN µ ˆ Y |x0 ước lượng khơng chệch cho µY |x0 ˆ = x β = µY |x phương sai µ E(x β) ˆ Y |x0 Nguyễn Văn Thìn (51) Khoảng tin cậy cho mơ hình hồi quy Trong mơ hình hồi quy tuyến tính bội, khoảng tin cậy với độ tin cậy 100(1 − α)% cho trung bình biến đáp ứng điểm (x01 , x02 , , x0k ) có dạng Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Tương quan µ ˆ Y |x0 − n−p t1−α/2 σ ˆ x (X X)−1 x0 ≤ µY |x0 ≤ µ ˆ Y |x0 + n−p t1−α/2 σ ˆ x (X X)−1 x0 (52) Kiểm định giả thuyết mơ hình hồi quy bội Mơ hình hồi quy tuyến tính bội Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội (53) Định nghĩa 16 Một khoảng tin cậy với độ tin cậy 100(1 − α)% cho giá trị dự báo có dạng n−p ^ y0 − t1−α/2 σ ˆ (1 + x (X X)−1 x0 ) n−p ≤ Y0 ≤ ^ y0 + t1−α/2 σ ˆ (1 + x (X X)−1 x0 ) (54) Kiểm định giả thuyết mơ hình hồi quy bội Qua giảng ta hiểu/có thể áp dụng Ví dụ HỒI QUY VÀ TƯƠNG QUAN ˆ yˆ0 = x0 β Giới thiệu Mơ hình hồi quy tuyến tính đơn Định nghĩa 15 Cho trước điểm x0 = [1, x01 , x02 , , x0k ] , ước lượng điểm cho giá trị dự báo Y0 Ví dụ 17 Với liệu sợi dây làm chất bán dẫn (tụ): gồm y = lực tác động (dùng để phát vỡ tụ), x1 = chiều dài sợi dây x2 = chiều cao khối tụ (a) Xây dựng mơ hình hồi quy bội biểu diễn mối quan hệ y theo x1 x2 (b) Tính hệ số xác định R hệ số xác định hiệu chỉnh Radj (c) Kiểm định ý nghĩa cho véc-tơ hệ số hồi quy β hệ số hồi quy (α = 5%) (d) Tìm khoảng tin cậy 95% cho trung bình biến đáp ứng (x1 = 8, x2 = 275) (e) Tìm khoảng tin cậy 95% cho giá trị dự báo (x1 = 8, x2 = 275) Mơ hình hồi quy tuyến tính đơn HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Bài toán hồi quy hồi quy tuyến tính đơn Các giả định sai số ngẫu nhiên Ước lượng hệ số hồi quy phương pháp bình phương bé (BPBN) Hệ số xác định Các tính chất ước lượng BPBN Khoảng tin cậy cho hệ số hồi quy, trung bình biến đáp ứng Dự đốn giá trị quan trắc Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm định giả thuyết cho β0 , β1 Phân tích thặng dư, tương quan Kiểm định giả thuyết cho hệ số tương quan Qua giảng ta hiểu/có thể áp dụng Mơ hình hồi quy tuyến tính bội HỒI QUY VÀ TƯƠNG QUAN Biểu diễn mơ hình theo dạng ma trận Nguyễn Văn Thìn Ước lượng bình phương bé Giới thiệu Ước lượng phương sai sai số Mơ hình hồi quy tuyến tính đơn Tính chất ước lượng bình phương bé Khoảng tin cậy cho mơ hình hồi quy Kiểm định giả thuyết cho MHHQ Tương quan Mơ hình hồi quy tuyến tính bội Kiểm định giả thuyết mơ hình hồi quy bội Kiểm tra phù hợp mơ hình Kiểm định ý nghĩa mơ hình Hệ số xác định hệ số xác định hiệu chỉnh Kiểm định giả thuyết cho hệ số hồi quy Khoảng tin cậy cho trung bình biến đáp ứng Khoảng tin cậy cho giá trị dự báo ... tương quan Kiểm định giả thuyết cho hệ số tương quan HỒI QUY VÀ TƯƠNG QUAN HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Nguyễn Văn Thìn Giới thiệu Giới thiệu Mơ hình hồi quy tuyến tính đơn Mơ hình hồi. .. thuyết cho hệ số tương quan HỒI QUY VÀ TƯƠNG QUAN HỒI QUY VÀ TƯƠNG QUAN Nguyễn Văn Thìn Nguyễn Văn Thìn Giới thiệu Mơ hình hồi quy tuyến tính đơn Xác định miền bác bỏ Mơ hình hồi quy tuyến tính... Outline HỒI QUY VÀ TƯƠNG QUAN Mơ hình hồi quy tuyến tính HỒI QUY VÀ TƯƠNG QUAN Giới thiệu Nguyễn Văn Thìn Nguyễn Văn Thìn Mơ hình hồi quy tuyến tính đơn Giới thiệu Giới thiệu Mơ hình hồi quy tuyến