Giáo trình xác suất thống kê bài 8

Bài 8: Tương quan hồi quy BÀI 8: TƯƠNG QUAN VÀ HỒI QUY Nội dung Mục tiêu • Hệ số tương quan mẫu • Giới thiệu hệ số tương quan mẫu đường hồi quy bình phương trung bình tuyến tính thực nghiệm hai biến ngẫu nhiên • Đường hồi quy trung bình tuyến tính thực nghiệm • Kiến thức quan trọng cho sinh viên tiếp thu kiến thức môn học Kinh tế lượng sau Thời lượng • tiết Hướng dẫn học Trong chương bạn cần nắm vững kiến thức sau: • Các khái niệm hệ số tương quan hai biến định lượng ý nghĩa, tính chất hệ số tương quan, cách dùng hệ số tương quan để đánh giá mối quan hệ hai đại lượng • Phương trình hồi quy tuyến tính đơn, đường hồi quy thực nghiệm, ý nghĩa phương trình hồi quy hệ số hồi quy, tính chất đường hồi quy thực nghiệm • Phương pháp sai số bình phương bé nhất, cách tính hệ số hồi quy, cách dùng phương trình hồi quy để dự báo giá trị biến phụ thuộc theo giá trị biến giải thích Cần xem kỹ ví dụ học làm tập phần tương ứng 191 Bài 8: Tương quan hồi quy TÌNH HUỐNG KHỞI ĐỘNG BÀI Tình Siêu thị ABC muốn mở 01 siêu thị khu dân cư Vạn Phúc Để xác định quy mô siêu thị, doanh nghiệp cần biết chi phí nhu yếu phẩm người dân vùng Biết chi phí nhu yếu phẩm 01 cá nhân phụ thuộc vào mức thu nhập cá nhân Siêu thị tiến hành điều tra mức thu nhập (X) chi tiêu (Y) cho nhu cầu yếu phẩm cá nhân Kết cho bảng số liệu sau (đơn vị triệu đồng): X\Y 0,5 0,8 1,0 1,5 2,0 2,5 3,0 1 Câu hỏi Tính hệ số tương quan mẫu Viết phương trình hồi quy tuyến tính mẫu Ước lượng sai số hồi quy Dự báo giá trị Y mức thu nhập X 4,0 triệu đồng 192 Bài 8: Tương quan hồi quy 8.1 Hệ số tương quan mẫu Trong trước đưa khái niệm hệ số tương quan mẫu cách tính giá trị hệ số tương quan mẫu ứng với mẫu cụ thể Trong phần xác suất ta biết hệ số tương quan hai biến ngẫu nhiên X, Y Cov(X, Y) E(XY) − (EX)E(Y) = σ σ σ σ X Y X Y ρ= Ý nghĩa hệ số tương quan đo mức độ phụ thuộc tuyến tính hai biến ngẫu nhiên X Y Trong thực tế nhiều ta chưa biết phân phối X Y, hệ số tương quan lý thuyết ρ X Y chưa biết Vậy ta cần dựa vào mẫu quan sát véc tơ ngẫu nhiên (X, Y) để tìm cách ước lượng cho hệ số tương quan ρ Giả sử ta có mẫu ngẫu nhiên (X1, Y1), (X2, Y2), …, (Xn, Yn) rút từ véc tơ ngẫu nhiên (X, Y) với giá trị mẫu (x1, y1), (x2, y2), …, (xn, yn) Hệ số tương quan mẫu định nghĩa qua công thức: R= XY − (X)(Y) S S X Y thống kê XY = n ∑ X k Yk Lúc R ước lượng hệ số tương quan n k =1 lý thuyết ρ Với mẫu cụ thể, giá trị R là: r= 8.2 xy − (x)(y) s s X Y Đường hồi quy trung bình tuyến tính thực nghiệm Ta kiểm tra thấy hệ số tương quan ρ ước lượng r đại lượng có giá trị tuyệt đối nhỏ Khi | ρ | gần mức độ phụ thuộc tuyến tính X Y chặt chẽ, tức ta tính xấp xỉ Y theo X qua biểu thức dạng f(X) = aX + b Thông thường | ρ | > 0,8 cách tính xấp xỉ gọi chặt chẽ Lúc ta biểu diễn giá trị Y qua giá trị X phương trình dạng Y = aX + b + ε , ε sai số phép lấy xấp xỉ Phương trình Y = aX + b gọi phương trình hồi quy tuyến tính Y theo X, ε sai số hồi quy Hệ số a gọi độ dốc (slope), cho biết biến X tăng 193 Bài 8: Tương quan hồi quy đơn vị giá trị biến Y tăng hay giảm đơn vị Hệ số b gọi số hồi quy (intercept), cho biết phương trình hồi quy có qua gốc tọa độ hay không điểm xuất phát Y X Các hệ số a b gọi hệ số hồi quy Trong phương trình biến Y gọi biến giải thích hay biến phụ thuộc, biến X gọi biến giải thích biến độc lập, phương trình hồi quy gọi phương trình hồi quy tuyến tính đơn Nếu biến Y biểu diễn qua phương trình dạng tuyến tính với nhiều biến giải thích phương trình gọi hồi quy tuyến tính bội Với mẫu ngẫu nhiên (x1, y1), (x2, y2), …, (xn, yn) ta xây dựng hàm hồi quy mẫu (hàm hồi quy thực nghiệm) có dạng: ˆ ˆ + b yˆ = ax Xét quan sát thứ i ta có ) ) yˆ = ax + b i i ˆ + bˆ + ε y = yˆ + ε = a.x i i i i i ) ) εi giá trị ε quan sát thứ i, a, b ước lượng a b Ta cần ) ) xác định hệ số a, b cho tổng sai số bình phương trung bình đạt giá trị nhỏ n n n ˆ → ˆ − b) L = ∑ ε2 = ∑ (y − yˆ )2 = ∑ (y − a.x i i i i i i =1 i =1 i =1 Điều kiện cần để hàm L đạt là: n ⎧ ∂L ˆ =0 ˆ − b) ⎪ ˆ = −2 ∑ (yi − a.x i ⎪ ∂b i =1 ⎨ n ⎪ ∂L ˆ ˆ − b)x (y − a.x = − =0 ∑ ⎪ ∂aˆ i i i i =1 ⎩ 194 Bài 8: Tương quan hồi quy Giải hệ phương trình, ta có: n n ⎧ ˆ ˆ n.b a x y + = ∑ ∑ ⎪ i i ⎪ i =1 i =1 ⎨ n n ⎪ˆ n ˆ b x a x xy + = ∑ ∑ ∑ ⎪ i i i i i =1 i =1 ⎩ i =1 Từ ta có nghiệm ˆ bˆ = y − a.x n aˆ = ∑ x y − ( x )( y ) i i =1 i =r n x i2 − ( x ) ∑ n i =1 Sy Sx Do đó, ta có: yˆ i = r Sy Sx xi + y − r ⇒ yˆ i − y = r Sy Sx Sy Sx x ( xi − x ) Vậy phương trình hồi quy mẫu (đường hồi quy trung bình tuyến tính thực nghiệm) có dạng: yˆ = r s s y x+ y−r x s s y ˆ ˆ + b x = ax x Phương pháp ước lượng cho hệ số a, b gọi phương pháp bình phương nhỏ Phương trình hồi quy xác định có số tính chất sau: • Hàm hồi quy mẫu qua điểm (x, y) • Các ước lượng aˆ , bˆ xác định • Giá trị trung bình sai số 0: ε= n ∑ ε = n i =1 i • Giá trị trung bình yˆ i giá trị trung bình quan sát yi : yˆ = y Sai số ε = y − yˆ gọi phần dư (residual) biểu thị sai khác i i i ˆ + bˆ quan sát yi giá trị yˆ i tính từ phương trình hồi quy yˆ = ax Đặt: n RSS = ∑ ε i i =1 195 Bài 8: Tương quan hồi quy RSS gọi tổng bình phương phần dư ta có RSS = ns (1 − r ) y Ký hiệu ε 2y / x ước lượng sai số ε , ta có n RSS ε2 = ∑ ε2 − ( ε ) = = s (1 − r ) y/x n i y n i =1 Các đại lượng dùng để đánh giá chất lượng mô hình hồi quy Một ứng dụng quan trọng hồi quy dự báo giá trị biến Y biến X nhận giá trị Nếu biến X nhận giá trị x0, ta có: ˆ + bˆ yˆ = ax yˆ ước lượng điểm tương ứng cho giá trị y0 Y Ví dụ 1: Theo dõi mức lãi suất (Y) tỷ lệ lạm phát (X) số nước ta có số liệu sau: Y 17,5 15,6 9,8 5,3 7,9 10,0 19,2 13,1 X 14,2 11,7 6,4 2,1 4,8 Hãy: • Tính hệ số tương quan mẫu • Xây dựng phương trình hồi quy mẫu • Ước lượng sai số hồi quy • Dự báo giá trị mức lãi suất tỷ lệ lạm phát 22,5 Giải: • Với số liệu mẫu ta tính x = 9, 0625; y = 12,3; xy = 130,9813; s = 18,59; s = 4,312 x x s = 20, 76; s = 4,56 y Vậy hệ số tương quan mẫu r= 130,9813 − 9, 0625.12,3 = 0,99 4,56.4,312 Ta có: aˆ = r s s y = 0,99 4,56 = 1, 045 4,312 x ˆb = y − a.x ˆ = 12,3 − 1, 045.9, 0625 = 2,83 196 8,1 15,4 9,8 Bài 8: Tương quan hồi quy • Vậy ta có phương trình hồi quy mẫu yˆ = 1, 045.x + 2,83 • Ước lượng sai số hồi quy là: ε 2y / x = s 2y (1 − r ) = 20, 76(1 − 0,992 ) = 0, 413 • Nếu tỷ lệ lạm phát x0 = 22,5 mức lãi suất ngân hàng là: y = 1,045.22,5 + 2,83 = 26,343 Ví dụ 2: Điều tra mức thu nhập (X) chi tiêu (Y) cho nhu cầu yếu phẩm cá nhân ta có bảng số liệu sau (đơn vị triệu đồng) Y 0,5 0,8 1,0 1,5 2,0 2,5 3,0 1 X Hãy • Tính hệ số tương quan mẫu • Viết phương trình hồi quy tuyến tính mẫu • Ước lượng sai số hồi quy • Dự báo giá trị Y mức thu nhập X 4,0 triệu đồng Giải: • Với số liệu cho tính toán ví dụ ta có: x = 2, 23; y = 0, 72; xy = 1, 695; s = 0, 27; s = 0,52; x x s = 0, 04; s = 0, y y Vậy, hệ số tương quan mẫu là: r= 1, 695 − 2, 23.0, 72 = 0,86 0,52.0, 197 Bài 8: Tương quan hồi quy Ta có: aˆ = r s s y = 0,86 0, = 0.33 0,52 x ˆ = 0, 72 − 0,33.2, 23 = − 0, 016 bˆ = y − a.x • Phương trình hồi quy mẫu: yˆ = 0,33.x − 0, 016 • Ước lượng sai số hồi quy: ε2 = s (1 − r ) = 0, 04(1 − 0,862 ) = 0, 01 y/x y • Dự báo giá trị Y giá trị X x = 4, Ta có y0 = 0,33.4 - 0,016 = 1,3 198 Bài 8: Tương quan hồi quy TÓM LƯỢC CUỐI BÀI Bài nghiên cứu phương pháp tương quan hồi quy, có tác dụng giải nhiều toán khoa học, kỹ thuật, kinh tế đòi hỏi phai khai thác mối quan hệ hai biến hay nhiều hai biến Bài nghiên cứu hồi quy đơn, phần mở rộng ứng dụng hồi quy đề cập tiếp phần kinh tế lượng 199 Bài 8: Tương quan hồi quy BÀI TẬP TRẮC NGHIỆM Từ mẫu thực nghiệm (x1, x2, …, x25) rút từ biến ngẫu nhiên X ta tính được: 25 s’ = 2,4 ∑x k =1 k = 165 Trung bình mẫu x có giá trị bằng: a 1,036 b 1,035 c 1,034 d 1,033 e 1,045 Cho mẫu ngẫu nhiên (X1, X2, …,X25) rút từ biến ngẫu nhiên X có phân phối chuẩn N ( μ, σ2 ) Với mức ý nghĩa 95% ta có khoảng ước lượng cho kỳ vọng (16,75; 17,02) Khi giá trị trung bình mẫu x là: a 16,885 b 17,885 c 18,885 d 19,885 e không xác định Cho hai biến ngẫu nhiên X Y có mẫu ngẫu nhiên là: (X1, Y1), (X2, Y2), …, (Xn, Yn) giá trị trung bình mẫu x = 14,12; y = 15,5 , phương trình hồi quy tuyến tính mẫu là: y = a x - 2,15 Khi giá trị hệ số hồi quy a là: a 1,35 b 1,25 c 1,45 d 1,27 e không xác định Cho hai biến ngẫu nhiên X, Y có hệ số tương quan 0,96 phương sai mẫu tương ứng s 2x = 2, 7; s 2y = 3, 01 , trung bình mẫu y = 17,5; x = 14, 25 Phương trình hồi quy tuyến tính mẫu Y theo X a y = 1,014.x + 3,056 b y = 1,015.x + 3,125 c y = 1,015.x + 3,045 d y = 1,114.x + 3,125 200 Bài 8: Tương quan hồi quy Cho hai biến ngẫu nhiên X Y có phương trình hồi quy tuyến tính mẫu là: y = a.x + b Biết hai mẫu ngẫu nhiên tương ứng có trung bình mẫu x = 9, 75; y = 12, 45 dự báo giá trị X 4,5 giá trị Y 2,25 Khi cặp hệ số hồi quy a, b là: a 1,4125; -0,7675 b 1,4125; 0,7675 c -1,4125; -0,7675 d 1,4125; 0,7675 e 1,425; 0,975 201 Bài 8: Tương quan hồi quy BÀI TẬP Điều tra tổng giá trị hàng hoá xuất X tiền trợ cấp hưu trí Y vòng 10 năm, thu kết sau Y 5,1 5,3 5,2 4,9 4,8 4,7 4,5 5,0 4,6 4,4 X a b c d a b c d 35 39 37 36 40 39 42 45 Xác định hệ số tương quan X Y Tìm phương trình hồi quy tuyến tính mẫu Y theo X Xác định sai số hồi quy Giả sử xuất X có giá trị 53 tỷ/năm, dự báo tiền trợ cấp hưu trí 2 3 6 8 Tính hệ số tương quan mẫu Tìm hàm hồi quy trung bình tuyến tính mẫu Y theo X Tính sai số hồi quy Nếu lượng đầu tư X 35(triệu/ha) dự báo suất Y trồng bao nhiêu? Điều tra mức tiêu dùng Y thu nhập X 14 người, thu số liệu sau: X Y a b c d 202 30 Điều tra suất trồng Y lượng đầu tư cải tạo đất X (triệu/ha) tỉnh ta thu số liệu sau X 20 21 21 23 25 25 26 28 30 30 31 Y 32 1 2,3 2,5 2,6 3,2 3,5 10 10 10 10 4,5 5,2 5,5 5,5 Tính hệ số tương quan X Y Tìm hàm hồi quy trung bình tuyến tính mẫu Y theo X Tính sai số hồi quy Nếu thu nhập X triệu dự báo mức chi tiêu Y bao nhiêu? [...].. .Bài 8: Tương quan hồi quy 5 Cho hai biến ngẫu nhiên X và Y có phương trình hồi quy tuyến tính mẫu là: y = a.x + b Biết rằng hai mẫu ngẫu nhiên tương ứng có trung bình mẫu là x = 9, 75; y = 12, 45 và khi dự báo giá trị của X là 4,5 thì giá trị của Y là 2,25 Khi đó cặp hệ số hồi quy a, b là: a 1,4125; -0,7675 b 1,4125; 0,7675 c -1,4125; -0,7675 d 1,4125; 0,7675 e 1,425; 0,975 201 Bài 8: Tương... 0,7675 e 1,425; 0,975 201 Bài 8: Tương quan hồi quy BÀI TẬP 1 Điều tra giữa tổng giá trị hàng hoá xuất khẩu X và tiền trợ cấp hưu trí Y trong vòng 10 năm, thu được kết quả sau Y 5,1 5,3 5,2 4,9 4 ,8 4,7 4,5 5,0 4,6 4,4 X a b c d 2 a b c d 35 39 37 36 40 39 42 45 Xác định hệ số tương quan giữa X và Y Tìm phương trình hồi quy tuyến tính mẫu của Y theo X Xác định sai số hồi quy Giả sử xuất khẩu X có giá... dự báo tiền trợ cấp hưu trí 2 2 3 3 4 5 6 6 7 8 8 Tính hệ số tương quan mẫu Tìm hàm hồi quy trung bình tuyến tính mẫu của Y theo X Tính sai số hồi quy Nếu lượng đầu tư X bằng 35(triệu/ha) thì có thể dự báo năng suất Y cây trồng bằng bao nhiêu? Điều tra mức tiêu dùng Y và thu nhập X của 14 người, thu được số liệu sau: X Y a b c d 202 30 Điều tra về năng suất cây trồng Y và lượng đầu tư cải tạo đất X... được số liệu sau: X Y a b c d 202 30 Điều tra về năng suất cây trồng Y và lượng đầu tư cải tạo đất X (triệu/ha) tại một tỉnh ta thu được số liệu sau X 20 21 21 23 25 25 26 28 30 30 31 Y 3 32 1 1 2 3 4 5 6 2,3 2,5 2,6 3 3,2 3,5 4 7 8 9 10 10 10 10 4 4,5 5 5,2 5,5 5,5 6 Tính hệ số tương quan giữa X và Y Tìm hàm hồi quy trung bình tuyến tính mẫu của Y theo X Tính sai số hồi quy Nếu thu nhập X bằng 7 triệu ... a 16 ,88 5 b 17 ,88 5 c 18, 885 d 19 ,88 5 e không xác định Cho hai biến ngẫu nhiên X Y có mẫu ngẫu nhiên là: (X1, Y1), (X2, Y2), …, (Xn, Yn) giá trị trung bình mẫu x = 14,12; y = 15,5 , phương trình. .. x ˆb = y − a.x ˆ = 12,3 − 1, 045.9, 0625 = 2 ,83 196 8, 1 15,4 9 ,8 Bài 8: Tương quan hồi quy • Vậy ta có phương trình hồi quy mẫu yˆ = 1, 045.x + 2 ,83 • Ước lượng sai số hồi quy là: ε 2y / x =... = s (1 − r ) = 0, 04(1 − 0 ,86 2 ) = 0, 01 y/x y • Dự báo giá trị Y giá trị X x = 4, Ta có y0 = 0,33.4 - 0,016 = 1,3 1 98 Bài 8: Tương quan hồi quy TÓM LƯỢC CUỐI BÀI Bài nghiên cứu phương pháp