Bài giảng xác suất thống kê đại học chương 8: bài toán tương quan và hồi quy

 Chương Bài toán tương quan & Hồi quy HỆ SỐ TƯƠNG QUAN MẪU 1.1 Định nghĩa • Hệ số tương quan mẫu r số đo mức độ phụ thuộc tuyến tính hai mẫu ngẫu nhiên cỡ X Y • Giả sử ta có mẫu ngẫu nhiên cỡ n vector ngẫu nhiên (X , Y ) (x i , y i ); i = 1; 2; ; n Khi đó, hệ số tương quan mẫu r tính theo cơng thức: n xy - x y r = ; xy = å x iy i ˆ ˆ sx sy n i=1  Chương Bài toán tương quan & Hồi quy 1.2 Tính chất 1) - £ r £ 2) Nếu r = X , Y khơng có quan hệ tuyến tính; Nếu r = ± X , Y có quan hệ tuyến tính tuyệt đối 3) Nếu r < quan hệ X , Y giảm biến 4) Nếu r > quan hệ X , Y đồng biến VD Kết đo lường độ cholesterol (Y) có máu 10 đối tượng nam độ tuổi (X) sau: X 20 52 30 57 28 43 57 63 40 49 Y 1,9 4,0 2,6 4,5 2,9 3,8 4,1 4,6 3,2 4,0 Tính hệ số tương quan mẫu X Y  Chương Bài toán tương quan & Hồi quy  Chương Bài toán tương quan & Hồi quy Đường hồi quy trung bình tuyến tính thực nghiệm • Từ mẫu thực nghiệm vector ngẫu nhiên (X , Y ) , ta biễu diễn cặp điểm (x i , y i ) lên mpOxy Khi đó, đường cong nối điểm đường cong phụ thuộc Y theo X mà ta cần tìm (xem hình a), b))  Chương Bài tốn tương quan & Hồi quy • Đường thẳng đường hồi quy thực nghiệm xấp xỉ tốt điểm mẫu cho, xấp xỉ đường cong cần tìm Trong hình a) ta thấy xấp xỉ tốt (phụ thuộc tuyến tính chặt), hình b) xấp xỉ khơng tốt  Chương Bài toán tương quan & Hồi quy 2.1 Phương pháp bình phương bé • Khi có phụ thuộc tuyến tính tương đối chặt hai biến ngẫu nhiên X Y ta cần tìm biểu thức a + bX xấp xỉ Y tốt theo nghĩa cực tiểu sai số bình phương trung bình E (Y - a - bX ) , phương pháp gọi bình phương bé • Với cặp điểm (x i , y i ) sai số xấp xỉ là: ei = y i - (a + bx i ) (xem hình c))  Chương Bài tốn tương quan & Hồi quy Ta tìm ước lượng a, b n cho å ei i=1 n Đặt Q = å i=1 n đạt cực tiểu ei é - (a + bx )ù , ta có: = å êi y i ú ë û i=1 n n ì ï ï na + b x = (1) ï / ìQ = å i å yi ï ï ï a i= i=1 Û ï n í / í n n ïQ = ï ï b ïa ï ỵ xi + bå xi2 = å x i y i (2) ï å ï ï i=1 i=1 i= ỵ  Chương Bài toán tương quan & Hồi quy n n (1) Û a = å y i - b å x i = y - b.x n i= n i=1 Thay a vào (2), ta được: n (y - n b.x )å x i + bå i= xi i=1 n ỉ1 n ÷ ç Û b ç å x i - x x i ữ= ữ ỗn n i=1 ữ ỗ i= è ø n = å x iy i i= n ổ1 n ữ ỗ ỗ å x i yi - y å x i ữ ữ ỗn n i=1 ữ ỗ i= ố ứ xy - x y ổ2 2ử b ỗx - x ÷ = xy - x y Û b = ữ ỗ ố ứ sx Chng Bài tốn tương quan & Hồi quy • Vậy b = xy - x y ˆ2 sx , a = y - b.x Đường hồi quy tuyến tính Y theo X là: y = a + bx • Tương tự: b = xy - x y sy ˆ , a = x - b.y Đường hồi quy tuyến tính X theo Y là: x = a + by  Chương Bài toán tương quan & Hồi quy VD Đo chiều cao (X: m) khối lượng (Y: kg) học sinh nam, ta có kết quả: X 1,45 1,60 1,50 1,65 1,55 Y 50 55 45 60 55 1) Tìm hệ số tương quan r 2) Lập phương trình hồi quy tuyến tính Y theo X 3) Dự đốn học sinh cao 1,62m nặng khoảng kg?  Chương Bài toán tương quan & Hồi quy VD Số vốn đầu tư (X: triệu đồng) lợi nhuận thu (Y: triệu đồng) đơn vị thời gian 100 quan sát là: Y X 0,3 0,7 1,0 20 10 30 10 10 20 1) Lập phương trình hồi tuyến tính X theo Y 2) Dự đốn muốn lợi nhuận thu 0,5 triệu đồng cần đầu tư bao nhiêu?  Chương Bài toán tương quan & Hồi quy VD Số thùng bia (Y: thùng) bán phụ thuộc vào giá bán (X: triệu đồng/ thùng) Điều tra 100 đại lý loại bia đơn vị thời gian có bảng số liệu: Y X 0,150 0,160 0,165 100 110 120 15 30 10 25 15 1) Tính hệ số tương quan r 2) Lập phương trình hồi tuyến tính X theo Y 3) Dự đốn muốn bán 115 thùng bia giá bán thùng cỡ bao nhiêu?  Sử dụng máy tính bỏ túi tìm đường hồi quy Số liệu khơng có tần số a) Máy tính fx500MS, fx570MS VD Bài tốn cho dạng cặp (x i , y i ) sau: X 20 52 30 57 28 43 57 63 40 49 Y 1,94,0 2,6 4,5 2,9 3,84,1 4,6 3,2 4,0 Tìm hệ số r , đường hồi quy Y theo X: y = a + bx Nhập số liệu: MODE ® REG ® LIN + X, Y ® M + 20, 1.9 ® M + 52, 4.0 ® M … …… … + 49 , 4.0 ® M  Sử dụng máy tính bỏ túi tìm đường hồi quy Xuất kết quả: SHIFT ® ® (dịch chuyển mũi tên phải lần) ® (A a phương trình) ® (B b phương trình) ® (r r ) Đáp số: r = 0, 9729 ; y = 0, 9311 + 0, 0599x b) Máy tính fx500ES, fx570ES Xét lại VD Nhập số liệu: SHIFT ® MODE ® dịch chuyển mũi tên tìm chọn mục Stat ® (chế độ khơng tần số) MODE ® (stat) ® (A+Bx) ® (nhập giá trị X, Y vào cột)  Sử dụng máy tính bỏ túi tìm đường hồi quy X Y 20 1.9 52 4.0 … … 49 4.0 Xuất kết quả: SHIFT ® ® ® 1(A a phương trình) SHIFT ® ® ® 2(B b phương trình) SHIFT ® ® ® 3(r r phương trình) Số liệu có tần số a) Máy tính fx 500MS, fx570MS VD Tìm hệ số r , đường hồi quy thực nghiệm Y theo X : y = a + bx với toán cho dạng bảng sau:  Sử dụng máy tính bỏ túi tìm đường hồi quy X Y 21 23 25 11 Nhập số liệu: MODE ® REG ® LIN + X, Y; n ® M + 21, 3; ® M + 21, 4; ® M … … + 25 , 5; ® M Xuất kết quả: làm 1a) Đáp số: r = 0, 7326 ; y = - 2, 6694 + 0, 3145x  Sử dụng máy tính bỏ túi tìm đường hồi quy b) Máy tính fx500ES, fx570ES Xét lại VD Nhập số liệu: SHIFT ® MODE ® dịch chuyển mũi tên tìm chọn Mục Stat ® (chế độ có tần số) MODE ® (stat) ® (A+Bx) ® (nhập giá trị X, Y, tần số vào cột) X Y FREQ 21 21 … … 25 Xuất kết quả: làm 1b) ……………… Hết……………… ... 4,5 2,9 3,8 4,1 4,6 3,2 4,0 Tính hệ số tương quan mẫu X Y  Chương Bài toán tương quan & Hồi quy  Chương Bài toán tương quan & Hồi quy Đường hồi quy trung bình tuyến tính thực nghiệm • Từ mẫu... sx  Chương Bài toán tương quan & Hồi quy • Vậy b = xy - x y ˆ2 sx , a = y - b.x Đường hồi quy tuyến tính Y theo X là: y = a + bx • Tương tự: b = xy - x y sy ˆ , a = x - b.y Đường hồi quy tuyến... Chương Bài toán tương quan & Hồi quy 1.2 Tính chất 1) - £ r £ 2) Nếu r = X , Y khơng có quan hệ tuyến tính; Nếu r = ± X , Y có quan hệ tuyến tính tuyệt đối 3) Nếu r < quan hệ X ,