Bài giảng Lý thuyết thống kê - Bài 5: Phân tích hồi quy tương quan

Bài giảng Lý thuyết thống kê - Bài 5: Phân tích hồi quy tương quan giới thiệu phương pháp phân tích hồi quy – tương quan, là phương pháp phân tích mối liên hệ, tác động qua lại giữa hiện tượng kinh tế xã hội. Trong đó, bài học giới thiệu nhiệm vụ phương pháp phân tích hồi quy tương quan, đưa ra một số mô hình hồi quy và cách xác định các tham số trong mô hình.

Bài 5: Phân tích hồi quy – tương quan BÀI PHÂN TÍCH HỒI QUY – TƯƠNG QUAN Hướng dẫn học Bài giới thiệu phương pháp phân tích hồi quy – tương quan, phương pháp phân tích mối liên hệ, tác động qua lại tượng kinh tế xã hội Trong đó, học giới thiệu nhiệm vụ phương pháp phân tích hồi quy tương quan, đưa số mơ hình hồi quy cách xác định tham số mơ hình Để học tốt này, sinh viên cần tham khảo phương pháp học sau:  Học lịch trình mơn học theo tuần, làm luyện tập đầy đủ tham gia thảo luận diễn đàn  Đọc tài liệu: Giáo trình Lý thuyết Thống kê, PGS TS Trần Thị Kim Thu chủ biên, NXB Đại học KTQD  Sinh viên làm việc theo nhóm trao đổi với giảng viên trực tiếp lớp học qua email  Tham khảo thông tin từ trang Web môn học Nội dung Bài trình bày vấn đề chung phương pháp hồi quy – tương quan, đặc biệt giới thiệu hồi quy – tương quan đơn hai tiêu thức số lượng, đề cập tới cách xây dựng phương trình hồi quy xác định trình độ chặt chẽ mối liên hệ Mục tiêu Sau học xong này, sinh viên cần thực việc sau:  Phân biệt mối liên hệ hàm số mối liên hệ tương quan  Trình bày khái niệm, nhiệm vụ phương pháp hồi quy – tương quan  Xây dựng phương trình hồi quy tương quan tuyến tính hai tiêu thức số lượng  Xác định trình độ chặt chẽ mối liên hệ tương quan hai tiêu thức số lượng STA302_Bai5_v1.0013109210 67 Bài 5: Phân tích hồi quy – tương quan Tình dẫn nhập Phân tích kết kinh doanh Giả sử bạn nhân viên phòng kế hoạch doanh nghiệp sản xuất bánh kẹo Bạn nhận thấy doanh thu từ sản phẩm bánh kem doanh nghiệp giảm dần Từ thực tế đó, phịng bạn đề xuất tăng thêm chi phí quảng cáo để tăng doanh thu doanh nghiệp Bạn với tư cách nhân viên phòng kế hoạch, thực tổng hợp liệu doanh thu chi phí quảng cáo từ sở kinh doanh bánh kẹo doanh nghiệp để tìm hiểu mối liên hệ chi phí quảng cáo tới doanh thu Làm để xác định mối liên hệ chi phí quảng cáo tới doanh thu? Mối liên hệ chi phí quảng cáo doanh thu có chặt chẽ hay khơng? 68 STA302_Bai5_v1.0013109210 Bài 5: Phân tích hồi quy – tương quan 5.1 Những vấn đề chung phương pháp hồi quy – tương quan 5.1.1 Khái niệm hồi quy – tương quan Hồi quy - tương quan phương pháp phân tích dựa mối liên hệ phụ thuộc biến kết (biến phụ thuộc) vào hay nhiều biến nguyên nhân (biến độc lập) Ví dụ: Phân tích mối liên hệ phụ thuộc vốn tới doanh thu doanh nghiệp A năm 2012 5.1.2 Liên hệ hàm số liên hệ tương quan Liên hệ hàm số Khái niệm: Là mối liên hệ hoàn toàn chặt chẽ, tức tượng thay đổi hồn tồn định thay đổi tượng có liên quan theo tỷ lệ xác định Liên hệ hàm số viết dạng y = f(x) Đặc điểm: Liên hệ hàm số biểu tổng thể mà biểu đơn vị cá biệt Mối liên hệ thường có tự nhiên Ví dụ vật lý: S = v.t Liên hệ tương quan Khái niệm: Là mối liên hệ khơng hồn tồn chặt chẽ, tức tượng thay đổi làm cho tượng có liên quan thay đổi khơng hồn tồn định Đặc điểm: Liên hệ tương quan không biểu đơn vị cá biệt mà phải thông qua tuợng số lớn Mối liên hệ phổ biến thường gặp tượng kinh tế – xã hội Ví dụ: Mối liên hệ tuổi nghề suất lao động Tuổi nghề có ảnh hưởng đến suất lao động suất lao động không chịu ảnh hưởng tuổi nghề mà chịu ảnh huởng nhân tố khác tay nghề, bậc thợ 5.1.3 Một số dạng liên hệ Dựa theo phân tích đặc điểm mối quan hệ hay từ số liệu điều tra thực tế mà xây dựng phương trình biểu diễn mối liên hệ cách phù hợp Một số dạng liên hệ là: a Liên hệ hypebol STA302_Bai5_v1.0013109210 69 Bài 5: Phân tích hồi quy – tương quan 5.1.4 Nhiệm vụ phương pháp hồi quy – tương quan Phương pháp hồi quy – tương quan giải hai nhiệm vụ chủ yếu sau:  Xây dựng phương trình hồi quy giải thích ý nghĩa tham số phương trình hồi quy  Đánh giá mức độ chặt chẽ mối liên hệ tương quan thông qua hệ số tương quan (tuyến tính) tỷ số tương quan (phi tuyến) 5.2 Hồi quy – tương quan tuyến tính đơn hai tiêu thức số lượng 5.2.1 Phương trình hồi quy Truớc vào xây dựng phương trình hồi quy, xem xét số khái niệm có liên quan Ðường hồi quy thực nghiệm: đường hình thành tài liệu thực tế Ðường hồi quy lý thuyết: đường điều chỉnh, bù trừ chênh lệch ngẫu nhiên, vạch xu hướng tuợng Phương trình hồi quy phương trình xác định vị trí đường hồi quy lý thuyết cho mô tả tốt mối liên hệ thực tế Phương trình hồi quy tuyến tính biểu diễn mối liên hệ tiêu thức số lượng có dạng: yˆ i  b0  b1x i Trong đó: xi – giá trị tiêu thức gây ảnh hưởng (nguyên nhân) yˆ i - trị số điều chỉnh tiêu thức chịu ảnh hưởng (kết quả) theo quan hệ với x 5.2.2 Phương pháp bình phương nhỏ Các hệ số b0, b1 phương trình hồi quy tuyến tính phải xác định cho đường hồi quy lý thuyết mô tả tốt mối liên hệ thực tế Trên hình vẽ, khoảng cách từ điểm thực tế đến điểm thuộc đường hồi quy lý thuyết nhỏ tốt Vì thế, 70 STA302_Bai5_v1.0013109210 Bài 5: Phân tích hồi quy – tương quan sử dụng phương pháp bình phương nhỏ (OLS - Ordinary Least Square) với nội dung: tổng bình phương độ lệch giá trị thực tế giá trị lý thuyết biến phụ thuộc (tiêu thức kết quả) nhỏ S = (yi − y i )2 = Hay: S = ( yi – bo – b1xi)2 = Để thỏa mãn điều kiện trên, cần tìm đạo hàm riêng theo tham số cần tìm Từ đó, b0 b1 phải thỏa mãn hệ phương trình:      yi  nb0  b1  x i  x i yi  b0  x i  b1 x i2 Từ hệ phương trình trên, sau biến đổi, b0 b1 tính theo cơng thức: b1  Trong đó: x xy  xy b0 = y  b1 x 2x  xi y n  yi n x i2   x i   x    n 5.2.3   n   xy   x i yi n  x  (x)2 Ý nghĩa hệ số phương trình hồi quy Sử dụng phương pháp bình phương nhỏ xác định giá trị b0 b1 Ý nghĩa hai tham số sau:  b0 hệ số tự (hệ số chặn), điểm xuất phát đường hồi quy lý thuyết, nêu lên ảnh hưởng nhân tố khác (tiêu thức nguyên nhân khác) x tới biến động tiêu thức kết y  b1 hệ số hồi quy nói lên ảnh hưởng trực tiếp tiêu thức nguyên nhân x tới tiêu thức kết y Cụ thể, x tăng đơn vị làm cho y thay đổi trung bình b1 đơn vị Giá trị b1 âm, dương hay 0, tùy thuộc vào mối liên hệ x y Hệ số hồi quy b1 nêu lên chiều hướng mối liên hệ Cụ thể: b1 > 0, mối liên hệ thuận; b1< 0, mối liên hệ nghịch Ví dụ, có tài liệu doanh thu chi phí quảng cáo cửa hàng giới thiệu sản phẩm A sau: STA302_Bai5_v1.0013109210 71 Bài 5: Phân tích hồi quy – tương quan ` x2 i y2 i Doanh thu Chi phí quảng cáo (triệu đồng) yi (triệu đồng) xi A 850 1700 722500 B 870 4350 25 756900 C 880 5280 36 774400 D 900 8100 81 810000 E 910 13 11830 169 828100 Tổng 4410 35 31260 315 3891900 Cửa hàng xiyi Yêu cầu: Xây dựng phương trình hồi quy biểu diễn mối liên hệ tương quan tuyến tính chi phí quảng cáo tới doanh thu cửa hàng Theo yêu cầu trên, xác định tiêu thức nguyên nhân chi phí quảng cáo (x) doanh thu tiêu thức kết (y) Phương trình hồi quy có dạng: yˆ i  b0  b1x i Có cách xác định tham số:  Cách 1: Giải hệ phương trình      yi  nb0  b1  x i  4410  5b0  35b1   x i yi  b0  x i  b1  x i2 31260  35b0  315b1  b0  843, 01   b1  5,57  Cách 2: Xác định từ công thức x  x i  35  y  yi  4410  882 n n xy  2x Từ đó, b1  72 5  x i yi  31260  6252 n x i2   x i      n   n    315   14 xy  xy 6252   882   5,57 14 2x STA302_Bai5_v1.0013109210 Bài 5: Phân tích hồi quy – tương quan b0  y  b1x  882  5,57   843,01 Hai cách tính cho kết b0 b1 Vậy phương trình hồi qui biểu diễn mối liên hệ tương quan chi phí quảng cáo tới doanh thu là: yˆ i  843,01  5,57x i Ý nghĩa hệ số phương trình hồi qui tuyến tính:  b0 = 843,01: nói lên ảnh hưởng tất tiêu thức ngun nhân khơng có chi phí quảng cáo tới doanh thu cửa hàng  b1 = 5,57: nói lên ảnh hưởng trực tiếp chi phí quảng cáo tới doanh thu Cụ thể, chi phí quảng cáo tăng lên triệu đồng doanh thu tăng trung bình 5,57 triệu đồng Sau xây dựng phương trình hồi quy phản ánh mối liên hệ tuợng kinh tế – xã hội, nhiệm vụ phân tích hồi quy - tương quan phải đánh giá trình độ chặt chẽ mối liên hệ 5.2.4 Hệ số tương quan Hệ số tương quan số tương đối sử dụng để đánh giá trình độ chặt chẽ (chiều hướng cường độ) mối liên hệ tương quan tuyến tính Cơng thức tính: r xy  x.y   b1 x x  y y Các tính chất:  Miền xác định: -1 ≤ r ≤  r > 0: mối liên hệ tương quan tuyến tính thuận (cùng chiều)  r < 0: mối liên hệ tương quan tuyến tính nghịch (ngược chiều)  r = ± 1: mối liên hệ hàm số - hoàn tồn chặt chẽ  r = 0: khơng có mối liên hệ tương quan tuyến tính x y  r gần 1: mối liên hệ chặt chẽ Trở lại ví dụ trên, tính hệ số tương quan Ta có: 2y  y  y  r  b1 3891900  8822  456 x 14  5,57  0,976 y 456 Như vậy, mối liên hệ chi phí quảng cáo tới doanh thu mối liên hệ tương quan tuyến tính thuận chặt chẽ STA302_Bai5_v1.0013109210 73 Bài 5: Phân tích hồi quy – tương quan 5.3 Hồi quy - tương quan phi tuyến hai tiêu thức số lượng 5.3.1 Phương trình hồi quy Mối liên hệ tương quan phi tuyến mối liên hệ tương quan tiêu thức không biểu đường thẳng mà đường cong có hình dáng khác Một số dạng đường cong thường gặp:  Phương trình parabol (bậc 2) o Vận dụng tiêu thức nguyên nhân tăng hay giảm với lượng tiêu thức kết biến động vơi lượng không (nhanh chậm hơn) Ví dụ: tuổi nghề suất lao động o Phương trình hồi quy: yˆ i  b0  b1x i  b2 x i2 b0, b1, b2 tham số phương trình hồi quy, xác định phương pháp bình phương nhỏ phải thỏa mãn hệ phương trình:        yi  nb0  b1 xi  b2  x i2  xi yi  b0  x i  b1 x i2  b2x 3i  xi2y  b0  x i2  b1 x3i  b2x i4  Phương trình hypebol o Vận dụng tiêu thức nguyên nhân tăng tiêu thức kết giảm với tốc độ không o Phương trình hồi quy: yˆ i  b0  b1 xi b0, b1 tham số phương trình hồi quy, xác định phương pháp bình phương nhỏ phải thỏa mãn hệ phương trình:       5.3.2  yi  nb0  b1 x i 1  xi yi  b0  xi  b1 x i Tỷ số tương quan Tỷ số tương quan tiêu đánh giá mức độ chặt chẽ mối liên hệ tương quan phi tuyến Cơng thức tính:   yi  yˆ i  1   yi  y   74 STA302_Bai5_v1.0013109210 Bài 5: Phân tích hồi quy – tương quan Tính chất:   1  η = 0: khơng có mối liên hệ tương quan phi tuyến  η = 1: mối liên hệ tương quan phi tuyến hoàn toàn chặt chẽ  η gần 1: mối liên hệ chặt chẽ Nhận xét:  η ≥ nên tỷ số tương quan đánh giá trình độ chặt chẽ mối liên hệ khơng nói chiều hướng mối liên hệ  η dùng cho phi tuyến tuyến tính (khi r 0) STA302_Bai5_v1.0013109210 75 Bài 5: Phân tích hồi quy – tương quan Tóm lược cuối  Các tượng kinh tế – xã hội tồn mối liên hệ ràng buộc lẫn Tuỳ theo mức độ chặt chẽ mối liên hệ mà phân thành hai loại: liên hệ hàm số liên hệ tương quan  Phân tích hồi quy - tương quan thực chất phương pháp phân tích mối liên hệ phụ thuộc với hai nhiệm vụ chủ yếu: xây dựng phương trình hồi quy biểu diễn mối liên hệ đánh giá mức độ chặt chẽ mối liên hệ  Với mối liên hệ đơn giản hai tiêu thức số luợng, tuỳ theo việc thăm dò dạng phương trình hồi quy mà xây dựng phương trình tuyến tính phi tuyến Các hệ số mơ hình hồi quy xác định theo phương pháp bình phương nhỏ Hệ số tương quan tỷ số tương quan sử dụng để đánh giá mức độ chặt chẽ mối liên hệ tương quan hai tiêu thức số lượng 76 STA302_Bai5_v1.0013109210 Bài 5: Phân tích hồi quy – tương quan Câu hỏi ôn tập Phân tích khác biệt liên hệ hàm số liên hệ tương quan? Cho ví dụ minh họa Trình bày nhiệm vụ phương pháp phân tích hồi quy - tương quan Trình bày nội dung phương pháp bình phương nhỏ Nêu ý nghĩa tham số phương trình hồi quy Trình bày khái niệm, cơng thức tính, tính chất hệ số tương quan Trình bày khái niệm, cơng thức tính, tính chất tỷ số tương quan Bài tập Bài Có tài liệu thu nhập vốn 10 trang trại địa phương sau: Thu nhập (triệu đồng) Vốn (triệu đồng) 46,8 93,6 30,3 54,5 25,6 38,7 36,5 65,4 50,7 104,5 89,4 196,0 42,5 85,0 75,2 157,4 80,5 176,8 61,8 120,5 Yêu cầu: a Xây dựng phương trình hồi quy tuyến tính phản ánh ảnh hưởng vốn tới thu nhập Giải thích ý nghĩa hệ số phương trình b Một trang trại có vốn 78 triệu đồng Dựa vào phương trình hồi quy, xác định thu nhập trang trại đạt khoảng triệu đồng? c Đánh giá trình độ chặt chẽ mối liên hệ STA302_Bai5_v1.0013109210 77 Bài 5: Phân tích hồi quy – tương quan Bài Có tài liệu doanh nghiệp công nghiệp sản xuất loại sản phẩm sau: Sản lượng (100 tấn) Nhiên liệu tiêu hao (10 tấn) 4,6 12 7,0 3,3 4,5 16 7,8 11 5,7 5,1 20 9,2 Yêu cầu: a Xây dựng phương trình hồi quy tuyến tính phản ánh ảnh hưởng sản lượng tới nhiên liệu tiêu hao Giải thích ý nghĩa hệ số b Đánh giá trình độ chặt chẽ mối liên hệ nói Bài Có tài liệu chiều cao cân nặng 11 phụ nữ độ tuổi 18 – 24 lựa chọn ngẫu nhiêu sau: Chiều cao (cm) Cân nặng (kg) 175 65 133 67 185 71 163 71 126 66 198 75 153 67 163 70 159 71 151 69 155 69 Yêu cầu: a Khi chiều cao tăng thêm cm cân nặng thay đổi nào? b Ðánh giá trình độ chặt chẽ cân nặng chiều cao nhóm nguời 78 STA302_Bai5_v1.0013109210 ... STA302_Bai5_v1.0013109210 Bài 5: Phân tích hồi quy – tương quan 5.1 Những vấn đề chung phương pháp hồi quy – tương quan 5.1.1 Khái niệm hồi quy – tương quan Hồi quy - tương quan phương pháp phân tích dựa mối... STA302_Bai5_v1.0013109210 73 Bài 5: Phân tích hồi quy – tương quan 5.3 Hồi quy - tương quan phi tuyến hai tiêu thức số lượng 5.3.1 Phương trình hồi quy Mối liên hệ tương quan phi tuyến mối liên hệ tương quan tiêu... STA302_Bai5_v1.0013109210 69 Bài 5: Phân tích hồi quy – tương quan 5.1.4 Nhiệm vụ phương pháp hồi quy – tương quan Phương pháp hồi quy – tương quan giải hai nhiệm vụ chủ yếu sau:  Xây dựng phương trình hồi quy giải