KỸ NĂNG KIỂM TRA 1 Chương 7 HỒI QUY BỘI 2 Tổng doanh thu hàng tuần (1000 USD) Chi phí quảng cáo trên ti vi (1000 USD) Chi phí quảng cáo trên báo (1000 USD) 96 5,0 1,5 90 2,0 2,0 95 4,0 1,5 92 2,5 2,5[.]
Chương HỒI QUY BỘI o Ví dụ: Bảng 7.1: Dữ liệu mẫu tổng doanh thu hàng tuần chi phí quảng cáo doanh nghiệp sau: Tổng doanh thu hàng tuần Chi phí quảng cáo ti vi Chi phí quảng cáo báo (1000 USD) (1000 USD) (1000 USD) 96 90 95 92 95 94 94 94 5,0 2,0 4,0 2,5 3,0 3,5 2,5 3,0 1,5 2,0 1,5 2,5 3,3 2,3 4,2 2,5 Xây dựng phương trình hồi quy bội ước lượng? MƠ HÌNH HỒI QUY BỘI Mơ hình hồi quy bội o Mơ hình hồi quy bội tổng thể: ▪ Mơ hình hồi quy tổng thể sử dụng phân tích hồi quy bội: 𝑦 = 𝛽0 + 𝛽1 𝑥1 + 𝛽2 𝑥2 + ⋯ + 𝛽𝑝 𝑥𝑝 +∈ Trong đó: • 𝑦: biến phụ thuộc • 𝑥𝑖 : biến độc lập (i= 1, 𝑝) • 𝛽0 : tham số tự • 𝛽1 , 𝛽2 , …, 𝛽𝑝 : hệ số hồi quy • ∈ : sai số Phương trình hồi quy bội o Phương trình hồi quy bội tổng thể: ▪ Phương trình hồi quy tổng thể sử dụng phân tích hồi quy bội: 𝐸(𝑦) = 𝛽0 + 𝛽1 𝑥1 + 𝛽2 𝑥2 + ⋯ + 𝛽𝑝 𝑥𝑝 Trong đó: • 𝐸(𝑦): trung bình kỳ vọng y ứng với 𝑥𝑖 cụ thể • 𝛽0 : tham số tự • 𝛽1 , 𝛽2 , …, 𝛽𝑝 : hệ số hồi quy • 𝑥𝑖 : biến độc lập (i= 1, 𝑝) o Phương trình hồi quy bội mẫu (Phương trình hồi quy bội ước lượng): ▪ Phương trình hồi quy bội ước lượng: 𝑦ො = 𝑏0 + 𝑏1 𝑥1 + 𝑏2 𝑥2 + ⋯ + 𝑏𝑝 𝑥𝑝 Trong đó: • 𝑦ො : ước lượng điểm 𝐸(𝑦) • 𝑏0 : tham số tự • 𝑏1 , 𝑏2 , …, 𝑏𝑝 : hệ số hồi quy Xác định tham số phương trình hồi quy bội ước lượng o Xác định tham số phương trình hồi quy bội ước lượng: ▪ Sử dụng phương pháp bình phương bé để xác định 𝑏0 , 𝑏1 , … 𝑏𝑝 𝑦 = 𝑛𝑏0 + 𝑏1 𝑥1 + 𝑏2 𝑥2 + ⋯ + 𝑏𝑝 𝑥𝑝 𝑦𝑥1 = 𝑏0 𝑥1 + 𝑏1 𝑥12 + 𝑏2 𝑥1 𝑥2 + ⋯ + 𝑏𝑝 𝑥1 𝑥𝑝 𝑦𝑥2 = 𝑏0 𝑥2 + 𝑏1 𝑥1 𝑥2 + 𝑏2 𝑥22 + + ⋯ + 𝑏𝑝 𝑥2 𝑥𝑝 … 𝑦𝑥𝑝 = 𝑏0 𝑥𝑝 + 𝑏1 𝑥1 𝑥𝑝 + 𝑏2 𝑥2 𝑥𝑝 + ⋯ + 𝑏𝑝 𝑥𝑝2 HỆ SỐ XÁC ĐỊNH Hệ số xác định bội o Hệ số xác định bội: ▪ ▪ Đo lường độ phù hợp phương trình hồi quy bội Phương pháp tính: 𝑅 = 𝑆𝑆𝑅 𝑆𝑆𝑇 =1− 𝑆𝑆𝐸 𝑆𝑆𝑇 Trong đó: • 𝑅2 : hệ số xác định bội o Hệ số xác định bội hiệu chỉnh: ▪ Phương pháp tính: 𝑅𝛼2 = − (1 − 𝑅 𝑛−1 ) 𝑛−𝑝−1 Trong đó: • 𝑅𝛼2 : hệ số xác định bội hiệu chỉnh • n: số quan sát • p: số biến độc lập Hệ số tương quan bội o Hệ số tương quan bội: ▪ Là đại lượng đo lường cường độ mối liên hệ tương quan tuyến tính bội biến độc lập 𝑥𝑖 biến phụ thuộc y ▪ Hệ số tương quan bội: 𝑅𝑥𝑦 = 𝑅2 ▪ Tính chất: • Hệ số tương quan bội có giá trị từ đến • Hệ số tương quan bội gần liên hệ tương quan bội mạnh • Hệ số tương quan bội 0: khơng có mối liên hệ • Hệ số tương quan bội 1: liên hệ tương quan tuyến tính bội hồn hảo 10 CÁC GIẢ THIẾT CỦA MƠ HÌNH 11 Các giả thiết mơ hình o Sai số ∈ biến ngẫu nhiên có trung bình kỳ vọng 0: E(∈) = o Phương sai ∈ không thay đổi cho tất giá trị 𝑥𝑖 o Các trị số ∈ độc lập với o Sai số ∈ biến ngẫu nhiên có phân phối chuẩn phản ánh sai lệch giá trị y giá trị kỳ vọng y 12 KIỂM ĐỊNH Ý NGHĨA CỦA MƠ HÌNH 13 Kiểm định F o Kiểm định F: Kiểm định toàn ý nghĩa mơ hình: xác định xem có hay khơng có tồn mối liên hệ có ý nghĩa biến phụ thuộc tất biến độc lập o Phương pháp: • 𝑦 = 𝛽0 + 𝛽1 𝑥1 + 𝛽2 𝑥2 + ⋯ + 𝛽𝑝 𝑥𝑝 +∈ Cặp giả thuyết cho kiểm định F: 𝐻0 : 𝛽1 = 𝛽2 = ⋯ = 𝛽𝑝 = 𝐻𝛼 : hệ số 𝛽𝑖 khác • Tính F: 𝐹= 𝑀𝑆𝑅 𝑀𝑆𝐸 Trong đó: ✓ 𝑀𝑆𝑅 = 𝑆𝑆𝑅 𝑝 : trung bình bình phương hồi quy 𝑆𝑆𝐸 ✓ 𝑀𝑆𝐸 = 𝑛−𝑝−1 : trung bình bình phương sai số • Kết luận: ✓ Dựa vào giá trị p : Bác bỏ 𝐻0 p ≤ ✓ Dựa vào giá trị tới hạn: Bác bỏ 𝐻0 F ≥ 𝐹𝛼 (với p bậc tự tử n-p-1 bậc tự mẫu) 14 Kiểm định t ▪ Kiểm định t: Kiểm định ý nghĩa biến: Nếu kiểm định F cho thấy ý nghĩa toàn bộ, kiểm định t sử dụng để xem biến độc lập có ý nghĩa hay khơng ▪ Phương pháp: • 𝑦 = 𝛽0 + 𝛽1 𝑥1 + 𝛽2 𝑥2 + ⋯ + 𝛽𝑝 𝑥𝑝 +∈ Với tham số 𝛽𝑖 bất kỳ, cặp giả thuyết cho kiểm định t: 𝐻0 : 𝛽𝑖 = 𝐻𝑎 : 𝛽𝑖 ≠ • Tính t: 𝑏𝑖 𝑡= 𝑆𝑏𝑖 Trong đó: ✓ 𝑆𝑏𝑖 : ước lượng độ lệch chuẩn 𝑏𝑖 • Kết luận: ✓ Dựa vào giá trị p: Bác bỏ 𝐻0 p ≤ ✓ Dựa vào giá trị tới hạn: Bác bỏ 𝐻0 t ≤ −𝑡𝛼/2 t ≥ 𝑡𝛼/2 (với n-p-1 bậc tự do) 15 Đa cộng tuyến o Đa cộng tuyến: ▪ Trong phương trình hồi quy có hai hay nhiều hai biến độc lập có tương quan tuyến tính chặt chẽ với o Ảnh hưởng đa cộng tuyến: ▪ Làm phương sai ước lượng hệ số hồi quy có giá trị lớn (hay khoảng tin cậy hệ số hồi quy lớn hơn) ▪ Hệ số xác định lớn, thống kê t kiểm định hệ số hồi quy ý nghĩa (làm tăng khả chấp nhận 𝐻0 ) ▪ Việc thêm hay bớt biến độc lập làm thay đổi dấu giá trị hệ số hồi quy o Nguyên nhân xảy đa cộng tuyến: ▪ Khi chọn biến độc lập mối quan có quan hệ nhân hay có tương quan cao đồng thời phụ thuộc vào điều kiện khác ▪ Cách thu thập mẫu: mẫu không đặc trưng cho tổng thể ▪ Chọn biến độc lập có độ biến thiên nhỏ 16 Đa cộng tuyến (tt) o Cách phát đa cộng tuyến: ▪ Dựa vào hệ số xác định 𝑅2 (𝑅2 lớn kiểm định t cho kết luận số biến độc lập khơng có ý nghĩa) ▪ Sử dụng nhân tố phóng đại phương sai VIF = , thơng thường VIF > 10 chắn xảy đa cộng 𝑅𝑖 tuyến ▪ Sử dụng độ chấp nhận biến TOLERANCE =1/VIF, TOLERANCE < 0,1 chắn xảy đa cộng tuyến o Cách khắc phục đa cộng tuyến: ▪ Phương pháp đưa dần vào (forward selection) ▪ Phương pháp loại trừ dần (backward selection) ▪ Phương pháp chọn bước (stepwise selection) 17 Tự tương quan o Tự tương quan: ▪ Xuất hiện tượng tương quan thành phần quan sát xếp theo thứ tự thời gian (với số liệu thu thập theo thời gian tồn mối liên hệ sai số liên tiếp nhau) o Ảnh hưởng tự tương quan: ▪ Phương pháp ước lượng bình phương nhỏ khơng cịn ước lượng hiệu ▪ Ý nghĩa thống kê F thống kê t ý nghĩa ▪ Phương sai sai số chuẩn dự đốn khơng cịn hiệu 18 Tự tương quan (tt) o Nguyên nhân tự tương quan: ▪ Nguyên nhân khách quan: • Chuỗi có tính chất qn tính theo chu kỳ • Hiện tượng mạng nhện • Dãy số có tính chất trễ ▪ Ngun nhân chủ quan • Chọn dạng mơ hình sai • Đưa thiếu biến độc lập vào mơ hình • Việc xử lý số liệu 19 Tự tương quan (tt) o Phương pháp khắc phục tự tương quan: ▪ Phương pháp đồ thị ▪ Sử dụng thống kê D kiểm định Durbin – Watson (hoặc kiểm định BG, kiểm định 𝜒 ) σ 𝑒1 − 𝑒𝑖−1 𝐷= σ 𝑒𝑖2 • 0≤D≤4 • < D < : khơng có tự tương quan 20 ... Xây dựng phương trình hồi quy bội ước lượng? MƠ HÌNH HỒI QUY BỘI Mơ hình hồi quy bội o Mơ hình hồi quy bội tổng thể: ▪ Mơ hình hồi quy tổng thể sử dụng phân tích hồi quy bội: