Phương trình hồi qui gần đúng phụ thuộc vào phương pháp tính dùng để tính các hệ số hồi qui. Phương pháp bình phương nhỏ nhất xác định hệ số phương trình hồi qui sao cho gần đúng với kỳ vọng t
CHƯƠNG IIPHÂN TÍCH TƯƠNG QUAN VÀ HỒI QUI 2.1. Phân tích tương quanXét một đại lượng ngẫu nhiên biến thiên X tương ứng với sự biến thiên của đại lượng Y, ta có:Y = X + Ngẫu nhiên có điều kiệnNhư vậy:Y = f(x)Y = X + Ngẫu nhiên (không có điều kiện) Độc lậpNếu:Y = X + Ngẫu nhiên có điều kiện + Ngẫu nhiênCHƯƠNG IIPHÂN TÍCH TƯƠNG QUAN VÀ HỒI QUI Vậy phải ước lượng dưới dạng tổng quát thống kê và hệ số tương quan là tiêu chí quan trọng. Hệ số tương quan là đại lượng không thứ nguyên:- Đại lượng ngẫu nhiên độc lập r = 0- Đại lượng ngẫu nhiên có điều kiện càng có thể r = 0 gọi đó là đại lượng không tương quan.YXyxmYmXMrδδ))([(−−=CHƯƠNG IIPHÂN TÍCH TƯƠNG QUAN VÀ HỒI QUI •Hệ số tương quan đặc trưng cho sự phụ thuộc tuyến tính•Tổng quát hệ số tương quan có giá trị trong giới hạn:- 1 < rx,y < 1•Khi rx,y > 0 quan hệ X, Y tồn tại tương quan dương•Khi rx,y < 0 quan hệ X, Y tồn tại tương quan âmCHƯƠNG IIPHÂN TÍCH TƯƠNG QUAN VÀ HỒI QUI 2.2. Phân tích hồi qui:2.2.1. Khái niệm cơ bản:- Sự phụ thuộc các đại lượng ngẫu nhiên được xác định bằng một hàm phân phối có điều kiện.- Phân tích hồi qui là tính các thông số của mô hình trên cơ sở các số liệu thực nghiệm.- Mô hình mục tiêu nghiên cứu phải xác định rõ ràng, hàm mục tiêu được gọi là hàm đáp ứng.CHƯƠNG IIPHÂN TÍCH TƯƠNG QUAN VÀ HỒI QUI - Có thể hiểu diễn hàm mục tiêu dưới dạng.η = f (x1, x2, …, xn)Trong đó: x1(i = 1, 2…, n) là yếu tố biến thiên độc lập- Hàm mục tiêu được biểu diễn dưới dạng đa thức:η = βo + β1x1 + … + β12x1x2 + … + β11 + …Trong đó β0, β1… là hệ số hồi qui được xác định bằng các ước lượng b0, b1, b2… qua các số liệu thí nghiệm.CHƯƠNG IIPHÂN TÍCH TƯƠNG QUAN VÀ HỒI QUI Phương trình hồi qui trên cơ sở thực nghiệm là ước lượng của hàm mục tiêu η.Y* = bo + b1x1 + … + b11x2 + …- Mặt mô tả bởi phương trình hồi qui gọi là mặt đáp ứng.- Không gian tọa độ trên các trục đặt giá trị các yếu tố gọi là không gian yếu tố- Hiệu giữa giá trị thực nghiệm và giá trị tìm được theo phương trình hồi qui của các thông số tối ưu gọi là độ dư.- Nếu phương sai dư không đáng kể so với phương sai tái hiện thì phương trình hồi qui tương thức với các số liệu thực nghiệm.CHƯƠNG IIPHÂN TÍCH TƯƠNG QUAN VÀ HỒI QUI 2.2.2. Phương pháp bình phương nhỏ nhất.- Phương trình hồi qui gần đúng phụ thuộc vào phương pháp tính dùng để tính các hệ số hồi qui.- Phương pháp bình phương nhỏ nhất xác định hệ số phương trình hồi qui sao cho gần đúng với kỳ vọng toán học của thực nghiệm.CHƯƠNG IIPHÂN TÍCH TƯƠNG QUAN VÀ HỒI QUI - Bài toán xác định hệ số hồi qui là xác định cực tiểu của hàm nhiều biến bo, b1, .- Trong đó: yi – giá trị thực nghiệmY* = f (xo, bo, b1, …) giá trị tìm được theo phương trình hồi qui.- Nếu Y* = f (x, bo, b1,…) là hàm khả vi thì điều kiện cực tiểu của φ là.CHƯƠNG IIPHÂN TÍCH TƯƠNG QUAN VÀ HỒI QUImin, .)]b,b,x(fy[2i1oii→−=φ∑, .0,01=∂∂=∂∂bboφφ Hoặc khai triển ra: ………………… CHƯƠNG IIPHÂN TÍCH TƯƠNG QUAN VÀ HỒI QUI∑=∂∂−ioxoiibfbbxfy 0, .)],,([2)(1∑=∂∂−ixoiibfbbxfy 0, .)],,([21)(1 [...]... NGHIỆM 322 3311 321 123 322 110 ^ xxbxxbxxbxbxbxbbY ++++++= Số thí nghiệm X 0 X 1 X 2 X 3 X 1 X 2 X 1 X 3 X 2 X 3 Y 1 + + + + + + + 29 6 331, 125 123 3,765 2 + - - + + - - 122 139,875 319,515 3 + + - + - + - 23 9 22 1,875 29 3 ,26 5 4 + - + + - - + 586 551, 625 1181,640 5 + + + - + - - 23 2 196,875 123 0,765 6 + - - - + + + 29 2 27 4, 125 319,515 7 + + - - - - + 339 356, 125 29 3 ,26 5 8 + - + - - + - 383 417,375 1185,640 ^ Y 2 ^ )( i YY − - Bài toán xác định hệ... QUI STT X 1 X 2 - - - X K Y 1 X 11 X 21 X K1 Y 1 2 X 12 X K2 Y 2 - - - - - - - - n X 1n - - - - X Kn Y n Để thuận tiện cho nghiên cứu người ta hàm biến ảo x o , x o = 1 Ma trận qui hoạch với biến ảo TYT 23 CHƯƠNG III MỘT SỐ PHƯƠNG PHÁP QUI HOẠCH THỰC NGHIỆM Số thí nghiệm X 0 X 1 X 2 X 3 Y 1 + + + + Y 1 2 + - - + Y 2 3 + + - + Y 3 4 + - + + Y 4 5 + + + - Y 5 6 + - - - Y 6 7 + + - - Y 7 8 + - + - Y 8 Trong... quả Z 1 Z 2 Z 3 X 1 X 2 X 3 Y 1 300 45 1 ,25 + + + 29 6 2 200 35 1 ,25 - - + 122 3 300 35 1 ,25 + - + 23 9 4 20 0 45 1 ,25 - + + 586 5 300 45 0,75 + + - 23 2 6 20 0 35 0,75 - - - 29 2 7 300 35 0,75 + - - 339 8 20 0 45 0,75 - + - 383 Ma trận qui hoạch đảm bảo tính trực giao. Và * Xác lập phương trình hồi qui Nếu dùng phương trình hồi qui tuyến tính dưới dạng: CHƯƠNG III MỘT SỐ PHƯƠNG PHÁP QUI HOẠCH THỰC NGHIỆM )k0j,u,ju(,0x.x N 1i jiui ÷=≠= ∑ = 0;1;0 1 ≠÷== ∑ = jkjx N i ji 3 322 110 ^ xbxbxbbY +++= ... qui lúc này có dạng Y = 311, 125 + 34, 625 x 1 + 63, 125 x 2 – 0,375x 3 – 75, 625 x 1 x 2 = 8, 625 x 1 x 3 + 67, 125 x 2 x 3 CHƯƠNG III MỘT SỐ PHƯƠNG PHÁP QUI HOẠCH THỰC NGHIỆM N Yxx b N i iilj jl ∑ = = 1 )( N Yxx b N i ii ∑ = = 1 21 12 )( 625 ,75 8 838.1339. 129 2. 123 2.1586. 123 9.1 122 . 129 6.1( 12 −= −−++−−+ = b Thay số Tra bảng F 1-p (f 1 , f 2 ) với p = 0,05 f 1 = 3, f 2 = 2 f 1 – bậc tự do phương sai... của thực nghiệm. CHƯƠNG II PHÂN TÍCH TƯƠNG QUAN VÀ HỒI QUI - Do khơng làm thí nghiệm song song để xác định phương sai tái hiện s th ta tiến hành làm 3 thí nghiệm ở tâm phương án nhận 3 giá trị theo bảng dưới: CHƯƠNG III MỘT SỐ PHƯƠNG PHÁP QUI HOẠCH THỰC NGHIỆM Số thí nghiệm Biến thực Biến mã hóa Kết quả X 1 X 2 X 3 Y 0 1 25 0 40 1 0 0 0 29 5 2 250 40 1 0 0 0 3 12 3 25 0 40 1 0 0 0 29 3 0 1 Z 0 2 Z 0 3 Z ... NGHIỆM )k0j,u,ju(,0x.x N 1i jiui ÷=≠= ∑ = 0;1;0 1 ≠÷== ∑ = jkjx N i ji 3 322 110 ^ xbxbxbbY +++= Theo phương pháp tính hệ số trong phương trình hồi qui: Ma trận X T Xcó dạng: CHƯƠNG III MỘT SỐ PHƯƠNG PHÁP QUI HOẠCH THỰC NGHIỆM YXXX b b b b B TT o 1 3 2 1 ).( − == ∑ ∑ ∑ ∑ ∑ ∑ ∑ ∑ ∑ ∑ ∑∑ ∑ ∑ ∑∑ = = i i i i 2 i3i2i3i1i3oii3 i i i i i3i2 2 i2i1i2oii2 i i i3i1 i i2i1 2 i1oii1 8 1i i i i3oii2oii1oi i 2 oi T xxxxxxx xxxxxxx xxxxxxx xxxxxxx XX * Xác lập ma trận thực nghiệm: Các... Trong đó : ξ - nhiễu Dạng ma trận của x thu được là: Bố trí thí nghiệm sao cho Trong đó: m, j = o,k ; m ≠ j CHƯƠNG II PHÂN TÍCH TƯƠNG QUAN VÀ HỒI QUI n Kn K K xX Xx xx X 1 2 1 1 1 1 21 11 = ∑ = 0. ijim xx Ta có mơ hình: Y = 311, 125 + 34, 625 x1 + 63, 125 x2 – 0,375x3 Để xét mơ hình đầy đủ hơn Ma trận qui hoạch được mở rộng CHƯƠNG III MỘT SỐ PHƯƠNG PHÁP QUI HOẠCH THỰC NGHIỆM 322 3311 321 123 322 110 ^ xxbxxbxxbxbxbxbbY ++++++= Số... thích f 1 = N – l N số thí nghiệm : 8 l hệ số có nghĩa trong phương trình hồi qui: 5 CHƯƠNG III MỘT SỐ PHƯƠNG PHÁP QUI HOẠCH THỰC NGHIỆM 791 ,20 18 3 37 42, 6056 2 == du s 521 ,18 109 791 ,20 18 2 2 === th du s s F Từ tính chất trên ta có: CHƯƠNG III MỘT SỐ PHƯƠNG PHÁP QUI HOẠCH THỰC NGHIỆM 8 1 000 0 8 1 00 00 8 1 0 000 8 1 )XX(; 8000 0800 0080 0008 XX 1TT == − ∑ ∑ ∑ ∑ = ii3 ii2 ii1 i ioi T yx yx yx yx YX ... Fisher Trong đó: - phương sai tương thích - phương sai tái hiện CHƯƠNG II PHÂN TÍCH TƯƠNG QUAN VÀ HỒI QUI 2 2 th tt s s F = 2 tt s 2 th s Phương trình hồi qui trên cơ sở thực nghiệm là ước lượng của hàm mục tiêu η. Y * = b o + b 1 x 1 + … + b 11 x 2 + … - Mặt mô tả bởi phương trình hồi qui gọi là mặt đáp ứng. - Không gian tọa độ trên các trục đặt giá trị các yếu tố gọi là không gian yếu tố - Hiệu giữa... NGHIỆM 8 1 000 0 8 1 00 00 8 1 0 000 8 1 )XX(; 8000 0800 0080 0008 XX 1TT == − ∑ ∑ ∑ ∑ = ii3 ii2 ii1 i ioi T yx yx yx yx YX CHƯƠNG III MỘT SỐ PHƯƠNG PHÁP QUI HOẠCH THỰC NGHIỆM 300 3 29 33 122 95 3 3 1 4 = ++ == ∑ o o y Y ( ) 109 13 3 1 2 4 2 = − − = ∑ oo th yy s 440,10109 == th s 69,3 8 440,10 === N s s th tj - Phương trình hồi qui biểu diễn qua đa thức: - Trong đó: P o(x) , P 1(x) , P K(x) là đa thức trực giao trên các tập điểm X 1 , …, X n ; - Phương trình hồi qui mũ và lũy thừa. CHƯƠNG II PHÂN TÍCH . x2, …, xK)CHƯƠNG IIPHÂN TÍCH TƯƠNG QUAN VÀ HỒI QUI Ta có bảng sau: CHƯƠNG IIPHÂN TÍCH TƯƠNG QUAN VÀ HỒI QUISTT X1X 2- - - XKY1 X11X21XK1Y 12 X12XK2Y 2- - -. XKY1 X11X21XK1Y 12 X12XK2Y 2- - - - - - - -n X1n- - - - XKnYn Giả thiết:1. Mỗi kết hợp x1, …, xk đại lượng y có phân phối chuẩn2. Phương sai không đổi3. Sai