CHƯƠNG 2 PHÂN TÍCH TƯƠNG QUAN VÀ HỒI QUI

Hệ số tương quan là đại lượng không thứ nguyên: - Đại lượng ngẫu nhiên độc lập r = 0 - Đại lượng ngẫu nhiên có điều kiện càng có thể r = 0 gọi đó là đại lượng không tương quan... Phương

PHÂN TÍCH TƯƠNG QUAN

VÀ HỒI QUI

2.1 Phân tích tương quan

Xét một đại lượng ngẫu nhiên biến thiên X tương ứng với sự biến thiên của đại lượng Y, ta có:

Y = X + Ngẫu nhiên có điều kiện

kê và hệ số tương quan là tiêu chí quan trọng

Hệ số tương quan là đại lượng không thứ

nguyên:

- Đại lượng ngẫu nhiên độc lập r = 0

- Đại lượng ngẫu nhiên có điều kiện càng có thể

r = 0 gọi đó là đại lượng không tương quan

Y X

y

m X

M r





) )(



• Hệ số tương quan đặc trưng cho sự phụ thuộc tuyến tính

• Tổng quát hệ số tương quan có giá trị trong giới hạn:

2.2 Phân tích hồi qui:

2.2.1 Khái niệm cơ bản:

- Sự phụ thuộc các đại lượng ngẫu nhiên được xác định bằng một hàm phân phối có điều

- Có thể hiểu diễn hàm mục tiêu dưới dạng.

 = f (x1, x2, …, xn)Trong đó:

x1(i = 1, 2…, n) là yếu tố biến thiên độc lập

- Hàm mục tiêu được biểu diễn dưới dạng đa

thức:

 = o + 1x1 + … + 12x1x2 + … + 11 + …

Trong đó 0, 1… là hệ số hồi qui được xác định bằng các ước lượng b0, b1, b2… qua các số liệu thí nghiệm

Phương trình hồi qui trên cơ sở thực nghiệm là ước lượng của hàm mục tiêu .

- Hiệu giữa giá trị thực nghiệm và giá trị tìm

được theo phương trình hồi qui của các thông

số tối ưu gọi là độ dư

- Nếu phương sai dư không đáng kể so với

phương sai tái hiện thì phương trình hồi qui

tương thức với các số liệu thực nghiệm

gần đúng với kỳ vọng toán học của thực

nghiệm.

- Bài toán xác định hệ số hồi qui là xác định cực tiểu của hàm nhiều biến bo, b1,

- Trong đó: yi – giá trị thực nghiệm

Y* = f (xo, bo, b1, …) giá trị tìm được theo phương trình hồi qui.

- Nếu Y* = f (x, bo, b1,…) là hàm khả vi thì điều kiện cực tiểu của  là.

min, )]

b,b,x(fy

i

1 o

Hoặc khai triển ra:

i i

b

f b

b x

i i

b

f b

b x

Sau khi biến đổi ta có hệ phương trình:

………

Hệ phương trình trên có bao nhiêu phương trình thì

phương trình hồi qui có bấy nhiêu hệ số được gọi là hệ phương trình chuẩn.

, ( , )

f b

, ( , )

f b

x

f

i

2.2.3 Một số dạng phương trình hồi qui:

- Tối ưu hóa phụ thuộc 1 biến số theo dạng hồi qui thực nghiệm

- Phương trình hồi qui tuyến tính:

- Phương trình hồi qui Parabon:

) (

^

x f

Y 

x b b

Y^  0  1

2 2

1 0

^

x b x

b b

- Phương trình hồi qui biểu diễn qua đa thức:

- Trong đó: Po(x), P1(x), PK(x) là đa thức trực giao trên các tập điểm X1, …, Xn;

- Phương trình hồi qui mũ và lũy thừa

) (

) ( )

( 1 10

0

^

x P

b x

P b x

P b

x

b b

Y^  0 1

1 0

^

b

x b

Y 

2.2.4 Phân tích hồi qui tuyến tính bội k.

- Nếu thông số tối ưu phụ thuộc vào k biến độc lập ta gọi là hồi qui tuyến tính k

Ví dụ:

Giả sử có n thí nghiệm với k biến độc lập

(x1, x2, …, xK)

Giả thiết:

1 Mỗi kết hợp x1, …, xk đại lượng y có

phân phối chuẩn

2 Phương sai không đổi

3 Sai số các phép đo biến độc lập không đáng kể.

4 Các biến x1, …, xk độc lập tuyến tính Ước lượng kết quả được tính bằng

x b x

b Y

Trong đó :  - nhiễu

Dạng ma trận của x thu được là:

Bố trí thí nghiệm sao cho

Trong đó: m, j = o,k ; m  j

n

K n

K K

x X

X x

x x

X

1

2 1

o

Ma trận cột của các thông số tối ưu hóa

Ma trận của các hệ số hồi qui

on o

T

x x

x

x X

1

1



Sau khi xác định được các hệ số của

phương trình hồi qui cần tiến hành kiểm định:

- Ý nghĩa của hệ số hồi qui

- Sự tương tích của phương trình hồi qui

* Kiểm định của các hệ số qui

Việc kiểm định ý nghĩa của các hệ số hồi qui được thực hiện theo tiêu chuẩn Student

Trong đó:

bj – Hệ số thứ J trong phương trình hồi qui

Sbj – sai số trong việc xác định của hệ số thứ j

j

b

j j

S b

* Nếu tj > tp (f) ảnh hưởng của yếu tố thứ j có ý nghĩa với thông số tối ưu hóa yi, hệ số bj được giữ lại.

* Nếu tj < tp (f) hệ số bj bị loại khỏi

phương trình hồi qui (p – mức ý

nghĩa, f – bậc tự do tái hiện)

* Kiểm định sự tương thích của phương

trình hồi qui:

Sự tương thích của phương trình hồi qui được kiểm định theo tiêu chuẩn Fisher

Trong đó:

- phương sai tương thích

- phương sai tái hiện

2

2

th

tts

s

MỘT SỐ PHƯƠNG PHÁP QUI HOẠCH THỰC NGHIỆM

3.1 Thực nghiệm yếu tố toàn phần:

- Những thực nghiệm mà mọi tổ hợp của các mức của các yếu tố đều được thực

nghiệm nghiên cứu gọi là thực nghiệm yếu

tố toàn phần (TYT).

- Có k yếu tố, mỗi yếu tố có n mức số thí nghiệm phải thực hiện là:

N = nk

- Nếu các thí nghiệm chỉ thực hiện ở hai mức thì N = 2k, hai mức ở giá trị biên của yếu tố được khảo sát.

- Nếu chọn thí nghiệm có một tâm đối

xứng ta có phương án cấu trúc có tâm.

- Xét yếu tố được ký hiệu là Zj ta có:

o j

Z Z

- Tiện cho tính toán ta chuyển sang hệ trục

không thứ nguyên nhờ chọn tâm của miền là gốc hệ trục tọa độ

Z

2

max

j j

j

Z

Z

Z X







Phương án thí nghiệm được viết dưới

dạng ma trận (TYT) 2 mức thí nghiệm, số biến độc lập k = 3 Số thí nghiệm được

thực hiện là:

N = 23 = 8 Phương án thí nghiệm và kết quả thí

nghiệm được trình bày trên bảng 1

Ma trận qui hoạch với biến ảo TYT 23

Ma trận qui hoạch đảm bảo tính trực giao.

Và

* Xác lập phương trình hồi qui

Nếu dùng phương trình hồi qui tuyến tính dưới dạng:

) k 0

j , u ,j u

( , 0 x

x

N

1 i

2 1

1 0

^

x b x

b x

b b

Theo phương pháp tính hệ số trong phương trình hồi qui:

Ma trận X T Xcó dạng:

Y X X

X b

b b

2 i 3 i

1 i 3 oi

i 3

i i i i

i 3 i 2

2 i 2 i

1 i 2 oi

i 2

i 3 i 1 i

i 2 i 1

2 i 1 oi

i 1

8 1

i i i

i 3 oi i

2 oi i

1 oi i

2 oi T

x x

x x

x x

x

x x x

x x x

x

x x x

x x

x x

x x x

x x

x x

X X

Từ tính chất trên ta có:

8

1 0

0 0

0 8

1 0

0

0

0 8

1 0

0 0

0 8

1

) X X (

; 8 0

0 0

0 8

0 0

0 0

8 0

0 0

0 8

i i 2

i i 1

i

i oi

T

y x

y x

y x

y x Y

X

i i

i i

i

i oi

T T

o

y x

y x

y x

y x

Y X X

X b

b b

b B

3 2

1 1

3 2 1

8

1 0 0

0

0 8

1 0

0

0 0

8

1 0

0 0

0 8

)

i ji

j x y N

8

383 1 339 1 292 1 232 1 586 1 239 1 122 1 296

Để xét mô hình đầy đủ hơn

Ma trận qui hoạch được mở rộng

3 2 23 3

1 13 2

1 12 3

3 2

2 1

1 0

^

x x b x

x b x

x b x

b x

b x

b b

Y x x b

N i

i i l j jl





) (

N

Y x x b

N i

i i





2 1 12

) (

625 ,

75 8

838 1 339 1 292 1 232 1 586 1 239 1 122 1 296 1

(

b

* Kiểm định tính ý nghĩa của các hệ số phương trình hồi qui

- Vì ma trận (XTX)-1 là ma trận đường chéo nên các hệ số độc lập với nhau

- Loại bỏ các hệ số không có nghĩa không ảnh hường đến hệ số còn lại

- Các hệ số kiểm định theo tiêu chuẩn Student (t)

- Mọi hệ số của phương trình được xác định với

độ chính xác

N s

s bj  th

- Do không làm thí nghiệm song song để xác định

phương sai tái hiện sth ta tiến hành làm 3 thí nghiệm ở tâm phương án nhận 3 giá trị theo bảng dưới:

2

300 3

293 312

295 3

109 1

3

3

1

2 4

440 ,

3 8

440 ,

Ý nghĩa của các hệ số được kiểm định theo tiêu chuẩn Student t

s

b

t | |

315 ,

84 69

, 3

125 ,

1 2

1

^

125 ,

67 625

, 75 125

, 63 625

, 34 125

,

* Kiểm định sự tương thích của phương trình hồi qui:

Sự tương tích của phương trình hồi qui được kiểm định bằng tiêu chuẩn Fisher.

s

F 

l N

y

y s

N i

i i

2018 3

3742 ,

18 109

791 ,

2018 2

f2 – bậc tự do phương sai tái hiện

1 p f1 f2

F

F  