Chương 7: Tương quan và hồi quy tuyến tính pdf

KHÁI NIỆM CHUNG Trong các chương trước chúng ta chỉ nghiên cứu các vấn đề liên quan đến mẫu ngẫu nhiên của một biến ngẫu nhiên X.. Trong phân tích hồi qui người ta lại xác định quan hệ

CHƯƠNG 7 TƯƠNG QUAN & HỒI QUI TUYẾN TÍNH

(Linear Correlation and Regression)

7.1 KHÁI NIỆM CHUNG

Trong các chương trước chúng ta chỉ nghiên cứu các vấn đề liên quan đến mẫu ngẫu nhiên của một biến ngẫu nhiên X Trong chương này, chúng ta quan tâm đến mẫu ngẫu nhiên bao gồm các cặp giá trị của hai biến ngẫu nhiên X và Y

Ví dụ

Để nghiên cứu về chiều cao và sức nặng của các em học sinh trong một trường, chúng ta lấy mẫu ngẫu nhiên gồm n học sinh và thu thập các số liệu về chiều cao và sức nặng của

n học sinh Gọi X là biến ngẫu nhiên để dư chiều cao của học sinh và Y là biến ngẫu nhiên chỉ sức nặng của học sinh Với n học sinh ta có n cặp giá trị (Yi , Xi)

X(m) x1 x2 x3 xi xn

Y(kg) y1 y2 y3 yi yn

Mục tiêu của chương này là nghiên cứu sự liên hệ giữa biến Y và X bằng sự phân tính

tương quan và hồi qui

Trong phân tích tương quan người ta đề cập đề cường độ của mối quan hệ giữa hai biến

Y và X, đánh giá xem hai biến Y và X có quan hệ với nhau hay không

Trong phân tích hồi qui người ta lại xác định quan hệ giữa hai biến Y và X dưới dạng phương trình toán học, từ đó ta có thể dự đoán được biến Y (biến phụ thuộc, dependent variable) dựa vào biến X (biến độc lập, independent variable)

Trong chương này, chúng ta cũng giới hạn chỉ nghiên cứu tương quan và hồi qui đơn

biến và tuyến tính, nghĩa là chỉ nghiên cứu trường hợp biến Y chỉ phụ thuộc vào 1 biến

X và dạng phương trình hồi qui là phương trình đường thẳng (khác với các tương quan và hồi qui bội và phi tuyến)

7.2 TƯƠNG QUAN TUYẾN TÍNH (Linear Correlation)

7.2.1 Đồ thị phân tán (Scatter Diagram)

Đồ thị phân tán của biến Y đối với biến X là tập hợp các điểm M(xi , yi) trong hệ tọa độ vuông góc

Dựa vào đồ thị phân tán ta có thể xác định được dạng quan hệ giữa 2 biến Y và X

7.2.2 Tương quan tuyến tính (Linear Correlation)

Trong đồ thị phân tán, nếu các điểm M(xi , yi) qui tụ xung quanh một đường thẳng (D) ta nói hai biến ngẫu Y và X có một sự tương quan tuyến tính Đường thẳng (D) được gọi là đường hồi qui tuyến tính (đường hòa hợp thẳng)

7.2.3 Hệ số tương quan ρ của tập hợp chính (The Population Correlation Coefficient)

Gọi X, Y là cặp giá trị của các biến ngẫu nhiên với số trung bình là µx , µy và phương sai là σx2, σy2 Để đo lường mức độ quan hệ giữa X và Y người ta dùng đại lượng hiệp

tượng quan (covariance) và hệ số tương quan (correlation coefficent)

7.2.3.1 Hiệp tương quan (Covariance)

σX,Y = Cov(X,Y) = E [(x - µx)(y - µy)]

σ

xy

i x i y i

N

Cov X Y

N

=

∑

( , )

7.2.3.2 Hệ số tương quan của tập hợp chính

ρ

σ σ

=Corr X Y = Cov X Y

x y ( , ) ( , )

σ σ

x y

µ

σ

µ

x

x i

N

y

i ii i

N

x N y N

2

1

2

2 1

=

−

=

−

=

=

∑

∑

hay

Y

Y

X Y

(D)

ρ µ µ

ρ

=

−

=

=

∑

∑

∑

i N

i

N

i N

1 1

1 1

Tính chất

- 1 ≤ ρ ≤ 1

• ρ = + 1 : X, Y tương quan tuyến tính dương tuyệt đối

• ρï = - 1 : X, Y tương quan tuyến tính âm tuyệt đối

• ρï = 0 : X, Y không tương quan tuyến tính

7.2.4 Hệ số tương quan r của mẫu

7.2.4.1 Hiệp tương quan của mẫu (Sample Covariance)

1 n

y y x

x Y

X Cov

n 1

i i Y

−

−

∑

=

) , (

,

7.2.4.2 Hệ số tương quan của mẫu r (Sample Correlation Coefficient)

r S

S S

XY

X Y

=

−

r

i i

n

i

i i

n

i i n

=

=

∑

1

1

2 1

2

hay

r

x y nx y

x nx y ny

i i i n

i i

n

i i n

=

−

−















 −

















=

∑

1

2 1

2

2 1

2

Ghi Chú

• -1 ≤ r ≤ 1

• r được dùng để ước lượng hướng và độ mạnh của mối quan hệ giữa X,Y

r > 0.8 tương quan mạnh

r = 0.4 - 0.8 tương quan trung bình

r càng lớn thì tương quan giữa X và Y càng chặt

r > 0 hướng TN - ĐB, r < 0 hướng TB - ĐN

0 < r ≤ 1 : gọi là tương quan tuyến tính thuận (X↑, Y↑)

-1 ≤ r ≤ 0 : gọi là tương quan tuyến tính nghịch (X↑, Y↓)

• r là ước lượng của ρ

Ví dụ

Tính hệ số tương quan giữa 2 biến X, Y cho bởi bảng tương quan sau:

X 0 1 2 3 4

Y 6 7 8 9 4

Giải

Số phần tử của mẫu n = 5

xi yi (xi - x ) (yi - y ) (xi - x )2 (yi - y )2 (xi - x )(yi- y )

0

1

2

3

4

6

5

7

8

4

-2 -1

0

1

2

0 -1

1

2 -2

4

1

0

1

4

0

1

1

4

4

0

1

0

2 -4

x = 10 =

5 2 y = =

30

1 0 10 10

1 y

y x

x

y y x

x r

2 5

1

2 5

1

i 5

1

) ( ) (

) ( ) (

−

=

×

−

=

×

−

∑

−

⋅

=

=

=

=

r = -0.1 tương quan yếu

7.2.5 Kiểm định giả thuyết về ρ

Nếu chúng ta muốn kiểm định giả thuyết cho rằng các biến không có tương quan tuyến tính thì ta phải kiểm định giả thuyết H0: ρ = 0 Ta có 3 trường hợp:

Trường hợp 1

H0 : ρ = 0

H1 : ρ ≠ 0

R : bác bỏ H0 nếu tn-2 < - tn - 2, α/2

hay tn-2 > tn-2,α/2

Với

) /(

) (1 r n 2

r t

2 2

n

−

−

=

−

r: hệ số tương quan của mẫu

tn-2: tuân theo phân phối Student t với độ tự do n-2

Trường hợp 2

H0 : ρ = 0

H1 : ρ > 0

R : bác bỏ H0 nếu tn-2 > - tn - 2, α

Trường hợp 3

H0 : ρ = 0

H1 : ρ < 0

R : bác bỏ H0 nếu tn-2 < - tn - 2, α

Ví dụ

Lấy mẫu ngẫu nhiên 2 biến X và Y ta có các giá trị (xi, yi) cho bởi bảng sau:

X 13 18 9 25 36 19

Y 70 55 100 40 15 20 a) Tìm hệ số tương quan giữa 2 biến X, Y

b) Kiểm định giả thuyết cho rằng biến giữa X và Y không tương quan, với α = 0.05

Giải

a) Tính r

yI xi yx2 xi2 xiyi

70

55

100

40

15

20

13 18 9 25 36 19

4900 3025 10000 1600 225 400

169

324

81

625

1296

361

910 991 900 1000 540 380

5

1 y x n y x 1 n

1 S

1030 5

5150 50

6 20150 5

1 y n y 1 n

1 S

2 91 5 456 20

6 2856 5

1 x n x 1 n

1 S

20 6

120 n

x x

50 6

300 n

y y

6 1

i i i XY

2 2

6 1 i

2 i

2

y

2 2

6 1 i

2 i

2

X

i i

−

=

−

=

−

=











∑ − ⋅

−

=

=

=

−

=











∑ −

−

=

=

=

−

=











∑ −

−

=

=

=

∑

=

=

=

∑

=

=

=

=

/

*

*

/

*

/

Hệ số tương quan:

r S

S S

XY

X Y

= = −256 = −

91 2 1030 * 0 835. tương quan mạnh b) Kiểm định giả thuyết:

1 H0 : ρ = 0

2 H1 : ρ ≠ 0

n = 6 => n - 2 = 4

tn -2, α/2 = t4, 0.025 = 2.776

- tn - 2 , α/2 = -2.776

4 r = -0.835

n−

−

− −

0 835

tn -2 = - 3.03

5 Ra quyết định

tn - 2 = - 3.03 < - tn -2, α/2 = -2.776

=> Bác bỏ H0

Giữa 2 biến Y và X có tương quan nghịch

7.3 HỒI QUI TUYẾN TÍNH ĐƠN GIẢN (Simple Linear Regression)

7.3.1 Khái niệm cơ bản về hồi qui tuyến tính đơn giản

7.3.1.1 Mô hình hồi qui tuyến tính đơn giản (Simple Linear Regression Model)

Để mô hình hóa quan hệ tuyến tính trong đó diễn tả sự thay đổi của biến Y theo biến X cho trước người ta sử dụng mô hình hồi qui tuyến tính đơn giản

Mô hình hồi qui tuyến tính đơn giản có dạng sau:

Y i = A + BX i + e i (mô hình hồi qui tuyến đơn giản Y theo X)

• Yi : Giá trị của biến phụ thuộc Y trong lần quan sát thứ i

• Xi : Giá trị của biến độc lập X trong lần quan sát thứ i

• ei : Giá trị đối với sự dao động ngẫu nhiên hay sai số trong lần quan sát thứ i

• A : là thông số diễn tả tung độ gốc của đường hồi qui của tập hợp chính, hay A là giá trị trung bình của biến phụ thuộc Y khi biến độc lập X thay đổi 1 đơn vị

• B : là thông số diễn tả độ dốc của đường hồi qui của tập hợp chính, hay B diễn tả sự thay đổi của giá trị trung bình của biến phụ thuộc Y khi biến độc lập X thay đổi 1 đơn vị

7.3.1.2 Phương trình hồi qui tuyến tính đơn giản của tập hợp chính

(Population Simple Linear Regression Equation)

Là phương trình diễn tả giá trị trung bình của biến phụ thuộc Y theo biến độc lập X đã biết

µY/ X = A + BX

7.3.1.3 Phương trình hồi qui tuyến tính đơn giản của mẫu

Chúng ta có thể ước lượng các tham số (A,B) của phương trình hồi qui tuyến tính đơn giản của tập hợp chính bằng cách sử dụng số liệu của mẫu ngẫu nhiên thu thập được Dựa vào số liệu của mẫu ta có phương trình hồi qui tuyến tính đơn giản của mẫu

Y∧ = a + bX

Trong đó:

• Y∧ là ước lượng của giá trị trung bình của Y đối với biến X đã biết

• a: là ước lượng của A

• b là ước lượng của B

Ghi chú

• Phương trình hồi qui của Y theo X khác phương trình hồi qui của X theo Y

• Nếu X đổi mà Y không đổi => Y và X không có tương quan

Y

X Dựa vào phương trình hồi qui ta có thể tự đoán Y khi biết X

7.3.2 Xác định dốc và tung độ gốc của đường hồi qui tuyến tính

Dựa vào số hiệu của mẫu ta có phương trình hồi qui của Y theo X có dạng:

Y∧ = a + bX Trong thống kê, để xác định tung độ gốc a và độ dốc b người ta thường sử dụng phương pháp bình phương tối thiểu (least squared method)

i

n

i

i

n

i i

n

∧

=

∧

1

2

1

2 1

2

Y

b

1

Y∧ i

Yi êi = Yi - Y∧ i

a

Trong phương pháp bình phương tối thiểu ta có:

i

n ∧

=

1

Để tìm cực tiểu ta cần giải hệ phương trình:

∂

∂

∂

∂

a Y a bX

b Y a bX

i n

i i

n

i

− − =

− − =

=

=

∑

∑

2 1

1

2

0 0

Giải hệ phương trình ta có:

b

x x y y

x x

x y nxy

x nx

a y bx

i i i

n

i i n

i i i n

i a i n

=

− −

−

=

−

−

= −

=

=

=

=

∑

∑

∑

∑

1

2

1

1

1

2

Người ta chứng minh được rằng a, b là những ước lượng không chệch và vững của A,B

Đường thẳng Y∧ = a + bX được gọi là đường hồi qui thực nghiệm

Đường thẳng Y∧ = A + BX được gọi là đường hồi qui lý thuyết

Ví dụ

Tìm đường hồi qui thực nghiệm của y theo x cho bời bảng tương quan sau:

xi 1 2 3 4 5

yi 2 5 4 3 6

Giải

Gọi phương trình đường hồi qui là y = a + bx => xác định a, b

1

2

3

4

5

2

5

4

3

6

1

4

9

16

25

2

10

12

12

30

=

20 4

x y nxy

x nx

a y bx

i i i

i i

n

=

−

−

= −

− = =

= − = − =

=

=

∑

∑

1

5

2 1

66 5 3 4

55 5 3

6

10 0 6

4 0 6 3 2 2

* *

*

Phương trình đường hồi qui thực nghiệm là

y = 0.6x + 2.2