Tài liệu hạn chế xem trước, để xem đầy đủ mời bạn chọn Tải xuống
1
/ 32 trang
THÔNG TIN TÀI LIỆU
Thông tin cơ bản
Định dạng
Số trang
32
Dung lượng
653 KB
Nội dung
01/16/14 1
tham số giải thích của mô hình
biến nội suy
biến ngoại suy
biến ngẫu nhiên
E(ε)
Var(ε)
tham số ẩn
của mô hình
ikikiii
xxxy
εββββ
+++++=
ˆ
ˆˆˆ
33221
mô hình hồi quy tuyến tính bội
01/16/14 2
Mô hình hồi qui tổng thể
Mô hình hồi qui mẫu
Theo dạng thông thường
Theo dạng ma trận
Dạng kỳ vọng
Dạng ngẫu nhiên
Mô hình hồi qui bội
Thế nào là mô hình hồi qui bội?
Mô hình hồi qui bội là mô hình trong
đó biến phụ thuộc phụ thuộc vào ít
nhất hai biến giải thích.
Dạng mô hình
01/16/14 3
mô hình hồi quy tuyến tính bội
Dạng biểu thức đầu tiên của mô hình :
y : biến mà giá trị quan sát là y
t
∀i, i = 1, ,n,
x
ki
: biến mà giá trị quan sát là x
it
β
1
, β
2
, . . .,β
κ
là những
tham số chưa biết
tham số chưa biết
ε
i
: sai số
Mục tiêu : ước lượng những tham số
Mục tiêu : ước lượng những tham số β
1
, β
2
, . . .,β
κ
với i = 1, ,n
ikikiii
xxxy
εββββ
+++++=
ˆ
ˆˆˆ
33221
01/16/14 4
n,1iXX)XY(E
kiki221i
=∀β++β+β=
Hay
n,1i uXXY
ikiki221i
=∀+β++β+β=
Hay được biểu diễn một cách tường minh như sau
+β++β+β=
+β++β+β=
+β++β+β=
nknkn221n
22kk22212
11kk21211
uXXY
uXXY
uXXY
Giả sử ta có n quan sát và mỗi quan sát gồm k trị số (Y
i
,X
2i
X
ki
)
Mô hình hồi qui tổng thể theo dạng thông
thường
niXXXYE
kikii
,1)(
221
=∀+++=
βββ
niXXY
ikikii
,1
221
=∀++++=
εβββ
++++=
++++=
++++=
nknknn
kk
kk
XXY
XXY
XXY
εβββ
εβββ
εβββ
221
2222212
1121211
01/16/14 5
Ví dụ :
Investment = β
1
+ β
2
.
GNP + β
3
. CPI + β
4
Rate+ ε
01/16/14 6
mô hình hồi quy tuyến tính bội
Dạng biểu thức thứ hai của mô hình :
Biểu thức ma trận
=
=
=
=
n
i
k
i
knnn
kiii
k
k
n
i
xxx
xxx
xxx
xxx
X
y
y
y
y
Y
ε
ε
ε
ε
ε
β
β
β
β
β
;
;
1
1
1
1
;
2
1
2
1
32
32
23222
13121
2
1
( ) ( ) ( ) ( )
1,1,,1, nkkn
X
n
Y
εβ
+=
01/16/14 7
Ví dụ :
Y =
X =
β =
β
1
β
2
β
3
β
4
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
01/16/14 8
!
!
Có thể nói những vec tơ và ma trận của mô hình là
những biến.
Về nguyên tắc chung, X
pt
= 1, ∀t, t=1, ,T. biến X
k
là hằng số.
ước lượng tham số
ước lượng tham số
β
β
1
1
,
,
β
β
2
2
,…
,…
β
β
k
k
có thể được thực hiện bằng phương pháp BPBN
có thể được thực hiện bằng phương pháp BPBN
Mô hình hồi quy tuyến tính bội
01/16/14 9
Nguyên tắc hình học của phương pháp bình phương tối thiểu
x
1
x
2
y
y
i
β
1
x
1i
+ β
2
x
2i
Sum e
2
Nhỏ nhất
Nhỏ nhất
có thể
có thể
PYTHAGORE
PYTHAGORE
Mô hình hồi quy tuyến tính bội
01/16/14 10
giả thiết của mô hình
[H1] : X
1
,…X
k
là những biến được đo chính xác, có nghiã là quan sát không sai số.
[H2] : ∀t, t=1, ,T, ε
τ
là một biến ngẫu nhiên là kỳ vọng toán học E(ε) = 0 và
phương sai Var(ε) = σ
2
(ε)
[H3] : ∀i, ∀i ’, i¹i ’, ε
ι
và ε
ι’
là những biến ngẫu nhiên độc lập về xác suất
[H4] : ∀i, ε
ι
tuân theo quy luật phân phối chuẩn, Sai số tuân theo N(0, σ
2
)
[H6] : đầu tiên ta không có tý thông tin nào về những tham số β
1
, β
2
,…, β
κ
Mô hình hồi quy tuyến tính bội
[H5]1/n(X’X)->M ở đây M là ma trận không suy biến
[...]... 11.289098 MAE= 8.200200 DurbWat= 1.917 01/16/14 20 Mô hình hồi quy tuyến tính bội ước lượng những tham số - 3 ước lượng σ 2(ε ) ˆ ˆ Y = Xa Từ ước lượng a, ta có thể tính được ước lượng Y : Sai số có thể được ước lượng bởi : ( e = I −X (X ' X ) ˆ e = Y −Y = Xβ + e − Xβ n 2 i =1 i ∑e ( ) 1 ˆ σ (ε ) = Từ đó có thể ước lượng được: n −k 2 01/16/14 n 2 i =1 i ∑e 21 ) X'ε n 2 E ∑e = σ 2 ( e ) ' ( n... = e' I − X ( X ' X ) X ' e −1 −1 Mô hình hồi quy tuyến tính bội ước lượng những tham số - 4 ˆ Æåïc læåüng Ω βˆ ước lượng có thể bởi ước lượng σ2(ε) và bởi công thức Ω βˆ = σ 2 ( ε )( X ' X ) −1 ˆ ˆ = σ 2 ( X ' X ) −1 ˆε Ωβ ước lượng không chệch của ma trận hiệp phương sai 01/16/14 22 Mô hình hồi quy tuyến tính bội ước lượng những tham số - 5 Quy luật phân phối xác suất Theo giả thiết [H4], ta... hình hồi quy tuyến tính bội ước lượng những tham số Phương pháp bình phương tối thiểu y Tìm giá trị những tham số để có S nhỏ nhất: yi n εi Min∑ et2 = Mine' e = Min( Y − Xβ ) ( Y − Xβ ) = MinS ' t =1 x2 β 1x1i+ β 2x2i x1 01/16/14 18 Mô hình hồi quy tuyến tính bội ước lượng những tham số - 2 Kết quả của phương pháp bình phương tối thiểu ˆ = ( X ' X ) −1 X ' Y ⇒β Ước lượng bằng phương pháp bình phương... phương pháp bình phương tối thiểu : Người ta chứng minh : Ω βˆ = σ ε ( X ' X ) 2 −1 có phương sai nhỏ nhât : đó là ước lượng BLUE (Best Linear Unbiased Estimator) là một đó là ước lượng hội tụ của β nhưng σ 2(ε ) là chưa biết 01/16/14 19 Ví dụ : Mô hình hồi quy tuyến tính bội ước lượng những tham số Model fitting results for: EXECO.Investment -Independent variable... β k ( ˆ β i ~ N β i , σ βˆ Ơí đây Mii là thành phần ở vị trí thứ I ở đường chéo chính của ma trận ˆ βi − β 01/16/14 ˆ σ βˆ i = t *β i 23 Ω βˆ i i ) Mô hình hồi quy tuyến tính bội ước lượng những tham số - 6 Luật phân phối đã biết Tính Khoảng tin cậy Khoảng tin cậy đối với β i [βˆ − t * i α /2 ˆ ˆ ˆ σ βˆ ; β i + t *α / 2 σ βˆ i i ] Khoảng tin cậy đối với σ 2(ε) ( n − k ) (n − k) σ... /( n − k ) ( ) Xem trong bảng phân phối Fisher của Fα tương ứng với mức α So sánh F* và Fa F* < Fα F* ≥ Fα 01/16/14 (H0) được chấp nhận (H0) bị bác bỏ 30 mô hình hồi quy tuyến tính bội dự báo - 1 vì dữ liệu những giá trị, được giả sử đã biết, những biến ngoại suy đối với một giá trị θ t người ta có thể dự đoán giá trị tương ứng X? Soit : biến ngẫu nhiên dùng để dự đoán la valeur X ă θ sai số dự báo là: . chưa biết
tham số chưa biết
ε
i
: sai số
Mục tiêu : ước lượng những tham số
Mục tiêu : ước lượng những tham số β
1
, β
2
, . . .,β
κ
với i = 1, ,n
ikikiii
xxxy
εββββ
+++++=
ˆ
. nguyên tắc chung, X
pt
= 1, ∀t, t=1, ,T. biến X
k
là hằng số.
ước lượng tham số
ước lượng tham số
β
β
1
1
,
,
β
β
2
2
,…
,…
β
β
k
k
có thể được thực