tính toán ước lượng bằng phương pháp bình phương tối thiểu (ols)

1 Tính toán ước lượng bằng phương pháp Bình phương tối thiểu (OLS) 2 Ordinary Least Square (OLS) Phương pháp bình phương tối thiểu [Ví dụ trước] Xem xét 5 quan sát X Y 2 3 3 6 4.5 8 5.5 10 7 11  Mục đích là tìm kiếm đường thẳng “tốt nhất” của mô hình tuyến tính : tìm kiếm β 1 _hat, β 2 _hat Y i = β 1 + β 2 X 2i + e i 3 Ví dụ [Ví dụ trước] Xem xét 5 quan sát X Y 2 3 3 6 4.5 8 5.5 10 7 11 xác định β 1 _hat and β 2 _hat. 4 Định nghĩa hàm hồi quy ngẫu nhiên sai số giá trị dự báo, hồi quy mẫu hệ số ước lượng e i số dư giá trị quan sát β ˆ ii xy 221 ˆˆ ˆ ββ += iii xy εββ ++= 221 iii exy ++= 221 ˆˆ ββ i ε iiiii eyexy +=++= ˆ ˆˆ 221 ββ 5  ý tưởng cơ bản tối thiểu tổng của bình phương độ lệch. ∑ = = n i i eRSS 1 2 [ ] ( ) 2 1 221 ˆˆ ∑ = +−= n i ii xyRSS ββ iiiii eyexy +=++= ˆ ˆˆ 221 ββ 6 Bài toán tối thiểu*  Vi phân của hàm mục tiêu F.O.C w.r.t. β 1 → w.r.t. β 2 → 7  Giải hệ ta được:  Ta được hệ phương trình chuẩn: 8 Ước lượng OLS  Công thức ước lượng OLS của β 1 and β 2  β 2 _hat = Cov(X,Y) / Var(X) β 1 _hat = Y_mean - β 2 _hat * X_mean ( )( ) ( ) 2 1 2 1 1 2 1 2 ˆ xnx yxnyx xx yyxx n i n i ii n i i i n i i i − − = − −− = ∑ ∑ ∑ ∑ = = = = β xy 21 ˆˆ ββ −= 9 Hệ quả  Trong hồi quy đơn, dấu của β 2 _hat = dấu của hệ số tương quan giữa X và Y.  Mọi đường thẳng hồi quy đều đi qua giá trị trung bình (X_mean, Y_mean), nếu hằng số được đưa vào.  Mọi tổng của số dư luôn luôn là zero, nếu hằng số được đưa vào.  Ước lượng OLS của β 1 and β 2 là ƯL tốt nhất (không chệch và hội tụ)  Khác 10 Đặc điểm 1 ˆ 11 ˆ ˆ β σ ββ − ( ) ( ) ∑ − = n i i xx Var 2 2 2 ˆ ε σ β ( ) ( )             − += ∑ n i i xx x n Var 2 2 2 1 1 ˆ ε σβ [...]... tắt  Để tính hồi quy làm thế nào  β1_hat, R2, t-stat, and etc  Sử dụng Excel, SPSS như thế nào  Sử dụng R2  Ý nghĩa nó thế nào  đặc điểm nó thế nào: sử dụng ra sao 27  Khi thêm biến  R -bình phương ln ln tăng  RSS ln ln giảm  Đo lường để chọn lọc mơ hình  Adjusted R -bình phương  AIC or BIC 28 Mơ hình hồi quy tuyến tính đơn kiểm định giả thiết - 3 Kiẻm định sự phù hợp của mơ hình Tính tốn... n ∑( y i =1 i − yi ) 2 RSS = 1− TSS R2 = 2 i ( yi − y ) 2 ∑ˆ t ∑( y i − y) 2 i R2 ≈ 1 : phương sai của biến x được giải thích hồn tồn bởi mơ hình R2 ≈ 0 : phương sai của biến x khơng được giải thích hồn tồn bởi mơ hình Kiểm định độ phù hợp của mơ hình 11/23/14 17 Bảng phân tích phương sai 18  Đặc điểm của R -bình phương  R2 ln ln tăng khi thêm biến giải thích F-test* được xây dựng trên cơ sở của đặc... ) 2 ∑ˆ t ( y i − yi ) 2 ∑ i  R = ESS / TSS = 1 - RSS / TSS  Đo lường sự phù hợp của dữ liệu với mơ hình  R2 cho biết tỷ lệ mà mơ hình được giải thích bởi ước lượng đường thẳng hồi quy; 0 . 1 Tính toán ước lượng bằng phương pháp Bình phương tối thiểu (OLS) 2 Ordinary Least Square (OLS) Phương pháp bình phương tối thiểu [Ví dụ trước] Xem xét 5 quan sát X. ) 2 1 221 ˆˆ ∑ = +−= n i ii xyRSS ββ iiiii eyexy +=++= ˆ ˆˆ 221 ββ 6 Bài toán tối thiểu*  Vi phân của hàm mục tiêu F.O.C w.r.t. β 1 → w.r.t. β 2 → 7  Giải hệ ta được:  Ta được hệ phương trình chuẩn: 8 Ước lượng OLS  Công thức ước lượng OLS của. mẫu hệ số ước lượng e i số dư giá trị quan sát β ˆ ii xy 221 ˆˆ ˆ ββ += iii xy εββ ++= 221 iii exy ++= 221 ˆˆ ββ i ε iiiii eyexy +=++= ˆ ˆˆ 221 ββ 5  ý tưởng cơ bản tối thiểu tổng của bình phương