ước lượng các tham số của biến ngẫu nhiên

Chương 7: ƯỚC LƯỢNG CÁC THAM SỐ CỦA BIẾN NGẪU NHIÊN Giả sử đã biết quy luật phân phối xác suất của biến ngẫu nhiên X song chưa biết tham số θ nào đó của nó. Vấn đề đặt ra là phải xác định một cách gần đúng θ (ước lượng). Có 2 phương pháp để ước lượng: Ước lượng điểm: Dùng một giá trị để thay thế cho tham số cần ước lượng. Ước lượng bằng khoảng tin cậy: Chỉ ra một khoảng chứa tham số đó với một xác suất cho trước. Chương 7: ƯỚC LƯỢNG CÁC THAM SỐ CỦA BIẾN NGẪU NHIÊN Giả sử đã biết quy luật phân phối xác suất của biến ngẫu nhiên X song chưa biết tham số θ nào đó của nó. Vấn đề đặt ra là phải xác định một cách gần đúng θ (ước lượng). Có 2 phương pháp để ước lượng: Ước lượng điểm: Dùng một giá trị để thay thế cho tham số cần ước lượng. Ước lượng bằng khoảng tin cậy: Chỉ ra một khoảng chứa tham số đó với một xác suất cho trước. Chương 7: ƯỚC LƯỢNG CÁC THAM SỐ CỦA BIẾN NGẪU NHIÊN Giả sử đã biết quy luật phân phối xác suất của biến ngẫu nhiên X song chưa biết tham số θ nào đó của nó. Vấn đề đặt ra là phải xác định một cách gần đúng θ (ước lượng). Có 2 phương pháp để ước lượng: Ước lượng điểm: Dùng một giá trị để thay thế cho tham số cần ước lượng. Ước lượng bằng khoảng tin cậy: Chỉ ra một khoảng chứa tham số đó với một xác suất cho trước. PHƯƠNG PHÁP ƯỚC LƯỢNG ĐIỂM Để ước lượng tham số θ của X (tổng thể), người ta xuất phát từ tham số ˆ θ tương ứng của mẫu sao cho ˆ θ mang nhiều thông tin nhất về θ, để có thể xấp xỉ θ một cách tốt nhất (dùng một tham số của mẫu thay cho một tham số chưa biết của tổng thể). Có hai phương pháp ước lượng điểm: Phương pháp hàm ước lượng Phương pháp ước lượng hợp lý tối đa PHƯƠNG PHÁP ƯỚC LƯỢNG ĐIỂM Để ước lượng tham số θ của X (tổng thể), người ta xuất phát từ tham số ˆ θ tương ứng của mẫu sao cho ˆ θ mang nhiều thông tin nhất về θ, để có thể xấp xỉ θ một cách tốt nhất (dùng một tham số của mẫu thay cho một tham số chưa biết của tổng thể). Có hai phương pháp ước lượng điểm: Phương pháp hàm ước lượng Phương pháp ước lượng hợp lý tối đa PHƯƠNG PHÁP ƯỚC LƯỢNG ĐIỂM Để ước lượng tham số θ của X (tổng thể), người ta xuất phát từ tham số ˆ θ tương ứng của mẫu sao cho ˆ θ mang nhiều thông tin nhất về θ, để có thể xấp xỉ θ một cách tốt nhất (dùng một tham số của mẫu thay cho một tham số chưa biết của tổng thể). Có hai phương pháp ước lượng điểm: Phương pháp hàm ước lượng Phương pháp ước lượng hợp lý tối đa Phương pháp hàm ước lượng Khái niệm Lập mẫu ngẫu nhiên : W = (X 1 , X 2 , . . . , X n ). Chọn lập thống kê: G = f (X 1 , X 2 , , X n ) đặc trưng tương ứng với θ. Định nghĩa Thống kê G được gọi là hàm ước lượng của θ nếu f (x 1 , , x n ) ≈ θ với mọi mẫu cụ thể w = (x 1 ,. . . , x n ). Chú ý: Có vô số cách chọn thống kê để có thể dùng làm ước lượng của θ. Vì vậy cần đưa ra các tiêu chuẩn để đánh giá chất lượng thống kê: Ước lượng không chệch Ước lượng hiệu quả Ước lượng vững Phương pháp hàm ước lượng Khái niệm Lập mẫu ngẫu nhiên : W = (X 1 , X 2 , . . . , X n ). Chọn lập thống kê: G = f (X 1 , X 2 , , X n ) đặc trưng tương ứng với θ. Định nghĩa Thống kê G được gọi là hàm ước lượng của θ nếu f (x 1 , , x n ) ≈ θ với mọi mẫu cụ thể w = (x 1 ,. . . , x n ). Chú ý: Có vô số cách chọn thống kê để có thể dùng làm ước lượng của θ. Vì vậy cần đưa ra các tiêu chuẩn để đánh giá chất lượng thống kê: Ước lượng không chệch Ước lượng hiệu quả Ước lượng vững Phương pháp hàm ước lượng Khái niệm Lập mẫu ngẫu nhiên : W = (X 1 , X 2 , . . . , X n ). Chọn lập thống kê: G = f (X 1 , X 2 , , X n ) đặc trưng tương ứng với θ. Định nghĩa Thống kê G được gọi là hàm ước lượng của θ nếu f (x 1 , , x n ) ≈ θ với mọi mẫu cụ thể w = (x 1 ,. . . , x n ). Chú ý: Có vô số cách chọn thống kê để có thể dùng làm ước lượng của θ. Vì vậy cần đưa ra các tiêu chuẩn để đánh giá chất lượng thống kê: Ước lượng không chệch Ước lượng hiệu quả Ước lượng vững Phương pháp hàm ước lượng Khái niệm Lập mẫu ngẫu nhiên : W = (X 1 , X 2 , . . . , X n ). Chọn lập thống kê: G = f (X 1 , X 2 , , X n ) đặc trưng tương ứng với θ. Định nghĩa Thống kê G được gọi là hàm ước lượng của θ nếu f (x 1 , , x n ) ≈ θ với mọi mẫu cụ thể w = (x 1 ,. . . , x n ). Chú ý: Có vô số cách chọn thống kê để có thể dùng làm ước lượng của θ. Vì vậy cần đưa ra các tiêu chuẩn để đánh giá chất lượng thống kê: Ước lượng không chệch Ước lượng hiệu quả Ước lượng vững [...].. .Ước lượng không chệch Ước lượng không chệch Định nghĩa Thống kê G của mẫu được gọi là ước lượng không chệch của tham số θ của biến ngẫu nhiên gốc X nếu E(G) = θ Nếu E (G ) = θ, G được gọi là ước lượng chệch của θ Ước lượng không chệch Định nghĩa Thống kê G của mẫu được gọi là ước lượng không chệch của tham số θ của biến ngẫu nhiên gốc X nếu E(G) = θ Nếu E (G ) = θ, G được gọi là ước lượng chệch của. .. một ước lượng không chệch của θ thì điều kiện để nó là ước lượng vững là: lim V (G ) = 0 n→∞ Ước lượng vững Ví dụ Theo luật số lớn của Trêbưsep và luật số lớn của Bernoulli ta suy ¯ ra trung bình mẫu X và tần suất mẫu f lần lượt là ước lượng vững của µ và p của biến ngẫu nhiên gốc X Các kết luận của phương pháp hàm ước lượng Các kết luận của phương pháp hàm ước lượng ¯ Trung bình mẫu X là ước lượng. .. ˆ ˆ x1 , , xn , θ < 0 thì θ ước lượng hợp lý tối đa của Phương pháp ước lượng hợp lý tối đa Ví dụ Tìm ước lượng hợp lý tối đa của tham số θ của biến ngẫu nhiên X có hàm mật độ xác suất: f (x) = θe −θx , ∀x Phương pháp ước lượng hợp lý tối đa Ví dụ Tìm ước lượng hợp lý tối đa của tham số θ của biến ngẫu nhiên X có hàm mật độ xác suất: f (x) = θe −θx , ∀x Giải Lập mẫu ngẫu nhiên W = (X1 , , Xn ) n Hàm... hơn nữa V (X n ¯ Crammer - Rao) do đó X là ước lượng hiệu quả của µ ES 2 = σ 2 ; V (S 2 ) = min→ S2 là ước lượng không chệnh của σ 2 nhưng không là ước lượng hiệu quả X ∼ A(p) f là ước lượng hiệu quả của p vì E (f ) = p và V (f ) = p(p−1) = min n Ước lượng vững Ước lượng vững Định nghĩa Thống kê G của mẫu được gọi là ước lượng vững của tham số θ của biến ngẫu nhiên gốc X nếu G hội tụ theo xác suất đến... )) Ước lượng hợp lý tối đa của µ là X (giáo trình) PHƯƠNG PHÁP ƯỚC LƯỢNG BẰNG KHOẢNG TIN CẬY PHƯƠNG PHÁP ƯỚC LƯỢNG BẰNG KHOẢNG TIN CẬY Khái niệm Ước lượng kỳ vọng toán của biến ngẫu nhiên phân phối chuẩn Ước lượng phương sai của biến ngẫu nhiên phân phối chuẩn Ước lượng kỳ vọng toán của biến ngẫu nhiên phân phối không - một ... X là ước lượng không chệch của kỳ vọng toán µ E(f) = p → tần suất mẫu f là ước lượng không chệch của xác suất biến ngẫu nhiên gốc p E (S 2 ) = σ 2 ; E (S ∗2 ) = σ 2 → S 2 và S ∗2 là ước lượng không chệch của σ 2 Ước lượng không chệch Ví dụ Giả sử X ∼ N(µ,σ 2 ) Lấy mẫu W=(X1 , , X6 ) X1 = X1 + X3 + X5 3 ; X2 = X2 + 2X4 + 3X6 ; 6 ¯ ¯ a) X1 , X2 có là ước lượng không chệch của µ b) Trong 2 ước lượng. .. bình mẫu X là ước lượng không chệch, hiệu quả, vững của trung bình tổng thể µ Tần suất mẫu f là ước lượng không chệch, hiệu quả, vững của tần suất tổng thể p Phương sai mẫu S2 và S∗2 là ước lượng không chệch của phương sai tổng thể σ 2 Phương pháp ước lượng hợp lý tối đa Phương pháp ước lượng hợp lý tối đa Giả sử cần ước lượng tham số θ của biến ngẫu nhiên gốc X có hàm mật độ xác suất f(x, θ) Định nghĩa... không chệch của µ Ước lượng không chệch Ví dụ b) ¯ V ( X1 ) = 1 σ2 1 14σ 2 ¯ · 3σ 2 = ; V (X2 ) = (σ 2 + 4σ 2 + 9σ 2 ) = 9 3 36 36 ¯ ¯ ¯ ¯ ⇒ V (X1 ) < V (X2 ) ⇒ X1 có phương sai nhỏ hơn X2 Ước lượng hiệu quả Ước lượng hiệu quả Định nghĩa Thống kê G của mẫu được gọi là ước lượng hiệu quả của tham số θ của bnn gốc X nếu nó là ước lượng không chệch và có phương sai nhỏ nhất so với mọi ước lượng không... mọi ước lượng không chệch khác được xây dựng trên cùng mẫu đó Ước lượng hiệu quả Định nghĩa Thống kê G của mẫu được gọi là ước lượng hiệu quả của tham số θ của bnn gốc X nếu nó là ước lượng không chệch và có phương sai nhỏ nhất so với mọi ước lượng không chệch khác được xây dựng trên cùng mẫu đó Để kiểm tra tính hiệu quả nhất của ước lượng không chệch, người ta dùng bất đẳng thức Crammer - Rao: 1... = 1 x ¯ Phương pháp ước lượng hợp lý tối đa Ví dụ ∂ 2 ln L n = − 2 < 0, ∀θ ∂θ2 θ 1 ⇒ lnL = max tại θ = x ¯ 1 Vậy ước lượng hợp lý tối đa của θ là x ¯ Phương pháp ước lượng hợp lý tối đa Ví dụ ∂ 2 ln L n = − 2 < 0, ∀θ ∂θ2 θ 1 ⇒ lnL = max tại θ = x ¯ 1 Vậy ước lượng hợp lý tối đa của θ là x ¯ Ví dụ ¯ X ∼ N(µ, σ 2 )) Ước lượng hợp lý tối đa của µ là X (giáo trình) PHƯƠNG PHÁP ƯỚC LƯỢNG BẰNG KHOẢNG TIN . chất lượng thống kê: Ước lượng không chệch Ước lượng hiệu quả Ước lượng vững Ước lượng không chệch Định nghĩa Thống kê G của mẫu được gọi là ước lượng không chệch của tham số θ của biến ngẫu nhiên. chứa tham số đó với một xác suất cho trước. Chương 7: ƯỚC LƯỢNG CÁC THAM SỐ CỦA BIẾN NGẪU NHIÊN Giả sử đã biết quy luật phân phối xác suất của biến ngẫu nhiên X song chưa biết tham số θ nào đó của. Chương 7: ƯỚC LƯỢNG CÁC THAM SỐ CỦA BIẾN NGẪU NHIÊN Giả sử đã biết quy luật phân phối xác suất của biến ngẫu nhiên X song chưa biết tham số θ nào đó của nó. Vấn đề đặt ra là phải xác định một cách