Bất đẳng thức berry esseen

Mục lục Mở đầu 4 1 Các kiến thức chuẩn bị 6 1.1 Biến ngẫu nhiên . . . . . . . . . . . . . . . . . . . . . . . . 6 1.1.1 Định nghĩa và phân loại . . . . . . . . . . . . . . . . 6 1.1.2 Hàm phân phối . . . . . . . . . . . . . . . . . . . . 7 1.1.3 Hàm đặc trưng . . . . . . . . . . . . . . . . . . . . . 7 1.1.4 Các đặc trưng của biến ngẫu nhiên . . . . . . . . . . 8 1.2 Phân bố chuẩn . . . . . . . . . . . . . . . . . . . . . . . . . 9 1.2.1 Phân bố chuẩn một chiều . . . . . . . . . . . . . . . 9 1.2.2 Phân bố chuẩn nhiều chiều . . . . . . . . . . . . . . 10 1.3 Khoảng cách biến phân toàn phần . . . . . . . . . . . . . . 11 1.4 Sự hội tụ của dãy các biến ngẫu nhiên . . . . . . . . . . . . 11 1.5 Phương pháp Stein cho xấp xỉ chuẩn . . . . . . . . . . . . . 12 1.5.1 Phương trình Stein và ý nghĩa . . . . . . . . . . . . 12 1.5.2 Xây dựng các đẳng thức Stein . . . . . . . . . . . . 13 1.5.3 Xấp xỉ chuẩn của hàm trơn . . . . . . . . . . . . . . 14 2 Bất đẳng thức Berry - Esseen một chiều 16 2.1 Giới thiệu chung . . . . . . . . . . . . . . . . . . . . . . . . 16 2.2 Bất đẳng thức Berry – Esseen đều . . . . . . . . . . . . . . 17 2.2.1 Trường hợp cùng phân bố . . . . . . . . . . . . . . . 17 2 2.2.2 Trường hợp không cùng phân bố . . . . . . . . . . . 18 2.2.3 Chứng minh bất đẳng thức Berry - Esseen đều . . . 19 2.2.4 Áp dụng định lý Berry – Esseen đều . . . . . . . . . 24 2.3 Bất đẳng thức Berry – Esseen không đều . . . . . . . . . . 26 2.3.1 Trường hợp cùng phân bố . . . . . . . . . . . . . . . 26 2.3.2 Trường hợp không cùng phân bố . . . . . . . . . . . 26 2.3.3 Chứng minh bất đẳng thức Berry - Esseen không đều 27 3 Bất đẳng thức Berry - Esseen nhiều chiều 36 3.1 Trường hợp cùng phân bố . . . . . . . . . . . . . . . . . . . 36 3.2 Trường hợp không cùng phân bố . . . . . . . . . . . . . . . 49 Kết luận 51 Tài liệu tham khảo 52 3 Mở đầu Xác suất là một bộ phận của toán học nghiên cứu về các hiện tượng ngẫu nhiên. Lý thuyết xác suất nhằm tìm ra những quy luật trong những hiện tượng tưởng chừng không có quy luật này; và nó được ra đời đầu tiên ở nước Pháp vào nửa cuối thế kỷ 17. Trong lý thuyết xác suất định lý giới hạn trung tâm là một trong những định lý cơ bản và có nhiều ứng dụng thực tiễn. Nó đưa ra một phép tính xấp xỉ cho hàm phân phối của tổng các biến ngẫu nhiên độc lập W so với hàm phân phối chuẩn hóa Φ. Tuy nhiên định lý này không đánh giá được tốc độ hội tụ của giới hạn W→ Φ. Trong thực tế ta lại quan tâm nhiều đến khoảng cách giữa phân bố của W và phân bố chuẩn hóa. Khoảng cách này càng nhỏ thì xấp xỉ chúng ta cần càng có giá trị. Một trong những công cụ để đánh giá khoảng cách giữa W và Φ hay đánh giá được tốc độ hội tụ của định lý giới hạn trung tâm là bất đẳng thức Berry – Esseen. Trong đề tài này tôi sẽ trình bày về lịch sử, quá trình hoàn thiện, chứng minh, mở rộng, phát triển và ứng dụng của bất đẳng thức này. Nội dung đề tài gồm ba chương: Chương 1. Các kiến thức chuẩn bị. Chương này đưa ra một số kiến thức về biến ngẫu nhiên, phân phối chuẩn, khoảng cách biến phân toàn phần, phương pháp Stien. Đây là những kiến thức bổ trợ sẽ được nhắc đến ở những chương sau. 4 Chương 2. Bất đẳng Berry - Esseen một chiều. Chương này tác giả phát biểu định lý Berry - Esseen đều và không đều. Với mỗi dạng tác giả phát biểu định lý trong trường hợp cùng phân bố và không cùng phân bố, có giới thiệu sơ lược về lịch sử của định lý, cuối cùng là chứng minh và đưa ra một vài áp dụng của định lý. Chương 3. Bất đẳng Berry - Esseen nhiều chiều. Chương này là sự mở rộng của định lý Berry - Esseen một chiều. Sự mở rộng được phát biểu cho cả hai trường hợp cùng phân bố và không cùng phân bố. Tuy nhiên, để giảm độ phức tạp tác giả chỉ dừng lại ở việc chứng minh định lý trong trường hợp đơn giản hơn, đó là trường hợp cùng phân bố. 5 Chương 1 Các kiến thức chuẩn bị Chương này tác giả đưa ra một vài kiến thức cơ bản về biến ngẫu nhiên, phân bố chuẩn, khoảng cách biến phân toàn phần, phương pháp Stein. Đây là những kiến thức cơ bản của xác suất thống kê mà được sử dụng nhiều trong các chương sau. 1.1 Biến ngẫu nhiên 1.1.1 Định nghĩa và phân loại Nói một cách chung chung thì biến ngẫu nhiên là đại lượng lấy giá trị thực tùy thuộc vào kết quả ngẫu nhiên của phép thử. Định nghĩa chính xác của biến ngẫu nhiên như sau: Định nghĩa 1.1 : Giả sử (Ω, A) là không gian đo đã cho. Biến ngẫu nhiên là ánh xạ X : Ω → R sao cho: (X ≤ x) = {ω ∈ Ω |X(ω) ≤ x} ∈ A, ∀x ∈ R Hoặc tương đương: X −1 (B) = {ω ∈ Ω |X(ω) ∈ B} ∈ A, ∀B ∈ B với B là σ - đại số các tập Borel của R. Định nghĩa 1.2 : Biến ngẫu nhiên gọi là rời rạc nếu tập các giá trị của nó là hữu hạn hay đếm được. Biến ngẫu nhiên rời rạc được xác định bằng 6 bảng phân phối xác suất: X x 1 x 2 . . . x i . . . x n P p 1 p 2 . . . p i . . . p n trong đó n  i=1 p i = 1, p i > 0 Định nghĩa 1.3 : Biến ngẫu nhiên gọi là liên tục nếu các giá trị có thể có của nó lấp đầy một khoảng trên trục số. Biến ngẫu nhiên liên tục X được xác định bởi hàm mật độ f(x) thỏa mãn hai tính chất: f(x)≥ 0 với mọi x và +∞  −∞ f(x)dx = 1 1.1.2 Hàm phân phối Định nghĩa 1.4 : Hàm phân phối (quy luật phân phối) của biến ngẫu nhiên X là hàm F(x) được xác định như sau F(x)= P(X<x) với x ∈ R Nếu X là biến ngẫu nhiên rời rạc thì F (x) =  i:x i <x p i Nếu X là biến ngẫu nhiên liên tục thì F (x) = x  −∞ f(t)dt Hàm phân phối của biến ngẫu nhiên có một số tính chất sau: • Hàm phân phối xác định với mọi x ∈ R • 0 ≤ F (x) ≤ 1, F (−∞) = 0, F (+∞) = 1 • Hàm phân phối là hàm không giảm: x 1 > x 2 → F (x 1 ) ≥ F (x 2 ) • P(a ≤ X < b) = F(b) - F(a) • Mối quan hệ giữa hàm phân phối và hàm mật độ: F  (x) = f(x) Ta có thể định nghĩa: Biến ngẫu nhiên X là liên tục nếu hàm phân phối của nó có đạo hàm. 1.1.3 Hàm đặc trưng Định nghĩa 1.5 : Giả sử F là hàm phân phối của biến ngẫu nhiên X. Khi đó hàm đặc trưng của X là hàm biến thực ϕ(t) = ϕ X (t) được định nghĩa 7 bởi: ϕ(t) = Ee itX =  R e itx dF (x) Nếu X có hàm mật độ f(x) thì : ϕ(t) =  R e itx f(x)dx Các tính chất của hàm đặc trưng: • ϕ(0) = 1, |ϕ(t)| ≤ 1, ∀t ∈ R • ϕ(−t) = ϕ(t) • ϕ(t) là hàm xác định không âm: ∀λ i ∈ C, t i ∈ R : n  i,j=1 λ i λ j ϕ( t i − t j ) ≥ 0 • ϕ(t) là hàm liên tục đều trên R. • Với mọi số thực a, b thì: ϕ aX+b (t) = e ibt ϕ X (at) • Nếu X, Y độc lập thì ϕ X+Y (t) = ϕ X (t).ϕ Y (t) 1.1.4 Các đặc trưng của biến ngẫu nhiên a. Kỳ vọng toán Định nghĩa 1.6: Cho (Ω, A, P) là không gian xác suất. X là biến ngẫu nhiên. Ta gọi EX =  Ω XdP =  Ω X(ω)dP (ω) là kì vọng của X. Ta có: EX = n  i=1 x i p i nếu X - rời rạc EX = +∞  −∞ xf(x)dx nếu X - liên tục Các tính chất của kỳ vọng: Ec = c nếu c là hằng số E(X + Y) = EX + EY EcX = c.EX, c là hằng số X, Y độc lập thì E(XY) = EX.EY Eg(X) = n  i=1 g(x i )p i nếu X - rời rạc 8 Eg(X) = +∞  −∞ g(x)f(x)dx nếu X - liên tục b. Phương sai: Định nghĩa 1.7: Phương sai của biến ngẫu nhiên X là một số không âm, kí hiệu DX, được xác định bởi DX = EX 2 − (EX) 2 Các tính chất của phương sai: Dc = 0 nếu c là hằng số DcX = c 2 DX Nếu X, Y độc lập thì D(X ± Y) = DX + DY 1.2 Phân bố chuẩn 1.2.1 Phân bố chuẩn một chiều Định nghĩa 1.8 : Biến ngẫu nhiên liên tục X nhận các giá trị trong khoảng (−∞, +∞) gọi là phân phối theo quy luật chuẩn hóa, kí hiệu: X ∼ N(0,1), nếu hàm mật độ xác suất của nó có dạng: f(x) = 1 √ 2π e −x 2 /2 Khi đó hàm phân bố xác suất chuẩn hóa (hàm phân bố tiêu chuẩn) có dạng: Φ(x) = 1 √ 2π x  −∞ e −t 2 /2 dt Định nghĩa 1.9 : Biến ngẫu nhiên liên tục X nhận các giá trị trong khoảng (−∞, +∞) gọi là phân phối theo quy luật chuẩn với các tham số µ và σ 2 , kí hiệu: X ∼ N(µ,σ 2 ), nếu hàm mật độ xác suất của nó có dạng: f (x) = 1 σ √ 2π e − (x−µ) 2 2σ 2 Nếu X ∼ N(µ,σ 2 ) thì EX = µ, DX = σ 2 Nếu X ∼ N(µ,σ 2 ) thì ta có thể đưa về phân phối chuẩn hóa N(0,1) 9 bằng phép biến đổi chuẩn hóa Y = X−µ σ Nếu X ∼ N(µ,σ 2 ) thì: P (a < X < b) = Φ( b−µ σ ) − Φ( a−µ σ ) 1.2.2 Phân bố chuẩn nhiều chiều Cho vectơ ngẫu nhiên X = (X 1 , X 2 , , X k ). Khi đó ta kí hiệu: • cov(X i , X j ) = E(X i −EX i )(X j −EX j ) = EX i X j −EX i .EX j , gọi là covarian của X i , X j . • A = (cov(X i , X j )), gọi là ma trận covarian của X. Rõ ràng A là ma trận đối xứng, xác định không âm cấp kxk. • a = EX = (EX 1 , EX 2 , , EX k ) = (a 1 , a 2 , , a k ), gọi là vectơ kỳ vọng của X. Định nghĩa 1.10 : Vectơ ngẫu nhiên X = (X 1 , X 2 , , X k ) có phân phối chuẩn k chiều N(a,A) nếu hàm mật độ của X có dạng: f(x) = 1  (2π) k |A| exp  − 1 2 (x − a)A −1 (x − a) t  Hay: f(x 1 , x 2 , , x k ) = 1 √ (2π) k |A| exp  − 1 2 k  i=1 k  j=1 a ij (x i − a i )(x j − a j )  Trong đó: x = (x 1 , x 2 , , x k ) ∈ R k A là ma trận covarian của X có định thức |A| và ma trận nghịch đảo A −1 = (a ij ) Cụ thể, với k = 2, vectơ ngẫu nhiên (X,Y) tuân theo quy luật phân phối chuẩn hai chiều thì hàm mật độ xác suất đồng thời của nó có dạng: f(x, y) = 1 2πσ x σ y  1 − ρ 2 .e − 1 2(1−ρ 2 )  ( x−a σ x ) 2 +  y−b σ y  2 −2ρ (x−a)(x−b) σ x σ y  Trong đó: a = EX, b = EY, σ x = √ DX, σ y = √ DY 10 ρ là hệ số tương quan của X, Y: ρ = cov(X,Y ) σ x σ y Nếu X, Y độc lập thì hàm mật độ của phân bố chuẩn hai chiều có dạng: f(x, y) = 1 2πσ x σ y .e − 1 2  ( x−a σ x ) 2 +  y−b σ y  2  = f X (x).f Y (y) 1.3 Khoảng cách biến phân toàn phần Kí hiệu Ω là không gian độ đo với δ - đại số A. Định nghĩa 1.11 : Gọi µ, ν là hai độ đo xác suất trên Ω. Khi đó khoảng cách biến phân toàn phần được định nghĩa bởi: d T V (µ, ν) := sup A∈A |µ(A) − ν(A)| 1.4 Sự hội tụ của dãy các biến ngẫu nhiên Giả sử (X n ) là dãy các biến ngẫu nhiên trong không gian xác suất (Ω, A, P ). Ta có các định nghĩa hội tụ sau: Định nghĩa 1.12 : Dãy biến ngẫu nhiên (X n ) được gọi là hội tụ theo xác suất tới biến ngẫu nhiên X, kí hiệu X n −→ X, nếu với ε > 0 bất kì thì : lim n→∞ P (|X n − X| ≥ ε) = 0 Định nghĩa 1.13 : Dãy biến ngẫu nhiên (X n ) được gọi là hội tụ hầu chắc chắn (hay hội tụ với xác suất 1) tới biến ngẫu nhiên X, kí hiệu X n −→ X, nếu tồn tại tập A có xác suất không sao cho với ω /∈ A: X n (ω) → X(ω) 11 [...]... Nhờ bất đẳng thức Berry - Esseen ta có thể xác định cỡ mẫu tối thiểu n nhỏ hơn đáng kể so với kết quả có được bằng các phương pháp khác Với ý nghĩa thiết thực như vậy, tác giả nghiên cứu đề tài "Bất đẳng thức Berry - Esseen" Chương này tác giả trình bày về bất đẳng thức Berry - Esseen một chiều 2.2 2.2.1 Bất đẳng thức Berry – Esseen đều Trường hợp cùng phân bố Định lý sau đây được đưa ra độc lập bởi Berry. .. chưa đánh giá được tốc độ hội tụ của nó Berry (1941) và Esseen (1942) là hai nhà toán học đầu tiên đã độc lập đưa ra một bất đẳng thức cho phép đánh giá khoảng cách giữa Fn (x) và Φ(x) Vì vậy bất đẳng thức mang tên hai ông ra đời, đó là bất đẳng thức Berry – Esseen Kể từ đó, nhiều nhà toán học trên thế giới đã quan tâm đến việc xác định cận cho bất đẳng thức Berry – Esseen nhằm thu hẹp khoảng cách giữa... chứng minh 35 Chương 3 Bất đẳng thức Berry - Esseen nhiều chiều Sau khi nghiên cứu về bất đẳng thức Berry – Esseen trong trường hợp một chiều, nhiều nhà toán học như Ranga Rao (1961), Nagaev (1976), Senatov (1980, 1981), Gotze (1991), Bentkus (2003) đã quan tâm phát triển bất đẳng thức này trong trường hợp nhiều chiều Trong chương này tác giả sẽ trình bày về bất đẳng thức Berry – Esseen cho hai trường... ta có bất đẳng thức sau thường được gọi là bất đẳng thức giả Berry – Esseen: Định lý 2.5 Tồn tại hằng số C < ∞ sao cho : sup |Fλ (x) − Φ(x)| ≤ C x∈R β3 √ (µ2 + δ 2 )3/2 λ (2.7) Năm 1972 bất đẳng thức (2.7) được G.V Rotar chứng minh đầu tiên với C = 2.33 Năm 1993, R.Michel đã chỉ ra C ≤ 0.8 Kết quả tốt nhất thuộc về Korolev và Shevtsova năm 2009 với C ≤ 0.3051 2.3 2.3.1 Bất đẳng thức Berry – Esseen. .. lượng cận trên cho C trong (2.3): Esseen (năm 1945) chỉ ra C ≤ 7.5 Bergstrom (năm 1949) chứng minh được C ≤ 4.8 Beck (năm 1972) khẳng định C ≤ 0.7975 Kết quả tốt nhất thuộc về Tyurin (năm 2010) với C ≤ 0.5606 Trải qua nhiều năm nghiên cứu, các tác giả đã đưa ra bất đẳng thức Berry – Esseen dưới nhiều dạng khác nhau về mặt hình thức cũng như 18 cách chứng minh bất đẳng thức này Phát biểu sau đây có thể... 1], Wn = i=1n s Khi đó tồn tại hằng số Cδ > 0 sao cho : sup |P(Wn ≤ x) − Φ(x)| ≤ Cδ x∈R 2.2.3 Γn sn 2+δ (2.4) Chứng minh bất đẳng thức Berry - Esseen đều Trong mục này tác giả trình bày chứng minh định lý 2.4 Vì đây là định lý tổng quát nhất cho trường hợp bất đẳng thức Berry - Esseen đều Để chứng minh định lý 2.4 ta cần sử dụng các bổ đề sau: Bổ đề 2.1 Nếu F là hàm phân phối, G là hàm thực khả vi... sinx 2 dx x = 4M δT T δ/2 Không mất tính tổng quát, giả sử T đủ lớn để vế phải của bất đẳng thức có tích phân dương Khi đó:  ∞ = − −∞ − |x|≤δ ∞ π ≥ 2M δT  − 3 2 |x|>δ  sinx x 2  dx T δ/2 Từ đó suy ra bất đẳng thức đầu ∞ Do T δ/2 sinx 2 dx x ∞ ≤ 1 x2 dx 1 = −x ∞ T δ/2 T δ/2 thứ hai 20 = 2 Tδ nên ta có bất đẳng thức Bổ đề (2.1) được dùng để chứng minh bổ đề (2.2) sau đây: Bổ đề 2.2 Nếu F là hàm... 1] nên 2 + δ < 1 + (2/δ) Nếu Γn sn ≤ 1 thì chọn Cδ = Cδ , nếu Γn sn > 1 thì chọn Cδ = Cδ Γn sn (2/δ)−1−δ Từ đó ta được điều phải chứng minh 2.2.4 Áp dụng định lý Berry – Esseen đều 2.2.4.1 Áp dụng với dãy Bernoulli Dùng bất đẳng thức Berry – Esseen với (Xi ) là dãy Bernoulli ta suy ra được định lí Moivre – Laplace Thật vậy: Cho (Xi ) là dãy các biến ngẫu nhiên độc lập cùng phân phối có: P (Xi = 1) =... thuyết cũng như thực hành và có một lịch sử khá dài Năm 1942, Esseen chỉ ra C ≤ 7.59, sau đó là C ≤ 2.9 năm 1956 Năm 1958, Wallace chứng minh được C ≤ 2.05 Năm 1967, Zolotarev chỉ ra C ≤ 0.81097 Năm 1982, Shiganov khẳng định C ≤ 0.7655 Kết quả tốt nhất thuộc về Tyurin (năm 2009) đưa ra C ≤ 0.4785 Với mỗi nhà toán học thì bất đẳng thức Berry - Esseen có một phiên 17 bản khác nhau Năm 1965, Petrov đưa ra... 2 = 1, γ = n E|Xi |3 Khi đó tồn tại hằng số C > 0 sao i=1 i=1 cho: |P (W ≤ x) − Φ(x)| ≤ Cγ 1 + |x|3 (2.9) Năm 1977, Paditz chỉ ra C ≤ 114.7 Năm 1989 ông tìm ra C ≤ 31.935 2.3.3 Chứng minh bất đẳng thức Berry - Esseen không đều Định lý 2.6 chỉ là trường hợp riêng của định lý 2.7 nên trong mục này tác giả sẽ trình bày chứng minh định lý 2.7 Trước hết ta xem xét các bổ đề sau đây: 2.3.3.1 Các bổ đề Bổ . giả nghiên cứu đề tài " ;Bất đẳng thức Berry - Esseen& quot;. Chương này tác giả trình bày về bất đẳng thức Berry - Esseen một chiều. 2.2 Bất đẳng thức Berry – Esseen đều 2.2.1 Trường hợp cùng. . . . . . 18 2.2.3 Chứng minh bất đẳng thức Berry - Esseen đều . . . 19 2.2.4 Áp dụng định lý Berry – Esseen đều . . . . . . . . . 24 2.3 Bất đẳng thức Berry – Esseen không đều . . . . . . mang tên hai ông ra đời, đó là bất đẳng thức Berry – Esseen. Kể từ đó, nhiều nhà toán học trên thế giới đã quan tâm đến việc xác định cận cho bất đẳng thức Berry – Esseen nhằm thu hẹp khoảng cách giữa