về luật số lớn và một số ứng dụng

Luật số lớn là một kết quả của xác suất có nhiều ứng dụng và là cơ sở cho nhiềuhiện tượng thống kê và thực tiễn.Trong thực tế, để xác định giá trị của một biến ngẫu nhiên nào đó người ta

Trang 1

ĐẠI HỌC THÁI NGUYÊN

TRƯỜNG ĐẠI HỌC KHOA HỌC - -

BÙI THỊ LAN ANH

VỀ LUẬT SỐ LỚN VÀ MỘT SỐ ỨNG DỤNG

Chuyên ngành: Toán ứng dụng Mã số : 8 46 01 12

LUẬN VĂN THẠC SĨ TOÁN HỌC

NGƯỜI HƯỚNG DẪN KHOA HỌC

1 TS Trần Xuân Quý

2 TS Đỗ Thị Phương Quỳnh

THÁI NGUYÊN - 2021

Ve luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dung

Ve luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dung

41Wednesday, June 12, 20247:58:31 PM7:58:31 PM41Wednesday, June 12, 20247:58:31 PM7:58:31 PM41Wednesday, June 12, 20247:58:31 PM7:58:31 PMVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dung

Ve luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dung

41Wednesday, June 12, 20247:58:31 PM7:58:31 PM41Wednesday, June 12, 20247:58:31 PM7:58:31 PM41Wednesday, June 12, 20247:58:31 PM7:58:31 PM

41Ve luat so lon va mot so ung dungWednesday, June 12, 2024

Trang 2

1.2 Biến ngẫu nhiên 7

1.3 Xác suất có điều kiện và tính độc lập 13

1.4 Các dạng hội tụ của dãy các biến ngẫu nhiên 15

1.4.1 Hội tụ theo xác suất 16

1.4.2 Hội tụ theo bình phương trung bình 16

1.4.3 Hội tụ theo phân bố 17

Chương 2 Về luật số lớn và một số áp dụng192.1 Luật số lớn 19

2.1.1 Luật yếu số lớn 19

2.1.2 Luật mạnh số lớn 21

2.2 Bất đẳng thức Martingale 24

2.3 Phân phối thực nghiệm 28

2.4 Định lý giới hạn trung tâm 30

2.5 Bất đẳng thức Berry-Esseen 32

Trang 3

Danh sách kí hiệu viết tắt

(Ω, F , P) Không gian xác suất

Trang 4

Mở đầu

P.S Laplace (1812) đã từng nói “Phần lớn những vấn đề quan trọng của cuộc sống thựcra chỉ là những bài toán xác suất” Xác suất hay giải tích ngẫu nhiên là một nhánh của toánhọc nghiên cứu các hiện tượng ngẫu nhiên, nghĩa là nghiên cứu các hiện tượng không thể nóitrước nó xảy ra hay không xảy ra khi thực hiện một lần quan sát, nhưng nếu tiến hành quansát nhiều lần ta có thể rút ra kết luận khoa học về hiện tượng đó Do yếu tố ngẫu nhiên màlý thuyết xác suất ứng dụng, từ văn học, vật lý, thị trường chứng khoán, dự báo thời tiết, kinhtế y học, Luật số lớn là một kết quả của xác suất có nhiều ứng dụng và là cơ sở cho nhiềuhiện tượng thống kê và thực tiễn.

Trong thực tế, để xác định giá trị của một biến ngẫu nhiên nào đó người ta thường tiếnhành n lần quan sát (đo đạc) một cách độc lập và lấy trung bình cộng các kết quả đo ấy làmgiá trị ước lượng cho giá trị cần biết Câu hỏi đặt ra là cơ sở nào để khẳng định việc xấp xỉnày là chấp nhận được (hay nói cách khác là sai số của việc xấp xỉ là bao nhiêu và cần thựchiện tối thiểu bao nhiêu phép thử để thu được sai số không vượt quá một giá trị cho trước).

Câu trả lời là luật số lớn, hay cụ thể hơn là bất đẳng thức Chebysev Tuy nhiên, một vấnđề đặt ra là: Nếu áp dụng bất đẳng thức Chebysev trong bài toán chọn cỡ mẫu thì số phépthử quá lớn Lý do cơ bản là đánh giá sai số trong bài toán cỡ mẫu dựa trên bất đẳng thứcChebysev chưa đủ chặt, từ đó tốc độ hội tụ thu được chưa thật chính xác Vậy tốc độ hội tụcủa luật số lớn như thế nào? Bất đẳng thức martingale sẽ giải quyết vấn đề đó Nói cách khác,chọn cỡ mẫu theo bất đẳng thức ước lượng mũ là tối ưu hơn theo bất đẳng thức Chebysev.

Trong thực tế chúng ta thường chỉ gặp một số biến ngẫu nhiên có phân phối đặc biệt nhưphân phối nhị thức, phân phối Poisson, phân phối mũ, Đặc biệt là các biến ngẫu nhiêncó phân phối chuẩn hoặc xấp xỉ chuẩn Ví dụ: Xét một quần thể Chọn ngẫu nhiên một nhómgồm n cá thể (mẫu có kích thước n) Giả sử X là số cả thể có đặc tính A trong mẫu Khi đó,người ta thấy rằng nếu n lớn thì X có phân phối xấp xỉ chuẩn Cơ sở lí thuyết của hiện tượngđó chính là định lý giới hạn trung tâm Áp dụng định lý giới hạn trung tâm cho bài toán chọncỡ mẫu ta thấy cách chọn cỡ mẫu theo bất đẳng thức ước lượng mũ và theo định lý giới hạn

Trang 5

trung tâm là tương đương.

Với mục đích hệ thống lại các kiến thức của xác suất, trình bày lại luật số lớn, bất đẳngthức Chebysev, bất đẳng thức Martingale, định lý giới hạn trung tâm và áp dụng cho bàitoán chọn cỡ mẫu trong thống kê, dưới sự hướng dẫn của TS Trần Xuân Quý và TS Đỗ Thị

Phương Quỳnh, tôi chọn đề tài “Về luật số lớn và một số ứng dụng” để làm đề tài luận văn

thạc sĩ.

Ngoài phần Mở đầu, Kết luận và Tài liệu tham khảo, luận văn gồm hai chương.

Chương 1 Một số kiến thức chuẩn bị Chương này nhắc lại một số định nghĩa cơ bảntrong lý thuyết xác suất như biến cố và xác suất, biến ngẫu nhiên, xác suất có điều kiện, badạng hội tụ của dãy biến ngẫu nhiên.

Chương 2 Về luật số lớn và một số áp dụng Chương này trình bày về các luật số lớn, bấtđẳng thức Chebysev, bất đẳng thức martingale và định lý giới hạn trung tâm, so sánh ba cáchchọn cỡ mẫu và ưu điểm, nhược điểm của từng cách chọn cỡ mẫu.

Luận văn được hoàn thành tại trường Đại học Khoa học - Đại học Thái Nguyên dưới sựhướng dẫn của TS Trần Xuân Quý, Trường Đại học Khoa học - Đại học Thái Nguyên.

Tôi xin bày tỏ lòng biết ơn sâu sắc nhất tới - TS Trần Xuân Quý và TS Đỗ Thị PhươngQuỳnh, người đã định hướng chọn đề tài và tận tình hướng dẫn để tôi hoàn thành luận vănnày.

Tôi xin bày tỏ lòng biết ơn chân thành tới Phòng Đào tạo, các thầy cô giáo dạy cao họcchuyên ngành Toán ứng dụng, trường Đại học Khoa học - Đại học Thái Nguyên đã giúp đỡtôi trong suốt quá trình học tập và hoàn thành luận văn tốt nghiệp.

Tôi xin được gửi lời cảm ơn chân thành tới gia đình, bạn bè, người thân đã luôn độngviên, cổ vũ, tạo mọi điều kiện thuận lợi cho tôi trong quá trình học tập và hoàn thành luậnvăn.

Thái Nguyên, ngày 05 tháng 11 năm 2020

Tác giả

Bùi Thị Lan Anh

123docz.net - File bi loi xin lienhe: lethikim34079@hotmail.com

Trang 6

Chương 1

Một số kiến thức chuẩn bị

Trong chương này chúng ta nhắc lại một vài định nghĩa cơ bản về lý thuyết xác suất Cụthể ta nhắc lại một số vấn đề sau:

(i) Không gian xác suất, σ− đại số và độ đo;

(ii) Biến ngẫu nhiên và hàm phân phối của chúng;

(iii) Kì vọng và phương sai;

(iv) σ− đại số sinh bởi biến ngẫu nhiên;(v) Tính độc lập, xác suất có điều kiện;

(vi) Các dạng hội tụ của dãy các biến ngẫu nhiên.

Ví dụ 1.1.2 R được định nghĩa là tập hợp các số thực Họ các tập Borel F = B(R) là σ− đại

số trên R trong đó B(R) là σ− đại số chứa tất cả các đoạn trên R.

123docz.net - File bi loi xin lienhe: lethikim34079@hotmail.com

Trang 7

Định nghĩa 1.1.3 Cho F là một σ− đại số trênΩ Độ đo xác suất P là hàm P : F −→ [0, 1]sao cho

Trang 8

Ta có

P(A1∪ A2∪ · · ·+ An)= P(A1∪ (A2\ A1) ∪ (A3\ A2) ∪ · · ·+ P(An\ An−1)= P(A1)+ P(A2) − P(A1)+ · · · + P(An) − P(An−1)= P(An).

Nếu A1 ⊃ A2⊃ · · · thì

P(A1∩ A2∩ · · · )= lim

n→∞P(An).Áp dụng luật De Morgan ta có

Ω \ (A1∩ A2∩ · · · )= (Ω \ A1) ∪ (Ω \ A2) ∪ · · ·

Bổ đề 1.1.6 (Borel- Cantelli) Cho A1, A2, là dãy các biến cố sao cho

P(A1)+ P(A2)+ · · · < ∞và đặt Bn= An∪ An+1∪ · · · thì

1.2Biến ngẫu nhiên

Định nghĩa 1.2.1 Nếu F là σ− đại số trênΩ thì hàm ξ : Ω −→ R được gọi là F − đo đượcnếu {ξ ∈ B} ∈ F với mỗi tập Borel B ∈ B(R) Nếu (Ω, F , P) là không gian xác suất thì hàmξ được gọi là biến ngẫu nhiên.

Trang 9

Chú ý 1.2.2 Để cho ngắn gọn, ta ký hiệu {ξ ∈ B} thay vì viết

Nhận xét 1.2.5 Ta gọi f : R −→ R là hàm Borel nếu nghịch ảnh f−1(B) với mọi tập Borel Btrong R là tập Borel Nếu f là hàm Borel và ξ là biến ngẫu nhiên thì f (ξ) là σ(ξ)− đo được.

Thật vậy, nếu B là tập Borel trong R và f : R −→ R là hàm Borel thì f−1(B) cũng là tậpBorel Do đó

{ f (ξ) ∈ B}= {ξ ∈ f−1(B)}thuộc σ− đại số σ(ξ) sinh bởi ξ Vậy f (ξ) là σ(ξ)− đo được.

của ξ, ký hiệu Fξ : R −→ [0, 1] xác định bởi

Fξ(x)= P{ω ∈ Ω : ξ(ω) ≤ x}.

Nhận xét dưới đây cho ta biết được một số tính chất của hàm phân phối của biến ngẫu nhiên.

Nhận xét 1.2.8 Hàm phân phối Fξ là không giảm, liên tục phải và thỏa mãn

x→−∞Fξ(x)= 0, lim

Trang 10

Thật vậy, nếu x ≤ y thì {ω ∈ Ω : ξ(ω) ≤ x} ⊂ {ω ∈ Ω : ξ(ω) ≤ y} Do đóFξ(x)= P{ω ∈ Ω : ξ(ω) ≤ x} ≤ P{ω ∈ Ω : ξ(ω) ≤ y} = Fξ(y).Điều đó có nghĩa là Fξkhông giảm.

Tiếp theo, ta lấy dãy bất kỳ x1 ≥ x2 ≥ và đặt

Khi đó, ta có dãy biến cố

{ω ∈ Ω : ξ(ω) ≤ x1} ⊃ {ω ∈ Ω : ξ(ω) ≤ x2} ⊃ · · · Lấy giao ta được

{ω ∈ Ω : ξ(ω) ≤ x} = {ω ∈ Ω : ξ(ω) ≤ x1} ∩ {ω ∈ Ω : ξ(ω) ≤ x2} ∩ · · · Từ Định lý 1.1.5 ta suy ra rằng

Fξ(x)= P{ω ∈ Ω : ξ(ω) ≤ x} = lim

n→∞P{ω ∈ Ω : ξ(ω) ≤ xn}= lim

n→∞Fξ(xn).Điều đó chứng tỏ rằng Fξ là liên tục giảm Do các biến cố

{ω ∈ Ω : ξ(ω) ≤ −1} ⊃ {ω ∈ Ω : ξ(ω) ≤ −2} ⊃ · · ·là dãy giảm với giao bằng ∅ và

{ω ∈ Ω : ξ(ω) ≤ 1} ⊂ {ω ∈ Ω : ξ(ω) ≤ 2} ⊂ · · ·là dãy tăng với hợp bằngΩ Theo Định lý 1.1.5 ta có

Trang 11

thì ξ được gọi là biến ngẫu nhiên với hàm phân phối liên tục tuyệt đối và fξ được gọi là hàmmật độ của ξ Nếu dãy hữu hạn hoặc vô hạn các số thực phân biệt x1, x2, sao cho với bấtkỳ tập Borel B ⊂ R

Thật vậy, nếu s < t là các số thực sao cho xi < (s, t] với bất kỳ i thìFξ(t) − Fξ(s)= P{ω ∈ Ω : ξ(ω) ≤ t} − P{ω ∈ Ω : ξ(ω) ≤ s}

Định nghĩa 1.2.11 Hàm phân phối đồng thời của biến ngẫu nhiên ξ1, , ξn là độ đo xácsuất Pξ1, ,ξn ∈ Rn sao cho

Pξ1, ,ξn(B) = P{ω ∈ Ω : (ξ1(ω), , ξn(ω)) ∈ B}

Trang 12

với mọi tập Borel B ∈ Rn Nếu đó là hàm Borel fξ1, ,ξn : Rn −→ R sao cho P{ω ∈ Ω :(ξ1(ω), , ξn(ω)) ∈ B}= R

i=1hi1Ai trong đó h1, , hn là các số thực vàA1, A2, , An là các tập Borel rời nhau từng đôi một phủ R thì

Tiếp theo, mọi hàm Borel không âm h có thể được xấp xỉ bởi dãy các hàm bậc thang khônggiảm Do đó đẳng thức trên đúng với mọi hàm Borel h Vì có thể chia thành hai phần dươngvà âm, h= h+− h−, trong đó h+, h−≥ 0.

Trang 13

Đặc biệt, Nhận xét 1.2.14 suy ra rằng nếu ξ có phân phối liên tục tuyệt đối với mật độ fξ

Nhận xét 1.2.16 Nếu ξ là biến ngẫu nhiên bình phương khả tích, thì ξ khả tích.

Thật vậy, sử dụng bất đẳng thức Schwarz [E(ξη)]2 ≤ E(ξ2)E(η2) với η = 1 Nếu ξ là bìnhphương khả tích thì

Trang 14

Khi n → ∞ Do đó (1.3) đúng suy ra điều phải chứng minh.

1.3Xác suất có điều kiện và tính độc lập

Định nghĩa 1.3.1 Với hai biến cố bất kỳ A, B ⊂ F sao cho P(B) , 0, xác suất có điều kiện

của A với B được định nghĩa bởi

Trang 15

Nhận xét 1.3.2 Chứng minh công thức xác suất toàn phần

P(A) = P(A|B1)P(B1)+ P(A|B2)P(B2)+

với bất kỳ A ∈ F và dãy bất kỳ các biến cố đôi một rời nhau B1, B2, ∈ F sao choB1∪ B2∪ · · ·= Ω và P(Bn) , 0 với n bất kỳ.

Thật vậy, vì

B1∪ B2∪ = Ω, A = A ∩ (B1∪ B2∪ .) = (A ∩ B1) ∪ (A ∩ B2) ∪ ,trong đó (A ∩ Bi) ∩ (A ∩ Bj)= A ∩ (Bi∩ Bj)= A ∩ ∅ = ∅.

Ta có

P(A) = P((A ∩ B1) ∩ (A ∩ B2) ∩ · · · )= P(A ∩ B1)+ P(A ∩ B2)+ · · ·

= P(A|B1)P(B1)+ P(A|B2)P(B2)+ · · ·

Định nghĩa 1.3.3 Hai biến cố A, B ∈ F được gọi là độc lập nếu

P(A ∩ B) = P(A)P(B).Tổng quát, n biến cố A1, , An ∈ F được gọi là độc lập nếu

P(Ai1 ∩ Ai2 ∩ ∩ Aik)= P(Ai1)P(Ai2) P(Aik)với bất kỳ chỉ số 1 ≤ i1 < i2 < < ik ≤ n.

Định nghĩa 1.3.4 Hai biến ngẫu nhiên ξ và η được gọi là độc lập nếu với mọi tập Borel

A, B ∈ B(R) hai biến cố {ω ∈ Ω : ξ(ω) ∈ A} và {ω ∈ Ω : η(ω) ∈ B} độc lập.

Ta nói rằng n biến ngẫu nhiên ξ1, , ξn là độc lập nếu với mọi tập Borel B1, , Bn ∈B(R) biến cố

{ω ∈ Ω : ξ1(ω) ∈ B1}, , {ω ∈ Ω : ξn(ω) ∈ Bn}là độc lập.

Tổng quát, một họ hữu hạn hoặc vô hạn các biến ngẫu nhiên được gọi là độc lập nếu mọi họcon hữu hạn các biến ngẫu nhiên của họ này là độc lập.

Mệnh đề 1.3.5 Nếu hai biến ngẫu nhiên ξ, η : Ω −→ R là độc lập, thì chúng không tươngquan, nghĩa là

E(ξη) = E(ξ)E(η).

Trang 16

Khi đó tích ξη cũng khả tích.

Nếu ξ1, , ξn:Ω −→ R là các biến ngẫu nhiên độc lập khả tích thìE(ξ1, , ξn)= E(ξ1)E(ξ2) E(ξn),khi đó tích ξ1ξ2 ξncũng khả tích.

Định nghĩa 1.3.6 Hai σ− đại số G và H con của F được gọi là độc lập nếu hai biến cố bất

Điều kiện đủ: Giả sử ξ, η là độc lập suy ra {ω ∈Ω : ξ(ω) ∈ A} và {ω ∈ Ω : ξ(ω) ∈ B} với tậpBorel A và B bất kỳ trên R độc lập.

{ω ∈ Ω : ξ(ω) ∈ B} là σ(η).Suy ra σ(ξ) và σ(η) độc lập.

1.4Các dạng hội tụ của dãy các biến ngẫu nhiên

Cho X1, X2, , Xn, là dãy các biến ngẫu nhiên phụ thuộc vào chỉ số n Mục đíchnghiên cứu xem khi n khá lớn thì Xncó tính chất gì đặc biệt hay không Trước hết ta cần địnhnghĩa sự hội tụ của Xnvề một biến ngẫu nhiên khác có ý nghĩa như thế nào Trong mục nàytrình bày ba kiểu hội tụ cơ bản nhất.

Trang 17

1.4.1Hội tụ theo xác suất

Ta nói rằng dãy X1, X2, các biến ngẫu nhiên hội tụ theo xác suất tới biến ngẫu nhiênZ khi n → ∞ nếu:

Với mọi ε > 0, P{|Xn− Z|> ε} → 0 khi n → ∞.

Khẳng định Xn hội tụ tới Z theo xác suất nghĩa là : với ε, δ cho trước nhỏ tùy ý, thì vớixác suất ít nhất là 1 − δ ta sẽ có |Xn− Z| 6 ε nếu n đủ lớn.

1.4.2Hội tụ theo bình phương trung bình

Ta nói rằng dãy X1, X2, , các biến ngẫu nhiên hội tụ theo bình phương trung bình

(BPTB) tới biến ngẫu nhiên Z nếu

Chứng minh rằng Xnhội tụ tới hằng số 2 theo nghĩa bình phương trung bình.

Chứng minh rằng Xnhội tụ tới 0 theo xác suất, nhưng không hội tụ tới 0 theo nghĩa bìnhphương trung bình.

khi n → ∞, do đó XVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungVe luat so lon va mot so ung dungnkhông hội tụ tới 0 theo nghĩa bình phương trung bình

Trang 18

1.4.3Hội tụ theo phân bố

Cho X1, X2, , Xn, là dãy các biến ngẫu nhiên và Z là một biến ngẫu nhiên khác Tasẽ định nghĩa sự hội tụ theo phân bố của Xn tới Z như sau.

1 Trường hợp X1, X2, , Xn, , và Z là các biến ngẫu nhiên rời rạc nhận các giá trịtrên tập đếm được K = {c1, c2 .} Xn được gọi là hội tụ theo phân bố tới Z nếu vớimọi ci ∈ K

n→∞P{Xn = ci}= P{Z = ci}.

Như vậy với n khá lớn thì ta có thể xấp xỉ P{Xn = c} bởi P{Z = c}.

2 Trường hợp Z là biến ngẫu nhiên liên tục, (Xn) là dãy biến ngẫu nhiên bất kì (liên tụchoặc rời rạc) Xnđược gọi là hội tụ theo phân bố tới Z nếu với mọi x ∈ R :

Với n chẵn Xn = Z;Với n lẻ Xn = −Z.

Khi đó hiển nhiên với mọi n, Xnnhận hai giá trị ±1 và

P{Xn = 1} = P{Xn = −1} = 12.Do đó

n P{Xn = 1} = P{Z = 1}lim

Như vậy dãy Xn hội tụ tới Z theo phân bố.

Tuy nhiên Xnkhông hội tụ tới Z theo xác suất Quả vậy với n= 2m + 1 :P{|X2m+1− Z|> 1} = P{|2Z| > 1} = P{|Z| > 1

2}= 1.Do đó limm→∞P{|X2m+1− Z|> 1} = 1 , 0

Trang 19

Ví dụ 1.4.4. a) Giả sử X1, X2, và Z là biến ngẫu nhiên rời rạc với tập giá trị C gồmcác điểm cô lập của đường thẳng và Xn hội tụ tới Z theo xác suất Khi đó Xn hội tụ tới

b) Giả sử Z là biến ngẫu nhiên hằng số P{Z = c} = 1.

Khi đó nếu Xn hội tụ theo phân bố tới Z thì Xnhội tụ theo xác suất tới Z.

Lời giải. a) Gọi c là một giá trị bất kì trong tập giá trị của Z và ε > 0 là số dương đủ nhỏsao cho khoảng (c − ε, c+ ε) không chứa giá trị nào của Z Kí hiệu

A= {Xn = c}, B = {|Z − Xn|< ε}.Biến cố AB kéo theo biến cố {c − ε < Z < c+ ε} Thành thử

P(AB) 6 P{c − ε < Z < c + ε} = P{Z = c} ⇒ 1 − P(AB) > 1 − P{Z = c}.Hay

P(A ∪ B) > 1 − P{Z = c} ⇒ P(A) + P(B) > 1 − P{Z = c}

⇒ P(B) > P(A) − P{Z = c} hay P{|Z − Xn|> ε} > P{Xn = c} − P{Z = c}.Tương tự ta cũng có

P{|Z − Xn|> ε} > P{Z = c} − P{Xn= c}.Vậy

n→∞P{Xn = c} = P{Z = c} = 1.Suy ra

n→∞P{|Xn− Z|> ε} = 0.Vậy Xn hội tụ tới Z theo xác suất.

Trang 20

Chương 2

Về luật số lớn và một số áp dụng

Trong thực tế, để xác định giá trị của một biến ngẫu nhiên nào đó người ta thường tiếnhành n lần quan sát (đo đạc) một cách độc lập và lấy trung bình cộng các kết quả đo ấy làmgiá trị ước lượng cho giá trị cần biết Cụ thể, xét một phép thử ngẫu nhiênC nào đó, gọi Alà biến cố liên quan tới phép thửC Để đo khả năng hay xác suất xảy ra của biến cố A ngườita tiến hành thực hiện n lần độc lập phép thửC và quan sát số lần biến cố A xảy ra Sau đóngười ta xấp xỉ xác suất xảy ra của biến cố A bằng tỉ số n(A)/n Ta thấy rằng, với số lần thựchiện phép thửC thì tỉ số này sẽ khác nhau.

Câu hỏi đặt ra là cơ sở nào để khẳng định việc xấp xỉ này là chấp nhận được (hay nóicách khác là sai số của việc xấp xỉ là bao nhiêu và cần thực hiện tối thiểu bao nhiêu phép thửđể thu được sai số không vượt quá một giá trị cho trước).

Chứng minh. Ta có

EY = E[Y; Y > a] + E[Y; Y < a]

> E[Y; Y > a] > E[a; Y > a] = aP{Y > a}.