advanced engineering mathematics – mathematics

Quy luật phân bố xác suất của biến ngẫu nhiên rời rạc được xác định qua hàm khối lượng xác suất, vì vậy tính chất Markov đối với chuỗi Markov với thời gian rời rạc được viết lại như sau.[r]

(1)

CHƯƠNG IV: QUÁ TRÌNH NGẪU NHIÊN

1 4.1 KHÁI NIỆM VÀ PHÂN LOẠI QUÁ TRÌNH NGẪU NHIÊN

4.1.1 Khái niệm trình ngẫu nhiên

2 )

, (t  X

Khi cố định tham sốtthì là biến ngẫu nhiên phụ thuộc yếu tố ngẫu nhiên, cố địnhta hàm theo thời giantvà gọi hàm mẫu thể quá trình ngẫu nhiên.

Tập số Tthường biểu diễn tham số thời gian Do tác động yếu tố ngẫu nhiên nên tín hiệu truyền trình ngẫu nhiênX t( , ); tT

Tín hiệu cụ thể nhận hàm mẫu (một thể hiện) trình ngẫu nhiên

x t t( ); T

Một trình ngẫu nhiên họ biến ngẫu nhiên {X(t,);tT}xác định phép thử.

Các trình vừa phụ thuộc vào thời giant, vừa phụ thuộc yếu tố ngẫu nhiên.

3 4.1.2 Phân loại trình ngẫu nhiên

4.1.2.1 Phân loại trình ngẫu nhiên theo tập trạng thái E

Q trình có trạng thái rời rạc nếuElà tập đếm

Quá trình thực trình trạng thái liên tục Elà khoảng tập số thực 

Quá trình trạng thái phức Elà tập tập số phức 

Quá trình trạng thái k-véc tơ Elà tập tậpk

4

4.1.2.2 Phân loại trình ngẫu nhiên theo tập số T  NếuTthì q trình{X(t);tT}được gọi q trình có thời gian rời rạc tham số rời rạc

Trường hợp ta ký hiệu Xnthay cho X(t) gọi dãy ngẫu nhiên

 NếuT=[0;)hoặcT=thì{X(t);tT}được gọi trình có thời gian liên tục

CHƯƠNG IV: Q TRÌNH NGẪU NHIÊN

4.1.2.3 Phân loại theo tính chất xác suất trình ngẫu nhiên

Quá trình độc lập

Nếu với thời điểm , biến ngẫu

nhiên n

t t t1 2 

1

( ), ( ), , ( )n

X t X t X t

Ví dụ 4.1: Giả sử dãy biến ngẫu nhiên độc lập có phân bố Bernoulli với xác suất1

, , X X

 n 1 ,  n 0 1 ; 1, 2, P X  p P X  q p  n độc lập

Khi trình ngẫu nhiên gọi trình Bernoulli tham sốp.

Xn,n1

Một ví dụ dãy mẫu q trình Bernoulli nhận cách gieo đồng xu liên tiếp Nếu mặt sấp xuất ta gán giá trị 1, mặt ngửa xuất ta gán giá trị

Chẳng hạn

1 2 3 4 5 6 7 8 9 10

1 0 0 1 1 1 0 1 1 0

n

S N N S S S N S S N

x

   MỈt xt hiƯn

Dãy mẫu nhận minh họa hình sau

(2)

7 10

1 0 1 1

n n

S N N S S S N S S N x

   MỈt xt hiƯn

8

Q trình có gia số độc lập

Nếu với cách chọn thời điểm

biến ngẫu nhiên n

t t t1 2 

2

( ) ( ), ( ) ( ), , ( )n (n ) X t X t X t X t X t X t độc lập

Quá trình gia số độc lập dừng

Quá trình gia số độc lập gọi trình gia số độc lập dừng

, : ; 0; ( ) ( ) ( ) ( )

s t s t h X t X s X t h X s h

     và   

có phân bố

CHƯƠNG V: QUÁ TRÌNH NGẪU NHIÊN

9

Quá trình Martingal

Nếu với thời điểm giá trị

1 1t  tn

t n a a a1, 2, ,

1 1

EX t(n)X t( )a, ,X t( )n anan

Tính chất Martingal nói giá trịtrung bìnhcủa hệ thời điểm tương lai giá trị hệ nhận có thời điểm vàkhông phụ thuộc vào giá trị hệ nhận được trong khứ.

1



n t n t

Một trình gia số độc lập với kỳ vọng trình Martingal

10

Quá trình Markov

Nếu với thời điểm , với giá trị tùy ýt1t2 tn 1, 2, , n;

a a a với thời điểm với ttn a ta có

 ( ) ( )1 1, , ( )n n  ( ) ( )n n

P X t a X t a X t a P X t a X t a

Nghĩa qui luật xác suất tương lai phụ thuộc độc lập với q khứ Nói cách khácq trình Markov mơ tả hệ khơng có trí nhớ(memoryless)

Hàm xác suất chuyển từ thời điểm sđến thời điểm t

 

( , ; , ) ( ) ( ) ;

p s a t A P X t A X s a st

Q trình Markov với không gian trạng thái rời rạc gọi chuỗi Markov (hay xích Markov, Markov chains)

Quy luật phân bố xác suất biến ngẫu nhiên rời rạc xác định qua hàm khối lượng xác suất, tính chất Markov chuỗi Markov với thời gian rời rạc viết lại sau

Xn;n0,1, 2, 

 n1 0, 1, , n   n1 n 

P X  j X i X i X i P X  j X i

0 1, , , ,

i i i j E

 

Q trình dừng (stationary)

Dừng theo nghĩa chặt(strictly stationary)

Nếu với , với thời điểm hai véc tơ ngẫu nhiên

0

h t t1, , ,2 tn

X t(1h X t), (2h), ,X t(nh) X t( ),1 X t( ), ,2 X t( )n  có phân bố xác suất

Nói riêng X(t) có phân bố

(3)

13

Dừng theo nghĩa rộng hay dừng hiệp phương sai(wide sense stationary or covariance stationary)

Quá trình dừng theo nghĩa rộng thỏa mãn hai điều kiện sau

X t t( ); T

2 Với t, E[X(t), X(t+)] phụ thuộc  Với t, EX(t) m hằng số

Hàm tự tương quancủa trình

 

( ) E ( ), ( ) X

K   X t X t 

14 4.2 CHUỖI MARKOV

Chuỗi Markov q trình Markov{X(t);tT}có khơng gian trạng tháiEđếm được

Tùy theo tập số tương ứng ta có chuỗi Markov với thời gian rời rạc liên tục

{0,1, 2, }

T T(0; )

Công thức xác suất chuyển

 

( , ; , ) ( ) ( ) , ; ,

p s i t j P X t j X s i ts i jE

Nếu xác suất chuyển phụ thuộc vào t s ( , ; , ) ( , ; , ) p s i t j p sh i th j

đúng với h, ta nói q trình theo thời gian

11 Q trình Markov với không gian trạng thái rời rạc gọi chuỗi Markov (hay xích Markov, Markov chains)

Quy luật phân bố xác suất biến ngẫu nhiên rời rạc xác định qua hàm khối lượng xác suất, tính chất Markov chuỗi Markov với thời gian rời rạc viết lại sau

Xn;n0,1, 2, 

 n1 0, 1, , n   n1 n 

P X  j X i X i X i P X  j X i

0 1, , , ,

i i i j E

 

14

4.2.1 Chuỗi Markov với thời gian rời rạc nhất

Quá trình {Xn, n=1, 2, … }với thời gian rời rạc gọi chuỗi Markov thời gian rời rạc thỏa mãn hai điều kiện sau

i) Khơng gian trạng thái Ecủa q trình {Xn , n=1, 2, … } là tập đếm được

ii) Hàm xác suất chuyển theo thời gian, nghĩa là (0, ; , ) ( , ; , )

p i m j p n i m n j

CHƯƠNG IV: QUÁ TRÌNH NGẪU NHIÊN 4.2.2 Ma trận xác suất chuyển

Với i, jE; đặt

   

ij n n

p P X  j X i P X j X i Xác suất không phụ thuộc vào n, xác suất để từ trạng thái isau bước hệ chuyển thành trạng thái j

ij P  p  Ma trận

được gọi ma trận xác suất chuyển hay ma trận xác suất chuyển sau bước chuỗi MarkovXn,n0,1, 2,  Các phần tử hàng ma trận xác suất chuyển thỏa mãn điều kiện

ij p

0, 1 ;

ij ij

j E

p p i E



    

CHƯƠNG IV: QUÁ TRÌNH NGẪU NHIÊN 4.2.3 Ma trân xác suất chuyển bậc cao,

Phương trình Chapman–Kolmogorov

   

( )

0 k

n k n k

ij

p P X  j X i P X j X i xác suất sau kbước hệ chuyển từ trạng thái isang trạng thái j

Ma trận ( )k ( )k ij P p  gọi ma trận xác suất chuyển sau kbước

(4)

18 Định lý 4.1: Với n 0, ta có

(n1) ( )n ( )n

P  PP P P

( )n n

P P

 

(n m) ( )n ( )m, , 0

P  P P n m

   

ta viết phần tử tương ứng dạng (n m) ( )n ( )m

ij ik kj

k

p  p p

gọi Phương trình Chapman-Kolmogorov

19 4.2.4 Phân bố xác suất hệ Xn,n= 0,1, 2, 

Giả sử khơng gian trạng thái có dạng E={0, 1, 2, …} Ma trận hàng

   

( )n  p n( ) p n( ) p n( ) ,p nj( )P Xnj ,n0,1, 2,

P 

gọi ma trận phân bố hệ thời điểm nhoặc phân bố củaXn Các phần tử ma trận hàng thỏa mãn điều kiệnP( )n

( ) 0; ( ) 1

k k

k p n  p n 

Ma trận phân bố đầu P(0)p0(0) p1(0) p2(0) 

20 Định lý 4.2:Với n0, m 0

( ) ( )n  (0)Pn

P P (n1) ( )n P

P P ( ) (nm) ( )n Pm

P P

Ví dụ 4.2: Xét mạng viễn thông gồm dãy trạm chuyển tiếp kênh viễn thông nhị phân cho sơ đồ sau

Trong ký hiệu mã số nhị phân đầu trạm thứ nvà ký hiệu mã số nhị phân đầu vào trạm đầu tiênn

X X0

Đây mơ hình chuỗi Markov có khơng gian trạng thái E ={0, 1}

21 Ma trận xác suất chuyển mạng viễn thơng cịn gọi ma trận kênh

1

; 0 1, 0 1

1

a a

P a b

b b



 

     



 

a, blà xác suất lỗi

CHƯƠNG IV: QUÁ TRÌNH NGẪU NHIÊN Giả sử a = 0,1, b = 0,2 phân bố xác suất đầu

 0  1 0,5

P X  P X  

1 Tìm ma trận xác suất chuyển sau bước, Tìm phân bố trạm thứ haiX2

Giải: (2) 0, 0,1 0,9 0,1 0,83 0,17 0, 0,8 0, 0,8 0,34 0, 66

P      

     

   

(2) 0,83 0,17

(2) (0) 0,5 0,5 0,585 0, 415 0,34 0, 66

P  

   

 

P P

Như có 58,5% tín hiệu 41,5% tín hiệu đầu trạm thứ hai, đầu vào trạm hai tín hiệu xuất đồng khả

CHƯƠNG IV: QUÁ TRÌNH NGẪU NHIÊN 4.2.6 Phân bố dừng, phân bố giới hạn, phân bố ergodic

Ma trận hàng *  

1

p p



P

được gọi phân bố dừng chuỗi Markov với ma trân xác suất chuyển Pnếu thoả mãn điều kiện:

* *

( )

0, ( )

j j

j

P a

p p b

 



  



 

P P

Từ điều kiện a) suy * * * *

n;

P P P n

    

P P P P

(5)

24 Định nghĩa 4.4:Ta nói chuỗi Markov với ma trân xác suất chuyểnPcó phân bố giới hạn thoả mãn điều kiện:

p1 p2 

1) Với jtồn giới hạn không phụ thuộc lim ij( )n j i, np p

1 , 0

j j

j

p  p 



2)

Nếu điều kiện 2) thay

1 ,

j j

j

p  p 



3)

thì chuỗi Markov gọi có tính ergodic phân bố ergodic

p1 p2 

25

Nếu phân bố (ở thời điểm thứ ) chuỗi phân bố dừng từ thời điểm trở phân bố chuỗi không thay đổi; nghĩa với , có phân bố

0

n

X n0

0

mn Xm Xn0

Phân bố giới hạn phân bố hệ đạt thời gian tiến đến vô Phân bố giới hạn phụ thuộc ma trận xác suất chuyển, không phụ thuộc phân bố đầu Trong thực tế đến thời điểm trở ma trận xác suất chuyển có hàng nhau, lúc chuỗi đạt phân bố giới hạn Ví dụ 4.5 sau chứng tỏ vớin=20 chuỗi đạt phân bố giới hạn

Phân bố ergodic phân bố giới hạn với xác suất dương trạng thái chuỗi Như lâu dài hệ nhận giá trị trạng thái với xác suất dương

26 Ví dụ 4.5: Có mạng điện thoại di động A, B, C khai thác thị trường Tỉ lệ chiếm lĩnh thị trường tương ứng 40%, 30% 30% Theo thống kê người ta thấy xác suất thay đổi mạng khách hàng quí (3 tháng) sau:

0, 6 0,3 0,1 0,1 0,8 0,1 0,1 0, 2 0, 7

A B C

A P

B C

 

  

 

 

Áp dụng công thức tính phân bố thời điểm thứn ( )

( )n  (0)Pn

P P

27

n P(0)0, 0,3 0,3

1 n

0, 0,3 0,1 0,1 0,8 0,1 0,1 0, 0, P

 

 

 

 

 

 

(1)0, 35 0, 43 0, 22 P

6

n

0, 2125 0,5492 0, 2383 0,1969 0, 5648 0, 2383 0,1969 0,5181 0, 2853 P

 

 

 

 

 

 

(6)0,2047 0,5476 0,2477 P

18

n 18

0, 2000 0, 5500 0, 2500 0, 2000 0, 5500 0, 2500 0, 2000 0, 5499 0, 2501 P

 

 

 

 

 

 

(18)0, 200 0, 550 0, 250 P

20

n 20

0, 2000 0, 5500 0, 2500 0, 2000 0, 5500 0, 2500 0, 2000 0, 5500 0, 2500 P

 

 



 

 

 

(20) 0, 20 0, 55 0, 25 P

Ví dụ 4.6: Về bình đẳng giáo dục nhóm chủng tộc Trên sở báo cáo điều tra dân số văn phòng điều tra dân số Hoa kỳ năm 1960, hai tác giả Lieberson Fuguitt (1967) xác định ma trận chuyển trình độ học vấn hai hệ so sánh tình trạng học vấn nhóm niên độ tuổi 20-24 với trình độ học vấn bố họ

CHƯƠNG IV: QUÁ TRÌNH NGẪU NHIÊN % Dưới

ĐH % ĐH

% Trên ĐH

Chỉ số % khác Da trắng 46 31 23

(1) P

(1960) Da mầu 75 16 09 29 Da trắng 24 30 46 ( )

P

Da mầu 34 33 33 13 Da trắng 16 26 58 (3)

P

Da mầu 20 28 52 Da trắng 12 23 64 ( )

P

Da mầu 14 25 61 Da trắng 11 22 68 (5 )

P

Da mầu 11 23 66 Da trắng 10 22 68 ( )

P

Da mầu 11 22 67 Da trắng 10 21 69 ( )

P

Da mầu 10 22 68 Da trắng 10 21 69 (8 )

P

(6)

30 Bảng kết giả định ma trận chuyển P hai nhóm da trắng da mầu có xuất phát điểm khác (phân bố đầu khác nhau)

Như không phụ thuộc vào xuất phát điểm, sau hệ nhóm người cộng đồng có trình độ học vấn theo tỷ lệ 10% ĐH, 21% ĐH 69% ĐH

Nói cách khác hệ đạt phân bố giới hạn thời điểm n = 8

31 Định lý 4.3: Nếu tồn phân bố giới hạn phân bố dừng

Định lý 4.4:Nếu chuỗi Markov có khơng gian trạng thái hữu hạn chuỗi ergodic tồn cho n0

0

( ) ,

min ijn 0

i j p 

Nhận xét 4.2: Mỗi phân bố dừng nghiệm hệ phương trình tuyến tính sau:

   

1 1 2

hay

0 , 1.

t

j j

j

j j

j

x x

x x x x P P x x

x x

         

   

   

 

       

 

   

  



 

32 Ví dụ 4.7: Xét chuỗi Markov ma trận xác suất chuyển

1

, 0 , 1

1

a a

P a b

b b



 

   



 

Theo định lý 4.4 chuỗi Markov có tính ergodic với phân bố ergodic phân bố dừng nghiệm hệ phương trình

1 1

1 2

1

2

1

0

1

b

x x

a b x

ax bx a b

a b x x

x x a

x x x

a b



      

   

       

       

  

    

  

33 4.3 QUÁ TRÌNH DỪNG

4.3.1 Hàm tự hiệp phương sai hàm tự tương quan quá trình dừng

Hàm tự tương quan:

( ) E ( ) ( )

X

K   X t X t

Hàm tự hiệp phương sai

( ) cov( ( ), ( )); , X

C   X t X t t t  I Công thức liên hệ hàm tự tương quan hàm tự hiệp phương sai

2 ( ) ( )

X X

C  K  m

CHƯƠNG IV: Q TRÌNH NGẪU NHIÊN Ví dụ 4.9: Xét trình ngẫu nhiên

( ) cos sin

X t U  t V t

trong đó số;U, Vlà hai biến ngẫu nhiên thoả mãn

EUEV0, cov( , )U V 0, varUvarV q trình dừng có trung bình hàm tự tương quan

( ) X t

2 ( ) cos X

K   

CHƯƠNG IV: QUÁ TRÌNH NGẪU NHIÊN Ví dụ 4.10: Tín hiệu ngẫu nhiên hình sin

 

( ) cos X t A   t

trong hai biến ngẫu nhiên độc lập,A, EA0, varA 

là biến ngẫu nhiên có phân bố đoạn

 0;2

thì trình dừng với hàm tự tương quanX t( )

( ) cos

2

X

(7)

36 Ví dụ 4.11: Quá trình W(t), t 0 gọi q trình Wiener với tham số 2nếu thoả mãn tính chất sau:

1) W(0)0

2) biến ngẫu nhiên có phân bố chuẩn

, ; : ( ) ( )

s t s t W t W s

   

2 ( 0;(ts) ) N

3) W(t), t 0 trình với gia số độc lập Ta có m t( )EW t( )0 t

2 ( , ) min( , ) r s t  s t

Vậy trình Wiener q trình gia số độc lập dừng khơng phải trình dừng

Quá trình Wiener biểu diễn chuyển động Brown mô tả chuyển động hạt môi trường chất lỏng

37 4.3.2 Biểu diễn phổ trình dừng

Mật độ phổ trình dừng hàm thỏa mãn

X t( );tI PX( )f

1/ 2 1/

( ) in f ( )

X X

K n e  f df



  P (quá trình thời gian rời rạc)

2

( ) i f ( )

X X

K  e  f df





  P (quá trình thời gian liên tục) Hàm mật độ phổ biến đổi Fourier hàm tự tương quan hàm tự tương quan biến đổi Fourier ngược mật độ phổ

  1 

( ) ( ) , ( ) ( )

X f  KX  KX    X f

P F F P

38 4.3.3 Mật độ phổ công suất

Mật độ phổ cơng suất q trình, viết tắt PSD (Power Spectral Density)



1 lim E T( )

T

X f T



( )

0

T

X t t T

X t t T         nÕu nÕu

Áp dụng đẳng thức Parseval 2( )  ( )2

T

T XT t dt X f df

      E  2

ET E XT ( )t dt EXT( )t dt EXT( )f df

          E      2 2

1 1

lim E ( ) lim E ( ) lim E ( )

T

T T

T T T

T

P X t dt X t dt X f df

T T T

 

  

  

     

39 Định lý Wiener - Khintchine

Mật độ phổ cơng suất PSD q trình dừng (với giá trị trung bình 0) mật độ phổ trình



1

( ) lim E T( ) , X

T

f X f

T





P P X( )f df





P

1) Giá trị hàm mật độ phổ diện tích giới hạn đồ thị hàm tự tương quan,

(0) ( )

X KXd



   P

2) Giá trị bình phương trung bình trình dừng diện tích giới hạn đồ thị hàm mật độ phổ

2

EX t( ) EX(0) KX(0) X( )f df





  P

Tính chất

CHƯƠNG IV: Q TRÌNH NGẪU NHIÊN Ví dụ 4.13: (Sóng ngẫu nhiên nhị phân)Xét trình ngẫu nhiên{X(t);t}gồm bit bit thoả mãn điều kiện sau:

1) Bit biểu diễn xung chữ nhật với biên độ+avàavolt với độ rộng xung làTgiây 2) Các hàm mẫu (sample functions) không đồng giả thiết thời điểm xuất phát xung thứ xảy đồng khả khoảng từ đếnT Điều có nghĩa là giá trị mẫu biến ngẫu nhiên có phân bố đoạn

d t d

t Td

0;T

3) Trong khoảng thời gian xung , hai bit đồng khả xuất hiện.X(t) X(s) độc lập t, sở khoảng xung thời gian khác

nT t t T n1)   d (

Hàm tự tương quan

2 1 ( ) 0 . X a T T K T                    nÕu nÕu d t a  a T t

Mật độ phổ công suất   2

( ) ( ) sinc ( )

X f  KX  a T fT

(8)

42 4.3 TRUNG BÌNH THEO THỜI GIAN VÀ TÍNH CHẤT ERGODIC

Định nghĩa 4.6: Trung bình theo thời gian hàm số x(t),t định nghĩa ký hiệu

( ) lim ( )

T T

T

A x t x t dt

T

 

 

Toán tử   lim  

T T

T

A dt

T

 

   

gọi tốn tử trung bình theo thời gian

43 Thực tốn tử trung bình theo thời gian theo hàm mẫu x(t) trình ngẫu nhiên X(t) ta trung bình theo thời gian hàm tự tương quan theo thời gian xác định sau

 ( ) lim ( )

T

T T

x A x t x t dt

T

 

  

 

( ) ( ) ( ) lim ( ) ( )

T X

T T

A x t x t x t x t dt T

  

 

    

R

Trung bình theo thời gian trùng với trung bình theo tập hợp gọi tính ergodic Q trình ngẫu nhiên có tính ergodic gọi q trình ergodic

Quá trình dừng trình ergodic

 

E ( )

x X t m RX( ) RX( ) Ex t x t( ) ( )

44 Giả thiết Ergodic cho trung bình theo thời gian cấp trùng với trung bình theo tập hợp cấp tương ứng Giả thiết đáng tiếc số nhà kỹ thuật đầu kỷ 20 tin tưởng

Định lý 4.8: Quá trình dừng thời gian rời rạc {X(n); n 0}với hàm tự hiệp phương sai CX( )n ergodic

0

lim ( )

n X

n m

C m n

  



Định lý 4.9:Quá trình dừng {X(t);t}với hàm tự hiệp phương saiCX( ) ergodic

2 0

lim ( )

T T X

TT  C ts dtds

44 Định lý 4.10:Quá trình dừng{X(t);t}với hàm tự hiệp phương sai CX( ) ergodic

0

lim ( )

T X T

t C t dt

T T



 

 

 

 



Hệ 4.1: Nếu trình ergodic.limCX( ) 0

  

Tính ergodic dạng hạn chế tính dừng thật khó khăn để kiểm tra xem tình vật lý cụ thể giả thiết ergodic thỏa mãn Dù thường giả thiết trình ergodic để đơn giản hóa

Định dạng
Số trang	8
Dung lượng	1 MB