thống kê nhiều chiều

MỤC LỤCChương 1: PHÂN PHỐI CHUẨN NHIỀU CHIỀU. ................................................................................ 2Bài 1: Vectơ và ma trận ngẫu nhiên. ..................................................................................................... 21. Vectơ ngẫu nhiên và ma trận ngẫu nhiên. ........................................................................................ 22. Ma trận hiệp phương sai. .......................................................................................................................... 33. Ma trận hệ số tương quan. .................................................................................................................... 54. Biểu diễn mẫu dưới dạng ma trận. ..................................................................................................... 75. Hàm mật độ của một đại lượng ngẫu nhiên nhiều chiều. .............................................................. 86. Sự độc lập thống kê. ................................................................................................................................ 9Bài 2: Phân phối chuẩn nhiều chiều. ..................................................................................................... 91. Giới thiệu phân phối chuẩn một chiều. .............................................................................................. 92. Xây dựng cho trường hợp nhiều chiều. ........................................................................................... 10Bài 3: Tính chất cũa phân phối chuẩn nhiều chiều. ........................................................................... 151. Tính chất 1:Tổ hợp tuyến tính. .......................................................................................................... 152. Tính chất 2: Tập hợp con của các biến thành phần...................................................................... 173. Tính chất 3: Hiệp phương sai 0 và sự độc lập thống kê. .............................................................. 184. Tính chất 4: phân phối có điều kiện ................................................................................................. 19Bài 4: Mẫu từ tổng thể chuẩn nhiều chiều. ......................................................................................... 191. Ước lượng của và . ..................................................................................................................... 192. Phân phối mẫu của. ........................................................................................................................ 203. Luật số lớn. ............................................................................................................................................. 204. Định lý giới hạn trung tâm. ................................................................................................................. 21Chương 2:KIỂM ĐỊNH DÙNG THỐNG KÊ 2T(HOTELLING) ................................................. 211. Trường hợp 1 chiều....................................................................................................................... 212. Trường hợp 2 chiều: ..................................................................................................................... 22Chương 3: PHÂN TÍCH PHƯƠNG SAI NHIỀU CHIỀU. ................................................................... 26Bài 1: Phân tích một nhân tố (Oneway MANOVA). ........................................................................ 261. Mô hình .................................................................................................................................................... 262. Tổng bình phương và tích chéo: ........................................................................................................ 283. Kiểm định tỷ lệ hợp lý Wilk’s ............................................................................................................ 29Bài 2: Phân tích Profile ......................................................................................................................... 341. Phân tích Profile (Profile analysis) ................................................................................................... 342. Phân tích Profile: 2 nhóm. .................................................................................................................. 353. Phân tích Profile với k 2 nhóm. .................................................................................................... 40 2Chương 1: PHÂN PHỐI C

0 ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN KHOA TOÁN-TIN HỌC  Tiểu luận môn: THỐNG KÊ NHIỀU CHIỀU Giảng Viên: PGS.TS Tô Anh Dũng Thực hiện: Nguyễn Cao Cường MSSV: 1111039 Tp.HCM 30.6.2014 1 MỤC LỤC Chương 1: PHÂN PHỐI CHUẨN NHIỀU CHIỀU. 2 Bài 1: Vectơ và ma trận ngẫu nhiên. 2 1. Vectơ ngẫu nhiên và ma trận ngẫu nhiên. 2 2. Ma trận hiệp phương sai. 3 3. Ma trận hệ số tương quan. 5 4. Biểu diễn mẫu dưới dạng ma trận. 7 5. Hàm mật độ của một đại lượng ngẫu nhiên nhiều chiều. 8 6. Sự độc lập thống kê. 9 Bài 2: Phân phối chuẩn nhiều chiều. 9 1. Giới thiệu phân phối chuẩn một chiều. 9 2. Xây dựng cho trường hợp nhiều chiều. 10 Bài 3: Tính chất cũa phân phối chuẩn nhiều chiều. 15 1. Tính chất 1:Tổ hợp tuyến tính. 15 2. Tính chất 2: Tập hợp con của các biến thành phần 17 3. Tính chất 3: Hiệp phương sai 0 và sự độc lập thống kê. 18 4. Tính chất 4: phân phối có điều kiện 19 Bài 4: Mẫu từ tổng thể chuẩn nhiều chiều. 19 1. Ước lượng của  và  . 19 2. Phân phối mẫu của  . 20 3. Luật số lớn. 20 4. Định lý giới hạn trung tâm. 21 Chương 2:KIỂM ĐỊNH DÙNG THỐNG KÊ 2 T (HOTELLING) 21 1. Trường hợp 1 chiều 21 2. Trường hợp 2 chiều: 22 Chương 3: PHÂN TÍCH PHƯƠNG SAI NHIỀU CHIỀU. 26 Bài 1: Phân tích một nhân tố (One-way MANOVA). 26 1. Mô hình 26 2. Tổng bình phương và tích chéo: 28 3. Kiểm định tỷ lệ hợp lý Wilk’s 29 Bài 2: Phân tích Profile 34 1. Phân tích Profile (Profile analysis) 34 2. Phân tích Profile: 2 nhóm. 35 3. Phân tích Profile với k 2 nhóm. 40 2 Chương 1: PHÂN PHỐI CHUẨN NHIỀU CHIỀU. Bài 1: Vectơ và ma trận ngẫu nhiên. 1. Vectơ ngẫu nhiên và ma trận ngẫu nhiên. Véctơ ngẫu nhiên là các véctơ có các phần tử ngẫu nhiên. Véctơ ngẫu nhiên p -chiều: 12 ' (X , , , ) p XXX Ma trận ngẫu nhiên là các ma trận có các phần tử là biến ngẫu nhiên. Ma trận ngẫu nhiên : np X M 11 12 1 21 22 2 12 p p n n np X X X X X X X X X         X Kì vọng của vectơ X p -chiều 1 ) () () ( p X X        E EX E trong đó: 1 ( ) ( , , ) , 1, , . i i i p p X x f x x dx dx i p       E Tương tự, với {} ij n p X  X và ( ) , (i, j) ij X   E thì 11 12 1 21 22 2 12 ( ) ( ) ( ) ( ) ( ) ( ) () ( ) ( ) ( ) p p n n np X X X X X X X X X         E E E E E E EX E E E  Tính chất: i. Với 1 1, , pp XY và ,  là các hằng số thì ( ( ) ( )) ( ) ( )       E X Y E X E Y . ii. Với np A M thì ( ) ( )E AX AE X . iii. Nếu 1 1, , pp XY độc lập thì ( ') ( ) ( ')E XY E X E Y . iv. Nếu 1p X , ,,A B C là các ma trận hằng, ta có ( ) ( )  E AXB C AE X B C . 3 Ví dụ 1: Cho 2, 1pn và xét vectơ ngẫu nhiên 12 ' [ , ].XXX Cho biến ngẫu nhiên 1 X có hàm xác suất: 1 x -1 0 1 11 ()px 0.3 0.3 0.4 Khi đó 1 1 1 1 1 ( ) ( ) ( 1)(0.3) 0(0.3) 1(0.4) 0.1 allx X x p x       E . Và của 2 X 2 x 0 1 22 ()px 0.8 0.2 Ta cũng có: 2 2 2 2 2 ( ) ( ) 0(0.8) 1(0.2) 0.2 all x X x p x     E Và cuối cùng ta có: 1 2 () 0.1 () () 0.2 X X        E EX E 2. Ma trận hiệp phương sai. Xét X là vectơ ngẫu nhiên p -chiều, phương sai của X là: Var( ) [( )( )'] ( , ')Cov     X E X X X X Ta gọi  là ma trận hiệp phương sai. 11 12 1 21 22 2 12 p p p p pp                  ,trong đó , ( , ) [( (( ))( ( )], , j 1, ,n i j i j i i j j Cov X X X X X X i      E E E là hiệp phương sai của các cặp biến ngẫu nhiên ( , ) ij XX thành phần.  Ta có 2 ( , ) ( ) ii i j i i Cov X X Var X     .  Nếu X có (vec tơ) kỳ vọng  và ma trận hiệp phương sai  , ta kí hiệu ( , )  X . 4  Với ( , ) XX  X và ( , ) YY  Y , ma trận hiệp phương sai giữa X và Y là Cov( , ) [( )( )] ( ') X Y X Y         X Y E X X E XY  Tính chất: Với ' ( , , )aaa và , ( ) np AB M ta có: i. Cov( ) ( ') ( )( ( ))'X E XX E X E X ii. ( ' ) 'Var( ) ' i j ij ij Var a a       a X a X a a a iii. ( ) ( ) 'Var VarAX a A X A iv. ( , ) ( , ) ( , )Cov Cov Cov  X Y Z X Z Y Z v. Var( ) Var( ) Var( ) ( , ) ( , )Cov Cov    X Y X Y X Y Y X vi. Cov( ) ( , ) 'CovAX BY A X Y B Ví dụ 2: Tìm ma trận hiệp phương sai cho hai biến ngẫu nhiên 1 X và 2 X cho trong bài tập 2, với hàm xác suất chung 12 1 2 ( , )p x x được thể hiện trong bảng sau: 2 x 1 x 0 1 11 ()px -1 0 1 0.24 0.06 0.16 0.14 0.4 0.00 0.3 0.3 0.4 22 ()px 0.8 0.2 1 Ta có: 1 1 2 2 (X ) 0.1, (X ) 0.2EE      . Áp dụng công thức, ta có: 1 2 12 22 11 1 1 1 1 1 22 22 2 2 2 2 2 12 1 1 2 2 1 2 12 1 2 ( , ) 21 2 2 (X ) ( 0.1) ( ) 0.69 (X ) ( 0.2) ( ) 0.16 (X )(X ) ( 0.1)( 0.2) ( , ) ( 1 0.1)(0 0.2)(0.24) (1 0.1)(1 0.2)(0.00) 0.8 (X all x all x all x x E x p x E x p x E x x p x x E                                     1 1 1 1 2 2 )(X ) (X )(X ) 0.8E          Do đó, với 12 ' [X ,X ]X , 11 22 (X ) 0.1 () (X ) 0.2 E E E                       X 5 Và 2 1 1 1 1 2 2 2 2 2 1 1 2 2 2 1 1 1 1 2 2 2 2 2 1 1 2 2 11 12 21 22 ( )( )' (X ) (X )(X ) (X )(X ) (X ) (X ) (X )(X ) (X )(X ) (X ) 0.69 0.8 0.8 0.16 E E EE EE                                                 XX  Ma trận hiệp phương sai mẫu: - Ma trận biểu diễn dữ liệu mẫu 11 12 1 21 22 2 12 p p np n n np x x x x x x x x x          X - Véctơ trung bình mẫu x là một ước lượng cho vec tơ kì vọng  : 1 2 p x x x x         với , 1 n ij i j x x n    - Ma trận hiệp phương sai mẫu S là một ước lượng của  : 11 12 1 21 22 2 12 , p p p p pp s s s s s s s s s         S trong đó 1 1 ( )( ) 1 n ij ki i kj j k s x x x x n       , và ij ji ss 3. Ma trận hệ số tương quan. Hệ số tương quan giữa hai biến ngẫu nhiên ( , ij XX ), được định nghĩa như sau: ( , ) ( ) ( ) i j ij ij ij ij Cov X X Var X Var X     6 Xét véctơ ngẫu nhiên p -chiều 1 ' ( , , ) p XXX , ma trận hệ số tương quan của X là: 12 1 21 2 12 1 1 1 p p pp            P Đặt 11 22 1/2 1/ 1/ 1/ pp            D Ta có: 1/2 1/2 1/2 1/2    P D D D PD  Ma trận hệ số tương quan mẫu: - Ma trận hệ sô tương quan mẫu R là một ước lượng của ma trận hệ số tương quan P : 12 1 21 2 12 1 1 1 p p pp rr rr rr         P ,với r ij ij ii jj s ss  . Đặt 11 22 1/2 1/ 1/ 1/ S pp s s s         D ,ta có: 1/2 1/2 1/2 1/2 SS SS    S D RD R D SD Ví dụ 3: Cho ma trân hiệp phương sai: 7 11 12 13 21 22 23 31 32 33 4 1 2 1 9 3 , 2 3 25                                   Tìm 1/2 D và P . Ta có: 11 1/2 22 33 1/ 200 1/ 0 3 0 0 0 5 1/                D ; 1/2 1/ 2 0 0 0 1/ 3 0 0 0 1/5        D Áp dụng công thức, ta có: 1/2 1/2 1/ 2 0 0 4 1 2 1/ 2 0 0 0 1/ 3 0 1 9 3 0 1/ 3 0 0 0 1/ 5 2 3 25 0 0 1/ 5 1 1/ 6 1/ 5 1/ 6 1 1/ 5 1/ 5 1/ 5 1                                       P D D 4. Biểu diễn mẫu dưới dạng ma trận. Véctơ trung bình mẫu: 1 11 21 1 2 12 22 2 12 1 1 11 '1 1 n n n p p np p x x x x x x x x x nn x x x x                        X . Để ý rằng:   12 12 ' 12 12 1 1 1 1 ' 1 1 , , , 1 p p p n n n p x x x x x x x x x x n x x x                 X . 8 Do đó: 12 11 21 1 12 12 22 2 ' 12 12 1 1 1 , p n p n nn p p p np x x x x x x x x x x x x n x x x x x x                  XX Suy ra biểu diễn dạng ma trận của ma trận hiệp phương sai là: '' '' ' 1 1 1 ( 11 )'( 1 1 ) 1 1 1 1 '( 1 1 )'( 11 ) 1 11 '( 1 1 ) 1 n n n n n n n n nn n n n n n n nn           S X X X X X I I X X I X Với 1/2 11 (1/ , ,1/ ) S pp diag s sD , suy ra biểu diễn dạng ma trận hệ số tương quan mẫu là: 1/2 1/2 1/2 ' 1/2 11 '( 11 ) 1 S S S n n S nn     R D SD D X I XD 5. Hàm mật độ của một đại lượng ngẫu nhiên nhiều chiều. a. Định nghĩa. Ta nói rằng đại lượng ngẫu nhiên là liên tục nếu tồn tại hàm số : ( , ) : [0, ), nn f        sao cho 21 1 2 1 2 1 2 ( ) ( ) ( , , , ) , ( , , , ) n x xx x n X n n n F x f t dt f t t t dt dt dt x x x x              . Lúc đó hàm f được gọi là hàm mật độ xác suất (SX) của ve tơ NN X . b. Tính chất. i. 21 21 1 2 1 2 (( , ]) ( ) ( , , , ) , , n n b bb b n X n n a a a a P a b f t dt f t t t dt dt dt a b        ii. ( ) . ( )t f t dt     EX 9 iii. Var( ) ( ( )).( ( )) . ( )t t f t dt       T X E X E X . 6. Sự độc lập thống kê. - Xét vec tơ ngẫu nhiên p -chiều: 1 ( , , ) p XXX ,có hàm mật độ xác suất đồng thời là: 12 ( ) ( , , , ) p f x f x x x . - Nếu i X và j X độc lập thống kê thì ( , ) ( ) ( ) ij i j i i j j f x x f x f x Suy ra 0 ij   . - Nếu 2 C p cặp biến ngẫu nhiên ( , ) ij XX độc lập thống kê thì 1 1 2 2 ( ) ( ). ( ) ( ), pp f x f x f x f x Suy ra 0 ( , ) ij ij   . - Hiệp phương sai của hai biến ngẫu nhiên bằng 0, suy ra hai biến đó độc lập thống kê. Tuy nhiên chiều ngược lại chỉ đúng cho trường hơp X có phân phối chuẩn nhiều chiều.  Tổng quát i. Độc lập thống kê suy ra hiệp phương sai bằng 0. ii. Hiệp phương sai bằng 0, chưa thể khẳng định được độc lập thống kê iii. Hiệp phương sai bằng 0, và phân phối chuẩn nhiều chiều suy ra độc lập thống kê. Bài 2: Phân phối chuẩn nhiều chiều.  Phân phối chuẩn nhiều chiều là một mô hình tốt để miêu tả phân phối cho nhiều hiện tượng khác nhau. Theo định lý giới hạn trung tâm, nhiều biến ngẫu nhiên có thể xấp xỉ phân phối chuẩn.  Phân phối mẫu của các thống kê thưởng dùng được xấp xĩ bởi phân phối chuẩn ( một chiều hay nhiều chiều) do định lý giới hạn trung tâm. 1. Giới thiệu phân phối chuẩn một chiều. Biến ngẫu nhiên X nhận giá trị trong gọi là có phân phối chuẩn với kỳ vọng  và phương sai 2  nếu có hàm mật độ xác suất [...]... cũa phân phối chuẩn nhiều chiều Nếu X i ii iii iv (  , ) thì Tổ hợp tuyến tính của các biến thành phần của X có phân phối chuẩn (nhiều chiều) Tất cả các tập con chọn từ các biến thành phần của X có phân phối chuẩn nhiều chiều Hiệp phương sai bằng 0, suy ra các thành phần tương ứng của X độc lập thống kê Phân phối có điều kiện cúa các biến thành phần của X có phân phồi chuẩn nhiều chiều 1 Tính chất... tố Các thống kê kiểm định khác - Thống kê Hotelling-Lawley: k U  tr (W1B)  tr (BW1 )   i (8) i 1 31 ,trong đó i là trị riêng của BW 1 Bác bỏ H0 khi U lớn Thống kê Pillai: - i (9) i 1 1  i k V  tr[(W  B)1 B]   ,trong đó i là trị riêng của ma trận BW 1 Thống kê kiểm định Roy: -  ,trong đó 1 (10) 1  1 1 là trị riêng lớn nhất của ma trận BW 1 Mối liên hệ với thống kê Wilk’s... 24  44   3 Tính chất 3: Hiệp phương sai 0 và sự độc lập thống kê - Nếu Nếu X1 có cỡ (q1 1) và X2 có cỡ (q2 1) độc lập thống kê thì Cov(X1, X2 )  12  0   1   11 | 12    X1    Nq1 q2    ,       X2    2   21 | 22   ,thì - Nếu X1 , X2 độc lập thống kê khi và chỉa khi 12   '21  0 X1 , X2 độc lập thống kê và có phân phối Nq1 (1 , 11 ) , Nq 2 (2 , 22 ) tương... phối của  p,vB ,vW giống như phân phối của vB , p ,vW vB  p  Thống kê  không tương ứng trực tiếp với thống kê F trong phân tích phương sai một chiều đối với riêng mỗi biến, về miền chấp nhận và miền bác bỏ Nguồn của sự biến thiên Xử lý (between) Tổng bình phương và tích chéo (SSCP) k B   n( xi  x)( xi  x)' Bậc tự do Thống kê Wilk’s k 1 W BW i 1 k Sai số (Within) n W   ( xij  xi )(... mẫu ngẫu nhiên độc lập quan trắc từ N p (  , ) , thì thống kê kiểm định tỷ lệ hợp lý cho gia thuyết  H0 : 1  2   k là W BW ,với B và W được định như trong (3) và (4)  được gọi là thống kê Wilk’s Lambda Bậc tự do của thống kê  trong mô hình cân bằng ( cở mẫu của mỗi nhóm bằng nhau) là vB  k 1và vW  k (n 1) Tương tự như trường hợp 1 chiều Ma trận W và B  W xác định dương nếu vW  p và... p và vB không bằng 1 hay 2, ta có thể xấp xỉ thống kê  bằng thống kê F dựa trên kết quả của Rao (1951) F 1  1/ t df1 ~ℱ (df1, df2 ) 1/ t df 2 ,trong đó df1  pvB , df 2  wt  1 ( pvB  2) 2 1 w  vB  vW  ( p  vB  1) 2 t Khi pvB  2 , ta đặt t  1 Khi đó cho dù trong bảng 1 - 2 p 2vB  4 2 p 2  vB  5 vB hay p bằng 1 hay 2, thì xấp xỉ thống kê F như Một xấp xỉ kém chính xác hơn cho bởi... (n-1)S là Wishart trong đó Wm (.| )   Z j Z ' j j 1 Do đó T 2 = (vecto nn chuẩn nhiều chiều) (Ma trận nn Wishart / bậc tự do) (vecto nn chuẩn nc)  Tính bất biến của T 2 Nếu Yp1  C p p X p1  d p1 với C là ma trận không suy biến thì thống kê T 2 cho kiểm định H0 (Y ) : Y  C0  d sẽ tương đương với thống kê T 2 cho kiểm định H0 ( X ) : X  0 Tính bất biến của T 2 không chỉ áp dụng đối với... định giả thuyết Đặt H0 Phân phối của thống kê  vB  k 1 và vW  k (n 1) , ta có p, vB p bất kỳ, vB  1 Thống kê có phân phối F Bậc tự do 1   vB  vW  p  p p, vB  vW  p p bất kỳ, vB  2 1   vB  vW  p  1 p  2 p,2(vB  vW  p 1) p  1 , vB bất kỳ 1   vW  vB vB , vW p  2 , vB bất kỳ 1   vW  1 vB  2vB ,2(vW 1) Tham số Bảng 1: Phân phối của thống kê Wilk’s Lambda Nếu cả p và vB không... )( S 2 )1 ( X  0 ) 2 S / n T 2 là bình phương khoản cách thông kê giữa trung bình mẫu và giá trị kiểm định 0 Phân phối của T 2 : n( X  0 )( S 2 )1 ( X  0 ) F1,n1 Thống kê Hotelling’s T 2 Ta thu được T 2  n( X  0 )(S 2 )1 ( X  0 ) trong đó: 1 n X p1   X j n j 1 ,  '0  (01 , 02 , , 0 p ) , 22 T 2 được gọi là thống kê hotelling với T 2 (n 1) Fp,n p ( n  p) Kiểm định giả thiết... dương) Thì phân phối có điều kiện biên của trước sai là X1 cho X2  x2 là phân phối chuẩn ( nhiều chiều) có véctơ kỳ vọng và ma trận hiệp phương X |x  1  12  '22 ( x2  2 ) 1 2 X1|x2  11  12  '22 21 Bài 4: Mẫu từ tổng thể chuẩn nhiều chiều 1 Ước lượng của  và  Giả sữ ta có 1 phân phối chuẩn p -chiều với véctơ kì vọng   và ma trận hiệp phương sai 19 Quan trắc ngẫu nhiên Xj n vec tơ . THỐNG KÊ NHIỀU CHIỀU Giảng Viên: PGS.TS Tô Anh Dũng Thực hiện: Nguyễn Cao Cường MSSV: 1111039 Tp.HCM 30.6.2014 1 MỤC LỤC Chương 1: PHÂN PHỐI CHUẨN NHIỀU CHIỀU.