Đặc trưng của các biến ngẫu nhiên có cấu trúc tuyến tính

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN Đặng Văn Trọng ĐẶC TRƯNG CỦA CÁC BIẾN NGẪU NHIÊN CĨ CẤU TRÚC TUYẾN TÍNH LUẬN VĂN THẠC SĨ KHOA HỌC Hà Nội - 2012 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN Đặng Văn Trọng ĐẶC TRƯNG CỦA CÁC BIẾN NGẪU NHIÊN CĨ CẤU TRÚC TUYẾN TÍNH Chun ngành: Lý thuyết xác suất thống kê toán học Mã số: 60 46 15 LUẬN VĂN THẠC SĨ KHOA HỌC Người hướng dẫn khoa học: PGS.TS Đào Hữu Hồ Hà Nội - 2012 MỤC LỤC LỜI NĨI ĐẦU ĐẶT BÀI TỐN 01 CHƢƠNG MỘT SỐ KIẾN THỨC PHỤ TRỢ 04 1.1 Hàm đặc trƣng 04 1.1.1 Định nghĩa 04 1.2 Một số khái niệm kết cần dùng 06 Chƣơng ĐẶC TRƢNG CỦA VECTƠ NGẪU NHIÊN CÓ CẤU 24 TRÚC TUYẾN TÍNH 2.1 Các định lý đặc trƣng 24 2.2 Mơ hình phân tích nhân tố 34 2.3 Bài toán hồi quy biến cấu trúc 39 KẾT LUẬN 49 TÀI LIỆU THAM KHẢO 50 Lời nói đầu Khi nghiên cứu biến ngẫu nhiên, ta biết phân phối biến ngẫu nhiên gần ta nắm bắt tất thơng tin biến ngẫu nhiên Tuy nhiên việc tìm phân phối biến ngẫu nhiên lại tốn khó Luận văn phương pháp để nhận biết phân phối biến ngẫu nhiên thơng qua cấu trúc tuyến tính vectơ ngẫu nhiên p chiều X Dựa mục đích đặt ra, luận văn trình bày sau gồm có chương Chương I chương gồm kiến thức phụ trợ, chủ yếu trình bày lại kiến thức biết để phục vụ cho việc chứng minh định lý chương sau Bao gồm: kiến thức hàm đặc trưng, số bổ đề tồn moment, khái niệm hàm giải tích, hàm quy, bổ đề có liên quan đến nghiệm phương trình hàm Chương II tập trung trình bày định lý đặc trưng phân phối biến ngẫu nhiên, mơ hình phân tích nhân tố toán hồi quy biến cấu trúc Luận văn hoàn thành hướng dẫn khoa học PGS.TS Đào Hữu Hồ Tác giả xin gửi lời cảm ơn chân thành tới Thầy, người cung cấp tài liệu khoa học tận tình hướng dẫn tác giả suốt thời gian làm luận văn Do trình độ tác giả cịn hạn chế nên luận văn không tránh khỏi sai sót Tác giả xin nhận đóng góp ý kiến thầy giáo, giáo bạn đọc để luận văn hoàn thiện Tác giả xin chân thành cảm ơn! i Đặt toán Ta nói vectơ p- chiều X có cấu trúc tuyến tính biểu diễn dạng: X = µ + AY (1) đó, µ vectơ hằng, Y vectơ ngẫu nhiên với thành phần độc lập, không suy biến, A ma trận khơng có cột tỷ lệ với Nếu Y vectơ q - chiều A ma trận p × q Các thành phần Y gọi biến cấu trúc Giả sử X = ν + BZ dạng biểu diễn khác tương tự (1) X Hai biểu diễn X = µ + AY X = ν + BZ gọi tương đương cấu trúc cột A tỷ lệ với cột B ngược lại Trái lại, hai biểu diễn gọi không tương đương Nếu tất biểu diễn cấu trúc vectơ ngẫu nhiên tương đương với ta nói vectơ ngẫu nhiên có cấu trúc Cũng X có cấu trúc lại tồn hai dạng biểu diễn X cho biến cấu trúc Y Z có phân bố khác Ta nói dạng tuyến tính biểu diễn (1) X có cấu trúc phân bố biến cấu trúc với độ xác đến tham số tịnh tiến tỷ lệ Xét ví dụ X = µ + AY (2) đó, Y vectơ với thành phần độc lập, thành phần có phân bố chuẩn N(0; 1) Hàm đặc trưng X có dạng: E exp(it T X) = eit Tµ E exp(it T AY ) = exp(it T µ − t T AAT t) (3) Do đó, phân bố X phụ thuộc vào µ ma trận xác định khơng âm Λ = A.AT Vì X có phân bố chuẩn p - chiều N p (µ, Λ) (xem tài liệu [9]) Nhưng với ma trận Λ cho trước, phân tích Λ = A.AT không Nếu Λ = B.BT phân tích khác, B ma trận cấp p × r (cấp B khác với A hạng chúng thiết phải nhau), đó, X có biểu diễn X = µ + BZ (4) đó, Z vectơ r - chiều với thành phần độc lập có phân phối chuẩn N(0; 1) Ví dụ: Với ma trận Λ cho sau:    Λ= 10 30 Ta xét ma trận:    √ 2 √ A =  √ ;B =  √5 + √5 5 2 √  √  ;C √ − √5 2  = 1 1   Khi ta có AAT = BBT = CCT = Λ Do vậy, ba biểu diễn    X1 = 2Y1 √   X2 = 5Y1 + 5Y2  √ √   X1 = 2U1 + 2U2 √ √   X2 = ( √5 + √5 )U1 + ( √5 − √5 )U2 2 2    X1 = W1 +W2 +W3 +W4 (5)   X2 = W1 + 2W2 + 3W3 + 4W4 tương ứng với phân phối chuẩn hai chiều biến cấu trúc độc lập có phân phối chuẩn N(0; 1) Vậy cấu trúc vectơ chuẩn không nhất, số biến cấu trúc cho mối liên hệ biến Trong luận văn này, ta nghiên cứu chất vectơ ngẫu nhiên thừa nhận biểu diễn cấu trúc không tương đương Đặc biệt, ta vectơ ngẫu nhiên chuẩn hoàn toàn đặc trưng tính khơng cấu trúc tuyến tính Mọi vectơ ngẫu nhiên có cấu trúc tuyến tính phân tích thành tổng hai vectơ độc lập, vectơ có cấu trúc nhất, khơng vectơ chuẩn vectơ lại vectơ ngẫu nhiên chuẩn Những kết trình bày cho ta cách giải hồn chỉnh tốn tính khơng đồng tham số cấu trúc tuyến tính Tương tự, ta xét cấu trúc tuyến tính mơ hình phân tích nhân tố Bài tốn nghiên cứu luận văn xem tốn tính phân phối vectơ thống kê Khi µ + AY ν + BZ có phân phối? Chương Một số kiến thức phụ trợ 1.1 Hàm đặc trưng 1.1.1 Định nghĩa Định nghĩa 1.1 Hàm số ϕX (t) = EeitX = E costX + iE sintX, t ∈R gọi hàm đặc trưng biến ngẫu nhiên X Dễ thấy rằng, FX (x) hàm phân phối biến ngẫu nhiên X ϕX (t) = R eitx dFX (x), t ∈ R Nếu X có mật độ f (x) ϕX (t) = eitx f (x)dx R Giả sử x = (x1 , x2 , , xn ), y = (y1 , y2 , , yn ) ∈ Rn , tích vơ hướng x y cho (x, y) = x1 y1 + x2 y2 + + xn yn Định nghĩa 1.2 Giả sử X = (X1 , X2 , , Xn ) vectơ ngẫu nhiên nhận giá trị Rn Hàm Ļ�c lại lưu ý (2.38) với t Fj ε j chuẩn Định lý 2.19 Giả sử X = AF + ε mơ hình phân tích nhân tố, rank A số cột A Xét biến ngẫu nhiên Y = aT F + ε0 giả sử tất biến ngẫu nhiên khơng suy biến có kỳ vọng 0, biến ngẫu nhiên ε0 độc lập với F E(ε0 |ε) = δ T ε Để hồi quy Y X tuyến tính với a điều kiện cần đủ tất thành phần vectơ ngẫu nhiên F ε chuẩn Chứng minh Giả sử A ma trận p × r, rank A = r, E(Y |X) = β T X, β phụ thuộc vào a Phương trình (2.38) viết: p r ∑ (a j − β T α j )φ j (α Tj t) + j=1 ∑ (δk − βk )hk (tk ) = (2.40) k=1 α1 , , αr cột A, ak , δk , βk thành phần thứ k vectơ a, δ , β tương ứng Giả sử với a: a j = β T α j, δk = βk , j = 1, 2, , s < r k = 1, 2, , m < p (2.41) (2.42) Chúng ta giả sử s = r m = p Khi dễ dàng suy từ bổ đề 1.6 ngẫu nhiên Fs+1 , , Fr εm+1 , , ε p chuẩn 41 Chương Đặc trưng vectơ ngẫu nhiên có cấu trúc tuyến tính Khơng tính tổng qt, trường hợp Fi , ε j có phân phối chuẩn ta giả sử Var Fi = σi2 , Var ε j = Lưu ý trường hợp φi (u) = −σi2 u h j (u) = −u, giản ước (2.40) dựa điều kiện (2.41) (2.42) ta được: r ∑ p σ 2j (a j − β T α j )(α Tj t) + j=s+1 ∑ (δk − βk )tk = (2.43) k=m+1 Ký hiệu C ma trận với cột αs+1 , , αr D ma trận chéo với phần , , σ vectơ ξ có thành phần a tử đường chéo σs+1 s+1 , , ar r Với ký hiệu (2.43) viết dạng ma trận sau: β T (CDCT + I)t = ξ T DCT t + δ T t ⇔ (CDCT + I)β = CDξ + δ (2.44) Do hạng (CDCT + I) p nên β xác định (2.44) ξ cho Nhưng β phải thỏa mãn (2.41) với a j , j = 1, , s Điều không thể, nên s = Do (2.40) hệ số φ j (α Tj t) khác với giá trị a Từ đó, suy tất thành phần F chuẩn Nếu ta bỏ điều kiện (2.41) (2.44) viết (ADAT + I)β = ADξ + δ (2.45) đây, ma trận đường chéo D xây dựng phương sai r thành phần F ξ = a Từ (2.45) β = δ + Aγ (2.46) với γ thích hợp Vậy (2.45) có dạng: (ADAT + I)Aγ = AD(ξ − AT δ ) (2.47) Khi ξi nhận giá trị không gian p-chiều γ Với γ, ta nhận β theo (2.46) Nếu βi = δi với γ dịng thứ i A phải vectơ Do điều kiện định lý 2.19 biểu thức (2.42) thỏa mãn với a Do đó, hệ số h j (t j ) (2.40) khác với j với giá trị a Bởi tất ε j chuẩn Định lý 2.20 Giả sử r = 1, F có thành phần F1 giả sử F1 , ε1 , , ε p ε0 biến ngẫu nhiên độc lập khơng suy biến (ε0 suy biến) Để hồi quy Y X tuyến tính (và không số) tức E(Y |X) = α + β T X = α + β1 X1 + · · · + β p X p 42 Chương Đặc trưng vectơ ngẫu nhiên có cấu trúc tuyến tính điều kiện cần đủ F1 εi mà tương ứng với βi khác biến ngẫu nhiên chuẩn Chứng minh Phương trình (2.38) trường hợp rút gọn thành: (α1 − γ1 )φ1 (α1t) − β1 h1 (t1 ) − · · · − β p h p (t p ) = (2.48) β1 , , β p hệ số hồi quy không đồng thời Khi α1 − γ1 khác 0, khơng dẫn đến số εi suy biến, dẫn đến trái với giả thiết Khi theo bổ đề 1.6, φ1 tuyến tính từ F1 chuẩn Nhưng hi hàm tuyến tính βi = 0, dẫn đến εi chuẩn Trong định lý 2.18-2.20, xét vài mở rộng toán sau mà đưa Ragnar Frisch hội nghị Oxford Hội kinh tế năm 1936 "Giả sử X1 X2 hai biến ngẫu nhiên có dạng X1 = au + v, X2 = bu + w, u, v, w biến ngẫu nhiên độc lập Với điều kiện hồi quy X1 X2 tuyến tính với a b?" Bài toán trường hợp riêng định lý 2.18 ứng với p = Nhưng chứng minh định lý cho p ≥ 2, việc kiểm tra trường hợp p = cần phải sử dụng phương pháp đặc biệt Sự giải đáng quan tâm khơng thiết biến ngẫu nhiên u, v, w phải chuẩn hồi quy X1 X2 tuyến tính Ta điều kiện để hồi quy X1 X2 tuyến tính, khơng phải cho tất giá trị a b mà cho vài giá trị số Chúng ta cần sử dụng bổ đề sau Bổ đề 2.1 Giả sử f hàm đặc trưng biến ngẫu nhiên khơng suy biến đó, thỏa mãn điều kiện: f (t) = [ f (β1t)]γ1 = [ f (β2t)]γ2 , t ∈R (2.49) < |βi | < γi > với i = 1, Đặt Bi = − log |βi | Khi đó, (i) Tồn số thực λ cho γ1 |β1 |λ = γ2 |β2 |λ (ii) Nếu λ = f hàm đặc trưng luật chuẩn B1 vơ tỷ, f hàm đặc trưng B2 luật ổn định β1 β2 dương λ = 1, luật ổn định đối xứng λ = (iii) Giả sử < λ < 2, 43 ... thừa nhận biểu diễn cấu trúc không tương đương Đặc biệt, ta vectơ ngẫu nhiên chuẩn hồn tồn đặc trưng tính khơng cấu trúc tuyến tính Mọi vectơ ngẫu nhiên có cấu trúc tuyến tính phân tích thành... diễn cấu trúc vectơ ngẫu nhiên tương đương với ta nói vectơ ngẫu nhiên có cấu trúc Cũng X có cấu trúc lại tồn hai dạng biểu diễn X cho biến cấu trúc Y Z có phân bố khác Ta nói dạng tuyến tính. ..u vectơ ngẫu nhiên X có biểu diễn tuyến tính qua họ biến cấu trúc Y , tức X = AY tính khơng biểu diễn tuyến tính tính đặc trưng vectơ ngẫu nhiên chuẩn, biểu diễn X khơng phải vectơ ngẫu nhiên chuẩ