Bài tập lớnmôn đại số tuyến tính gram schmidt

lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH BÁO CÁO BÀI TẬP LỚN MƠN: ĐẠI SỐ TUYẾN TÍNH ĐỀ TÀI 3: “Gram-Schmidt” GVHD: Cơ Nguyễn Xn Mỹ - Cơ Bùi Thì Khun Lớp L08 – Nhóm 03 Thành phố Hồ Chí Minh, 16/04/2022 Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH BÁO CÁO BÀI TẬP LỚN MƠN: ĐẠI SỐ TUYẾN TÍNH ĐỀ TÀI 3: “Gram-Schmidt” Trương Đức Dũng 2113080 Cao Đức Dương 2110971 Thái Thanh Duy 2113038 Nguyễn Hà Giang 2110139 Nguyễn Hoàng Hương Giang 2113254 Hoàng Văn Hải 2111134 Lê Hữu Hải 2113294 GVHD: Cô Nguyễn Xuân Mỹ - Cô Bùi Thì Khun Thành phố Hồ Chí Minh, 16/04/2022 Muc luc Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH TĨM TẮẮT Q TRÌNH THỰC HIỆN ĐỀỀ TÀI PHẦỀN 1: LỜI CẢM ƠN PHẦỀN 2: CƠ SỞ LÝ THUYỀẮT Một sốố khái niệm: Phân rã A=QR với ma trận cụ thể Giải phương trình tuyếốn tính bằằng phân rã A=QR PHẦỀN 3: VIỀẮT CHƯƠNG TRÌNH MATLAB .11 Đoạn code Matlab: 11 Giải thích: 12 PHẦỀN 4: ỨNG DỤNG CỦA PHẦN TÍCH A = QR 14 Giải quyếốt vâốn đếằ bình phương tốối thiểu tuyếốn tính: 14 Giải quyếốt tốn tìm giá trị riếng: 17 Ứng dụng MIMO: 21 PHẦỀN 5: TÀI LIỆU KHAM THẢO 24 Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH TĨM TẮT Q TRÌNH THỰC HIỆN ĐỀ TÀI Tìm hiểu đề tài giao Tìm hiểu sở lý thuyết liên quan Tìm hiểu thuật tốn viết chương trình giải tốn MATLAB Tìm ứng dụng phương pháp áp dụng Từ đưa kết luận Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH PHẦN 1: LỜI CẢM ƠN Kính gửi CBGD: Cố Nguyếễn Xuân Myễ, Cố Bùi Th ị Khuyến Chung em khống thê hoàn thành tập lớn nếốu khống nh ận đ ươc s ch i b ao giup đ tư râốt nhiếằu Vì chung em muốốn dành phâằn riếng đ ê g ửi đếốn l c am ơn chân thành nhâốt Lơi đâằu tiến, chung em xin gửi lơi cam ơn chân thành sâu sằốc đếốn thâằy cố Nguyếễn Xuân Myễ cố Bùi Thị Khuyến, tr ưc tiếốp giang day chung em mốn Đ sốố tuyếốn tính, cung câốp cho chung em râốt nhiếằu kiếốn th ưc mà nh đo nhom chung em co th ê áp d ung vào tập lớn này, cố luố đốằng hành chung em suốốt h oc kì v ưa qua Các cố luốn nh ững đáng kính đốối với chung em Một lâằn nữa, chung em xin gửi lơi cam ơn chân thành vố sâu sằốc đếốn tâốt c a moi Tuy nhiến, dù râốt cốố gằống vâễn khống th ê tránh kh ỏi nh ững sai sot, nhom 03 râốt mong nhận đươc ý kiếốn đong gop nh ph an hốằi t quý thâằy cố ban đê nhom co thê hoàn thiện đếằ tài đốằng th co th ê b ổ sung, nâng cao kiếốn thưc Nhom 03 xin chân thành cam ơn! PHẦN 2: CƠ SỞ LÝ THUYẾT Một số khái niệm: ▪ Khái niệm phân rã QR: Trong đại sốố tuyếốn tính, phân rã QR, cịn gọi phân tích nhân tốố QR phân tích nhân tốố QU phân rã ma tr ận A thành tích A = QR ma trận trực giao Q ma trận tam giác trến R Phân rã QR th ường đ ược s Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH dụng để giải quyếốt vâốn đếằ bình phương tốối thiểu tuyếốn tính c s cho m ột thuật toán eigenvalue cụ thể, thuật toán QR Định nghĩa 4.2.3 (Q trình trực giao hóa Gram-Schmidt): Tập hợp M ▪ gọi họ trực giao, x ⊥ y, ∀x, y ∈ M x , y ▪ Định nghĩa 4.2.4 (Q trình trực giao hóa Gram-Schmidt); Tập hợp M gọi họ trực chuẩn, nếu: ( M họ trực giao ||x|| = 1, ∀x ∈ M Định lý 4.3.1 (Quá trình trực giao hóa Gram-Schmidt): Cho sở trực chuẩn ▪ không gian V ∀x ∈ V Giả sử Khi ∀i = · · · n,  x E Giả sử   x1; x ;· · ·; x n  T Khi đó: (x, y) = x1y1 + x2y2 + · · · + xnyn ▪ Định lý 4.3.2 (Quá trình trực giao hóa Gram-Schmidt): Cho họ độc lập tuyến tính Khi xây dựng họ trực giao cho không gian sinh F trùng với không gian sinh E  Phân tích ma trận A () thành A = QR với Q ma trận trực giao (tức Q-1 = QT) R ma trận phía (tức rij = 0, j) Giả sử họ véctơ cột A: họ độc lập tuyến tính Dùng q trình trực giao hóa Gram Schmidt ta họ trực giao chia véctơ cho độ dài ta có họ trực chuẩn Lập ma trận trực giao Q có cột véctơ trực chuẩn vừa tìm Theo định nghĩa, ta có ma trận chuyển sở từ Q sang E là: R = () Theo cách xây dựng họ trực giao, ma trận R ma trận phía Mặt khác ma trận chuyển sở từ Q sang E Q-1E = QTE = QT A Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH Suy Q T A = R ⟺ A = QR  Phép phân rã A=QR áp dụng tất ma trận vuông thực A  Cách phân rã A=QR phương pháp Gram-Schmidt áp dụng cho cột ma trận xếp hạng cột đầy đủ A=[a1,…,an], với sản phẩm bến 〈v,w〉= vTw (hoặc là〈u,w〉=v*w đốối với trường hợp phức tạp) Xác định phép chiếu: Proju (v)=u Sau đó: u1=a1, e1 = u2=a2-proju1a2, e2 = u3=a3-proju1a3-projuu2a3, e3 = ⋮ uk=ak a, u1 k ⋮ ek= Bây thể dựa sở chuẩn mực tính tốn: a1=〈e1,a1〉e1 a2=〈e1,a2〉e1 + 〈e2,a2〉e2 a3=〈e1,a3〉e1 + 〈e2,a3〉e2 + 〈e3,a3〉e3 ⋮ ak=ej,ak〉ejỞ đâu〈ei,ai〉=||ui|| Điều viết dạng ma trận: A=QR Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH Ở đâu: Và Q=[e1,…,en] R= Phân rã A=QR với ma trận cụ thể Sự phân hủy A= Nhớ lại rằằng ma trận trực chuẩn Q co giá trị :QTQ=I Sau đo, chung ta co thể tính tốn Q bằằng Gram – Schmidt sau: Gọi U {u 1;u ;u } u1 e1 (2;1;1) u e2  (e , u ) u1 (1;2;2)  (2;1;1) ( 1;1;1) (u ,u1 ) u e3  (e3 ,u ) (e ,u ) u1  u (1;2;3)  (2;1;1)  ( 1;1;1) (0;  ; ) (u ,u1 ) (u ,u ) = 2 Chọn u (0;  1;1) U==; Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH         Q==  6 1 3    1  2    2 Do đo, chung ta co: QTA=QTQR=R;         R=QTA=  6 0 6 3    3    2 Giải phương trình tuyến tính phân rã A=QR Khi giải hế pttt Ax=b, ta phân tích A dạng QR v ới Q ma tr ận tr ực giao R ma trận tam giác trến  Ax=b  QRx=b  Rx=bQT VD : Giải hệ phương trình tuyếốn tính bằằng phương pháp phân rã QR = Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH Gọi U {u 1;u ;u } = U==; Q== Do đo, chung ta co: QTA=QTQR=R; R=QTA= PTTT Dạng Ax=b  QRx=b  Rx=bQT   = => Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH PHẦN 3: VIẾT CHƯƠNG TRÌNH MATLAB Đoạn code Matlab: function [Q,R] = Gram(A); [m,n] = size(A); Q = A; R = zeros(n); for k = 1:n for i = 1:k-1 R(i,k) = Q(:,i)'*A(:,k); Q(:,k) = Q(:,k) - Q(:,i)*R(i,k); end Q(:,k) = Q(:,k)/norm(Q(:,k)); R(k,k) = Q(:,k)'*A(:,k); end Giải thích: function [Q,R] = Gram(A); // Tạo function mang tên Gram để phân tích A = QR phương pháp GramSchmidt [m,n] = size(A); //Lấy số hàng số cột ma trận A Q = A; R = zeros(n); //Gán giá trị ma trận A cho Q gán ma trận không nxn cho R for k = 1:n for i = 1:k-1 R(i,k) = Q(:,i)'*A(:,k); Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH // R1k = e1*ak R2k = e2*ak R(k-1)k = ek-1*ak Q(:,k) = Q(:,k) - Q(:,i)*R(i,k); //uk = ak – e1(e1*ak) – e2(e2*ak) - … - ek-1(ek-1*ak) end Q(:,k) = Q(:,k)/norm(Q(:,k)); // ek = R(k,k) = Q(:,k)'*A(:,k); // Rkk = ek*ak End Nhập vào: Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH In : PHẦN 4: ỨNG DỤNG CỦA PHÂN TÍCH A = QR Giải vấn đề bình phương tối thiểu tuyến tính: Bài tốn bình phương tốối thiểu (LS) tốn trọng tâm đại sốố tuyếốn tính sốố Giả s chung ta co hệ phương trình , đo , Ta muốốn tìm cho Noi chung, chung ta khống thể trì đ ẳng thức nếốu ! Chung ta co thể mong đợi để tìm m ột nghiệm cho Vếằ mặt hình thức, vâốn đếằ LS co thể định nghĩa tìm cho: Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH nhỏ nhâốt Phương pháp: Giả sử với Khi đo khống thay đổi chuẩn vectơ Nếốu xoay phản chiếốu m ột vectơ độ dài vectơ seễ khống thay đổi Hãy xem xét cách ma trận trực giao co thể hữu ích tốn bình ph ương nhỏ nhâốt truyếằn thốống chung ta Mục tiếu chung ta tìm cho tam giác trến Nếốu , Chung ta gọi phân hủy toàn Bâốt kể câốu truc c A, ma tr ận R seễ luốn hình vuống Thực tiếễn: Đốối với xử lý radar thời gian thực, chung ta râốt mong muốốn co m ột thu ật toán khống giả định thốống kế hạn chếố liệu đâằu vào co th ể đ ược th ực để xử lý tốốc độ cao (mà khống tốốn chi phí cao) để đáp ứng yếu câằu th ời gian thực Do đo, chung ta áp dụng phương pháp bình phương nh ỏ nhâốt d ựa trến phân tích để dự đốn tuyếốn tính cho vâốn đếằ tính tốn h ệ sốố ph ản x c m ột cống c ụ dự báo mạng tinh thể Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH Ví du: Tìm hàm bậc hai với tập hợp Phương pháp: Giả sử ta co tập hợp điểm Câằn tìm hàm cho đốằ thị no qua (ho ặc gâằn) tâốt điểm Xét trường hợp hàm Tìm để nhỏ nhâốt Phương pháp gọi bình phương cực tiểu Ta tìm cực trị hàm co ba biếốn Để cho gọn, ta ký hi ệu , Điểm dừng hàm là: Hệ phương trình trến ghi dạng ma trận Giải hệ phương trình trến ta , suy Nếốu , ta co đa thức bậc nhâốt Nếốu , ta co đa thức bậc hai Trong trường hợp tổng quát, ta co hàm , ta làm tương tự Lời giải cho toán trến: Ta đặt Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH Giải hệ phương trình ( với kếốt chương trình) Ta nghiệm Hàm cầần tìm Giải tốn tìm giá trị riêng: a) Các bước tìm trị riếng bằằng phương pháp : - B1: Tìm s từ ma trận cho, ta co ma trận - B2: Từ ma trận Ma trận quay - B3: Tính - B4: Tìm giá trị riếng ma trận cho Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH b) Cống thức câằn lưu ý: - Dạng tổng quát : - Dạng tổng quát : c) Ví dụ: Cho ma trận ma trận đường chéo, đốối xứng Tìm tr ị riếng c A? Gi ải: - Tính bằằng cách tìm trị riếng ma trận vuống 2×2 tạo b ởi dòng th ứ 2,3 c ột th ứ 2,3 Ma trận co trị riếng Chọn trị riếng gâằn với giá trị Chọn - Ta co: Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH - Dạng - Dạng - Ma trận - Tương tự trến ta co: Nhận thâốy = 0.030396964 đủ nhỏ, ta tính giá trị riếng: - Bỏ hàng cột ma trận A(3), ta được: + trị riếng ma trận trến là: = 2.7802140 = 1.3654218 + trị riếng lại ma trận A là: Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH Ta dùng phép lặp (n=20 lâằn) cho đếốn giá trị ngồi đ ường chéo h ội t ụ dâằn vếằ với chương trình tạo trến bằằng thuật toán sau : So sánh với ma trận D chứa trị riếng nằằm trến đường chéo đ ược t ạo b ởi hàm matlab kếốt ví dụ trến ta thâốy phép phân tích co th ể s dụng đ ể tính trị riếng ma trận với điếằu kiện lặp đủ sốố lâằn Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH Ứng dụng MIMO: Trong radio, nhiếằu đâằu vào nhiếằu đâằu ra, hay MIMO, vi ệc s dụng nhiếằu ằng-ten máy phát máy thu để cải thiện hiệu suâốt truyếằn thống  MIMO nhiếằu dạng cống nghệ ằng ten thống minh  MIMO cung câốp gia tằng đáng kể vếằ thống lượng liệu ph ạm vi liến kếốt mà khống câằn thếm thống cống suâốt truyếằn  MIMO phâằn quan trọng tiếu chu ẩn truyếằn thống khống dây hi ện đ ại IEEE 802.11n (Wifi) 4G  Trong hệ thốống MIMO, máy phát seễ gửi nhiếằu luốằng bằằng nhiếằu ằng-ten phát Các luốằng truyếằn qua kếnh ma trận bao gốằm tâốt c ả đ ường dâễn NtNr gi ữa ằng ten phát Nt máy phát Nr ằng-ten thu máy thu  Sau đo, máy thu nhận vectơ tín hiệu nhận b ởi nhiếằu ằng-ten thu gi ải mã vectơ tín hiệu nhận thành thống tin ban đâằu Mố tả toán học Cho x = (x1, , xn)T vectơ truyếằn qua kếnh nhiếễu Mốễi xi chọn từ bảng chữ co kích thước hữu hạn X Một hệ thốống MIMO chung mơ hình hoa kếnh ma trận xếốp hạng cột đâằy đủ (bộ thu biếốt) ξ = (ξ1, , ξm)T vectơ nhiếễu Gaussian màu trằống đo E (ξξ*) = σ2I r = (r1, , rm)T vectơ nhận quan sát Nhiệm vụ chung ta phát / ước lượng vectơ x^ = (xˆ1, , xˆn)T∈ Xn với Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH quan sát nhiếễu r Sự phân hủy ma trận kếnh H co thể sử dụng để tạo thành b ộ dị h ủy ngược Đặt , phương trình phân rã ma trận hệ thốống v ới m hàng, n c ột Q = Ma trận trực giao R = Ma trận tam giác trến  r = Hx + ξ ⇒ Q∗ r = Rx + Q∗ ξ Đặt = Q∗ r, = Q∗ ξ Phương pháp thức: Giả sử ước tính xn bằằng cống thức: Với Quant(t) phân tử X gâằn nhâốt với t Phân Hủy Quay lại cống thức: Thuật toán vếằ phương pháp bình phương cực tiểu Nhận xét: - Sự phân rã cung câốp cách thay thếố để giải hệ phương trình mà khống câằn nghịch đảo ma trận A Thực tếố là trực giao co nghĩa , đo t ương đ ương v ớ, dếễ giải ma trận tam giác Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH - Việc sử dụng phép biếốn đổi Householder vốốn dĩ đơn gi ản nhâốt sốố thuật toán phân rã QR ổn định vếằ sốố lượng sử dụng phản xạ làm c chếố t ạo sốố ma trận R Tuy nhiến, thuật toán ph ản chiếốu Householder n ặng vếằ thống khống thể song song hoa, phản xạ tạo phâằn tử m ới seễ thay đ ổi toàn ma trận Q R PHẦN 5: TÀI LIỆU KHAM THẢO Downloaded by hây hay (vuchinhhp3@gmail.com) lOMoARcPSD|17838488 TRƯỜNG ĐẠI HỌC BÁCH KHOA ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH [1] Đặng Vằn Vinh, Giáo trình đai sốố tuyếốn tính, NXB Đ h oc Quốốc Gia TP Hốằ Chí Minh, 2020 Downloaded by hây hay (vuchinhhp3@gmail.com)