Phương pháp gradient liên hợp và ứng dụng

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC PHẠM THỊ MINH THUẬN PHƯƠNG PHÁP GRADIENT LIÊN HỢP VÀ ỨNG DỤNG LUẬN VĂN THẠC SỸ TOÁN HỌC THÁI NGUYÊN - NĂM 2010 Tai ngay!!! Ban co the xoa dong chu nay!!! ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC PHẠM THỊ MINH THUẬN PHƯƠNG PHÁP GRADIENT LIÊN HỢP VÀ ỨNG DỤNG LUẬN VĂN THẠC SỸ TOÁN HỌC Chuyên ngành: TOÁN ỨNG DỤNG Mã số: 60.46.36 Người hướng dẫn khoa học: GS TS TRẦN VŨ THIỆU THÁI NGUYÊN - NĂM 2010 i Mục lục Mở đầu Cơ sở toán học phương pháp khái niệm liên quan 1.1 Một số khái niệm kết giải tích lồi 1.2 Phương pháp hướng giảm 1.2.1 Điều kiện tối ưu 1.2.2 Hướng giảm 1.2.3 Độ dài bước 1.3 Phương pháp gradient 1.3.1 Thuật toán gradient với thủ tục tìm xác theo tia 1.3.2 Thuật toán gradient với thủ tục quay lui 1.4 Phương pháp Newton Phương pháp gradient liên hợp 2.1 Hướng liên hợp 2.2 Phương pháp gradient liên hợp 2.2.1 Phương pháp Fletcher - Reeves tìm cực tiểu hàm tồn phương (F-R) 2.2.2 Phương pháp Fletcher - Reeves tìm cực tiểu hàm khả vi liên tục 2.2.3 Một số ví dụ áp dụng 2.3 Tốc độ hội tụ phương pháp gradient liên hợp 3 7 11 13 13 14 14 17 17 22 22 35 37 40 ii Mở rộng phương pháp gradient liên hợp 3.1 Phương pháp gradient liên hợp 3-số hạng 3.1.1 Thuật toán tái khởi Beale-Powell 3.1.2 Tính hội tụ tồn cục phương pháp gradient liên hợp 3-số hạng với thủ tục tìm theo tia kiểu Wolfe 3.1.3 Phương pháp gradient liên hợp 3-số hạng Beale 3.2 Phương pháp gradient liên hợp hiệu chỉnh trước số điều kiện Kết luận Tài liệu tham khảo Phụ lục 42 42 42 43 49 51 55 56 63 Mở đầu Trong thực tế nhiều hoạt động kinh tế, xã hội, đòi hỏi người phải quan tâm tới việc tìm phương án tốt để đạt mục tiêu mong muốn Đó tốn tối ưu Các toán tối ưu chủ đề hấp dẫn với nhiều kết phong phú thu hút quan tâm nhà nghiên cứu Luận văn đề cập tới phương pháp gradient liên hợp ứng dụng Phương pháp gradient liên hợp Hestenes Stiefel nêu vào năm 1950 để giải hệ tuyến tính Vì việc giải hệ tuyến tính tương đương với tìm cực tiểu hàm toàn phương xác định dương, nên vào năm 1960 Fletcher - Reeves cải biên phát triển thành phương pháp gradient liên hợp cho cực tiểu khơng ràng buộc Nhờ phương pháp hoàn thiện phương pháp giảm nhanh nhằm làm tăng hiệu độ tin cậy thuật toán Phương pháp gradient liên hợp trung gian phương pháp gradient phương pháp Newton, thay đổi hướng tìm phương pháp gradient cách thêm vào tỷ lệ dương hướng dùng bước trước Phương pháp cần tới đạo hàm riêng bậc lại khắc phục tính hội tụ chậm phương pháp gradient Mục tiêu luận văn tìm hiểu trình bày kết biết liên quan đến phương pháp gradient liên hợp, tính chất tính liên hợp, tính trực giao, tính hội tụ số phương pháp mở rộng phương pháp Nội dung đề cập luận văn trình bày cách chặt chẽ mặt tốn học kèm theo số ví dụ minh họa Luận văn chia làm chương: Chương 1: nhắc lại số khái niệm giải tích lồi, tập lồi, hàm lồi hàm tồn phương, hướng giảm phương pháp gradient, phương pháp Newton để phục vụ cho chương Chương 2: trình bày khái niệm, tính chất hướng liên hợp, phương pháp gradient liên hợp giải toán cực tiểu hàm toàn phương, nêu định lý tính hội tụ phương pháp gradient liên hợp mở rộng phương pháp để tìm cực tiểu hàm khả vi liên tục Cuối chương tác giả nêu số ví dụ áp dụng Chương 3: trình bày phương pháp gradient liên hợp 3-số hạng Đó cải tiến phương pháp F-R tìm cực tiểu hàm khả vi liên tục dùng hướng giảm nhanh mức giảm hàm mục tiêu thường so với mức giảm thu khơng dùng tái khởi; cịn dùng hướng tái khởi tùy ý quan hệ liên hợp địi hỏi khơng cịn Ngồi ra, chương nguyên nhân làm cho phương pháp gradient liên hợp kết thúc sau nhiều n lần lặp sai số trình tính tốn từ đưa biện pháp khắc phục tình trạng Các kết tính tốn thử nghiệm thực chương trình lập môi trường Matlap Mặc dù cố gắng, song luận văn khơng thể tránh khỏi sai sót Tác giả mong nhận bảo, đóng góp Thầy Cơ bạn đồng nghiệp để luận văn thêm hoàn thiện Tác giả luận văn xin bày tỏ lòng biết ơn sâu sắc đến Thầy hướng dẫn GS.TS Trần Vũ Thiệu tận tình hướng dẫn suốt trình làm luận văn Tác giả xin chân thành cảm ơn Thầy Cô, bạn bè, đồng nghiệp gia đình ln giúp đỡ, động viên, khích lệ suốt q trình học tập nghiên cứu Thái Nguyên, ngày 18 tháng 09 năm 2010 Học viên Phạm Thị Minh Thuận Chương Cơ sở toán học phương pháp khái niệm liên quan Trong chương ta giới thiệu số khái niệm kiến thức dùng chương sau 1.1 Một số khái niệm kết giải tích lồi Giải tích lồi đóng vai trị quan trọng việc nghiên cứu xây dựng thuật toán giải toán tối ưu, trước hết ta nhắc lại khái niệm tập lồi hàm lồi Định nghĩa 1.1 (Tập lồi) Cho hai điểm a, b ∈ Rn , tập tất điểm x = (1 − λ)a + λb với ≤ λ ≤ gọi đoạn thẳng đóng nối a b kí hiệu [a, b] Tập C ∈ Rn gọi lồi chứa đoạn thẳng nối hai điểm thuộc Nói cách khác, (1 − λ)a + λb ∈ C, ∀a, b ∈ C ≤ λ ≤ Định nghĩa 1.2 (Hàm lồi) Hàm f : X → [−∞, +∞] xác định tập lồi X ⊆ Rn gọi lồi f (λx1 + (1 − λ)x2 ) ≤ λf (x1 ) + (1 − λ)f (x2 ) với x1 , x2 ∈ X số thực λ ∈ [0, 1] Ta gọi f hàm lồi chặt tập lồi X f (λx1 + (1 − λ)x2 ) < λf (x1 ) + (1 − λ)f (x2 ) với x1 , x2 ∈ X, x1 6= x2 số thực λ ∈ (0, 1) Hàm f (x) gọi lõm (hay lõm chặt) X −f (x) lồi (lồi chặt) X Định nghĩa 1.3 Cho hàm số f xác định tập mở X ⊆ Rn Hàm f gọi liên tục điểm x0 ∈ X với ε > 0, tồn δ > cho |f (x) − f (x0 )| < ε với x ∈ X thỏa mãn k x − x0 k< δ Nói cách khác, hàm f liên tục x0 ∈ X với dãy {xn } ⊂ X hội tụ đến x0 , ta có {f (xn )} → f (x0 ) Hàm f gọi nửa liên tục (t.ư., nửa liên tục trên) điểm x0 ∈ X tồn ε > 0, tồn δ > cho f (x) ≥ f (x0 ) − ε (t.ư., f (x) ≤ f (x0 ) + ε) với x ∈ X thỏa mãn k x − x0 k< δ Nói cách khác, hàm f nửa liên tục (t.ư., nửa liên tục trên) điểm x0 ∈ X với dãy {xn } ⊂ X hội tụ đến x0 dãy {f (xn )} ⊂ R hội tụ, ta có lim inf f (xn ) ≥ f (x0 ) (t.ư., lim sup f (xn ) ≤ f (x0 )) n→∞ n→∞ Rõ ràng, f nửa liên tục x0 −f nửa liên tục x0 Hàm f vừa nửa liên tục vừa nửa liên tục x0 liên tục điểm Hàm f gọi liên tục (t.ư., nửa liên tục dưới, nửa liên tục trên) Xnếu liên tục (t.ư., nửa liên tục dưới, nửa liên tục trên) điểm X Định nghĩa 1.4 Giả sử f : Rn → [−∞, +∞] hàm số tùy ý C ⊂ Rn tập tùy ý Điểm x0 ∈ C ∩ domf gọi điểm cực tiểu toàn cục f (x) C −∞ < f (x0 ) ≤ f (x) với x ∈ C Điểm x0 ∈ C gọi điểm cực tiểu địa phương f (x) C, tồn lân cận U (x0 ) x0 cho −∞ < f (x0 ) ≤ f (x) với x ∈ C ∩ U (x0 ) Các khái niệm cực đại địa phương cực đại toàn cục định nghĩa tương tự Đối với hàm f tùy ý tập C, ta ký hiệu tập tất điểm cực tiểu (cực đại) toàn cục f C Argmin f (x) (Argmax f (x)) x∈C x∈C Định nghĩa 1.5 Cho A ma trận vuông cấp n không suy biến Giá trị tích k A k k A−1 kđược gọi số điều kiện A ký hiệu cond(A) Nhận xét 1.1 Chỉ số điều kiện A lớn hay Thật vậy, =k AA−1 k≤k A k k A−1 k= cond(A) Định nghĩa 1.6 Cho dãy {xk } ⊂ Rn hội tụ đến x∗ ∈ Rn Dãy {xk } gọi là: hội tụ đến x∗ với tốc độ tuyến tính ∃γ ∈ [0, 1), ∃k0 cho ∀k > k0 :k xk+1 − x∗ k≤ γ k xk − x∗ k, hội tụ đến x∗ với tốc độ tuyến tính ∀k :k xk+1 − x∗ k≤ ck k xk − x∗ k ck → 0, hội tụ đến x∗ với tốc độ hội tụ bậc hai ∃γ > 0, ∃k0 cho k xk+1 − x∗ k≤ γ k xk − x∗ k2 , ∀k > k0 Mệnh đề 1.1 Cho hàm f xác định Rn điểm x0 ∈ Rn Nếu f khả vi x0 f (x0 , d) = h∇f (x0 ), di, ∀d ∈ Rn \ {0} Chứng minh Vì f khả vi x0 nên với d ∈ Rn \ {0} ta có f (x0 + td) − f (x0 ) − h∇f (x0 ), tdi lim = t→0+ tkdk Do f (x0 , d) − h∇f (x0 ), di = 0, kdk ta nhận điều phải chứng minh Nhận xét Đặt ϕ(t) := f (x0 + td) Khi đó, theo định nghĩa ta có ϕ(t) − ϕ(0) dϕ(t) ¯¯ f (x0 + td) − f (x0 ) ϕ (0) = = lim+ = f (x0 , d) ¯ = lim t→0 dt t=0 t→0 t t Như vậy, đạo hàm theo hướng f x0 phản ánh tốc độ biến thiên f x0 theo hướng Hơn nữa, theo bất đẳng thức CauchyBunjakowski-Schwarz tất hướng d ∈ Rn có k d k= 1, ta có |h∇f (x0 ), di| ≤k ∇f (x0 ) kk d k=k ∇f (x0 ) k ⇒ − k ∇f (x0 ) k≤ h∇f (x0 ), di ≤k ∇f (x0 ) k Do đó, đạo hàm theo hướng f x0 cho lớn hướng ∇f (x0 ) ∇f (x0 ) d= nhỏ d = − k ∇f (x0 ) k k ∇f (x0 ) k Định lí 1.1 (xem [1]) Cho f hàm khả vi hai lần tập lồi mở X ⊆ Rn Khi đó, i) Hàm f lồi X ma trận Hessian ∇2 f (x) nửa xác định dương X, tức với x ∈ X, y T ∇2 f (x)y ≥ 0, ∀y ∈ Rn Hàm f lồi chặt X ∇2 f (x) xác định dương X, tức với x ∈ X, y T ∇2 f (x)y > 0, ∀y ∈ Rn \{0} ii) Hàm f lõm X ma trận Hessian ∇2 f (x) nửa xác định âm X, tức với x ∈ X, y T ∇2 f (x)y ≤ 0, ∀y ∈ Rn 49 ta có lim inf k gk k= k→∞ Chứng minh Ta chứng minh phản chứng Giả sử (3.13) Từ (3.3) (3.10) suy k gk k2 = −gkT dk + βk gkT dk−1 + γk gkT dt(p) ≤ |gkT dk | + βk gkT dk−1 + k γk gkT dt(p) k ≤ |gkT dk | + βk gkT dk−1 + σ1 k gk k Kết hợp với (3.16) giả thiết (b) suy T |gkT dk | + |βk |[|(gk − gk−1 )T dk−1 | + |gk−1 dk−1 |] k gk k ≤ − σ1 T T |gk dk | + |βk |(Lαk−1 k dk−1 k2 +|gk−1 dk−1 |) ≤ − σ1 Tương tự định lý 3.1 ta gặp mâu thuẫn với (3.13) Vì lim inf k gk k= 0, k→∞ có điều phải chứng minh Dưới ta trình bày thuật tốn Beale 3-số hạng McGuire Wolfe Powell đề xuất Đây trường hợp riêng phương pháp Beale-Powell 3.1.3 Phương pháp gradient liên hợp 3-số hạng Beale Đặt dt+1 = −gt+1 + βt dt , (3.17) dk = −gk + γk−1 dt + βt+1 dt+1 + · · · + βk−1 dk−1 , (3.18) n+t−1 ≥ k ≥ t+2 Tương tự phương pháp gradient thông thường, nhờ liên hợp dt+1 dt , dk dt , dt+1 , , dk−1 , ta 50 nhận quan hệ sau: gkT Gdk−1 gkT Gdt βk−1 = T , γk−1 = T , dk−1 Gdk−1 dt Gdt βj = 0, j = t + 1, , k − Khi (3.18) rút gọn sau dk = −gk + βk−1 dk−1 + γk−1 dt , (3.19) gkT (gk − gk−1 ) dT (gk − gk−1 ) k−1 0 = gkT (gt+1 − gt )  T dt (gt+1 − gt ) βk−1 = γk−1 (3.20) k = t + k > t + (3.21) Công thức (3.19) công thức 3-số hạng Beale Chú ý βk−1 (3.20)có thể biểu diễn công thức (2.22)-(2.25) Chẳng hạn, βk−1 gkT gk = T , gk−1 gk−1 công thức F-R Cũng cần ý rằng, công thức 3-số hạng Beale (3.19), dk khơng hướng giảm thực tìm xác theo tia Để dk đủ dốc hai gradient liên tiếp gần trực giao, ta có đặt vài độ đo điều khiển sau −gkT dk ≥ σ k gk kk dk k, (3.22) với σ số dương nhỏ T | gk−1 gk |< 0.2 k gk k2 (3.23) Do điểm lặp xk sinh từ (3.19)-(3.21) cực tiểu đa tạp tuyến tính Bk−1 = xt + [dt , dt+1 , , dk−1 ] = xt + [dt , gt+1 , , gk−1 ], 51 gk ⊥ [dt , dt+1 , , dk−1 ] gk ⊥ [dt , gt+1 , , gk−1 ], Dưới đây, ta trình bày thuật toán gradient liên hợp 3-số hạng Beale Thuật toán 3.2 (Phương pháp gradient liên hợp 3-số hạng Beale) Bước Cho trước x0 , đặt k = 0, t = 0, giá trị g0 = g(x0 ) Nếu k g0 k≤ ², dừng; trái lại đặt d0 = −g0 Bước Tính αk thủ tục tìm xác theo tia Bước Đặt xk+1 = xk + αk dk , đặt k := k + 1, tính gk = g(xk ) Bước Nếu k gk k≤ ², dừng, trái lại chuyển đến bước Bước Nếu hai điều kiện T | gk−1 gk |≥ 0.2 k gk k2 k−t≥n−1 Bước Bước Bước Bước không thỏa mãn, chuyển đến bước 7; trái lại chuyển đến bước 6 Đặt t = k − Tính dk theo (3.19)-(3.21) Nếu k > t + 1, chuyển đến bước 9; trái lại quay trở lại bước Nếu −1.2 k gk k2 ≤ dTk gk ≤ −0.8 k gk k2 , quay trở lại bước 2; trái lại quay trở lại bước 3.2 Phương pháp gradient liên hợp hiệu chỉnh trước số điều kiện Trong phần thảo luận ta biết áp dụng phương pháp gradient liên hợp cực tiểu hóa hàm tồn phương (3.24) f (x) = xT Gx + bT x + c, 52 G ma trận đối xứng xác định dương, phương pháp gradient liên hợp cho nghiệm hệ Gx = −b (3.25) Trong trường hợp này, thuật toán gọi phương pháp gradient liên hợp tuyến tính, kí hiệu r dùng để vectơ gradient Gxk + b, mà thực chất phần dư hệ (3.25) Phương pháp gradient liên hợp tuyến tính sau: cho trước x0 r0 = Gx0 + b, β−1 = 0, d−1 = lần lặp gồm bước sau với k = 0, 1, dk = −rk + βk−1 dk−1 , rkT rk αk = T , dk Gdk xk+1 = xk + αk dk , (3.26) rk+1 = rk + αk Gdk , T rk+1 rk+1 βk = rkT rk Nếu sử dụng phép tốn số học xác hội tụ phương pháp gradient liên hợp tuyến tính đạt sau m (≤ n) lần lặp, m số giá trị riêng khác G Nếu giá trị riêng G tập hợp thành nhóm giá trị riêng gần phương pháp hội tụ nhanh Tuy nhiên, với cấu trúc giá trị riêng tổng quát, sai số làm trịn nên phương pháp cần nhiều n lần lặp Vì thế, tốc độ hội tụ phụ thuộc vào cấu trúc giá trị riêng G số điều kiện G Nếu thay hệ ban đầu hệ phương trình tương đương số điều kiện G cải tiến tốc độ hội tụ cải thiện Kỹ thuật gọi hiệu chỉnh trước số điều kiện Xét phép biến đổi x = C −1 z, C ma trận khơng suy biến Việc tìm nghiệm Gx = −b 53 tương đương với giải hệ tuyến tính C −T GC −1 z = −C −T b Nếu ta chọn C cho số điều kiện C −T GC −1 nhỏ tốc độ hội tụ thuật tốn cải thiện Vì C −T GC −1 đồng dạng với W −1 G, W = C T C, nghĩa ta nên chọn W cho số điều kiện W −1 G nhỏ Phương pháp gradient liên hợp hiệu chỉnh trước số điều kiện sau: cho trước x0 , đặt g0 = Gx0 + b, v0 = W −1 g0 d0 = −v0 Với k = 0, 1, αk = xk+1 gkT vk dTk Gdk = xk + αk dk (3.27) (3.28) gk+1 = gk + αk Gdk (3.29) vk+1 = W −1 gk+1 g T vk+1 βk = k+1T gk vk dk+1 = −vk+1 + βk dk (3.30) (3.31) (3.32) Ma trận hiệu chỉnh W xác định nhiều cách Cách đơn giản chọn W ma trận đường chéo G Trong trường hợp này, số điều kiện W −1 G bị chặn (1 + δ)/(1 − δ), δ ¿ ³ ´ ³ ´ 3 Ví dụ 3.1 Cho G = Ta chọn ma trận W = , cond(W −1 G) = 2.9463, cond(G) = 3.5 Cách làm phổ biến để hiệu chỉnh số điều kiện sử dụng nhân tử hóa Cholesky khơng đầy đủ Ý tưởng phương pháp sau: thay cho việc tính tốn xác nhân tử Cholesky L thỏa mãn ˜ thưa L, cho G ≈ L ˜L ˜T , G = LLT , ta tính nhân tử xấp xỉ L ˜ T , W = L ˜L ˜T sau chọn C = L ˜ −1 GL ˜ −T ≈ I C −T GC −1 = L 54 ˜L ˜ T )−1 G ≈ I W −1 G = (L Với cực tiểu hóa hàm khơng tồn phương, ma trận hiệu chỉnh W thay đổi theo lần lặp, trường hợp ta xét x = C −1 z, (3.33) hàm mục tiêu biến đổi thành f (x) = f (C −1 z) = f˜(z) (3.34) Đặt zk = Cxk , g˜k = ∇f˜(zk ) = C −T ∇f (xk ) = C −T gk , d˜k = Cdk , s˜k = Csk , y˜k = C −T yk Vì thế, áp dụng phương pháp gradient liên hợp, chẳng hạn (2.22), cho f˜(z) tạo hướng T g˜k+1 (˜ gk+1 − g˜k ) ˜ ˜ dk+1 = −˜ gk+1 + T dk d˜k (˜ gk+1 − g˜k ) ³ d˜k y˜kT ´ =− I− T g˜k+1 , d˜ y˜k (3.35) k dk+1 ³ dk ykT ´ −1 =− I− T W gk+1 dk yk ∆ = −Pk+1 gk+1 (3.36) Đây công thức phương pháp gradient liên hợp hiệu chỉnh trước số điều kiện, W = C T C Tương tự, ta thu h ³ ykT yk ´ sk sTk i −1 T T dk+1 = − I − T (yk sk + sk yk ) + + T W gk+1 (3.37) yk sk yk sk ykT sk Trong trường hợp tổng quát, với toán khác ma trận hiệu chỉnh số điều kiện khác Do khơng có cơng thức vạn cho việc hiệu chỉnh trước số điều kiện 55 Kết luận Phương pháp gradient liên hợp Hestenes Stiefel nêu vào năm 1950 để giải hệ tuyến tính Nhờ tính liên hợp mà phương pháp hoàn thiện phương pháp giảm nhanh làm tăng hiệu độ tin cậy thuật toán Đây phương pháp trung gian phương pháp gradient phương pháp Newton, phương pháp gradient liên hợp thay đổi hướng tìm phương pháp gradient cách thêm vào tỷ lệ dương hướng dùng bước trước đó, phương pháp yêu cầu đạo hàm riêng bậc khắc phục tính hội tụ chậm phương pháp gradient Luận văn trình bày hướng liên hợp, số thuật tốn tính chất phương pháp gradient liên hợp vài thuật toán mở rộng phương pháp gradient liên hợp Tác giả cố gắng xếp trình bày vấn đề cách trực quan Tác giả hy vọng có dịp làm quen với lớp tốn tối ưu khác ứng dụng phong phú chúng thực tiễn Mặc dù cố gắng song luận văn khơng tránh khỏi sai sót Tác giả mong nhận phê bình, đóng góp ý kiến Thầy Cô bạn đọc 56 Tài liệu tham khảo Tiếng Việt [1] Nguyễn Thị Bạch Kim (2008), Giáo trình Các phương pháp Tối ưu Lý thuyết Thuật toán, nhà xuất Bách Khoa-Hà Nội [2] Trần Vũ Thiệu Nguyễn Thị Thu Thủy (2010), Nhập môn tối ưu phi tuyến, nhà xuất Đại học Thái Nguyên Tiếng Anh [3] DU Shouqiang, CHEN Yuanyuan, WANG Changyu (2004), "Global convergence properties of three conjugate gradient method with new-type line search", Journal of Systems Science and Complexity, 17(3), pp 412-420 [4] Y H Dai, Y Yuan Convergence Properties of Beale-Powell Restart Algorithm, Stake Key Laboratory of Scientific and Engineering Computing, ICMSEC, Chinese Academy of Sciences, Beijing 100080, China [5] J.J Strodiot (2002), Numerical Methods in Ontimization, NamurBelgium [6] W.Sun and Ye-X.Yuan (2006), Optimization Theory and MethodsNonlinear Programming, Springer 57 Phụ lục Lập trình thuật tốn F-R tìm cực tiểu hàm tồn phương, với ma trận Hessian xác định dương f (x) = a1 x21 + a2 x22 + a3 x23 + a4 x24 + a5 x25 + b1 x x + b2 x x + b3 x x + b4 x x + b5 x x + b6 x x + b7 x x + b8 x x + b9 x3 x5 + b10 x4 x5 + c1 x1 + c2 x2 + c3 x3 + c4 x4 + c5 x5 + d ngôn ngữ Matlab clear;clc; fprintf(’\tPHUONG PHAP GRADIENT LIEN HOP\n ’); fprintf(’\tNhap du lieu cho bai toan\n ’); fprintf(’\tNhap cac he so:\n\t\t a(1) = ’); a1 = input(”); fprintf(’\n\t\t a(2) = ’); a2 = input(”); fprintf(’\n\t\t a(3) = ’); a3 = input(”); fprintf(’\n\t\t a(4) = ’); a4 = input(”); fprintf(’\n\t\t a(5) = ’); a5 = input(”); fprintf(’\n\t\t b(1) = ’); b1 = input(”); fprintf(’\n\t\t b(2) = ’); b2 = input(”); fprintf(’\n\t\t b(3) = ’); b3 = input(”); fprintf(’\n\t\t b(4) = ’); 58 b4 = input(”); fprintf(’\n\t\t b(5) = ’); b5 = input(”); fprintf(’\n\t\t b(6) = ’); b6 = input(”); fprintf(’\n\t\t b(7) = ’); b7 = input(”); fprintf(’\n\t\t b(8) = ’); b8 = input(”); fprintf(’\n\t\t b(9) = ’); b9 = input(”); fprintf(’\n\t\t b(10) = ’); b10 = input(”); fprintf(’\n\t\t c(1) = ’); c1 = input(”); fprintf(’\n\t\t c(2) = ’); c2 = input(”); fprintf(’\n\t\t c(3) = ’); c3 = input(”); fprintf(’\n\t\t c(4) = ’); c4 = input(”); fprintf(’\n\t\t c(5) = ’); c5 = input(”); fprintf(’\n\t\t d = ’); d = input(”); fprintf(’\n\tNhap diem khoi dau x(0):’); x1 = input(’\nx01 = ’); x2 = input(’\nx02 = ’); x3 = input(’\nx03 = ’); x4 = input(’\nx04 = ’); x5 = input(’\nx05 = ’); 59 fprintf(’\n\tNhap epsilon :’); eps = input(’\neps = ’); g1(1) = 2*a1*x1+b1*x2+b2*x3+b3*x4+b4*x5+c1; g2(1) = 2*a2*x2+b1*x1+b5*x3+b6*x4+b7*x5+c2; g3(1) = 2*a3*x3+b2*x1+b5*x2+b8*x4+b9*x5+c3; g4(1) = 2*a4*x4+b3*x1+b6*x2+b8*x3+b10*x5+c4; g5(1) = 2*a5*x5+b4*x1+b7*x2+b9*x3+b10*x4+c5; kt1 = sqrt(g1(1)*g1(1)+g2(1)*g2(1)+g3(1)*g3(1)+g4(1)*g4(1) +g5(1)*g5(1)); if (kt1