Ứng dụng phương pháp aladin để giải bài toán tối ưu trong đánh giá tính bền vững của mạng truyền thông.PDF

ĐẠI HỌC ĐÀ NẴNG TRƯỜNG ĐẠI HỌC BÁCH KHOA TRẦN VĂN HOÀN ỨNG DỤNG PHƯƠNG PHÁP ALADIN ĐỂ GIẢI BÀI TỐN TỐI ƯU TRONG ĐÁNH GIÁ TÍNH BỀN VỮNG CỦA MẠNG TRUYỀN THÔNG Chuyên ngành: KỸ THUẬT ĐIỀU KHIỂN VÀ TỰ ĐỘNG HÓA Mã số: 8520216 LUẬN VĂN THẠC SĨ KỸ THUẬT ĐIỀU KHIỂN VÀ TỰ ĐỘNG HÓA Đà Nẵng - Năm 2020 Cơng trình hồn thành TRƯỜNG ĐẠI HỌC BÁCH KHOA Người hướng dẫn khoa học: TS Trần Thị Minh Dung Phản biện 1: TS Nguyễn Lê Hòa Phản biện 2: TS Hà Xuân Vinh Luận văn bảo vệ trước Hội đồng chấm Luận văn tốt nghiệp thạc sĩ Kỹ thuật họp trường Đại học Bách Khoa vào ngày 18 tháng năm 2020 Có thể tìm hiểu luận văn tại:  Trung tâm thông tin - Học liệu, Trường ĐHBK – Đại học Đà Nẵng  Thư viện Khoa Điện, Trường ĐHBK – Đại học Đà Nẵng MỞ ĐẦU Đặt vấn đề Ngày với tốc độ phát triển nhanh chóng khoa học công nghệ, người ngày nghiên cứu chế tạo nhiều hệ thống có độ phức tạp xác cao, với nhiều đối tượng tham gia để hoàn thành nhiệm vụ khó, nguy hiểm với tốc độ nhanh độ xác cao Để điều khiển hệ đa đối tượng đạt hiệu tối đa ngồi tốc độ điều khiển nhanh, xác độ mạnh, khả chịu đựng hệ thống ngẫu nhiên xảy vài cố cần thiết Độ ởn định tính bền vững mạng điều khiển hệ thống quan trọng Nó thể tính an tồn, hiệu kinh tế q trình hoạt động, sản xuất Ngồi hiểu biết tính bền vững mạng điều khiển có thể bảo vệ cải thiện hiệu suất mạng cách hiệu Lý thuyết đồ thị khoa học phát triển từ lâu lại có nhiều ứng dụng đại Đặc biệt khoảng vài chục năm trở lại đây, với đời máy tính điện tử phát triển nhanh chóng Tin học, Lý thuyết đồ thị quan tâm đến nhiều Đặc biệt thuật toán đồ thị có nhiều ứng dụng nhiều lĩnh vực khác như: Mạng máy tính, Lý thuyết mã, Tối ưu hố, Kinh tế học v.v Đồng thuận (consensus) dựa thông tin địa phương tương tác đối tượng (ở nút) [6], làm tất đối tượng đạt thỏa thuận Đó thiết kế giao thức mạng dựa thông tin địa phương thu đối tượng để sau đó có thỏa thuận chung Các vấn đề đồng thuận MAS (multi agent systems) nhận quan tâm lớn từ cộng đồng nghiên cứu khác ứng dụng rộng rãi họ nhiều lĩnh vực bao gồm tốn học, vật lý, sinh học, khoa học máy tính, khoa học xã hội Do đó để đánh giá tính bền vững mạng điều khiển tác giả sử dụng thuật toán đồng thuận để kiểm tra đồng thuận đối tượng (được mơ hình hóa đồ thị) thời gian hữu hạn ứng dụng phương pháp ALADIN (Augmented Lagrangian based Alternating Direction Inexact Newton) [1] để đánh giá tính bền vững Mục tiêu nhiệm vụ nghiên cứu a) Mục tiêu tổng quan Đề xuất ứng dụng phương pháp ALADIN (Augmented Lagrangian based Alternating Direction Inexact Newton) việc đánh giá tính bền vững mạng truyền thông hệ thống đa đối tượng Xây dựng hàm mục tiêu, điều kiện buộc thuật tốn tính tốn đánh giá bền vững mạng điều khiển Ứng dụng phương pháp ALADIN để đánh giá mạng truyền thơng b) Mục tiêu cụ thể Tính toán đưa hàm mục tiêu, điều kiện ràng buộc thuật tốn, đưa kết mơ đánh giá tính bền vững vài mơ hình Matlab Đối tượng phạm vi nghiên cứu a) Đối tượng nghiên cứu Đối tượng nghiên cứu hệ thống điều khiển đa đối dựa sở lý thuyết đồ thị Coi đối tượng nút đồ thị Đề tài thực nghiên cứu phạm vi đối tượng nút sở lý thuyết đồ thị mô Matlab, khơng thực mơ hình đối tượng thực tế Để đơn giản, Luận văn dựa sở lý thuyết đồ thị coi đối tượng nút (các đỉnh) đồ thị, kết nối với nhờ cạnh b) Phạm vi nghiên cứu Nghiên cứu lý thuyết: nghiên cứu lý thuyết thuật toán đồng thuận, lý thuyết đồ thị xây dụng hàm mục tiêu, thuật toán đồng thuận hệ đa đối tượng Nghiên cứu ứng dụng phương pháp ALADIN đánh giá tính bền vững mạng điều khiển Nghiên cứu thực tế: có đầy đủ sở lý thuyết, tác giả tiến hành mô Matlab để kiểm tra đánh giá tốc độ thuật tốn, tính bền vững số mơ hình Ý nghĩa khoa học thực tiễn đề tài a) Ý nghĩa khoa học Ngoài phương pháp tối ưu kinh điển như: Lagrange, QP, SQP, Gradient, Newton-Raphson, Gaus – Newton…đề tài mang đến thêm hướng cách ứng dụng phương pháp ALADIN để giải toán tối ưu b) Ý nghĩa thực tiễn Đề tài nhằm xây dựng đánh giá tính bền vững mạng điều khiển hệ đa đối tượng cách đồng thuận đối tượng mạng với thời gian hữu hạn, dùng phương pháp ALADIN đánh giá tính bền vững mạng truyền thơng Nhằm đưa giải pháp cải thiện hệ thống phù hợp, thích nghi với chức năng, nhiệm vụ Cấu trúc luận văn Ngoài phần mở đầu phận kết luận, Luận văn gồm 04 chương Chương : Nghiên cứu tổng quan hệ thống đa đối tượng mạng truyền thơng • Nghiên cứu hệ đa đối tượng lý thuyết đồ thị • Nghiên cứu thuật tốn đồng thuận, tính tốn đưa hàm mục tiêu điều kiện ràng buộc Chương : Phương pháp ALADIN (Augmented Lagrangian based Alternating Direction Inexact Newton) • Giới thiệu phương pháp ALADIN, thuật toán, hàm mục tiêu điều kiện ràng buộc • Tính hội tụ tồn cục ALADIN Chương : Ứng dụng phương pháp ALADIN (Augmented Lagrangian based Alternating Direction Inexact Newton) giải tốn tối ưu • Ứng dụng thuật tốn ALADIN để tính tốn hàm mục tiêu điều kiện ràng buộc hệ đa đối tượng • Viết thuật tốn cho hệ đa đối tượng dựa theo phương pháp ALADIN Chương : Kết mơ nhận xét • Sử dụng Matlab để mơ phỏng, đưa kết • Đánh giá tốc độ thuật tốn tính bền vững số mơ hình CHƯƠNG : NGHIÊN CỨU TỔNG QUAN VỀ HỆ THỐNG ĐA ĐỐI TƯỢNG VÀ MẠNG TRUYỀN THƠNG 1.1 Giới thiệu về hệ thớng đa đới tượng (MAS) 1.2 Hệ thống mạng truyền thông 1.3 Điều khiển hợp tác 1.4 Thuật toán đồng thuận 1.4.1 Giao thức đồng thuận 1.4.2 Vấn đề đồng thuận thời gian tuyến tính 1.4.3 Thiết kế ma trận đồng thuận 1.4.4 Thiết kế ma trận trọng số 1.4.4.1 Trọng số có bậc lớn 1.4.4.2 Trọng số có cạnh số 1.4.4.3 Trọng số Metropolis 1.4.5 Tối ưu hóa 1.5 Lý thuyết đồ thị 1.5.1 Định nghĩa 1.5.2 Biểu diễn đồ thị 1.5.3 Đồ thị có hướng và đồ thị vô hướng 1.5.4 Đơn đồ thị và đa đồ thị 1.5.5 Tính kết nối của đồ thị 1.5.6 Đặc tính đồ thị đại số 1.5.7 Quang phổ ma trận Laplacian 1.5.8 Các loại đồ thị tiêu chuẩn 1.6 Tính bền vững mạng truyền thông 1.6.1 Độ liên kết của nút 1.6.2 Độ kết nối đại số 1.6.3 Số spanning tree 1.6.4 Độ phản kháng của đồ thị 1.7 Tính bền vững mạng lưới theo hình thức phân tán 1.7.1 Tính tốn giá trị riêng riêng biệt của ma trận Laplacian 1.7.2 Tính tốn bội số của giá trị riêng riêng biệt của ma trận Laplacian CHƯƠNG : PHƯƠNG PHÁP AUGMENTED LAGRANGIAN BASED ALTERNATING DIRECTION INEXACT NEWTON (ALADIN) 2.1 Giới thiệu Tối ưu hóa trình tìm biến thiết kế để đạt đến mục tiêu mong muốn, đồng thời thỏa mãn ràng buộc kèm theo Các vấn đề tối ưu hóa phi tuyến quy mô lớn phát sinh nhiều ứng dụng khác nhau, từ tối ưu hóa kinh tế theo tài ngun dùng chung thơng qua thuật tốn học thống kê cho mạng lưới thơng minh đến điều khiển tối ưu phi tuyến phân tán cho phương trình vi phân thơng thường phương trình vi phân phần May mắn là, vấn đề tối ưu hóa phát sinh từ trường hợp có quy mơ lớn chúng thường cấu trúc có mục tiêu riêng biệt để vấn đề tối ưu hóa [1] có thể viết dạng N N   i =1 A i xi = b  f i ( xi ) st  x i =1  hi ( xi )  0, i  1, , N  (2.1) Các thuật tốn phân tán có cho vấn đề (2.1) thường cho hàm fi hi lồi Ví dụ thuật tốn tối ưu lồi phân tán lâu đời phương pháp phân tích kép [23] Ở ý tưởng giải vấn đề tăng kép có liên quan đến vấn đề (2.1) cách sử dụng phương pháp gradient, hàm mục tiêu kép đánh giá theo cách phân tán Nhiều báo tài liệu đánh giá gần phương pháp phân tích kép cho vấn đề tối ưu lồi tìm thấy [9, 10] Trong năm gần đây, phân tích kép sử dụng thường xuyên điều khiển tối ưu phân tán thuật tốn điều khiển dự báo mơ hình Một loạt thuật tốn sử dụng thơng tin độ dốc làm sở để có thuật toán phân tán đầy đủ [4, 24, 25, 26, 27] Các phương pháp thường yêu cầu số lần lặp lớn để đạt độ xác trung bình giải pháp Nếu hàm fi hi khơng lồi có cách tiếp cận Các phân tích kép khơng áp dụng trường hợp này, chúng có khoảng cách đối ngẫu Tương tự, phát triển thành cơng đặc tính thuận lợi ADMM vấn đề tối ưu lồi nêu trên, ADMM nói chung khơng thể áp dụng hàm fi lồi Bài viết giới thiệu phương pháp xen kẽ dựa Lagrangian newton khơng xác (ALADIN) Phương pháp thiết kế nhằm giải vấn đề tối ưu hóa không tiềm mẫu (2.1) 2.2 Tḥt tốn tới ưu hóa hàm khơng lời Phần đề giới thiệu thuật toán để giải toán tối ưu hóa có dạng (2.1) Thuật toán ALADIN Đầu vào: cho trước giá trị ban đầu xi  n ,  m  Lặp lại: Chọn tham số hiệu chỉnh   đủ lớn ma trận tỉ lệ bán xác định dương i  nx + giải với i 1, , N  cho vấn đề tối ưu hóa tách rời  fi ( yi ) +  T Ai yi + || yi − xi ||2i st hi ( yi )  | i yi (2.2) Để tối ưu hóa cục toàn cục Nếu || i dứt với N Ai yi − b ||1  x* = y  || i ( yi − xi ) ||1  , chấm 12 CHƯƠNG ỨNG DỤNG PHƯƠNG PHÁP ALADIN TRONG ĐÁNH GIÁ TÍNH BỀN VỮNG CỦA MẠNG TRUYỀN THƠNG 3.1 Tính bền vững mạng trùn thơng Để đảm bảo an toàn hiệu tối đa vận hành khai thác hệ thống phức tạp Tùy theo mục đích nhu cầu mà hệ thống cần đảm bảo độ bền vững khác Một hệ đa đối tượng để đảm bảo an tồn, ởn định kinh tế cần phải có chia sẻ thơng tin nhiệm vụ để hoàn thành mục tiêu chung, chúng phải đồng thuận với mục đích đạt đến thống giá trị chung Để đánh giá tính bền vững mạng truyền thơng hệ đa đối tượng Luận văn tác giả sử dụng thuật toán đồng thuận phương pháp ALADIN tính tốn giá trị để đánh giá tính bền vững R=  1i  j N N R ij = N i =2 ; i (L) = N  i (L) N i=2 Như nói chương 1, để tính thơng số ta phải tìm thông tin phổ ma trận Laplacian sp(L) mạng điều khiển đó Phương pháp có ưu điểm sử dụng cho mạng kết nối không kết nối Trong ma trận phở sp(L) giá trị riêng nhỏ thứ 2 thông số định đến khả hoạt động tính bền vững tùy theo vai trò độ kết nối đồ thị biểu diễn cho mạng điều khiển đó Một đồ thị G(E, V) biểu diễn cho mạng truyền thơng có N nút E cạnh, ta có phở ma trận L sp(L) = 1 , 2 , , N  Ta có trạng thái ban đầu nút x(0) = [x1 (0), x2 (0), , xN (0)]T x(k) = [x1 (k), x2 (k), , xN (k)] từ đó ta có phương trình cập nhật đồng thuận 13 x(k + 1) = (I N −  L)x(k) = (I N −  L)k x(0) x= 11T x(0) N Ta có hàm mục tiêu: αk  N 1 ,k =1,2, ,h h ( j ,k − i,k )2   k =1 iV jNi x(h) = x s.t Hoặc tương đương với: N 1 αk ,k =1,2, ,h s.t h αT Lα k k 2 k =1 x(h) = x Ta sử dụng phương pháp ALADIN để giải toán tối ưu hóa khơng lồi Vì vậy, ta viết lại hàm mục tiêu sau: αk N 1 h αT Lα k k 2 k =1 s.t  h  Lα k =  k =1  h(α ) = x(h) − x = k  ,k =1,2, ,h (3.1) 3.2 Ứng dụng phương pháp ALADIN Thuật tốn Cho trước giá trị ban đầu: • αk  N , k = 1,2, , h, λ  Hệ số Lagrange: β N , k  N , k = LT L + 0.01I,  , , N , λ QP  N 14 Lặp lại: Lặp lại điều kiện hội tụ tuật toán thỏa mãn Chọn   giải với k = 1, 2, …, h cho vấn đề tối ưu hóa NLP (nonlinear programming) sau để tìm y: yk  N 1 , k =1,2, ,h s.t T  y k Ly k + λ T Ly k + (y k − α k 2 h( y k ) =  k (3.2) Điều kiện hội tụ thuật toán: Nếu  h k =1 Ly k    k (y k − α k )  nghiệm tối ưu α* = y Xác định ma trận Jacobian, gradient Hessian: Gradient: g k = f k (y k ) +h(y )T  = Ly k − diag (Lx k −1 ) k với  h =   k −1 = Wk k Wk = I − y k L Ck = h(y )T = −diag (Lx k −1 ) ih=k +1 Wi Hk = L Cho   , giải vấn đề tối ưu hóa QP sau để tìm y λ QP h  1 T  T T  y k Ly k + g k y k  + λ s + s  N h N 1 y k  ,s , k =1,2, ,h  k =1  (3.3) h   L(y k + y k ) = s λ QP s.t  k =1  Ck y k = 0, k = 1,2, , h a1, a2 , a3 dùng để update giá trị α  N h    inf (giá trị lớn nhất),  k  inf   Tính step size Chọn 15 • Trường hợp 1: Cho a1 = a2 = a3 = ta có z = y k + y k Tính giá trị hàm:  ( ) = h h k =1 k =1 αTk Lαk +   Lαk  (z) Tính giá trị hàm Kiểm tra nếu:  h  ( ) − (z)    k =1 y k − αk  ( thỏa mãn ta có Trường hợp 2: + k h( ) 1 )  + k  a1 =1, a2 = a3 = 0, z = y ( Trường hơp 3: a1 = a2 Tìm a3  (0,1] với: h a3 yk 1   y k =1 k =1 α+ = z  h  ( ) − (z)    k =1 y k − αk  max h  Lαk T k = 0, a3 ) nếu:  + k  h  Lαk k =1 tìm từ toán tối ưu sau: Ly k + λ T Ly k +  (y k − α k k   (3.4) h( y k ) = s.t Update: α + = α + a1 (y − α ) + a2 y λ + = λ + a3 (λ QP − λ ) Outputs: α = α * + (3.5) (3.6) 16 CHƯƠNG : MƠ PHỎNG VÀ NHẬN XÉT 4.1 Kết mơ Trong phần ví dụ thực để kiểm tra độ hiệu phương pháp đề xuất việc đánh giá độ mạnh mạng truyền thông (thông qua R) Để đánh giá độ mạnh mạng lấy mạng có bốn nút làm ví dụ thay đởi giá trị độ bền vững cấu trúc mạng bị thay đởi 4.1.1 Trường hợp Hình 4.1 Cấu trúc mạng lưới bốn nút tồn diện Ta có trạng thái ban đầu nút là: x(0) = [x1 (0), x2 (0), x3 , x4 (0)]T x(k) = [x1 (k), x2 (k), x3 , x4 (k)]T Từ đó ta có phương trình cập nhật đồng thuận x(k+ 1) = (I4 −  L)x(k) x= 11T x(0) 17 Ta có hàm mục tiêu αk  h ( j ,k − i,k )2   k =1 iV jNi N 1 ,k =1,2, ,h x(h) = x s.t Hoặc tương đương với: α  k N 1,k =1,2, ,h s.t h αT Lα k k 2 k =1 x(h) = x Ta sử dụng phương pháp ALADIN để giải tốn tối ưu khơng lồi Vì vậy, ta viết lại hàm mục tiêu sau: αk N 1 h αT Lα k k 2 k =1 s.t  h  Lα k =  k =1  h(α ) = x(h) − x = k  ,k =1,2, ,h Chúng ta xem xét đồ thị mơ tả hình Sử dụng thuật tốn ALADIN ta tính giá trị alpha: 0.5822 0.4592 0.2503 α 0.5824 0.4594 0.2500 0.5823 0.4594 0.2500 0.5824 0.4594 0.2500 18 Với giá trị X là: 0.6864 0.6521 0.6677 X 0.3156 0.9626 0.6677 1.3380 0.1064 0.6677 0.3309 0.9498 0.6677 Giá trị trung bình x = x(h) = 0,6677 Áp dụng thuật tốn tính giá trị riêng riêng biệt phần 1.7.1 ta tìm S2 ma trận Laplacian: 0.2500 0.2500 S2 =  0.2500  0.2500 0 0  0  0 Ta tìm alpha cần tính 0.25, áp dụng thuật tốn tính bội số giá trị riêng phần 1.7.2 ta tính m=3 Từ đó tính  (L) = (0,4,4,4) 19 Sự hội tụ hệ số alpha biểu diễn Matlab sau: Hình 4.2 Dạng sóng αk mạng bốn nút theo phương pháp ALADIN 20 Hình 4.3 Dạng sóng hàm mục tiêu hệ thống bốn nút theo phương pháp ALADIN Ta tính thị là:  (L) = (0,4,4,4) suy độ phản kháng đồ R = N  i =2 N 1 1 = 4( + + ) = i ( L) 4 21 4.1.2 Trường hợp Giả sử hệ thống bất ngờ bị cố không mong muốn làm hai liên kết Hình 4.4 Cấu trúc mạng lưới bốn nút bình thường Chúng ta xem xét đồ thị mơ tả hình Sử dụng thuật tốn ALADIN ta tính giá trị alpha: 0.2500 0.2500 α= 0.2500  0.2500 0.85256 0.5013 0.85259 0.5010  0.85259 0.5010  0.85259 0.5011 22 Với giá trị X: 0.2579 0.2937 X= 0.2937  0.3295 Giá trị trung bình 0.3170 0.2936  0.2937 0.2937   0.2937 0.2937   0.2703 0.2937  x = x(h) = 0,2937 Áp dụng thuật tốn tính giá trị riêng riêng biệt mục 1.7.1 ta tìm S2 ma trận Laplacian: 0.2500 0.2500 S2 =  0.2500  0.2500 0.5011  0.5011   0.5011   0.5011  Ta tìm alpha cần tính 0.5011 0.25, áp dụng thuật tốn tính bội số giá trị riêng mục 1.7.2 ta tính m = {1, 2) Từ đó tính  (L) = (0,2,2,4) 23 Sự hội tụ hệ số alpha biểu diễn Matlab sau: Hình 4.5 Dạng sóng αk mạng bốn nút theo phương pháp ALADIN 24 Hình 4.6 Dạng sóng hàm mục tiêu hệ thống bốn nút theo phương pháp ALADIN Ta tính  (L) = (0,2,2,4) suy độ phản kháng đồ thị: R = N  i =2 N 1 1 = 4( + + ) = i ( L) 2 4.2 Nhận xét Từ hai trường hợp ví dụ ta thấy với số nút bốn, ta tính hệ số phản kháng R thay đởi theo cấu trúc mạng (R nhỏ mạng bền vững) Ở trường hợp bốn nút với đầy đủ kết nối ta có R1=3, trường hợp hai nút hai liên kết ta có R2=5 Suy cấu trúc mạng trường hợp bền vững trường hợp hai Với số nút bốn độ phản kháng (R) gần trường hợp (R1=3) đồ thị bền vững, ngược lại giá trị (R) tiến gần lớn giá trị R2 đồ thị yếu dễ kết nối Từ thay đởi R ta kết luận cấu trúc mạng truyền thông đó có bền vững hay khơng Nó hoạt động tốt 25 đối mặt với lỗi bị công hay không Từ đó tùy thuộc vào yêu cầu tính chất hệ thống ta dẽ dàng lựa chọn cấu trúc mạng cho tối ưu 26 KẾT LUẬN VÀ KIẾN NGHỊ Kết luận • Nội dung Luận văn tập trung nghiên cứu thuật toán đồng thuận sử dụng phương pháp tối ưu hóa để tính thơng số sử dụng để đánh giá tính bền vững mạng truyền thơng • Luận văn trình bày hướng đánh giá tính bền vững ứng dụng phương pháp ALADIN Đây phương pháp mới, nhằm giải toán tối ưu có điều kiện ràng buộc khơng lồi • Điều kiện ràng buộc hàm không lồi ta dùng phương pháp Lagrange để giải tốc độ hội tụ toán chậm Ta thấy phương pháp ALADIN cải thiện tốc độ đáp ứng rõ rệt Kiến nghị Luận văn đánh giá tính bền vững đồ thị vô hướng Hướng phát triển tương lai nghiên cứu đồ thị có hướng ... thuật toán đồng thuận sử dụng phương pháp tối ưu hóa để tính thơng số sử dụng để đánh giá tính bền vững mạng truyền thơng • Luận văn trình bày hướng đánh giá tính bền vững ứng dụng phương pháp ALADIN. .. giá trị chung Để đánh giá tính bền vững mạng truyền thơng hệ đa đối tượng Luận văn tác giả sử dụng thuật tốn đồng thuận phương pháp ALADIN tính tốn giá trị để đánh giá tính bền vững R=  1i... thuật toán tính tốn đánh giá bền vững mạng điều khiển Ứng dụng phương pháp ALADIN để đánh giá mạng truyền thơng b) Mục tiêu cụ thể Tính tốn đưa hàm mục tiêu, điều kiện ràng buộc thuật toán, đưa