Tính tiêu hao mở rộng của mạng nơ ron phân thứ Caputo có nhiễu 17 Trang 3 LỜI NÓI ĐẦUTrong những năm gần đây, mạng nơ ron nhận được sự quan tâm của nhiềunhà khoa học vì những ứng dụng t
Trang 1ĐẠI HỌC THÁI NGUYÊN
TRƯỜNG ĐẠI HỌC KHOA HỌC
Trang 2Mục lục
Trang 3LỜI NÓI ĐẦU
Trong những năm gần đây, mạng nơ ron nhận được sự quan tâm của nhiềunhà khoa học vì những ứng dụng thiết thực và to lớn của nó trong nhiều lĩnh vựcnhư xử lý hình ảnh, xử lý tín hiệu, nhận dạng mẫu, chẩn đoán lỗi, liên kết bộnhớ, các vấn đề tối ưu hóa, v.v [13] Mạng nơ ron phân thứ được giới thiệu vànghiên cứu đầu tiên bởi Boroomand và Menhaj vào năm 2008 [2] Vì phép tính
vi tích phân phân thứ có khả năng mô tả bộ nhớ và các thuộc tính di truyền củamạng tốt hơn so với mạng nơ ron bậc nguyên nên mạng nơ ron phân thứ đã nhậnđược sự quan tâm nghiên cứu của nhiều nhà khoa học Nhiều kết quả thú vị vàsau sắc về mạng nơ ron bao gồm tính ổn định theo nghĩa Lyapunov [16], tính ổnđịnh trong thời gian hữu hạn [15], tính thụ động [4], tính tiêu hao [12], tính đồng
bộ hóa [10] đã được công bố trên các tạp chí quốc tế uy tín
Mặt khác, như chúng ta đã biết hiệu suất của mạng nơ ron thường được đặctrưng bởi mối quan hệ giữa các tham số đầu vào và đầu ra, đóng một vai trò quantrọng trong nhiều bài toán thực tế Mối quan hệ này thường được thể hiện bằng
tính tiêu hao Khái niệm tính tiêu hao mở rộng bao gồm các mối quan hệ bên trênnhư các trường hợp đặc biệt Tính tiêu hao mở rộng đã được áp dụng để nghiêncứu cho một số lớp mạng nơ ron với bậc nguyên [6, 11, 14] Gần đây, M Shafiya
và G Nagamani [13] lần đầu tiên nghiên cứu tính tiêu hao mở rộng cho mạng nơron phân thứ Caputo có nhiễu Bằng cách sử dụng lý thuyết ổn định Lyapunov
Trang 4kết hợp với kỹ thuật bất đẳng thức ma trận tuyến tính, các tác giả đưa ra mộtvài tiêu chuẩn cho tính tiêu hao mở rộng cho mạng nơ ron phân thứ Caputo vớinhiễu có cấu trúc Luận văn tập trung trình bày một số tiêu chuẩn cho tính tiêuhao mở rộng của mạng nơ ron phân thứ trên cơ sở đọc hiểu và trình bày lại mộtcách có hệ thống kết quả bài báo của M Shafiya và G Nagamani [13] Luận văngồm có 2 chương gồm những nội dung sau:
Trong chương 1, chúng tôi trình bày một số khái niệm về giải tích phân thứCaputo Một số bổ đề bổ trợ được chúng tôi trình bày ở cuối chương Nội dungchính của chương này được viết dựa trên các tài liệu [5, 7, 8, 9]
Trong chương 2 của luận văn, chúng tôi trình bày một số tiêu chuẩn cho tínhtiêu hao mở rộng của mạng nơ ron phân thứ Caputo Trước hết, chúng tôi phátbiểu bài toán và trình bày định nghĩa về tính tiêu hao mở rộng cho mạng nơ ronphân thứ Tiếp theo, trên cơ sở tổng hợp và trình bày lại kết quả của M Shafiya
và G Nagamani [13], chúng tôi trình bày một số tiêu chuẩn cho tính tiêu hao
mở rộng của mạng nơ ron phân thứ có nhiễu khi mạng nơ ron có sự tác độngcủa véc tơ nhiễu đầu vào Ngoài ra, khi không có tác động của nhiễu đầu vào tớimạng nơ ron phân thứ, chúng tôi trình bày một số điều kiện đủ cho tính ổn địnhMittag-Leffler toàn cục của mạng nơ ron tương ứng Cuối chương là hai ví dụ sốđược chúng tôi đưa ra để minh họa cho tính đúng đắn của kết quả lý thuyết Hai
ví dụ số này có thể coi là đóng góp mới của luận văn
Luận văn này được thực hiện tại trường Đại học Khoa học - Đại học TháiNguyên và hoàn thành dưới sự hướng dẫn của TS Mai Viết Thuận và TS Lê VănNgọc Tôi xin được bày tỏ lòng biết ơn chân thành và sâu sắc tới tập thể hướngdẫn khoa học của mình Những người đã đặt vấn đề nghiên cứu, dành nhiều thờigian hướng dẫn, tận tình dìu dắt và chỉ bảo tôi trong suốt quá trình thực hiện đềtài luận văn này
Trang 5Tôi xin trân trọng cảm ơn Ban giám hiệu trường Đại học Khoa học - Đại họcThái Nguyên, Ban chủ nhiệm khoa Toán - Tin cùng các giảng viên đã tham giagiảng dạy, đã tạo mọi điều kiện tốt nhất để tôi học tập và nghiên cứu.
Đồng thời tôi xin gửi lời cảm ơn tới gia đình thân yêu, cảm ơn những ngườibạn thân thiết đã chăm sóc động viên khích lệ tôi trong suốt quá trình nghiêncứu Sau cùng tôi xin kính chúc toàn thể quý thầy cô trường Đại học Khoa học
- Đại học Thái Nguyên thật dồi dào sức khỏe, niềm tin để tiếp tục thực hiện sứmệnh cao đẹp của mình là truyền đạt tri thức cho thế hệ mai sau
Trang 7Chương 1
Một số kiến thức chuẩn bị
Trong chương này, trước hết, chúng tôi trình bày một số khái niệm về giảitích phân thứ bao gồm tích phân phân thứ Riemann-Liouville, đạo hàm phân thứRiemann-Liouville, đạo hàm phân thứ Caputo Tiếp đến, chúng tôi trình bày một
số bổ đề bổ trợ dùng cho chương hai của luận văn Nội dung của chương này đượcviết dựa trên các tài liệu [5, 7, 8, 9]
1.1 Một số kiến thức cơ bản về tích phân và đạo hàm
phân thứ
Trong mục này, chúng tôi trình bày sơ lược về khái niệm tích phân phân thứ.Khái niệm tích phân phân thứ là một mở rộng tự nhiên của khái niệm tích phânlặp thông thường
Định nghĩa 1.1 ([8]) Cho α > 0 và [a, b] ⊂ R, tích phân phân thứ Liouville cấp α của hàm x : [a, b] −→ R được cho bởi
Trang 8Trong Định nghĩa 1.1 khi α = 0, chúng ta quy ước t0Itα := I với I là toán
tử đồng nhất Sự tồn tại của tích phân phân thứ Riemann–Liouville cấp α với
0 < α < 1 được cho bởi định lý sau
Định lý 1.1 ([8]) Giả sử x : [a, b] −→ R là một hàm khả tích trên [a, b] Khi đó,
Trang 9Ví dụ 1.2 Cho hàm bước đơn vị (unit-step function)
Trang 10Ngoài ra, từ các điều kiện trên ta có
Kết quả sau đây được suy ra trực tiếp từ Định lý 1.2
Hệ quả 1.1 ([8]) Nếu 0 < α < 1 và f (t) ∈ AC[a, b] thì
Mệnh đề 1.2 ([7]) Cho trước một số thực dương α Khi đó đạo hàm phân thứRiemann–Liouville cấp α là một toán tử tuyến tính, tức là
Trang 11Định nghĩa 1.3 ([7]) Cho số thực dương α và khoảng [a, b] ⊂ R Đạo hàm phânthứ Caputo cấp α của hàm x : [a, b] −→ R được cho bởi
C
t 0Dtαx(t) := t 0Itn−αDnx(t),
đạo hàm thông thường cấp n
Caputo của x(t) được định nghĩa theo từng thành phần như sau:
C
t 0Dαtx(t) := Ct0Dtαx1(t), Ct0Dtαx2(t), , Ct0Dtαxd(t)T.Định lý sau đây cho ta một điều kiện đủ cho sự tồn tại đạo hàm Caputo phânthứ cấp α
Trang 12Mệnh đề 1.3 ([7]) Cho trước một số thực dương α Khi đó đạo hàm phân thứCaputo cấp α là một toán tử tuyến tính, tức là
Ta dễ dàng chứng minh được tính chất sau của đạo hàm phân thứ Caputo
Mệnh đề 1.4 ([7]) Cho trước một số thực dương α Nếu ξ là hằng số thì
Trang 13Định lý 1.5 ([8]) Cho α > 0, n = [α] + 1 Nếu f (t) ∈ ACn[a, b] thì
Định lý 1.7 (Bổ đề 2.3, trang 73 trong cuốn sách chuyên khảo của A.A Kilbas
và các đồng tác giả [8]) Cho các số dương α > 0, β > 0 Giả sử rằng f (t) là mộthàm liên tục Khi đó ta có đẳng thức sau đây
Trang 14Bổ đề 1.2 (Bổ đề Schur [3]) Cho X, Y, Z là các ma trận có số chiều thích hợp,
trận đối xứng, xác định dương Khi đó ta có ước lượng dưới đây
khả vi liên tục V (t, x(t)) thỏa mãn các điều kiện
(ii) Ct0DαtV (t, x(t)) ≤ −α3kx(t)kab,
điều kiện Lipschitz địa phương theo x, D là một tập mở chứa điểm gốc 0 trong
t 0Dtαg(t) = g(n)(t),
Trang 16Chương 2
Tính tiêu hao mở rộng của mạng
nơ ron phân thứ Caputo
Trong chương này, chúng tôi trình bày một số tiêu chuẩn cho tính tiêu hao mởrộng của mạng nơ ron phân thứ Caputo có nhiễu Mục 2.1, chúng tôi phát biểubài toán và trình bày một số định nghĩa liên quan Mục 2.2, chúng tôi trình bàymột số tiêu chuẩn cho tính tiêu hao mở rộng của mạng nơ ron phân thứ Caputovới nhiễu biến thiên bị chặn Mục 2.3, chúng tôi trình bày hai ví dụ số để minhhọa cho các kết quả lý thuyết trong Mục 2.2 Hai ví dụ số này là những đóng gópmới của luận văn
2.1 Phát biểu bài toán và một số định nghĩa
Xét mạng nơ ron phân thứ có nhiễu
Trang 17f (x(t)) = (f1(x1(t)), , fn(xn(t)))T ∈ Rn là hàm kích hoạt của mạng nơ ron,
sao cho các phép toán đại số về ma trận thực hiện được Các ma trận A(t), B(t)được cho dưới dạng
A(t) = A + ∆A(t), B(t) = B + ∆B(t),
nơ ron của mạng, các ma trận ∆A(t), ∆B(t) không biết trước nhưng thỏa mãnđiều kiện dưới đây
Ta xét hai giả thiết dưới đây
l−i ≤ fi(v1) − fi(v2)
+
i , (i = 1, 2, , n), ∀v1, v2 ∈ R, v1 6= v2
các điều kiện dưới đây:
2.2, mạng nơ ron phân thứ (2.1) được gọi là tiêu hao mở rộng nếu với điều kiện
Trang 18ban đầu bằng 0, tức là x(0) = x0= 0, bất đẳng thức dưới đây thỏa mãn
Z t f 0
Nhận xét 2.1 Hiệu suất của mạng nơ ron thường được đặc trưng bởi mối quan
hệ giữa các tham số đầu vào và đầu ra, đóng một vai trò quan trọng trong nhiềubài toán thực tế Mối quan hệ này thường được thể hiện bằng một trong các biểu
niệm tiêu hao mở rộng chứa đựng các khái niệm như các trường hợp đặc biệt Cụthể:
khái niệm hiệu suất thụ động
2.2 Tính tiêu hao mở rộng của mạng nơ ron phân thứ
Trang 19chéo chính xác định dương R, và một số dương sao cho các bất đẳng thức matrận tuyến tính dưới đây thỏa mãn
Trang 20Với R là một ma trận đường chéo chính xác định dương, áp dụng Giả thiết 2.2 tathu được ước lượng dưới đây
Trang 22Áp dụng Bổ đề Schur, ta có điều kiện (2.6) tương đương với điều kiện (2.2a) Từ
đó suy ra Ξ < 0 Do đó luôn tìm được số dương δ > 0 sao cho Ξ < diag{−δI, 0, 0}.Kết hợp điều này với (2.5), ta thu được
C
Từ (2.7) suy ra
Định lý 1.5, ta thu được ước lượng dưới đây
Z t f 0
Z t f 0
Trang 23Từ Định nghĩa 2.1, ta chỉ ra với các ma trận Φi(i = 1, 2, 3, 4) thỏa mãn Giả thiết2.2 bất đẳng thức dưới đây đúng
Z t f 0
Trang 24Cho α → 1 và áp dụng Bổ đề 1.5, ta thu được
tức là điều kiện trong Định nghĩa 2.1 thỏa mãn
được đánh giá dưới đây
J (s)ds
Suy ra
Z t f 0
Trang 25Định nghĩa 2.2 ([16]) Giả sử hệ phương trình vi phân phân thứ Caputo (2.16)
nếu bất đẳng thức sau đây được thỏa mãn
ở đó λ > 0, b > 0 và hàm m(x) ≤ 0 (m(0) = 0) thỏa mãn điều kiện Lipschitz địa
Nhận xét 2.2 ([16]) Nếu hệ (2.16) ổn định Mittag–Leffler thì hệ ổn định tiệm
ˆ
ˆ
ω12 = P B − D1TΦ1D2, ω13 = −D1TΦ2,ˆ
ω22 = −R − DT2Φ1D2, ˆω23 = −DT2Φ2, ˆω33 = −Φ3,
Trang 26điều này với (2.7) suy ra
Trang 27chính xác định dương R sao cho các bất đẳng thức ma trận tuyến tính dưới đâythỏa mãn
Ω22 = −R − D2TΦ1D2, ˆΩ23 = −D2TΦ2, ˆΩ33 = −Φ3
thứ có nhiễu đã được nghiên cứu bởi Z Ding cùng các cộng sự [4]:
Trang 28Hệ quả 2.3 Giả sử các Giả thiết 2.1 và 2.2 thỏa mãn Hệ (2.22) tiêu hao mởrộng nếu tồn tại một ma trận đối xứng xác định dương P , một ma trận đườngchéo chính xác định dương R, và một số dương sao cho các bất đẳng thức matrận tuyến tính dưới đây thỏa mãn
Trang 29Ví dụ 2.1 Xét mạng nơ ron phân thứ với nhiễu biến thiên bị chặn
Trang 30Theo Định lý 2.1, hệ (2.24) tiêu hao mở rộng.
Ví dụ 2.2 Xét mạng nơ ron phân thứ có cấu trúc vòng có nhiễu dưới đây
nơ ron, y(t) ∈ R là véc tơ đầu ra của mạng nơ ron, ω(t) ∈ R là nhiễu đầu vào của
cụ LMI Tool box trong MATLAB [3], ta thấy các điều kiện trong Hệ quả 2.3 thỏa
Trang 31LMI Tool box trong MATLAB [3], ta thấy các điều kiện trong Hệ quả 2.3 thỏa
Tool box trong MATLAB [3], ta thấy các điều kiện trong Hệ quả 2.3 thỏa mãnvới = 343.7707, γ = 340.2594 và
Từ đó suy ra hệ (2.25) thụ động với mức γ = 340.2594
cụ LMI Tool box trong MATLAB [3], ta thấy các điều kiện trong Hệ quả 2.3 thỏamãn với = 523.9552, β = 518.1704 và
Trang 32Kết luận
Luận văn đã đạt được những kết quả sau:
• Trình bày lại một số khái niệm cơ bản về giải tích phân thứ bao gồm tíchphân Riemann-Liouville, đạo hàm phân thứ Caputo;
• Trình bày một số tiêu chuẩn cho tính tiêu hao mở rộng và tính ổn địnhMittag-Leffler cho một số lớp mạng nơ ron phân thứ;
• Đưa ra 02 ví dụ số để minh họa cho các kết quả lý thuyết
Trang 33Tài liệu tham khảo
[1] A Atangana (2017), Fractional Operators with Constant and Variable Orderwith Application to Geo-hydrology, Academic Press, Cambridge
[2] A Boroomand and M.B Menhaj (2008), “Fractional-order Hopfield ral networks”, In: International conference on neural information processing,Springer, Berlin, Heidelberg, pp 883–890
neu-[3] S Boyd, L El Ghaoui, E Feron and V Balakrishnan (1994), Linear MatrixInequalities in System and Control Theory, SIAM, Philadelphia
[4] Z Ding, Z Zeng, H Zhang, L Wang, and L Wang (2019), “New results
on passivity of fractional-order uncertain neural networks”, Neurocomputing,
351, pp 51–59
[5] M.A Duarte-Mermoud, N Aguila-Camacho, J.A Gallegos and R Linares (2015), “Using general quadratic Lyapunov functions to prove Lya-punov uniform stability for fractional order systems”, Communications inNonlinear Science and Numerical Simulation, 22(1-3), pp 650–659
Castro-[6] Z Feng and W.X Zheng (2015), “On extended dissipativity of discrete-timeneural networks with time delay”, IEEE Transactions on Neural Networksand Learning Systems, 26(12), pp 3293–3300
Trang 34[7] T Kaczorek (2011), Selected Problems of Fractional Systems Theory,Springer.
[8] A.A Kilbas, H.M Srivastava and J.J Trujillo (2006), Theory and tions of Fractional Differential Equations, Springer
Applica-[9] Y Li, Y Chen, and I Podlubny, (2010), “Stability of fractional-order linear dynamic systems: Lyapunov direct method and generalized Mittag-Leffler stability”, Computers & Mathematics with Applications, 59(5), pp.1810–1821
non-[10] H Liu, S Li, H Wang, Y Huo, and J Luo (2015), “Adaptive synchronizationfor a class of uncertain fractional-order neural networks”, Entropy, 17(10), pp.7185–7200
[11] R Manivannan, G Mahendrakumar, R Samidurai, J Cao, and A Alsaedi(2017), “Exponential stability and extended dissipativity criteria for general-ized neural networks with interval time-varying delay signals”, Journal of theFranklin Institute, 354(11), pp 4353–4376
[12] N.T Phuong, N.T.T Huyen, N.T.H Thu, N.H Sau, and M.V Thuan (2022),
“New criteria for dissipativity analysis of Caputo fractional-order neuralnetworks with non-differentiable time-varying delays”, International Journal
of Nonlinear Sciences and Numerical Simulation, Doi: 0203
10.1515/ijnsns-2021-[13] M Shafiya and G Nagamani (2022), “Extended dissipativity criterion forfractional-order neural networks with time-varying parameter and intervaluncertainties”, Computational and Applied Mathematics, 41(3), pp 1–24
Trang 35[14] Y Tian and Z Wang (2020), “Extended dissipativity analysis for vian jump neural networks via double-integral-based delay-product-type Lya-punov functional”, IEEE Transactions on Neural Networks and Learning Sys-tems, 32(7), pp 3240–3246.
Marko-[15] X Yang, Q Song, Y Liu, and Z Zhao (2015), “Finite-time stability analysis
of fractional-order neural networks with delay”, Neurocomputing, 152, pp.19–26
[16] Z Zhang, Y Yu, and J Yu (2016), “LMI conditions for global stability offractional-order neural networks”, IEEE Transactions on Neural Networksand Learning Systems, 28(10), pp 2423–2433