Về tính ổn định và tính tiêu tan cho một lớp mạng nowron tĩnh phân thứ

Yao cùng các cộng sự [20] nghiên cứu bài toán ổn định tiệm cận chomột lớp mạng nơ ron tĩnh phân thứ bằng cách sử dụng phương pháp trực tiếpLyapunov và bất đẳng thức ma trận tuyến tính.Lu

ĐẠI HỌC THÁI NGUYÊN

TRƯỜNG ĐẠI HỌC KHOA HỌC

LUẬN VĂN THẠC SĨ TOÁN HỌC

NGƯỜI HƯỚNG DẪN KHOA HỌC

TS Mai Viết Thuận

TS Nguyễn Trường Thanh

THÁI NGUYÊN - 2021

Mục lục

Chương 1 Một số kiến thức chuẩn bị 61.1 Giải tích phân thứ 61.1.1 Tích phân phân thứ 61.1.2 Đạo hàm phân thứ 71.2 Phương pháp hàm Lyapunov cho hệ phương trình vi phân phânthứ 111.3 Một số bổ đề bổ trợ 14

Chương 2 Tính ổn định Mittag-Leffler của một lớp mạng nơ ron

LỜI NÓI ĐẦU

Mô hình mạng nơ ron mô tả bởi hệ phương trình vi phân với đạo hàm bậcnguyên được nghiên cứu đầu tiên bởi L.O Chua và L Yang vào năm 1988[6, 7] Mô hình này đã nhận được sự quan tâm nghiên cứu của nhiều nhà khoahọc trong những năm gần đây do những ứng dụng rộng lớn của nó trong xử

lí tín hiệu, xử lí hình ảnh, tối ưu hóa và các lĩnh vực khác [7, 14] Năm 2008,trong một nghiên cứu của mình, A Boroomand và M.B Menhaj [3] lần đầutiên mô hình hóa mạng nơ ron bởi hệ phương trình vi phân phân thứ (Caputohoặc Riemann–Liouville) So với mạng nơ ron mô tả bởi hệ phương trình viphân với đạo hàm bậc nguyên, mạng nơ ron mô tả bởi hệ phương trình vi phânphân thứ (Caputo hoặc Riemann–Liouville) có thể mô tả các đặc tính và tínhchất của mạng nơ ron một cách chính xác hơn [3, 14] Do đó hệ phương trìnhmạng nơ ron phân thứ đã nhận được sự quan tâm nghiên cứu của nhiều nhàkhoa học Nhiều kết quả hay và thú vị về hệ phương trình mạng nơ ron phânthứ đã được công bố trong những năm gần đây

Tùy theo các vị trí khác nhau của ma trận trọng số liên kết với hàm kíchhoạt, mạng nơ ron có thể được chia thành hai loại: mạng nơ ron trường cục

bộ (local field neural networks) và mạng nơ ron tĩnh (static neural networks).Mạng nơ ron tĩnh phân thứ là sự tổng quát của mạng nơ ron tĩnh có bậcnguyên bằng cách đưa vào đạo hàm phân thứ Mạng nơ ron chiếu phân thứ(Fractional-order projection neural network) là một mạng nơ ron tĩnh phânthứ đặc biệt [20] Một vài kết quả về tính ổn định cho một số lớp mạng nơron chiếu phân thứ đã được công bố trong những năm gần đây Bằng cách sửdụng bất đẳng thức tích phân, một lớp hệ động lực phân thứ và một số tiêuchuẩn α−ổn định mũ đã được nghiên cứu trong [17] Một hệ thống mạng nơ

ron chiếu khoảng bậc phân thứ được giới thiệu và nghiên cứu trong [18] Gầnđây, X Yao cùng các cộng sự [20] nghiên cứu bài toán ổn định tiệm cận chomột lớp mạng nơ ron tĩnh phân thứ bằng cách sử dụng phương pháp trực tiếpLyapunov và bất đẳng thức ma trận tuyến tính.

Luận văn tập trung trình bày tính một số tiêu chuẩn cho bài toán nghiêncứu tính ổn định cho một lớp mạng nơ ron tĩnh phân thứ dựa trên cơ sở đọchiểu và tổng hợp bài báo đã được công bố trong những năm gần đây (xem[20]) Ngoài ra, chúng tôi nghiên cứu tính tiêu tan của một lớp mạng nơ rontĩnh phân thứ Đây là một câu hỏi mở trong công trình của X Yao cùng cáccộng sự [20] Luận văn gồm có 3 chương gồm những nội dung sau:

Trong chương 1, chúng tôi trình bày một số khái niệm về giải tích phânthứ như tích phân và đạo hàm phân thứ Riemann–Liouville, tích phân và đạohàm phân thứ Caputo Ngoài ra, chúng tôi trình bày phương pháp trực tiếpLyapunov cho hệ phương trình vi phân phân thứ Cuối chương, chúng tôi trìnhbày một số bổ đề bổ trợ Nội dung chính của chương này được tham khảo chủyếu từ các tài liệu [8, 10, 11]

Trong chương 2 của luận văn, chúng tôi trình bày một số tiêu chuẩn chobài toán nghiên cứu tính ổn định cho một lớp mạng nơ ron phân thứ tĩnh Nộidung chính của chương này được tham khảo chủ yếu từ tài liệu [20]

Trong chương 3 của luận văn, chúng tôi tập trung đi giải quyết một hướngnghiên cứu mở được đưa ra trong công trình của X Yao cùng các cộng sự [20]

Cụ thể, chúng tôi nghiên cứu tính tiêu tan (tiêu hao) của một lớp hệ nơ ronthần kinh phân thứ tĩnh Lớp hệ này có hàm kích hoạt tổng quát hơn lớp hàmkích hoạt được nghiên cứu trong [20]

Luận văn này được thực hiện tại trường Đại học Khoa học - Đại học TháiNguyên và hoàn thành dưới sự hướng dẫn của TS Mai Viết Thuận và TS.Nguyễn Trường Thanh Tôi xin được bày tỏ lòng biết ơn chân thành và sâu sắctới tập thể hướng dẫn khoa học của mình Những người đã đặt vấn đề nghiêncứu, dành nhiều thời gian hướng dẫn, tận tình dìu dắt và chỉ bảo tôi trongsuốt quá trình thực hiện đề tài luận văn này

Tôi xin trân trọng cảm ơn Ban giám hiệu trường Đại học Khoa học - Đại

học Thái Nguyên, Ban chủ nhiệm khoa Toán – Tin cùng các giảng viên đãtham gia giảng dạy, đã tạo mọi điều kiện tốt nhất để tôi học tập và nghiêncứu.

Đồng thời tôi xin gửi lời cảm ơn tới gia đình thân yêu, cảm ơn những ngườibạn thân thiết đã chăm sóc động viên khích lệ tôi trong suốt quá trình nghiêncứu Sau cùng tôi xin kính chúc toàn thể quý thầy cô trường Đại học Khoahọc - Đại học Thái Nguyên thật dồi dào sức khỏe, niềm tin để tiếp tục thựchiện sứ mệnh cao đẹp của mình là truyền đạt tri thức cho thế hệ mai sau Xinchân thành cảm ơn

Danh mục ký hiệu

Rn không gian vec tơ thực Euclide n chiều

A> ma trận chuyển vị của ma trận A

I ma trận đơn vị

λ(A) tập hợp tất cả giá trị riêng của ma trận A

λmax(A) = max{Reλ : λ ∈ λ(A)}

λmin(A) = min{Reλ : λ ∈ λ(A)}

kAk chuẩn phổ của ma trận A, kAk = pλmax(A>A)

A ≥ 0 ma trận A nửa xác định dương, tức là hAx, xi ≥ 0, ∀x ∈ Rn

C([a, b], Rn) không gian các hàm liên tục trên[a, b] nhận giá trị trong Rn

ACm[a, b] không gian các hàm liên tục tuyệt đối cấp m trên[a, b]

t 0Itα toán tử tích phân phân thứ Riemann - Liouville cấp α

Eα,β hàm Mittag-Leffler hai tham số

dαe số nguyên nhỏ nhất lớn hơn hoặc bằng α

Chương 1

Một số kiến thức chuẩn bị

Trong chương này, chúng tôi trình bày một số khái niệm và kết quả về tính

ổn định và ổn định hóa của các hệ phương trình vi phân thường và hệ phươngtrình vi phân có trễ Chúng tôi cũng trình bày một số kết quả bổ trợ sẽ được

sử dụng trong chứng minh các kết quả chính của luận văn cho các chương sau.Kiến thức sử dụng ở chương này được tham khảo ở [8, 10, 11]

1.1 Giải tích phân thứ

1.1.1 Tích phân phân thứ

Trong mục này, chúng tôi trình bày sơ lược về khái niệm tích phân phânthứ Khái niệm tích phân phân thứ là một mở rộng tự nhiên của khái niệmtích phân lặp thông thường

Định nghĩa 1.1 ([11]) Cho α > 0 và [a, b] ⊂ R, tích phân phân thứ Liouville cấp α của hàm x : [a, b] −→ R được cho bởi

Trong Định nghĩa 1.1 khi α = 0, chúng ta quy ước t0Itα := I với I là toán

tử đồng nhất Sự tồn tại của tích phân phân thứ Riemann–Liouville cấp α với

0 < α < 1 được cho bởi định lý sau

Định lý 1.1 ([11]) Giả sử x : [a, b] −→ R là một hàm khả tích trên [a, b] Khi

đó, tích phân t0Itαx(t) tồn tại với hầu hết t ∈ [a, b] Hơn nữa, t0Itαx cũng làmột hàm khả tích.

Ví dụ sau đây cho ta tích phân phân thứ của một số hàm cơ bản

1.1.2 Đạo hàm phân thứ

Mục này trình bày một cách ngắn gọn về đạo hàm Riemann–Liouville vàđạo hàm Caputo Đây là hai loại đạo hàm được sử dụng rộng rãi trong nhiềulĩnh vực

Định nghĩa 1.2 ([11]) Cho trước một số thực dương α và một khoảng [a, b] ⊂

R Đạo hàm phân thứ Riemann–Liouville cấp α của hàm x : [a, b] −→ R đượccho bởi

Trước khi trình bày điều kiện cho sự tồn tại của đạo hàm phân thứ Riemann–Liouville, chúng tôi nhắc lại một số kết quả sau.

Cho [a, b] là một khoảng hữu hạn trong R AC[a, b] là không gian các hàmtuyệt đối liên tục trên [a, b] Kolmogorov và Fomin đã chỉ ra mối liên hệ giữacác hàm tuyệt đối liên tục và các hàm khả tích Lebesgue như sau:

f (t) ∈ AC[a, b] ⇔ f (t) = c +

Z t a

ϕ(s)ds (ϕ(s) ∈ L(a, b)),

do đó một hàm tuyệt đối liên tục f (t) có đạo hàm f0(t) = ϕ(t) hầu khắp nơitrên [a, b]

Với n ∈ N, ta định nghĩa lớp hàm ACn[a, b] như sau:

ACn[a, b] = {f : [a, b] −→ R, (Dn−1f )(t) ∈ AC[a, b]



D = ddt

}

Mệnh đề sau đây cho ta một số đặc tính của lớp hàm ACn[a, b]

Mệnh đề 1.1 ([11]) Không gian ACn[a, b] chứa tất cả các hàm f (t) có dạngnhư sau:

Định lý sau đây cho ta một tiêu chuẩn cho sự tồn tại của đạo hàm phânthứ Riemann–Liouville

Định lý 1.2 ([11]) Cho α ≥ 0, n = dαe Nếu f (t) ∈ ACn[a, b], khi đó đạohàm phân thứ RLt

0 Dαtf (t) tồn tại hầu khắp nơi trên [a, b] và có thể được biểudiễn dưới dạng sau

Hệ quả 1.1 ([11]) Nếu 0 < α < 1 và f (t) ∈ AC[a, b] thì

Z t

t 0

f0(s)ds(t − s)α



Mệnh đề sau khẳng định toán tử đạo hàm phân thứ Riemann–Liouville làmột toán tử tuyến tính

Mệnh đề 1.2 ([10]) Cho trước một số thực dương α Khi đó đạo hàm phânthứ Riemann–Liouville cấp α là một toán tử tuyến tính, tức là

RL

t 0 Dαt [λf (t) + µg(t)] = λRLt0 Dtαf (t) + µRLt0 Dtαg(t)trong đó λ, µ ∈ R, f (t), g(t) ∈ ACn[a, b]

Định nghĩa 1.3 ([10]) Cho trước một số thực dương α và một khoảng [a, b] ⊂

R Đạo hàm phân thứ Caputo cấp α của hàm x : [a, b] −→ R được cho bởi

C

t 0Dtαx(t) := t0Itn−αDnx(t),trong đó n := dαe là số nguyên nhỏ nhất lớn hơn hoặc bằng α và Dn = dxdnn làđạo hàm thông thường cấp n

Đối với một hàm véc tơ x(t) = (x1(t), x2(t), , xd(t))T đạo hàm phân thứCaputo của x(t) được định nghĩa theo từng thành phần như sau:

C

t 0Dαtx(t) := Ct0Dtαx1(t), Ct0Dαtx2(t), , Ct0Dαtxd(t)
T Định lý sau đây cho ta một điều kiện đủ cho sự tồn tại đào hàm Caputo phânthứ cấp α

Định lý 1.3 ([11]) Cho α ≥ 0, n = [α] + 1 Nếu f (t) ∈ ACn[a, b], khi đó đạohàm phân thứ Caputo Ct0Dαtf (t) tồn tại hầu khắp nơi trên [a, b] Hơn nữa, ta có(i) Nếu α 6∈ N thì Ct 0Dαtx(t) biểu diễn dưới dạng sau:

Chứng minh Tương tự như chứng minh Mệnh đề 1.2

Ta dễ dàng chứng minh được tính chất sau của đạo hàm phân thứ Caputo.Mệnh đề 1.4 ([10]) Cho trước một số thực dương α Nếu ξ là hằng số thì

Tuy nhiên, đạo hàm phân thứ Caputo nói chung không là toán tử nghịchđảo phải của tích phân phân thứ Điều này được chỉ rõ trong định lý dưới đâyĐịnh lý 1.5 ([11]) Cho α > 0, n = [α] + 1 Nếu f (t) ∈ ACn[a, b] thì

(j)(t0)

!,

với hầu hết t ∈ [a, b]

Định lý dưới đây có vai trò quan trọng trong việc nghiên cứu tính tiêu haocho một số mạng nơ ron phân thứ

Định lý 1.7 (Bổ đề 2.3, trang 73 trong cuốn sách chuyên khảo của A.A.Kilbas và các đồng tác giả [11]) Cho các số dương α > 0, β > 0 Giả sử rằng

f (t) là một hàm liên tục Khi đó ta có đẳng thức sau đây

Định nghĩa 1.4 [10] Cho α ∈ C, một hàm Eα : C −→ C xác định bởi

Nhận xét 1.1 Trong Định nghĩa 1.4, nếu cho α = 1, ta có

+∞

X

k=0

zkk! = e

z

Do đó hàm Mittag-Leffler chính là mở rộng của khái niệm hàm mũ

Định nghĩa 1.5 [10] Cho α, β ∈ C, một hàm Eα,β : C −→ C xác định bởi

Xét hệ phương trình vi phân phân thứ Caputo sau đây

(1.1)

trong đó α ∈ (0, 1), x = (x1, x2, , xn)T ∈ Rn là véc tơ trạng thái, t0 ≥ 0 làthời điểm ban dầu, và f : [0, +∞) × Rn −→ Rn là một hàm liên tục theo t vàthỏa mãn điều kiện Lipschitz theo x

Định nghĩa 1.6 ([21]) Véc tơ hằng số x được gọi là điểm cân bằng của hệphương trình vi phân phân thứ Caputo (1.1) nếu và chỉ nếu f (t, x) = 0.Bằng cách sử dụng một số tính chất của đạo hàm phân thứ Caputo, mọiđiểm cân bằng của hệ phương trình vi phân phân thứ Caputo (1.1) có thể

chuyển về gốc tọa độ 0 Thật vậy, giả sử x 6= 0 là một điểm cân bằng của hệphương trình vi phân phân thứ Caputo (1.1) Đặt y(t) = x(t) − x Khi đó hệ(1.1) trở thành

Định nghĩa 1.7 ([21]) Giả sử hệ phương trình vi phân phân thứ Caputo (1.1)

có một điểm cân bằng x = 0 Khi đó hệ (1.1) được gọi là ổn định Mittag–Lefflernếu bất đẳng thức sau đây được thỏa mãn

Định lý 1.8 ([12]) Hệ (1.1) là ổn định Mittag–Leffler nếu tồn tại các sốdương α1, α2, α3, a, b và một hàm khả vi liên tục V (t, x(t)) thỏa mãn các điềukiện:

(i) α1kx(t)ka ≤ V (t, x(t)) ≤ α2kx(t)kab,

(ii) Ct

0DtαV (t, x(t)) ≤ −α3kx(t)kab,

trong đó t ≥ t0 ≥ 0, α ∈ (0, 1) và V (t, x(t)) : [0, +∞) × D −→ R là hàm thỏa

mãn điều kiện Lipschitz địa phương theo x, D là một tập mở chứa điểm gốc 0trong Rn Nếu tất tả các điều kiện trên được thỏa mãn trong Rn thì hệ (1.1)

Chương 2

Tính ổn định Mittag-Leffler của

một lớp mạng nơ ron tĩnh phân thứ

Chương này, chúng tôi trình bày một số tiêu chuẩn cho tính ổn định Leffler của một lớp hệ nơ ron tĩnh phân thứ Cụ thể, chúng tôi trình bày haitiêu chuẩn cho tính ổn định Mittag-Leffler của lớp hệ nơ ron chiếu phân thứ(fractional-order projection neural networks) là một trường hợp đặc biệt củalớp hệ nơ ron tĩnh phân thứ Nội dung trình bày trong chương này được chúngtôi tham khảo trong công trình của X Yao cùng các cộng sự [20] đăng trêntập san Circuits, Systems, and Signal Processing

Mittag-2.1 Phát biểu bài toán và một số tiêu chuẩn

Trước hết, chúng tôi nhắc lại định nghĩa toán tử chiếu và một tính chấtquan trọng của nó

Định nghĩa 2.1 Cho K là một con lồi đóng của Rn Với bất kỳ phần tử

x ∈ Rn, toán tử chiếu PK : Rn −→ K xác định bởi PK(x) = argminz∈Kkx −

zk, x ∈ Rn

Bổ đề 2.1 ([9]) Với bất kỳ x, y ∈ Rn, toán tử chiếu PK thỏa mãn các bất đẳngthức sau

kPK(x) − PK(y)k ≤ kx − yk,và

(PK(x) − PK(y))T (PK(x) − PK(y)) ≤ (PK(x) − PK(y))T (x − y)

Xét mô hình hệ nơ ron chiếu phân thứ sau đây

trong đó α ∈ (0, 1), C = diag{c1, c2, , cn} và ci > 0, y(t) ∈ Rn là véc

tơ trạng thái của hệ, ma trận trọng số liên kết (connection weight matrix)

A = aT

1, aT2, , aTnT với ai = [ai1, ai2, , ain] , J = [j1, j2, , jn]T ∈ Rn

là nhiễu đầu vào bên ngoài (external input) Hàm kích hoạt g (Ay(t)) =[g1(a1y(t)), g2(a2y(t)), , gn(any(t))]T với gi(aiy(t)) = PK(aiy(t) + ji) K làtập lồi đóng xác định bởi K = {y = [y1, y2, , yn]T ∈ Rn : k−i ≤ yi ≤ k+

trong đó k+i , k−i (i = 1, 2, , n) là các hằng số cho trước và z ∈ Rn

Đặt T (y) = g (Ay(t)) − Cy(t) = PK(Ay(t) + J ) − Cy(t) Rõ ràng T thỏamãn điều kiện Lipschitz địa phương Do đó hệ (2.1) có duy nhất một điểm cânbằng (xem Z Wu cùng các cộng sự [18]) ký hiệu bởi y∗ = [y1∗, y∗2, , yn∗]T Sửdụng phép đổi biến x(t) = y(t) − y∗, hệ (2.1) trở thành

chặn, tuyến tính hoặc phi tuyến Hệ nơ ron thần kinh chiếu phân thứ là mộtdạng đặc biệt thuộc lớp hệ nơ ron phân thứ tĩnh Lớp hệ này có các tính chấtcủa cả toán tử chiếu và toán tử đạo hàm Caputo.

Định lý dưới đây cho ta một điều kiện đủ cho tính ổn định Mittag-Lefflercủa hệ (2.3)

Định lý 2.1 Hệ (2.3) ổn định Mittag-Leffler nếu tồn tại ma trận đối xứng, xácđịnh dương Q ∈ Rn×n, các ma trận đường chéo chính dương Di = diag{di1, , din},(i = 1, 2, 3) sao cho bất đẳng thức ma trận tuyến tính dưới đây được thỏa mãn

(s − fi(s)) ds, 0 ≤

Z aix(t) 0

fi(s)ds (2.6)

Từ bất đẳng thức (2.6) suy ra

0 ≤

Z a i x(t) 0

(s − fi(s)) ds =

Z a i x(t) 0

sds −

Z a i x(t) 0

fi(s)ds

≤

Z a i x(t) 0

Đặt h(u) = R0u(s − fi(s)) ds Khi đó h(u) là hàm lồi với biến u Thật vậy, ta

có h0(u) = u − fi(u) Với bất kỳ u1 < u2 Ta có h0(u2) − h0(u1) = u2− u1 −(fi(u2) − fi(u1)) ≥ (u2− u1)1 − u2 −u 1

u −u



= 0 Vậy h(u) là hàm lồi

Xét hàm Lyapunov sau đây

(s − fi(s)) ds, (2.8)

trong đó Q là ma trận đối xứng xác định dương Rõ ràng

γ1kx(t)k2 ≤ V (t, x) ≤ γ2kx(t)k2, (2.9)

trong đó γ1 = λmin(Q) và γ2 = λmax(Q) + max

1≤i≤n{d1i}λmax ATA

Vì ai là véc tơ hàng và x(t) là véc tơ cột nên aix(t) và fi(aix(t))) là các sốthực Áp dụng Bổ đề 1.3, ta tính được đạo hàm của V (t, x) dọc theo quỹ đạocủa nghiệm của hệ (2.3) như sau

(PK(aix(t) + aiy∗− ji) − PK(aiy∗− ji))2

≤ [PK(aix(t) + aiy∗− ji) − PK(aiy∗− ji)] (aix(t)),

tức là fi2(aix(t)) ≤ fi(aix(t))aix(t) Từ đó suy ra với bất kỳ ma trận đườngchéo chính xác định dương D2 = diag{d21, d22, , d2n}, ta có

0 ≤ 2fT(Ax(t))D2Ax(t) − 2fT(Ax(t))D2f (Ax(t)) (2.11)

Từ (2.5) suy ra fi2(aix(t)) ≤ (aix(t))2 Do đó với ma trận đường chéo chínhdương D3 = diag{d31, d32, , d3n}, ta có

0 ≤ xT(t)ATD3Ax(t) − fT(Ax(t))D3f (Ax(t)) (2.12)

Kết hợp các điều kiện (2.10), (2.11) và (2.12), ta thu được

+ 2xT(t)ATD2f (Ax(t)) − 2fT(Ax(t))D2f (Ax(t))

+ xT(t)ATD3Ax(t) − fT(Ax(t))D3f (Ax(t)) − 2fT(Ax(t))D1Af (Ax(t))

hệ (2.3) ổn định Mittag-Leffler

Định lý 2.1 đưa ra một tiêu chuẩn cho tính ổn định Mittag-Leffler của hệ(2.3) Định lý dưới đây cho ta một điều kiện ít bảo thủ hơn so với Định lý 2.1.Định lý 2.2 Hệ (2.3) ổn định Mittag-Leffler toàn cục nếu tồn tại các matrận đối xứng Qi ∈ Rn×n(i = 1, 2), các ma trận đường chéo chính dương

Dj = diag{dj1, dj2, , djn}(j = 1, 2, 3, 4) và một ma trận L ∈ Rn×n sao chobất đẳng thức ma trận tuyến tính dưới đây được thỏa mãn

Áp dụng Bổ đề 1.3 ta tính được đạo hàm Caputo cấp α của V (t, x) dọc theo

quỹ đạo của hệ (2.3) như sau

trong đó Di = diag{di1, di2, , din}, i = 1, 2 Tương tự như trong chứng minh

Định lý 2.1, từ (2.5) với ma trận đường chéo chính dương D3 = diag{d31, d32, , d3n},

ta có

0 ≤ 2fT(Ax(t))D3Ax(t) − 2fT(Ax(t))D3f (Ax(t)) (2.17)Ngoài ra, với bất kỳ ma trận đường chéo chính dương D4, ta có ước lượng dưới