Luận văn thạc sỹ đặc trưng tính lồi của hàm số thông qua dưới vi phân bậc hai fréchet

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC  - ĐINH KIM CHI ĐẶC TRƯNG TÍNH LỒI CỦA HÀM SỐ THƠNG QUA DƯỚI VI PHÂN BẬC HAI FRÉCHET Chuyên ngành: Toán ứng dụng Mã số: 46 01 12 LUẬN VĂN THẠC SĨ TOÁN HỌC Tập thể hướng dẫn khoa học: TS Dương Thị Việt An THÁI NGUYÊN - 2022 Mục lục Mở đầu Lời cảm ơn Chương Một số kiến thức chuẩn bị 10 1.1 Dưới vi phân Fréchet 10 1.2 Nón pháp tuyến Fréchet 13 1.3 Đối đạo hàm vi phân bậc hai Fréchet 16 1.4 Một số kiến thức bổ trợ 18 Chương Đặc trưng tính lồi hàm số thơng qua vi phân bậc hai Fréchet 23 2.1 Trường hợp X không gian hữu hạn chiều 23 2.2 Trường hợp X không gian Asplund 28 Chương Đặc trưng tính lồi mạnh hàm số thông qua vi phân bậc hai Fréchet 31 3.1 Trường hợp X không gian hữu hạn chiều 35 3.2 Trường hợp X không gian Hilbert 37 Kết luận 42 Danh mục ký hiệu trường số thực R R = R ∪ {±∞} tập số thực suy rộng tập rỗng ∅ ∀x ∃x M ⊂N M ∩N M ∪N |x| ||x|| hx∗ , xi Ω x− → x¯ ϕ với x tồn x M tập N giao hai tập hợp M N hợp hai tập hợp M N giá trị tuyệt đối x chuẩn véctơ x giá trị phiếm hàm x∗ x x hội tụ đến x¯ x ∈ Ω x→ − x¯ x hội tụ đến x¯ ϕ(x) hội tụ đến ϕ(¯ x) b (x; Ω) N nón pháp tuyến Fréchet Ω x N (x; Ω) nón pháp tuyến theo nghĩa giải tích lồi Ω x dom ϕ miền hữu dụng hàm ϕ ∇ϕ(x) đạo hàm Fréchet ϕ x b ∂ϕ(x) vi phân Fréchet ϕ x ∂ϕ(x) vi phân theo nghĩa giải tích lồi ϕ x f −1 (Θ) tập ảnh ngược Θ qua ánh xạ f F :X⇒Y ánh xạ đa trị F từ X vào Y F −1 : Y ⇒ X ánh xạ ngược ánh xạ đa trị F ∂b2 ϕ(¯ x)(·) dom F miền hữu hiệu ánh xạ đa trị F gph F đồ thị ánh xạ đa trị F rge F miền ảnh ánh xạ đa trị F b ∗ F (¯ D x, y¯)(·) đối đạo hàm Fréchet ánh xạ đa trị F (¯ x, y¯) vi phân bậc hai Fréchet ϕ x ¯ Mở đầu Giải tích biến phân có nguồn gốc từ toán tối ưu lĩnh vực quan trọng toán học Các nguyên lý kĩ thuật giải tích biến phân áp dụng để giải nhiều toán quan trọng lĩnh vực khác toán học Phạm vi ảnh hưởng vượt xa so với mục tiêu ban đầu toán biến phân Giải tích lồi mơn giải tích đại, nghiên cứu tập lồi hàm lồi với vấn đề liên quan Bộ mơn có vai trị quan trọng nhiều lĩnh vực khác toán ứng dụng, đặc biệt tối ưu hóa, bất đẳng thức biến phân, toán cân bằng, Hàm lồi xuất sử dụng rộng rãi nhiều lĩnh vực tốn học: Phép tính vi phân, lý thuyết điều khiển, phương trình bất phương trình hàm, lý thuyết tối ưu, tốn kinh tế Trong hàm không trơn xuất cách tự nhiên thường xuyên lý thuyết toán biến phân ứng dụng Vì vậy, cơng cụ giải tích khơng trơn hay phép tính vi phân suy rộng đóng vai trị quan trọng hướng nghiên cứu giải tích biến phân toán tối ưu Các đặc trưng bậc (dựa thông tin đạo hàm bậc vi phân bậc hàm số) tính lồi hàm số thơng qua tính đơn điệu đạo hàm Fréchet (nếu chúng tồn tại) tính đơn điệu vi phân Fréchet, tính đơn điệu đạo hàm theo hướng bậc nhất, nhà toán học quan tâm nghiên cứu từ năm 80 kỉ trước Trong trường hợp hàm xét khả vi liên tục cấp hai (thuộc lớp C ), tính chất “nửa xác định dương” đạo hàm cấp hai cho ta cơng cụ hữu ích để nhận tính lồi hàm số Cụ thể, cho ϕ : Rn → R hàm thuộc lớp C , ký hiệu ∇2 ϕ(x) ma trận Hessian đạo hàm riêng cấp hai ϕ x Khi ϕ hàm lồi ma trận Hessian ∇2 ϕ(x) nửa xác định dương (xem [1, Định lý 2.26]) Đây gọi đặc trưng bậc hai, tức dựa thông tin đạo hàm bậc hai hàm số, tính lồi Trong trường hợp không tồn đạo hàm cấp hai hàm số, cậu hỏi tự nhiên nảy sinh: Liệu ta thu đặc trưng bậc hai tính lồi hàm số hay khơng? Bằng cách sử dụng thông tin vi phân bậc hai Fréchet (một khái niệm mở rộng cho khái niệm đạo hàm bậc hai hàm số), tác giả Nguyễn Huy Chiêu, Thái Dỗn Chương, Jen-Chih Yao Nguyễn Đơng Yên thu kết đặc trưng tính lồi hàm số biến thuộc lớp C (tức hàm số khả vi liên tục đạo hàm liên tục) báo [4] Ngay sau đó, tác giả Nguyễn Huy Chiêu Nguyễn Quang Huy [5] mở rộng kết cho trường hợp hàm số xác định không gian Asplund (các không gian Banach phản xạ, khơng gian Hilbert, khơng gian hữu hạn chiều nói riêng) Bên cạnh hàm lồi, hàm lồi mạnh có vai trị quan trọng nghiên cứu toán tối ưu, đặc biệt việc nghiên cứu thuật toán, lý thuyết ổn định toán tối ưu toán bất đẳng thức biến phân Do đặc trưng tính lồi mạnh hàm số thông qua vi phân nhà tốn học quan tâm nghiên cứu Mục đích luận văn trình bày kết đặc trưng tính lồi tính lồi mạnh hàm số cách sử dụng vi phân bậc hai Fréchet Nội dung luận văn chúng tơi biên dịch, xếp trình bày lại cách có hệ thống từ kết báo [4] [5] Các chứng minh ví dụ minh họa trình bày cách chi tiết Vì kỹ thuật chứng minh hai báo [4] [5] phụ thuộc vào cấu trúc không gian X (không gian mà hàm số xác định đó), nên luận văn chúng tơi chia nội dung làm hai chương, chương gồm hai mục tương ứng với cấu trúc không gian X Luận văn gồm phần mở đầu, phần kết luận, danh mục tài liệu tham khảo, ba chương có nội dung sau: Chương “Một số kiến thức chuẩn bị” trình bày kiến thức vi phân Fréchet, nón pháp tuyến Fréchet, đối đạo hàm vi phân bậc hai Fréchet Phần cuối chương tổng hợp số kết bổ trợ nhằm phục vụ cho việc chứng minh kết chương sau Chương “Đặc trưng tính lồi hàm số thông qua vi phân bậc hai Fréchet”, chương này, chúng tơi trình bày có hệ thống kết đặc trưng tính lồi hàm số khả vi ϕ : X → R xác định không gian X = R trường hợp X không gian Asplund Các kết thiết lập không gian Asplund trường hợp tổng quát kết thiết lập không gian chiều R Tuy nhiên hai cách chứng minh hoàn toàn khác Cụ thể cách chứng minh cho trường hợp ϕ hàm biến sử dụng cấu trúc hình học khơng gian R cấu trúc không áp dụng trường hợp số chiều không gian n lớn Cịn trường hợp X khơng gian Asplund, kỹ thuật chứng minh dựa Định lý giá trị trung bình xấp xỉ Do chương chúng tơi trình bày hai cách chứng minh tương ứng Chương “Đặc trưng tính lồi mạnh hàm số thông qua vi phân bậc hai Fréchet”, chương này, đặc trưng tính lồi mạnh hàm số thông qua vi phân bậc hai Fréchet phát biểu chứng minh cho trường hợp hàm số xác định không gian hữu hạn chiều trường hợp hàm số xác định khơng gian Hilbert Lời cảm ơn Trong suốt thời gian học tập hoàn thành luận văn trường Đại học Khoa học, Đại học Thái Nguyên, em nhận nhiều quan tâm, giúp đỡ quý thầy cô, gia đình bạn bè Em xin gửi lời cảm ơn chân thành đến Ban Giám hiệu, Phòng Đào tạo trường Đại học Khoa học, Đại học Thái Nguyên tạo điều kiện thuận lợi cho em suốt trình học tập hồn thành luận văn Em xin gửi lời cảm ơn đến quý thầy cô Khoa Toán - Tin, trường Đại học Khoa học, Đại học Thái Nguyên nhiệt tình việc truyền đạt vốn kiến thức quý báu giúp đỡ em nhiều thời gian em học tập trường Em xin bày tỏ lòng biết ơn chân thành sâu sắc đến cô TS Dương Thị Việt An, người trực tiếp hướng dẫn luận văn cho em Cô tận tình hướng dẫn, cung cấp nhiều tài liệu khoa học, dành cho em nhiều thời gian, tâm sức, nhiều ý kiến, nhận xét quý báu, chỉnh sửa cho em chi tiết nhỏ luận văn, giúp luận văn em hoàn thiện mặt nội dung hình thức Cơ ln quan tâm, động viên, nhắc nhở kịp thời để em hồn thành luận văn tiến độ Em xin gửi lời cảm ơn chân thành đến gia đình, bạn bè đồng nghiệp người ủng hộ, động viên tạo điều kiện tốt để em hoàn thành luận văn Lời sau cùng, em xin kính chúc q thầy Khoa Tốn - Tin, tồn thể thầy cơng tác trường Đại học Khoa học, Đại học Thái Nguyên thật nhiều sức khỏe hạnh phúc để vững bước chèo lái thuyền "trồng người" đến bờ bến thành công Thái Nguyên, ngày 13 tháng 11 năm 2022 Học viên Đinh Kim Chi  Kết hợp Định lý 2.1 Định lý 2.3 ta thu kết sau Định lý 2.4 Cho ϕ : Rn → R hàm thuộc lớp C Khi ϕ hàm b , ánh xạ vi phân bậc hai lồi với (x, y) ∈ gph ∂ϕ ∂b2 ϕ(x, y) : Rn ⇒ Rn nửa xác định dương Nhận xét 2.1 Trong chứng minh Định lý 2.3, phải sử dụng đến Định lý giá trị trung bình xấp xỉ (xem [6, Theorem 49]) mà khơng gian xét không gian Asplund Việc mở rộng kết tương ứng cho trường hợp X không gian tổng qt (ví dụ khơng gian Bannach) cịn vấn đề mở 30 Chương Đặc trưng tính lồi mạnh hàm số thông qua vi phân bậc hai Fréchet Khái niệm hàm lồi mạnh Polyak đưa lần năm 1966 báo [7] Chúng có vai trị đặc biệt quan trọng việc nghiên cứu toán tối ưu Cụ thể, báo Polyak đưa số tính chất đặc trưng hàm lồi mạnh Ở chúng tơi quan tâm đến tính chất: Cho ϕ hàm số thực xác định không gian Banach, khả vi liên tục đến cấp hai, ϕ lồi mạnh (với số ρ) h∇2 ϕ(x), yi ≥ 2ρkyk2 , với x, y ∈ X (xem [7, Lemma]) Trong chương trình bày kết mở rộng kết Polyak cho trường hợp hàm ϕ không khả vi liên tục cấp hai Các kết chương trình bày theo báo [4, Section 5] [5, Section 5] Trước trình bày nội dung chương này, chúng tơi chứng minh số kết bổ trợ sau Mệnh đề 3.1 Cho X không gian Hilbert Hàm ϕ : X → R lồi mạnh 31 (với số ρ > 0) tập lồi Ω dom ϕ hàm (3.1) ϕ(x) ˜ := ϕ(x) − ρ||x||2 lồi Ω Chứng minh Điều kiện cần: Giả sử ϕ lồi mạnh với số ρ > ta cần chứng minh ϕ˜ lồi Tức là, với x, y ∈ Ω, λ ∈ (0, 1) ta ln có bất đẳng thức ϕ(λx ˜ + (1 − λ)y) ≤ λϕ(x) ˜ + (1 − λ)ϕ(y) ˜ Đầu tiên, theo cách xác định hàm ϕ˜ tính lồi mạnh hàm ϕ, ta có ϕ(λx ˜ + (1 − λ)y) = ϕ(λx + (1 − λ)y) − ρ||λx + (1 − λ)y||2 ≤ λϕ(x) + (1 − λ)ϕ(y) − ρλ(1 − λ)||x − y||2 − ρ||λx + (1 − λ)y||2 Do ϕ(λx ˜ + (1 − λ)y) ≤ λϕ(x) + (1 − λ)ϕ(y) 2 (3.2) − ρλ(1 − λ)||x − y|| − ρ||λx + (1 − λ)y|| Mặt khác, X khơng gian Hilbert nên ta có ||x − y||2 = ||x||2 + ||y||2 − 2hx, yi, ρλ(1 − λ)||x−y||2 2 = ρλ(1−λ)||x|| +ρλ(1−λ)||y|| −2ρλ(1−λ)hx, yi Trong từ ||λx + (1 − λ)y||2 = ||λx||2 + ||(1 − λ)y||2 + 2hλx, (1 − λ)yi = λ2 ||x||2 + (1 − λ)2 ||y||2 + 2λ(1 − λ)hx, yi, 32 (3.3) ta có ρ||λx+(1 − λ)y||2 = ρλ2 ||x||2 +ρ(1 − λ)2 ||y||2 +2ρλ(1 − λ)hx, yi (3.4) Thay (3.3) (3.4) vào (3.2) ta ϕ(λx ˜ + (1 − λ)y) ≤ λϕ(x) + (1 − λ)ϕ(y) − ρλ(1 − λ)||x||2 − ρλ(1 − λ)||y||2 + 2ρλ(1 − λ)hx, yi − ρλ2 ||x||2 − ρ(1 − λ)2 ||y||2 − 2ρλ(1 − λ)hx, yi = λϕ(x) + (1 − λ)ϕ(y) − ρλ||x||2 − ρ(1 − λ)||y||2 = λ(ϕ(x) − ρ||x||2 ) + (1 − λ)(ϕ(y) − ρ||y||2 ) = λϕ(x) ˜ + (1 − λ)ϕ(y) ˜ Vậy ϕ˜ hàm lồi Ω Điều kiện đủ: Giả sử ϕ˜ hàm lồi Lấy x, y ∈ Ω, λ ∈ (0, 1) Ta cần chứng minh: ϕ[λx + (1 − λ)y] ≤ λϕ(x) + (1 − λ)ϕ(y) − ρλ(1 − λ)||x − y||2 (3.5) Vì ϕ˜ hàm lồi nên ta có: ϕ(λx ˜ + (1 − λ)y) ≤ λϕ(x) ˜ + (1 − λ)ϕ(y) ˜ Điều tương đương với ϕ(λx + (1 − λ)y) − ρ||λx + (1 − λ)y||2 ≤ λϕ(x) − ρλ||x||2 + (1 − λ)ϕ(y) − ρ(1 − λ)||y||2 Khi ϕ(λx + (1 − λ)y) ≤ λϕ(x) + (1 − λ)ϕ(y) + ρ||λx + (1 − λ)y||2 − ρλ||x||2 − ρ(1 − λ)||y||2 33 Do để chứng minh (3.5) ta λϕ(x) + (1 − λ)ϕ(y) + ρ||λx + (1 − λ)y||2 − ρλ||x||2 − ρ(1 − λ)||y||2 ≤ λϕ(x) + (1 − λ)ϕ(y) − ρλ(1 − λ)||x − y||2 , hay nói cách khác ≤ −ρλ(1−λ)||x − y||2 −ρ||λ+(1 − λ)y||2 +ρλ||x||2 +ρ(1 − λ)||2 (3.6) Thật vậy, ta có V P(3.6) = −ρλ(1 − λ)||x||2 − ρλ(1 − λ)||y||2 + 2ρλ(1 − λ)hx, yi − ρλkxk2 − ρ(1 − λ)2 ||y||2 − 2ρλ(1 − λ)hx, yi + ρλ||x||2 + ρ(1 − λ)||y||2 = [−ρλ(1−λ)−ρλ2 +ρλ]kxk2 −[ρλ(1−λ)+ρ(1 − λ)2 −ρ(1−λ)]kyk2 = Do ≤ (ln đúng) Vậy ta có điều cần chứng minh  Tiếp theo kết bổ trợ dùng cho việc chứng minh sau Mệnh đề 3.2 Cho X không gian Hilbert hàm f : X → R xác định f (x) = kxk2 , với x ∈ X Khi ∇f (x) = 2x Chứng minh Với h ∈ X Ta có f (x + h) = ||x + h||2 = ||x||2 + 2hx, hi + ||h||2 Khi f (x + h) − f (x) − h2x, hi = ||x + h||2 − ||x||2 − h2x, hi = ||x||2 + 2hx, hi + ||h||2 − ||x||2 − 2hx, hi = ||h||2 Suy |f (x + h) − f (x) − 2hx, hi| ||h||2 0≤ = = ||h|| ||h|| ||h|| 34 Lấy giới hạn hai vế bất đẳng thức h → ta |f (x + h) − f (x) − 2hx, hi| = lim khk = h→0 h→0 ||h|| ≤ lim Vậy ∇f (x) = 2x 3.1  Trường hợp X không gian hữu hạn chiều Định lý 3.1 Cho ϕ : Rn → R hàm thường, nửa liên tục b Nếu ϕ lồi mạnh Rn với số ρ > 0, với (x, y) ∈ gph ∂ϕ vi phân bậc hai Fréchet ∂b2 ϕ(x, y) : Rn ⇒ Rn thỏa mãn điều kiện hz, ui ≥ 2ρ||u||2 với u ∈ Rn z ∈ ∂b2 ϕ(x, y)(u) (3.7) Chứng minh Dưới giả thiết định lý, theo Mệnh đề 3.1, có hàm ϕ˜ cho (3.1) lồi Rn Bây ta áp dụng quy tắc tính vi phân tổng Mệnh đề 1.5 cho tổng ϕ˜ = ϕ + ψ , với ψ(x) = −ρ||x||2 Để ý rằng, từ Mệnh đề 3.2, ta thấy ψ hàm khả vi ∇ψ(x) = −2ρx Khi b b ∂bϕ(x) ˜ = ∂ϕ(x)+∇ψ(x) = ∂ϕ(x) − 2ρx, ∀x ∈ Rn (3.8) Lưu ý rằng, trường hợp xét, với giả thiết hàm ϕ hàm lồi b mạnh, nên vi phân Fréchet ∂ϕ(x) x vi phân theo nghĩa giải tích lồi, tức b ∂ϕ(x) = {ξ ∈ Rn | hξ, v − xi ≤ ϕ(v) − ϕ(x), v ∈ Rn } b Đặt F (x) = ∂ϕ(x), f (x) = −2ρx, sử dụng quy tắc tính đối đạo hàm tổng Mệnh đề 1.6, ta b ∗ (F + f )(x, y − 2ρx)(u) = D b ∗ F (x, y)(u) − 2ρu D (3.9) b với x ∈ Rn , y ∈ ∂ϕ(x) u ∈ Rn Từ định nghĩa vi phân bậc 35 hai Fréchet, kết hợp (3.9) với (3.8) ta có b ∗ (F + f )(x, y−2ρx)(u) ∂b2 ϕ(x, ˜ y−2ρx)(u) = D b = ∂b2 ϕ(x, y)(u)−2ρu, ∀x ∈ Rn , y ∈ ∂ϕ(x), u ∈ Rn (3.10) Từ tính lồi ϕ˜, áp dụng Định lý 2.1, ta có vi phân bậc hai Fréchet ∂b2 ϕ(·) ˜ nửa xác định dương Do đó, từ (3.10) thu hz − 2ρu, ui ≥ 0, ∀u ∈ Rn , z ∈ ∂b2 ϕ(x, y)(u) Vì hz, ui ≥ h2ρu, ui = 2ρkuk2 , với u ∈ Rn z ∈ ∂b2 ϕ(x, y)(u) Định lý chứng minh xong  Định lý sau mô tả điều kiện đủ để đảm bảo tính lồi mạnh hàm biến thuộc lớp C Định lý 3.2 Cho ϕ : R → R hàm số thuộc lớp C ρ > số b , cho trước Nếu điều kiện (3.7) nghiệm với (x, y) ∈ gph ∂ϕ ϕ lồi mạnh R với số ρ > Chứng minh Với cách xác định ϕ, ˜ F, f chứng minh Định lý 3.1 trên, theo Mệnh đề 1.5 1.6 thực số biến đổi đơn giản chứng minh Định lý 3.1 để nhận ∂b2 ϕ(x,∇ϕ(x)−2ρx)(u) ˜ = ∂b2 ϕ(x, ∇ϕ(x))(u) − 2ρu, ∀x ∈ Rn , u ∈ Rn (3.11) Từ (3.7) (3.11), ta suy ∂b2 ϕ(x, ˜ ∇ϕ(x) − 2ρx) nửa xác định dương với x ∈ Rn Hơn ϕ hàm C nên ϕ˜ hàm C Do đó, theo Định lý 2.2 hàm ϕ˜ lồi Rn Vậy ϕ lồi mạnh Rn với số ρ >  36 3.2 Trường hợp X không gian Hilbert Bây thiết lập đặc trưng tính lồi mạnh hàm giá trị thực thông qua vi phân bậc hai Fréchet trường hợp hàm xác định khơng gian Hilbert X Nhắc lại ánh xạ đa trị S : X ⇒ X gọi không giãn bất đẳng thức kw1 − w0 k ≤ kz1 − z0 k, (3.12) với w1 ∈ S(z1 ), w0 ∈ S(z0 ) Trong trường hợp S đơn trị, (3.12) viết lại kS(z1 ) − S(z0 )k ≤ kz1 − z0 k, với z1 , z0 ∈ X Điều có nghĩa ánh xạ S Lipschitz với số Trong trình chứng minh ta cần kết bổ trợ sau Bổ đề 3.1 (xem [8, Proposition 2.2]) Cho X không gian Hilbert Phép biến đổi tuyến tính J : X ×X → X ×X xác định J(x, y) = (y+x, y−x) với (x, y) ∈ X × X tạo tương ứng 1-1 ánh xạ T : X ⇒ X ánh xạ đa trị S : X ⇒ X thông qua gph S = J(gph T ), gph T = J −1 (gph S), S ánh xạ khơng giãn T toán tử đơn điệu Hơn T toán tử đơn điệu cực đại dom S = X , hay nói cách khác, S đơn trị Lipschitz với số Chứng minh (Dựa chứng minh [10, Proposition 12.11]) Lấy (z0 , w0 ) = J(x0 , v0 ) (z1 , w1 ) = J(x1 , v1 ) Khi ta có z0 = x0 + v0 , w0 = v0 − x0 , z1 = x1 + v1 w1 = v1 − x1 Bằng phép biến đổi đơn giản 37 ta thu kz1 − z0 k2 − kw1 − w0 k2 = h(z1 − z0 ) + (w1 − w0 ), (z1 − z0 ) − (w1 − w0 )i = h(z1 + w1 ) − (z0 + w0 ), (z1 − w1 ) − (z0 − w0 )i = h2v1 − 2v0 , 2x1 − 2x0 i = 4[hv1 − v0 , x1 − x0 i] Do kw1 − w0 k ≤ kz1 − z0 k ⇐⇒ hv1 − v0 , x1 − x0 i ≥ (3.13) Vì (3.13) tương ứng với cặp (zi , wi ) ∈ gph S (xi , vi ) ∈ gph T , i = 1, 2, nên từ suy tính khơng giãn ánh xạ S tương ứng với tính đơn điệu T Thêm vào đó, ta thấy T tốn tử đơn điệu cực đại S ánh xạ không giãn đơn điệu cực đại (đồ thị S mở rộng mà không làm tính khơng giãn) Theo Định lý 21.1 (Định lý Minty) [3], S ánh xạ đơn điệu cực đại miền ảnh toán tử (I + S) tồn khơng gian, nghĩa rge(I + S) = X , I tốn tử đơn vị khơng gian Hilbert X , điều tương đương với dom (I + S)−1 = X , dom S = X  Bổ đề 3.2 (xem [5, Lemma 5.2]) Cho X khơng gian Hilbert Nếu tốn tử T : X ⇒ X đơn điệu cực đại, với (x, y) ∈ gph T ta có b ∗ T (x, y)(u), hz, ui ≥ với z ∈ D b ∗ T (x, y)(u) : X ⇒ X nửa xác định dương tức ánh xạ đối đạo hàm D Chứng minh Cho T : X ⇒ X toán tử đơn điệu cực đại Lấy (¯ x, y¯) ∈ gph T Xét ánh xạ tuyến tính J : X ×X → X ×X ánh xạ đa trị S : X ⇒ X xác định Bổ đề 3.1 Đặt (¯ z , w) ¯ = J(¯ x, y¯) Vì 38 (¯ x, y¯) ∈ gph T , nên theo cách xác định ánh xạ S ta có (¯ z , w) ¯ ∈ gph S Khi theo Bổ đề 3.1, S ánh xạ đơn trị Lipschitz với số Do đó, theo [6, Theorem 1.90 cơng thức (3.37)] ta có b y , Si(˜ b ∗ S(˜ D x)(˜ y ) = ∂h˜ x), ∀˜ x, y˜ ∈ X (3.14) Chú ý gph T = J −1 (gph S) J khả vi chặt (¯ x, y¯) với đạo hàm xác định ∇J((¯ x, y¯)) = J Ta tính ∇J((¯ x, y¯))∗ (x, y) = (x − y, x + y), ∀(x, y) ∈ X × X Bây ta kiểm tra tính tồn ánh ∇J((¯ x, y¯)) Với (u, v) ∈ X × X
u+v bất kì, ta ln tìm (x, y) = u−v cho ∇J((¯ x, y¯)) = (u, v) , Như giả thiết Mệnh đề 1.4 thoả mãn Do đó, theo mệnh đề ta có cơng thức biểu diễn nón pháp tuyến sau: b ((¯ b ((¯ b ((¯ N x, y¯); J −1 (gph S)) = N x, y¯); gph T ) = ∇J((¯ x, y¯))∗ N z , w); ¯ gph S) Từ công thức ta thấy b ((¯ b ((¯ (z, −u) ∈ N x, y¯); gph T ) ⇐⇒ (z, −u) ∈ ∇J((¯ x, y¯))∗ N z , w); ¯ gph S), hay b ((¯ (z, −u) ∈ N x, y¯); gph T ) ⇐⇒ (z, −u) = (z ∗ − w∗ , z ∗ + w∗ ), b ((¯ với (z ∗ , w∗ ) ∈ N z , w); ¯ gph S) Viết gọn lại khẳng định ta b ((¯ b ((¯ (z, −u) ∈ N x, y¯); gph T ) ⇐⇒ (z − u, −z − u) ∈ N z , w); ¯ gph S) Điều có nghĩa b ∗ T (¯ b ∗ S(¯ z∈D x, y¯)(¯ u) ⇐⇒ z − u ∈ D z , w)(z ¯ + u) Với y˜ ∈ X, S ánh xạ Lipschitz với số 1, nên ánh xạ h˜ y , Si b y , Si(˜ Lipschitz với số ||˜ y || Do ||˜ u|| ≤ ||˜ y || với u˜ ∈ ∂h˜ z ) 39 b ∗ S(¯ Theo (3.14), ||˜ u|| ≤ ||˜ y || với u˜ ∈ D z , w)(˜ ¯ y ) Áp dụng tính chất b ∗ T (x, y)(u), cho u ˜ = z − u y˜ = z + u, với (z, u) mà z ∈ D thu ||z − u|| ≤ ||z + u|| Do hz, ui = 4−1 (||z + u||2 − ||z − u||2 ) ≥  Bây ta đến kết mục Định lý 3.3 Cho X không gian Hilbert, ϕ : X → R hàm thuộc lớp C Khi ϕ lồi mạnh X với số ρ > với b ánh xạ vi phân bậc hai ∂b2 ϕ(x, y) : X ⇒ X thỏa (x, y) ∈ gph ∂ϕ mãn điều kiện b hz, ui ≥ 2ρ||u||2 với u ∈ X, z ∈ ∂b2 ϕ(x, y)(u), (x, y) ∈ gph ∂ϕ (3.15) Chứng minh Điều kiện cần: Giả sử ϕ lồi mạnh X với số ρ > Khi hàm ϕ˜ cho (3.1) lồi X Áp dụng quy tắc tính tổng vi phân Mệnh đề 1.5 cho tổng ϕ˜ = ϕ + χ, χ(x) = −ρ||x||2 , ta thu b ∂bϕ(x) ˜ = ∂ϕ(x) − 2ρx, ∀x ∈ X (3.16) b Đặt F (x) := ∂ϕ(x), f (x) := −2ρx, sử dụng quy tắc tính tổng đối đạo hàm Mệnh đề 1.6 có b ∗ (F + f )(x, y − 2ρx)(u) = D b ∗ F (x, y) − 2ρu D b với x ∈ X, y ∈ ∂ϕ(x) , u ∈ X Kết hợp điều với (3.16) thu ∂b2 ϕ(x, ˜ y − 2ρx)(u) = ∂b2 ϕ(x, y)(u) − 2ρu, ∀y ∈ ∂b2 ϕ(x), ∀u ∈ X Ngồi ra, ϕ˜ lồi, nên theo Định lý 1.1 F + f : X ⇒ X toán tử đơn điệu cực đại Áp dụng Bổ đề 3.2, khẳng định 40 ánh xạ vi phân bậc hai ∂b2 ϕ(·) ˜ nửa xác định dương Từ khẳng định (3.16) ta suy hz − 2ρu, ui ≥ 0, ∀z ∈ ∂b2 ϕ(x, y)(u) (3.17) b Do (3.15) với (x, y) ∈ gph ∂ϕ b Bằng cách đặt Điều kiện đủ: Giả sử (3.15) với (x, y) ∈ gph ∂ϕ ϕ(x) ˜ := ϕ(x) − ρ||x||2 , x ∈ X Rõ ràng, ϕ˜ hàm C Theo (3.17) Định lý 2.3 ϕ˜ hàm lồi Theo Mệnh đề 3.1, ϕ lồi mạnh Định lý chứng minh xong  Nhận xét 3.1 Trong chứng minh Định lý 3.3, cần dùng đến Bổ đề 3.2 Bổ đề chứng minh [8, Theorem 2.1] cho trường hợp X = Rn Các tác giả N.H Chieu N.Q Huy [5, Lemma 5.2] chứng minh kết cho trường hợp X không gian Hilbert theo cách chứng minh tương tự chứng minh [8, Theorem 2.1] Cho đến nay, việc mở rộng kết Bổ đề 3.2 Định lý 3.3 cho trường hợp X không gian tổng qt (ví dụ khơng gian Asplund hay không gian Banach) vấn đề mở 41 Kết luận Luận văn trình bày nội dung sau: - Đặc trưng tính lồi hàm số thông qua vi phân bậc hai Fréchet: Định lý 2.1, Định lý 2.2 (trường hợp hàm số xác định không gian hữu hạn chiều) Định lý 2.3 (trường hợp hàm số xác định không gian Asplund) - Đặc trưng tính lồi mạnh hàm số thông qua vi phân bậc hai Fréchet: Định lý 3.1, Định lý 3.2 (trường hợp hàm số xác định không gian hữu hạn chiều) Định lý 3.3 (trường hợp hàm số xác định không gian Hilbert) Cho đến nay, việc mở rộng kết Định lý 2.3 Định lý 3.3 cho trường hợp X không gian tổng quát vấn đề mở 42 Tài liệu tham khảo Tiếng Việt [1] Trần Vũ Thiệu, Nguyễn Thị Thu Thủy, Giáo trình Tối ưu phi tuyến, NXB Đại học Quốc gia Hà Nội, Hà Nội, 2010 [2] Nguyễn Đơng n, Giáo trình Giải tích đa trị, NXB Khoa học tự nhiên Công nghệ, Hà Nội, 2007 Tiếng Anh [3] H.H Bauschke, P.L Combettes, Convex Analysis and Monotone Operator Theory in Hilbert Spaces, Springer, New York, 2011 [4] N.H Chieu, T.D Chuong, J.-C Yao and N.D Yen (2011), Characterizing convexity of a function by its Fréchet and limiting second-order subdifferentials, Set-Valued and Variational Analysis 19, pp 75–96 [5] N.H Chieu, N.Q Huy (2011), Second-order subdifferentials and convexity of real-valued functions, Nonlinear Analysis 74, pp 154–160 [6] B.S Mordukhovich, Variational Analysis and Generalized Differentiation, Vol I: Basic Theory, Springer, Berlin, 2006 [7] B.T Polyak (1966), Existence theorems and convergence of minimizing sequences in extremum problems with restrictions, Soviet Mathematics- Doklady 7, pp 72–75 43 [8] R.A Poliquin, R.T Rockafellar (1998), Tilt stability of a local minimum, SIAM Journal on Optimization 8, pp 287–299 [9] R.T Rockafellar (1970), On the maximal monotonicity of subdifferential mappings, Pacific Journal of Mathematics 33, pp 209–216 [10] R.T Rockafellar, R.J.-B Wets, Variational Analysis, Springer, Berlin, Heidelberg, 1998 44