Một số khái niệm vi phân suy rộng cho các hàm không trơn

ĐẠI HỌC HUẾ TRƯỜNG ĐẠI HỌC SƯ PHẠM PHAN THỊ NHẬT LINH MỘT SỐ KHÁI NIỆM VI PHÂN SUY RỘNG CHO CÁC HÀM KHƠNG TRƠN LUẬN VĂN THẠC SĨ TỐN HỌC THEO ĐỊNH HƯỚNG NGHIÊN CỨU Thừa Thiên Huế, năm 2017 ĐẠI HỌC HUẾ TRƯỜNG ĐẠI HỌC SƯ PHẠM PHAN THỊ NHẬT LINH MỘT SỐ KHÁI NIỆM VI PHÂN SUY RỘNG CHO CÁC HÀM KHƠNG TRƠN Chun ngành: GIẢI TÍCH Mã số: 60460102 LUẬN VĂN THẠC SĨ TOÁN HỌC THEO ĐỊNH HƯỚNG NGHIÊN CỨU NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS.TS NGUYỄN HOÀNG Thừa Thiên Huế, năm 2017 LỜI CAM ĐOAN Tơi xin cam đoan cơng trình nghiên cứu riêng tôi, số liệu kết nghiên cứu ghi luận văn trung thực, đồng tác giả cho phép sử dụng chưa cơng bố cơng trình khác Phan Thị Nhật Linh LỜI CẢM ƠN Để hoàn thành Luận văn tốt nghiệp này, xin bày tỏ lịng cảm ơn chân thành đến PGS TS Nguyễn Hồng, người Thầy tận tình hướng dẫn giúp đỡ tơi suốt q trình thực đề tài Xin chân thành cảm ơn quý Thầy giáo Cô giáo khoa Toán, Trường ĐHSP Huế dạy dỗ tạo điều kiện giúp đỡ suốt năm học vừa qua Xin cảm ơn người thân gia đình, cảm ơn bạn lớp Tốn Giải tích K24 dành cho giúp đỡ động viên lớn lao suốt chặng đường học tập làm đề tài tốt nghiệp Huế, tháng năm 2017 PHAN THỊ NHẬT LINH MỞ ĐẦU Lý thuyết phép tính vi phân cho hàm trơn lý thuyết quen thuộc chương trình đại học Phép vi phân cho hàm không trơn đưa công cụ phát triển mạnh mẽ với nhiều kết đẹp đẽ phong phú Với khái niệm phép tính vi phân theo nghĩa Fréchet, theo nghĩa Gâteaux, khơng gian Banach, đặc biệt phép tính vi phân proximal không gian Hilbert nghiên cứu chi tiết tính chất tốt mang lại nhiều ứng dụng quan trọng Một ứng dụng ý nghĩa nghiên cứu nghiệm phương trình Hamilton-Jacobi, nghiệm tốn tối ưu Mục đích khóa luận nhằm nghiên cứu tổng quan phép tính vi phân cho hàm không trơn không gian Banach tính chất MỤC LỤC Trang phụ bìa i Lời cam đoan ii LỜI CẢM ƠN iii MỞ ĐẦU MỤC LỤC Chương 1.1 1.2 Kiến thức chuẩn bị Không gian Banach Tập lồi 1.3 Hàm lồi hàm nửa liên tục 1.4 Các khái niệm đạo hàm không gian Banach không gian Hilbert Hàm khoảng cách 20 1.5 Chương Vi phân hàm không trơn 23 2.1 Điểm gần 23 2.2 Gradient proximal 29 2.3 Định lí trù mật 42 2.4 Tổng chập cực tiểu hàm toàn phương 47 2.5 Nửa vi phân theo nghĩa Fréchet 52 KẾT LUẬN 57 TÀI LIỆU THAM KHẢO 58 Chương Kiến thức chuẩn bị Phần kiến thức dùng để giới thiệu lại vài khái niệm tính chất tập lồi, khơng gian định chuẩn, khơng gian Hilbert, hàm lồi hàm nửa liên tục dưới, đặc biệt khái niệm đạo hàm không gian Banach khơng gian Hilbert trình bày tài liệu [1], [5], [6], [7] 1.1 Không gian Banach Định nghĩa 1.1 Cho X không gian vector R Một ánh xạ ∥.∥ : X → [0, +∞] gọi chuẩn X nếu: ∥x∥ ≥ ∥x∥ = x = 0; ∥λx∥ = |λ|∥x∥; ∥x + y∥ ≤ ∥x∥ + ∥y∥; ∀x, y ∈ X, ∀λ ∈ R Khi (X, ∥.∥) gọi không gian định chuẩn Định nghĩa 1.2 Với x, y ∈ X đặt d(x, y) = ∥x − y∥ (X, d) khơng gian mêtric Nếu (X, d) khơng gian mêtric đầy đủ khơng gian định chuẩn (X, ∥.∥) gọi không gian Banach Không gian định chuẩn (X, ∥.∥) với chuẩn cho tích vơ hướng √ X , nghĩa ∥x∥ = ⟨x, x⟩ (X, ∥.∥) gọi không gian tiền Hilbert Nếu không gian tiền Hilbert khơng gian Banach gọi khơng gian Hilbert Chương Kiến thức chuẩn bị Định nghĩa 1.3 Cho X, Y hai không gian định chuẩn Khi L(X, Y ) khơng gian định chuẩn gồm tốn tử tuyến tính liên tục từ X vào Y Đặc biệt X ∗ = L(X, R) dược gọi không gian liên hiệp X Định lí 1.1 Cho X khơng gian Hilbert thực, phiếm hàm tuyến tính liên tục g ∈ X ∗ tồn a ∈ X cho ∀x ∈ X, g(x) = ⟨x, a⟩ = ⟨a, x⟩ Định lí 1.2 Cho X khơng gian định chuẩn A ⊂ X (i) A = intA ∪ ∂A; (ii) intA ∩ ∂A = ∅ 1.2 Tập lồi Cho X không gian vectơ thực Định nghĩa 1.4 Tập A X gọi tập lồi với x, y ∈ A với λ ∈ (0, 1) λx + (1 − λ)y ∈ A Định nghĩa 1.5 Cho A tập lồi x, y ∈ A [x, y] = {λx + (1 − λ)y, λ ∈ [0, 1]} gọi đoạn thẳng nối x với y (x, y) = [x, y] \ {x, y} Định nghĩa 1.6 Tập A X gọi hấp thụ ∀v ∈ X, ∃ε > 0, (−εv, εv) ⊆ A x0 gọi điểm bọc A A − x0 hấp thụ Ký hiệu : core A = {x0 ∈ X : A − x0 hấp thụ} tập điểm bọc A Nhận xét 1.1 x0 ∈ coreA ⇔ ∀v ∈ X, ∃ε > 0, ∀λ ∈ (−ε, ε) : x0 + λv ∈ A Mệnh đề 1.3 Cho X không gian định chuẩn thực (i) Nếu V lân cận ∈ X V tập hấp thụ; (ii) int A ⊂ core A Chứng minh (i) Xét hàm f : R × X → X với f (λ, v) = λ.v hàm liên tục nên liên tục (0, v) Chương Kiến thức chuẩn bị Ta có f (0, v) = V lân cận nên tồn ε > U lân cận v cho f ((−ε, ε) × U ) ⊂ V Suy (−εv, εv) ⊂ V Do V tập hấp thụ (ii) Giả sử x ∈ int A nên tồn δ > cho x + B(0, δ) = B(x, δ) ⊂ A Suy B(0, δ) ⊂ A − x Vì B(0, δ) lân cận nên B(0, δ) tập hấp thụ Do A − x tập hấp thụ hay x ∈ core A Vậy intA ⊂ core A Mệnh đề 1.4 Cho A tập lồi khác rỗng không gian định chuẩn X Lúc đó, (i) int A, A tập lồi (ii) Nếu int A ̸= ∅ A = intA Định lí 1.5 (Định lý tách) Cho A tập lồi không gian Hilbert X x0 ∈ X \ A Nếu hai điều kiện sau thỏa mãn: (i) core A ̸= ∅; (ii) X hữu hạn chiều có siêu phẳng tách thực A x0 , nghĩa tồn a ∈ X khác không thỏa mãn ⟨a, x0 ⟩ ≤ ⟨a, x⟩, ∀x ∈ A 1.3 Hàm lồi hàm nửa liên tục Cho X , Y hai không gian định chuẩn, ánh xạ f : X → (−∞, +∞] x0 ∈ X Định nghĩa 1.7 domf = {x ∈ X : f (x) < +∞} grf = {(x, f (x)) : x ∈ dom f } epif = {(x, r) ∈ dom f × R : r ≥ f (x)} Chương Kiến thức chuẩn bị Định nghĩa 1.8 Ánh xạ f gọi nửa liên tục x0 với ε > tồn ∃δ > cho với y ∈ B(x0 , δ) : f (y) ≥ f (x0 ) − ε nghĩa lim inf f (x) ≥ f (x0 ) x→x0 Ánh xạ f gọi nửa liên tục x0 (−f ) nửa liên tục x0 Ánh xạ f gọi liên tục x0 ∈ domf với ε > tồn δ > cho với y ∈ B(x0 , δ) : |f (y) − f (x0 )| ≤ ε Cho U tập mở X Ánh xạ f gọi nửa liên tục (t.ư nửa liên tục trên, liên tục) U f nửa liên tục (t.ư nửa liên tục trên, liên tục) x0 ∈ U Ký hiệu : F(U ) = {f : X → (−∞, +∞]|f nửa liên tục U dom f ̸= ∅} Định nghĩa 1.9 Cho S ⊂ X, hàm số IS : X → (−∞, +∞] định nghĩa { x ∈ S IS (x) = +∞ x ∈ /S gọi hàm cuả S Định nghĩa 1.10 Cho U tập mở lồi X Hàm số f : X → (−∞, +∞] gọi hàm lồi U thỏa f (tx + (1 − t)y) ≤ tf (x) + (1 − t)f (y), ∀x, y ∈ U, < t < Nếu f lồi X f gọi hàm lồi Định lí 1.6 Cho f : X → (−∞, +∞] (i) Nếu f lồi dom f lồi (ii) Ba mệnh đề sau tương đương (a) f nửa liên tục X; Chương Vi phân hàm không trơn 44 Suy ax1 ∈ M1 M1 bị chặn ax1 − σ4 nên tồn inf M1 Hơn f (x1 ) + σ σ σ ∥x1 − x0 ∥2 ≤ inf {f (x) + ∥x − x0 ∥2 } + 2 x∈S0 Đặt S1 = {x ∈ S0 : f (x) + σ( ∥x − x0 ∥2 ∥x − x1 ∥2 σ + ) ≤ f (x1 ) + ∥x1 − x0 ∥2 } Nếu S1 = {x1 } x1 ∈ B(x0 , δ) điểm cực tiểu địa phương hàm R h: X → → h(x) = f (x) + g(x) x S0 ⊂ B(x0 , δ)với g(x) = σ(∥x − x0 ∥)2 Theo Ví dụ 1.2(ii)g ∈ C , g ′ (x) = 2(x − x0 ) Suy ∈ ∂P (f + g)(x1 ) Do −g ′ (x1 ) = ∈ ∂P f (x1 ) Nên ∂P f x1 ̸= ∅ Và rõ ràng f (x0 ) − ε ≤ f (x1 ) ≤ f (x0 ) Nếu S1 ̸= {x1 } Chọn x2 ∈ S1 , x2 ̸= x1 Đặt M2 = {bx = f (x) + σ( ∥x − x0 ∥2 ∥x − x1 ∥2 σ + ) : bx ≥ bx2 − , x ∈ S1 } 4 Suy bx2 ∈ M2 M2 bị chặn bx2 − 4σ2 nên tồn inf M2 Hơn f (x2 )+σ( ∥x2 − x0 ∥2 ∥x2 − x1 ∥2 ∥x − x0 ∥2 ∥x − x1 ∥2 σ + ) ≤ inf {f (x)+σ( + )}+ 4 x∈S1 Đặt S2 = {x ∈ S1 : f (x) + σ.( ∥x − x0 ∥ ∥x − x1 ∥ ∥x − x2 ∥ + + )≤ 22 23 f (x2 ) + σ2 [∥x2 − x0 ∥ + ∥x2 −x1 ∥ ]} Tiếp tục trình lập luận này, xây dựng dãy (xj )j dãy tập (Sj )j thỏa mãn : i) xj+1 ∈ Sj ii) f (xj+1 ) + σ j ∑ ∥xj+1 − xi ∥2 i=0 2i iii) Sj+1 = {x ∈ Sj : f (x) + j σ ∑ ∥x − xi ∥2 σ ≤ inf {f (x) + } + j+1 i 2 s∈Sj i=0 σ j+1 ∑ ∥x − xi ∥2 i=0 2i j σ ∑ ∥xj+1 − xi ∥2 ≤ f (xj+1 ) + } 2i i=0 Chương Vi phân hàm không trơn 45 Vì f ∈ F (X) nên Sj đóng, Sj+1 ⊂ Sj , ∀j ∈ N Mặt khác với j ∈ N với x ∈ Sj+1 theo iii) ta có j j σ ∥x − xj+1 ∥ σ ∑ ∥xj+1 − xi ∥2 σ ∑ ∥x − xi ∥2 ≤ f (xj+1 ) + − {f (x) + } 2j+1 2i 2i i=0 i=0 Vì x ∈ Sj+1 nên x ∈ Sj nên theo ii) ta có j j σ ∑ ∥x − xi ∥2 σ σ ∑ ∥xj+1 − xi ∥2 f (x) + + j+1 ≥ f (xj+1 ) + 2i 2i i=0 i=0 nên σ σ ∥x − xj+1 ∥ ≤ 2j+1 4j+1 Suy sup ∥x − xj+1 ∥ ≤ −j x∈Sj+1 Với j, k ∈ N, không tổng quát giả sử k > j Sk ⊂ Sj nên ∥x − y∥ ≤ sup (∥x − xj ∥ + ∥y − xj ∥) ≤ sup −j+3 x∈Sk ,y∈Sj x∈Sk ,y∈Sj Do X không gian Banach, theo định lý Cantor ∩ Sj = {y} j∈N Tất nhiên y ∈ S0 nên ∥y − x0 ∥ < δ < ε f (y) ≤ f (y) + Mặt khác xét chuỗi +∞ ∑ xj j=0 2j σ ∥y − x0 ∥2 ≤ f (x0 ) Ta có ∀j ∈ N : ∥xj ∥ ∥xj − x0 ∥ + ∥x0 ∥ δ + ∥x0 ∥ ≤ ≤ 2j 2j 2j Mà +∞ ∑ j=0 2j = nên +∞ ∑ δ + ∥x0 ∥ j=0 2j = 2(δ + ∥x0 ∥) nên j=0 hội tụ tuyệt đối, X không gian Banach nên +∞ ∑ xj j=0 Đặt +∞ ∑ ∥xj ∥ ∑ xj z= 2j +∞ j=0 2j 2j hội tụ hay hội tụ +∞ ∑ xj j=0 2j Chương Vi phân hàm khơng trơn 46 Khi ∀x ∈ X , ta có ∥x − z∥2 = ∥x∥2 − 2⟨x, z⟩ + ∥z∥2 = = = = Với c = +∞ ∑ ∥x∥2 j=1 +∞ ∑ j=0 +∞ ∑ j=0 +∞ ∑ j=0 +∞ ∑ ∥xj ∥2 j=0 2j 2j ∑ xj − 2⟨x, ⟩ + ∥z∥2 j 2 +∞ ∥x∥2 −2 j 2 ∥x∥2 j=0 +∞ ∑ j=0 ⟨x, xj ⟩ ∑ ∥xj ∥2 ∑ ∥xj ∥2 + − + ∥z∥2 2j 2j 2j +∞ − 2⟨x, xj ⟩ + ∥xj 2j ∥x − xj 2j ∥2 ∥2 − j=0 +∞ ∑ j=0 +∞ j=0 ∥2 ∥xj 2j − c + ∥z∥2 (1) − ∥z∥2 Bây ta chứng minh y cực tiểu f: X → R x → f (x) + g(x) B(x0 , δ) với g(x) = σ(∥x − x0 ∥)2 Không tổng quát, giả sử B(x0 , δ) ̸= {y} nên tồn y ′ ∈ B(x0 , δ) y ′ ̸= y ∩ Giả sử y ′ ∈ Sj , ∀j ∈ N suy y ′ ∈ = {y} (mâu thuẫn) Do tồn số tự y′ j∈N nhiên k bé thỏa ∈ / Sk rõ ràng y ′ ∈ / Sj , ∀j ≥ k Xét j > k − suy j + > k , y ∈ Sj+1 nên theo iii) ta có j+1 j σ ∑ ∥y − xi ∥2 σ ∑ ∥xj+1 − xi ∥2 f (y) + ≤ f (xj+1 ) 2i 2i i=0 i=0 Mặt khác xj ∈ Sj−1 theo định nghĩa Sj dãy j−1 σ ∑ ∥xj − xi ∥2 {f (xj ) + } 2i (2) i=0 dãy không tăng theo j Do j + > k nên j k−1 σ ∑ ∥xj+1 − xi ∥2 σ ∑ ∥xk − xi ∥2 f (xj+1 ) + ≤ f (xk ) + 2i 2i i=0 i=0 Chương Vi phân hàm không trơn 47 Suy j+1 k−1 σ ∑ ∥y − xi ∥2 σ ∑ ∥xk − xi ∥2 f (y)+ ≤ f (xk )+ 2i 2i (3) i=0 i=0 Ta lại có y ′ ∈ Sk−1 y ′ ∈ / Sk nên f (xk ) + σ k−1 ∑ ∥xk − xi ∥2 2i i=0 < f (y ′ ) + σ2 ≤ f (y ′ ) + σ k ∑ ∥y ′ − xi ∥2 i=0 +∞ ∑ j=0 2i ∥y ′ − xj ∥2 2j (4) Kết hợp (3) (4), cho j → +∞ ta có +∞ +∞ σ ∑ ∥y − xj ∥2 σ ∑ ∥y ′ − xj ∥2 ′ f (y) + ≤ f (y ) + (5) 2j 2j i=0 Từ (1) ta có i=0 +∞ σ ∑ ∥x − xj ∥2 −σc = σ∥x − z∥ − , ∀x ∈ X 2j i=0 Cộng vào hai vế (5) cho −σc ta có: f (y) + σ∥y − z∥2 ≤ f (y ′ ) + σ∥y ′ − z∥2 Bởi y ′ điểm tùy ý khác y B(x0 , δ) nên y điểm cực tiểu hàm h(x), ta điều cần chứng minh 2.4 Tổng chập cực tiểu hàm toàn phương Định nghĩa 2.7 (Tổng chập) Tổng chập hai hàm f, g : X → R hàm h : X → R xác định bởi: h(x) = inf {f (y) + g(x − y)}, ∀x ∈ X y∈X Ký hiệu : h = f ⊕ g Định nghĩa 2.8 (Hàm toàn phương) Cho α > , hàm g : X → R với g(x) = α∥x∥2 gọi hàm tồn phương Chương Vi phân hàm khơng trơn 48 Trong phần ta xét tổng chập cực tiểu f ∈ F (X) với dạng toàn phương g(α) (x) = α∥x∥2 ⊕ fα (x) = (f g)(x) = inf {f (y) + α∥x − y∥2 } (1) y∈X Định nghĩa 2.9 (Dãy cực tiểu) Một dãy (yj )j ⊂ X gọi dãy cực tiểu fα (x) lim (f (yj ) + α∥yj − x∥2 ) = fα (x) j→+∞ Định lí 2.14 Giả sử f ∈ F(X) hàm bị chặn số c fα định nghĩa với α > Khi fα bị chặn số c Lipschitz tập bị chặn X Chứng minh Với S ⊂ X tập bị chặn nên tồn M > : ∥x∥ ≤ M, ∀x ∈ S x ∈ X f bị chặn c nên ∀y ∈ X : f (y) + α∥x − y∥2 ≥ f (y) ≥ c suy inf {f (y) + α∥x − y∥2 } ≥ c y∈X Hay fα (x) ≥ c, ∀x ∈ X Do fα bị chặn c Mặt khác cố định x0 ∈ dom f ̸= ∅ fα (x) = inf {f (y) + α∥x − y∥2 } ≤ y∈X f (x0 ) + α∥x − x0 ∥ , ∀x ∈ X Khi ∀x ∈ S : f (x0 ) + α∥x − x0 ∥2 ≤ f (x0 ) + α(∥x∥ + ∥x0 ∥)2 ≤ f (x0 ) + 2α(∥x∥2 + ∥x0 ∥2 ) ≤ f (x0 ) + 2α(M + ∥x0 ∥2 ) = N suy tồn m := sup{fα (x) : x ∈ S} < +∞ Với ε > xét tập C := {z : ∃y ∈ S cho f (z) + α∥y − z∥2 ≤ m + ε} Lấy z ∈ C ta có ∥z∥2 ≤ (∥y − z∥ + ∥y∥)2 ≤ 2(∥y∥2 + ∥y − z∥2 ) ≤ 2[M + α1 (m + ε − f (z))] ≤ 2[M + α1 (m + ε − c)] = L Chương Vi phân hàm không trơn 49 suy C bị chặn Với x, y ∈ S ε > theo định nghĩa infimum tồn z ∈ X thỏa fα (y) ≥ f (z) + α∥y − z∥2 − ε rõ ràng z ∈ C Ta có fα (x) − fα (y) ≤ fα (x) − f (z) − α∥y − z∥2 + ε ≤ f (z) + α∥x − z∥2 − f (z) − α∥y − z∥2 + ε = α(∥x − y + y − z∥2 − ∥y − z∥2 ) + ε = α∥x − y∥2 − 2α⟨x − y, z − y⟩ + ε ≤ α∥x − y∥2 + 2α∥x − y∥∥z − y∥ + ε ≤ α(∥x∥ + ∥y∥ + 2∥z∥ + 2∥y∥)∥x − y∥ + ε ≤ α(M + M + 2L + 2M )∥x − y∥ + ε = K∥y − x∥ + ε với K = α(4M + 2L) Cho ε → ta có fα Lipschitz S với số K Định lí 2.15 Cho α > fα tổng chập cực tiểu f với dạng toàn phương g(α) (x) = α∥x∥2 Giả sử x ∈ X thỏa mãn ∂P fα (x) ̸= ∅ Khi tồn y ′ ∈ X thỏa mãn (i) Nếu {yj }j dãy cực tiểu fα (x) lim yj = y ′ j→+∞ (ii) Hàm fα đạt cực tiểu y ′ (iii) Đạo hàm Fréchet fα′ (x) tồn ∂P fα′ (x) = {fα′ (x)} = {2α(x − y ′ )} (iv) 2α(x − y ′ ) ∈ ∂P f (y ′ ) Chứng minh x ∈ X thỏa mãn tồn ζ ∈ ∂P fα (x) nên tồn σ > η ⟨ζ, y − x⟩ ≤ fα (y) − fα (x) + σ∥y − x∥2 , ∀y ∈ B(x, η) (1) Giả sử {yj }j dãy cực tiểu fα (x), ∀j ∈ N, đặt ε2j = f (yj ) + α∥yj − x∥2 − fα (x) Suy lim εj = 0, j→+∞ fα (x) = f (yj ) + α∥yj − x∥2 − ε2j (2) Chương Vi phân hàm không trơn 50 Rõ ràng ∀y ∈ X : fα (y) ≤ f (yj ) + α∥yj − y∥2 (3) Thay (2) (3) vào (1) ta có ∀y ∈ B(x, η) : ⟨ζ, y − x⟩ ≤ α∥yj − y∥2 − α∥yj − x∥2 + ε2j + σ∥y − x∥2 = α(∥yj ∥2 + ∥y∥2 − 2⟨yj , y⟩ − ∥yj ∥2 − ∥x∥2 + 2⟨yj , x⟩) + ε2j + σ∥y − x∥2 = −2α⟨yj , y − x⟩ + α∥y∥2 − α∥x∥2 + ε2j + σ∥y − x∥2 = −2α⟨yj , y − x⟩ + α∥y − x + x∥2 − α∥x∥2 + ε2j + σ∥y − x∥2 = −2α⟨yj , y − x⟩ + α∥y − x∥2 + α∥x∥2 + 2α⟨y − x, x⟩ − α∥x∥2 + ε2j + σ∥y − x∥2 = 2α⟨x − yj , y − x⟩ + ε2j + (α + σ)∥y − x∥2 Suy với y ∈ B(x, η) ⟨ζ − 2α(x − yj ), y − x⟩ ≤ ε2j + (α + σ)∥y − x∥2 (4) Do lim εj = nên với v ∈ X, ∥v∥ = j lớn ta có y = x + εj v ∈ B(x, η) j→+∞ thay vào (4) ⟨ζ − 2α(x − yj ), v⟩ ≤ εj (1 + α + σ)∥v∥2 Chọn v = ζ − 2α(x − yj ) , ta có ∥ζ − 2α(x − yj )∥ ∥ζ − 2(x − yj )∥2 ≤ εj (1 + α + σ) cho j → +∞ lim yj = x − j→+∞ (5) ζ 2α Đặt y′ = x − ζ 2α (ii) Theo tính liên tục f yj → y ′ nên lim inf f (yj ) ≥ f (y ′ ) j→+∞   lim inf f (yj ) ≥ f (y ′ ) j→+∞  α∥yj − x∥ → α∥y ′ − x∥ Suy fα (x) ≤ f (y ′ ) + α∥y ′ − x∥2 ≤ lim inf {f (yj ) + α∥yj − x∥2 } = fα (x) j→+∞ Do f (y ′ ) + α∥y ′ − x∥2 = fα (x) Giả sử y ′′ ∈ X thỏa mãn (i) Khi chọn xj = y ′ , ∀j ∈ N Khi Chương Vi phân hàm không trơn 51 lim fα (xj ) = f (y ′ ) + α∥y ′ − x∥2 = fα (x) Suy (xj )j dãy cực tiểu j→+∞ fα (x) nên lim xj = y ′′ hay y ′′ = y ′ j→+∞ (iii) Ta có ζ = 2α(x − y ′ ) ∈ ∂P fα (x) Với y ∈ X ta có { fα (y) ≤ f (y ′ ) + α∥y − y ′ ∥2 fα (x) = f (y ′ ) + α∥x − y∥2 Suy fα (x) − fα (y) ≥ f (y ′ ) + α∥x − y ′ ∥2 − f (y ′ ) − α∥y − y ′ ∥2 = α(∥x∥2 + ∥y ′ ∥2 − 2⟨x, y ′ ⟩ − ∥y∥2 − ∥y ′ ∥2 + 2⟨y, y ′ ⟩) = α(∥x∥2 − ∥y∥2 + 2⟨y − x, y ′ ⟩) = α(∥x∥2 − ∥y − x + x∥2 + 2⟨y − x, y ′ ⟩) = α(∥x∥2 − ∥y − x∥2 − ∥x∥2 − 2⟨y − x, x⟩ + 2⟨y − x, y ′ ⟩)) = α(2⟨y ′ − x, y − x⟩ − ∥y − x∥2 ) = −2α⟨x − y ′ , y − x⟩ − α∥y − x∥2 (6) Với v ∈ X, t > vào (6) (1) ta có { fα (x) − fα (x + tv) ≥ −2α⟨x − y ′ , tv⟩ − αt2 ∥v∥2 fα (x + tv) − fα (x) ≥ 2α⟨x − y ′ , tv⟩ − σt2 ∥v∥2 suy fα (x + tv) − fα (x) − ⟨2α(x − y ′ ), v⟩ ≤ αt∥v∥2 t ′ Suy fα khả vi Fréchet fα (x) = 2α(x − y ′ ) −σt∥v∥2 ≤ Theo Hệ (2.1), fα khả vi Fréchet x suy ζ ∈ ∂P fα (x) ⊆ {fα′ (x)} Do ∂P fα (x) = {ζ = fα′ (x) = 2α(x − y ′ )} (iv) Với x cố định xét hàm k: X → R x′ → f (x′ ) + α∥x′ − x∥2 = f (x′ ) + g(x′ ) Ta có fα (x) = inf f (y) + α∥y − x∥2 y∈X = inf k(y) = y∈X f (y ′ ) + α∥y ′ − x∥2 Chương Vi phân hàm không trơn 52 Suy k đạt cực tiểu y ′ Theo Định lý (2.7), ∈ ∂P k(y ′ ) = ∂P (f + g)(y ′ ) Theo Mệnh đề (2.11), −g ′ (y ′ ) ∈ ∂P f (y ′ ) Như −2α(y ′ − x) ∈ ∂P f (y ′ ) Vậy 2α(x − y ′ ) ∈ ∂P f (y ′ ) 2.5 Nửa vi phân theo nghĩa Fréchet Định nghĩa 2.10 Cho U tập mở Rn u : U → R Nhắc lại rằng, hàm u gọi khả vi Fréchet x0 ∈ U đạo hàm f ′ (x0 ) = p ∈ Rn lim x→x0 u(x) − u(x0 ) − ⟨p, x − x0 ⟩ =0 ∥x − x0 ∥ Giới hạn viết lại sau u(x0 + h) − u(x0 ) − ⟨p, h⟩ =0 ∥h∥ h→0 lim Nếu p ∈ Rn thỏa mãn lim inf h→0 u(x0 + h) − u(x0 ) − ⟨p, h⟩ ≥0 ∥h∥ p gọi vi phân theo nghĩa Fréchet u x0 gọi tắt gradient Fréchet Nếu p ∈ Rn thỏa mãn lim sup h→0 u(x0 + h) − u(x0 ) − ⟨p, h⟩ ≤0 ∥h∥ p gọi gradient theo nghĩa Fréchet u x0 gọi tắt gradient Fréchet Kí hiệu: D− u(x0 ) = {p ∈ Rn : p gradient Fréchet} gọi vi phân u x0 D+ u(x0 ) = {p ∈ Rn : p gradient Fréchet} gọi vi phân u x0 Nhận xét 2.6 (i) Nếu u khả vi Fréchet x0 D+ u(x0 ) = D− u(x0 ) = {u′ (x0 )} (ii) D+ u(x0 ) ∩ D− u(x0 ) ∅ Nếu D+ u(x0 ) ∩ D− u(x0 ) ̸= ∅ u khả vi Fréchet x0 Chương Vi phân hàm không trơn 53 (iii) D− (cu)(x0 ) = cD− u(x0 ) c > D− (cu)(x0 ) = cD+ (u)(x0 ) c < Chứng minh (i) Nếu u khả vi Fréchet x0 , theo định nghĩa u′ (x0 ) ∈ D+ u(x0 ) ∩ D− u(x0 ) Mặt khác giả sử p′ ∈ D− u(x0 ) ta có lim inf h→0 ⟨u′ (x0 ) − p′ , h⟩ u(x0 + h) − u(x0 ) − ⟨p′ , h⟩ ≥ lim inf + ∥h∥ ∥h∥ h→0 u(x0 + h) − u(x0 ) − ⟨u′ (x0 ), h⟩ lim inf − ∥h∥ h→0 ≥ Với n ∈ N, đặt hn = p′ − u′ (x0 ) Suy hn → n → +∞ Khi đó: n ⟨u′ (x0 ) − p′ , hn ⟩ ≥0 n→+∞ ∥hn ∥ u′ (x )−p′ ⟨u′ (x0 ) − p′ , − n0 ⟩ ≥0 ⇔ lim inf ′ ′ u (x )−p n→+∞ ∥ ∥ n0 ⇔ −∥u′ (x0 ) − p′ ∥ ≥ lim inf Suy p′ = u′ (x0 ) Tương tự giả sử q ′ ∈ D+ u(x0 ) ta có lim sup h→0 ⟨u′ (x0 ) − q ′ , h⟩ u(x0 + h) − u(x0 ) − ⟨q, h⟩ ≤ lim sup + ∥h∥ ∥h∥ h→0 u(x0 + h) − u(x0 ) − ⟨u′ (x0 ), h⟩ lim sup − ∥h∥ h→0 ≤ Với n ∈ N, đặt h′n = u′ (x0 ) − q ′ Suy h′n → n → +∞ Khi đó: n ⟨u′ (x0 ) − q ′ , h′n ⟩ ≤0 ∥h′n ∥ n→+∞ u′ (x0 )−q ′ ⟩ ⟨u′ (x0 ) − q ′ , n ⇔ lim sup ≥0 u′ (x0 )−q ′ n→+∞ ∥ n ∥ ⇔ ∥u′ (x0 ) − q ′ ∥ ≤ lim sup Suy q ′ = u′ (x0 ) Vậy D+ u(x0 ) = D− u(x0 ) = u′ (x0 ) Chương Vi phân hàm không trơn 54 (ii) Ví dụ xét hàm số u : R → R xác định u(x) = |x| Tại x0 = ta có u(h) − u(0) − p.h ≤0 |h| h→0 |h| − p.h ⇔ lim sup ≤0 |h| h→0 ⇔ + |p| ≤ 0( vô nghiệm ) p ∈ D+ u(0) ⇔ lim sup u(h) − u(0) − p.h ≥0 |h| h→0 |h| − p.h ⇔ lim inf ≥0 |h| h→0 ⇔ − |p| ≥ q ∈ D− u(0) ⇔ lim inf ⇔ p ∈ [−1, 1] (iii) Trường hợp c > ta có cu(x0 + h) − cu(x0 ) − ⟨p, h⟩ ≥0 ∥h∥ h→0 u(x0 + h) − u(x0 ) − ⟨ pc , h⟩ ⇔ c lim inf ≥0 ∥h∥ h→0 u(x0 + h) − u(x0 ) − ⟨ pc , h⟩ ⇔ lim inf ≥0 ∥h∥ h→0 p ⇔ ∈ D− u(x0 ) c ⇔ p ∈ cD− u(x0 ) p ∈ D− (cu)(x0 ) ⇔ lim inf suy với c > 0, D− (cu)(x0 ) = cD− u(x0 ) Trường hợp c < ta có cu(x0 + h) − cu(x0 ) − ⟨p, h⟩ ≥0 ∥h∥ h→0 u(x0 + h) + u(x0 ) − ⟨ −p , h⟩ |c| ⇔ −|c| lim sup ≥0 ∥h∥ h→0 u(x0 + h) − u(x0 ) − ⟨ pc , h⟩ ⇔ lim sup ≤0 ∥h∥ h→0 −p ⇔ ∈ D+ u(x0 ) |c| ⇔ p ∈ cD+ u(x0 ) p ∈ D− (cu)(x0 ) ⇔ lim inf suy với c < 0, D− (cu)(x0 ) = cD+ u(x0 ) Định lí 2.16 Cho u, v hai hàm số từ tập mở U ⊂ Rn vào R x0 ∈ U (i) Nếu D− u(x0 ) ̸= ∅ D− v(x0 ) ̸= ∅ D− (u + v)(x0 ) ̸= ∅ D− u(x0 ) + D− v(x0 ) ⊂ D− (u + v)(x0 ) Chương Vi phân hàm không trơn 55 (ii) Giả sử v khả vi Fréchet x0 D− u(x0 ) ̸= ∅ Khi D− (u + v)(x0 ) ̸= ∅ D− (u + v)(x0 ) ⊂ D− u(x0 ) + D− v(x0 ) Chứng minh (ii) Ta có D− v(x0 ) ̸= ∅ D− u(x0 ) ̸= ∅ nên tồn p ∈ D− u(x0 ), q ∈ D− v(x0 ) Khi (u + v)(x0 + h) − (u + v)(x0 ) − ⟨p + q, h⟩ ∥h∥ h→0 u(x0 + h) − u(x0 ) − ⟨p, h⟩ + ≥ lim inf ∥h∥ h→0 v(x0 + h) − v(x0 ) − ⟨q, h⟩ lim inf ∥h∥ h→0 ≥ lim inf Suy q + p ∈ D− (u + v)(x0 ) hay D− (u + v)(x0 ) ̸= ∅ Hơn từ chứng minh ta có D− u(x0 ) + D− v(x0 ) ⊂ D− (u + v)(x0 ) (ii) Ta có v khả vi Fréchet x0 nên D− v(x0 ) = {v ′ (x0 ) = q} D− u(x0 ) ̸= ∅ nên tồn p ∈ D− u(x0 ) Khi (u + v)(x0 + h) − (u + v)(x0 ) − ⟨p + q, h⟩ ∥h∥ h→0 u(x0 + h) − u(x0 ) − ⟨p, h⟩ + ≥ lim inf ∥h∥ h→0 v(x0 + h) − v(x0 ) − ⟨q, h⟩ lim inf ∥h∥ h→0 ≥ lim inf Suy q + p ∈ D− (u + v)(x0 ) hay D− (u + v)(x0 ) ̸= ∅ Với s ∈ D− (u + v)(x0 ), đặt p′ = s − q, ta có u(x0 + h) − u(x0 ) − ⟨p′ , h⟩ lim inf ∥h∥ h→0 (u + v − v)(x0 + h) − (u + v − v)(x0 ) − ⟨s − q, h⟩ ≥ lim inf ∥h∥ h→0 (u + v)(x0 + h) − (u + v)(x0 ) − ⟨s, h⟩ ≥ lim inf + ∥h∥ h→0 v(x0 + h) − v(x0 ) − ⟨q, h⟩ ≥0 lim inf − ∥h∥ h→0 suy p′ ∈ D− u(x0 ) hay s = p′ + q ∈ D− u(x0 ) + D− v(x0 ) Vậy D− (u + v)(x0 ) ⊂ D− u(x0 ) + D− v(x0 ) Mệnh đề 2.17 Cho f : Rn → R x0 ∈ Rn Khi ∂P f (x0 ) ⊂ D− f (x0 ) Hơn nữa, f ∈ C (Rn ) ∂P f (x0 ) = D− f (x0 ) Chương Vi phân hàm khơng trơn 56 Chứng minh Ta có ζ ∈ ∂P f (x0 ) ⇒ ∃σ ≥ 0, η > : f (y) ≥ f (x0 ) + ⟨ζ, y − x0 ⟩ − σ∥y − x0 ∥2 , ∀y ∈ B(x0 , η) ⇒ ∃σ ≥ 0, η > : f (x0 + h) − f (x0 ) − ⟨ζ, h⟩ ≥ −σ∥h∥2 , ∀h ∈ B(0, η) f (x0 + h) − f (x0 ) − ⟨ζ, h⟩ ⇒ ≥ −σ∥h∥, ∀h ∈ B(0, η), h ̸= ∥h∥ f (x0 + h) − f (x0 ) − ⟨ζ, h⟩ ⇒ lim inf ≥ lim −σ∥h∥ = ∥h∥ h→0 h→0 − ⇒ ζ ∈ D f (x0 ) ∂P f (x0 ) ⊂ D− f (x0 ) Mặt khác f ∈ C (Rn ) theo Hệ 2.1(ii) Nhận xét 2.6(i) ∂P f (x0 ) = D− f (x0 ) = {f ′ (x0 )} Nửa vi phân Fréchet, gradient Proximal có nhiều ứng dụng quan trọng việc định nghĩa nghiệm viscosity phương trình HamiltonJacobi, khảo sát tính khả vi hàm số, đặc biệt tìm nghiệm tốn tối ưu Ứng dụng nửa vi phân Fréchet gradient Proximal đề tài nghiên cứu trình bày báo [6], [7], [8] Chương Vi phân hàm không trơn 57 KẾT LUẬN Chương khóa luận trình bày số kiến thức khái niệm tính chất tập lồi, khơng gian định chuẩn, không gian Hilbert, hàm lồi hàm nửa liên tục dưới, đặc biệt khái niệm đạo hàm không gian Banach không gian Hilbert Trong chương 2, dựa sở lí thuyết từ tài liệu "Nonsmooth Analysis and Control Theory" F.H Clarke (1998), chúng tơi khảo sát, chứng minh số tính chất phép tính vi phân cho hàm khơng trơn khơng gian Hilbert Trong tập trung xây dựng phép tính vi phân Proximal làm sở tảng cho việc vận dụng vào giải toán tối ưu, nghiên cứu nghiệm phương trình Hamilton-Jacobi Tuy nhiên, phần hạn chế định thân thời gian có hạn nên khóa luận khơng tránh khỏi số thiếu sót Chúng tơi mong nhận góp ý, bảo quý thầy để khóa luận hồn thiện Xin chân thành cảm ơn Tài liệu tham khảo [1] Clarke.F.H., Ledyaev.Yu.S., Stern.R.J., Wolenski.P.R., (1998), Nonsmooth Analysis and Control Theory, Springer-Verlag Newyork, Inc [2] Crandall M G.,Evans L C and Lions P.-L., (1984), Some properties of viscosity solution of Hamilton-Jacobi equations,Trans Amer Math Soc 277(1983), − 42 [3] P Cannarsa-H Frankowka (2013 ), From pointwise to local regularity for solutions of Hamilton-Jacobi equations, Springer-Verlag Berlin Heidelberg [4] P M Struwe (2015), Analysis I Lăosung zur Serie [5] Hunh Thế Phùng (2012), Giáo trình giải tích khơng trơn, NXB Giáo dục [6] Nguyễn Hoàng, Lê Văn Hạp (2009), Giáo trình giải tích hàm, NXB Đại học Huế [7] Lương Hà (2002), Giáo trình Cơ sở giải tích đại, NXB Đại học Huế [8] Huỳnh Thế Phùng (2009), Cơ sở giải tích lồi, NXB Giáo dục ...ĐẠI HỌC HUẾ TRƯỜNG ĐẠI HỌC SƯ PHẠM PHAN THỊ NHẬT LINH MỘT SỐ KHÁI NIỆM VI PHÂN SUY RỘNG CHO CÁC HÀM KHƠNG TRƠN Chun ngành: GIẢI TÍCH Mã số: 60460102 LUẬN VĂN THẠC SĨ TOÁN HỌC THEO ĐỊNH HƯỚNG... 1.3 Hàm lồi hàm nửa liên tục 1.4 Các khái niệm đạo hàm không gian Banach không gian Hilbert Hàm khoảng cách 20 1.5 Chương Vi. .. 1) suy α ≥ Nếu α = ta có ⟨x0 , x∗ ⟩ ≤ ⟨x, x∗ ⟩, ∀x ∈ dom f (2) Chương Vi phân hàm không trơn 39 Hàm số h(x) = ⟨x, x∗ ⟩ hàm tuyến tính liên tục dom f đạt cực tiểu x0 ∈ int (dom f ) Suy h(x) hàm