XẤP XỈ BẬC NHẤT VÀ BẬC HAI CỦA CÁC TẬP HỢP VÀ CÁC MÔ TẢ ĐỐI NGẪU TƯƠNG ỨNG

XẤP XỈ BẬC NHẤT VÀ BẬC HAI CỦA CÁC TẬP HỢP VÀ CÁC MÔ TẢ ĐỐI NGẪU TƯƠNG ỨNG Trong giải tích cổ điển, đạo hàm của hàm số thực có liên quan chặt chẽ đến tiếp tuyến của đồ thị. Dựa vào phương trình tiếp tuyến của đồ thị hàm số tại một điểm, người ta có thể xấp xỉ các giá trị của hàm số trong lân cận điểm đó. Mặt khác, đồ thị hàm số đã cho chính là đường bao (envelope) của họ các tiếp tuyến nói trên. Như vậy, tiếp tuyến chính là xấp xỉ bậc nhất của đồ thị, và đồ thị có thể được khôi phục thông qua họ các tiếp tuyến.

Danh mục ký hiệu ii

Lời mở đầu iv

1 Nón tiếp tuyến và nón pháp tuyến 1 1.1 Nón tiếp tuyến và đạo hàm 1

1.1.1 Ánh xạ đa trị 1

1.1.2 Nón tiếp tuyến 2

1.1.3 Đạo hàm 11

1.2 Nón pháp tuyến và đối đạo hàm 13

1.2.1 Nón pháp tuyến 13

1.2.2 Dưới vi phân 14

1.2.3 Đối đạo hàm 16

1.3 Quan hệ giữa nón tiếp tuyến và nón pháp tuyến 17

2 Tập tiếp xúc bậc hai và dưới vi phân bậc hai 22 2.1 Tập tiếp xúc bậc hai 23

2.2 Tập tiếp xúc bậc hai của tập lồi đa diện 26

2.3 Tập tiếp xúc bậc hai của tập hợp có biên trơn 30

2.3.1 Tập hợp có biên trơn 30

2.3.2 Dưới vi phân bậc hai và tập tiếp xúc bậc hai 32

Kết luận 44

Tài liệu tham khảo 45

h·, ·i Cặp đối ngẫu hoặc tích vô hướng

tk ↓ 0 Dãy số dương tk hội tụ về 0

xk

w

−→ x Dãy véctơ xk hội tụ yếu đến x

T (x; Ω) Nón tiếp tuyến Bouligand-Severi của Ω tại x

Tw(x; Ω) Nón tiếp tuyến yếu của Ω tại x

TC(x; Ω) Nón tiếp tuyến Clarke của Ω tại x

b

Nε(x; Ω) Nón ε-pháp tuyến của Ω tại x

b

N (x; Ω) Nón pháp tuyến Fréchet của Ω tại x

N (x; Ω) Nón pháp tuyến qua giới hạn của Ω tại x

iΩ(·) Hàm chỉ của tập Ω

F : X ⇒ Y Ánh xạ đa trị

gph F Đồ thị của F

dom F Miền hữu hiệu của F

reg F Miền ảnh của F

DFz(·) Đạo hàm contingent của F tại z

DFzw(·) Đạo hàm contingent yếu của F tại z

CFz(·) Đạo hàm Clarke của F tại z

b

D∗Fz(·) Đối đạo hàm Fréchet của F tại z

D∗Fz(·) Đối đạo hàm Mordukhovich của F tại z

b

∂f (x) Dưới vi phân Fréchet của f tại x

∂f (x) Dưới vi phân qua giới hạn của f tại x

γ Độ cong của siêu mặt tại một điểm cho trước

γ Độ cong trên của siêu mặt tại một điểm cho trước

Trong giải tích cổ điển, đạo hàm của hàm số thực có liên quan chặt chẽđến tiếp tuyến của đồ thị Dựa vào phương trình tiếp tuyến của đồ thị hàm

số tại một điểm, người ta có thể xấp xỉ các giá trị của hàm số trong lân cậnđiểm đó Mặt khác, đồ thị hàm số đã cho chính là đường bao (envelope)của họ các tiếp tuyến nói trên Như vậy, tiếp tuyến chính là xấp xỉ bậcnhất của đồ thị, và đồ thị có thể được khôi phục thông qua họ các tiếptuyến

Sự mở rộng khái niệm tiếp tuyến sang giải tích đa trị gắn liền với nhucầu mở rộng khái niệm đạo hàm Năm 1981, J.-P Aubin (xem [3] và [4])

đề nghị xây dựng đạo hàm của một ánh xạ đa trị F : X ⇒ Y, ở đó X

và Y là các không gian Banach, tại một điểm z = (x, y), y ∈ F (x), nhưmột ánh xạ đa trị từ X vào Y có đồ thị trùng với hình nón tiếp tuyếnBouligand-Severi của tập đồ thị gph F := {(x, y) ∈ X × Y | y ∈ F (x)}

tại z Để xây dựng khái niệm đạo hàm của ánh xạ đa trị, ngoài nón tiếptuyến Bouligand-Severi người ta (xem [4] và [2]) còn sử dụng khái niệmnón tiếp tuyến do F H Clarke đưa ra năm 1973 (xem [7]) Đây là phươngpháp nghiên cứu bằng không gian nền

Song song với sự phát triển lý thuyết vi phân của Clarke, có một lýthuyết vi phân khác dựa trên các khái niệm do B S Mordukhovich đã đưa

ra năm 1976, đó là các khái niệm nón pháp tuyến không lồi ([nonconvex]normal cone), đối đạo hàm qua giới hạn (limiting coderivative), dưới viphân không lồi ([nonconvex] subdifferential) Cách tiếp cận bằng khônggian đối ngẫu này đã đưa đến những kết quả mới mẻ và sâu sắc, do đó đãthu hút được sự chú ý ngày càng tăng của các nhà toán học Trong khoảngnhững năm 1995–1997, B S Mordukhovich và các cộng sự đã công bố mộtloạt kết quả quan trọng, đưa ra nhiều ý tưởng và kỹ thuật mới, cho phéphoàn thiện lý thuyết vi phân vô hạn chiều dựa trên các cấu trúc đối ngẫu.Tóm lại, cũng tương tự như vai trò của các khái niệm nón tiếp tuyến trong

lý thuyết vi phân được xây dựng bằng phương pháp không gian nền, nónpháp tuyến không lồi, được định nghĩa như giới hạn Painlevé-Kuratowskicủa một họ tập lồi mà mỗi tập bao gồm các ε-pháp tuyến, là cơ sở của lýthuyết vi phân được xây dựng bằng phương pháp không gian đối ngẫu.

Để nghiên cứu các điều kiện cần và đủ cực trị bậc hai của các bài toántối ưu, và tính ổn định của các bài toán tối ưu và cân bằng, người ta cần

sử dụng các khái niệm tập tiếp xúc bậc hai (xem [5] và [1]) và dưới viphân bậc hai (xem [9]) Mối quan hệ giữa các nón tiếp tuyến và các nónpháp tuyến qua giới hạn đã được B S Mordukhovich khảo sát trong [9,Mục 1.1.2, tr 12–18] Mối quan hệ giữa các tập tiếp xúc bậc hai và dưới

vi phân bậc hai qua giới hạn của hàm chỉ của một tập hợp là một vấn đềmới được đặt ra Cụ thể, vào năm 2010, GS Nguyễn Đông Yên đã đề xuấtviệc nghiên cứu vấn đề đó, nhưng chưa thu được kết quả cụ thể nào.Luận văn này trình bày các khái niệm cơ bản về nón tiếp tuyến, nónpháp tuyến, đạo hàm, đối đạo hàm, dưới vi phân, và tập xấp xỉ bậc hai.Các mối liên hệ giữa các khái niệm đó cũng được nghiên cứu chi tiết Luậnvăn được viết chủ yếu trên cơ sở Chương 1 của cuốn chuyên khảo [9] của

B S Mordukhovich, Chương 3 của cuốn giáo trình [10] của A Ruszczynski,

và phần đầu của bài báo [12] Trong luận văn có một số kết quả mới vềmối quan hệ giữa tập tiếp xúc bậc hai và dưới vi phân bậc hai của hàmchỉ, trong trường hợp tập được xét là tập có biên trơn

Ngoài phần Mở đầu, phần Kết luận và phần Tài liệu tham khảo, luậnvăn gồm hai chương

Chương 1 “Nón tiếp tuyến và nón pháp tuyến” trình bày các khái niệm

cơ bản về nón tiếp tuyến, nón pháp tuyến, đạo hàm, đối đạo hàm, dưới viphân, và mối quan hệ giữa nón tiếp tuyến và nón pháp tuyến

Chương 2 “Tập tiếp xúc bậc hai và dưới vi phân bậc hai” trình bày kháiniệm và các tính chất của tập tiếp xúc bậc hai, mối quan hệ giữa tập tiếpxúc bậc hai và dưới vi phân bậc hai của hàm chỉ trong trường hợp tậpđược xét là tập có biên trơn

Các kết quả ở Mục 2.3 là mới Ý tưởng cơ bản ở đây là sử dụng kháiniệm độ cong của tập hợp được cho dưới dạng tập nghiệm một bất đẳngthức hoặc của tập nghiệm một hệ hữu hạn các đẳng thức để thiết lập mốiquan hệ gián tiếp giữa tập xúc bậc hai và dưới vi phân bậc hai của hàm

chỉ thông qua các bất đẳng thức kép Chúng tôi cho rằng khó có thể thiếtlập mối quan hệ trực tiếp giữa tập xúc bậc hai và dưới vi phân bậc haicủa hàm chỉ, theo kiểu những công thức tính cái này qua cái kia (như đốivới nón tiếp tuyến và nón pháp tuyến – chính là dưới vi phân bậc nhấtcủa hàm chỉ).

Luận văn đã được hoàn thành tại Viện Toán học, Viện Hàn lâm Khoahọc và Công nghệ Việt Nam, dưới sự hướng dẫn của GS TSKH NguyễnĐông Yên Tác giả chân thành cảm ơn thầy Yên đã dành nhiều thời gianchỉ dẫn cho tác giả thực hiện đề tài nghiên cứu

Tác giả chân thành cảm ơn các thầy cô giáo và các cán bộ công nhânviên trong Viện Toán học đã giúp đỡ tác giả trong suốt thời gian học tập

và nghiên cứu tại Viện Toán học

Hà Nội, ngày 30 tháng 08 năm 2013

Tác giả

Hoàng Minh Có

Nón tiếp tuyến và nón pháp tuyến

Nói một cách đơn giản, nón tiếp tuyến là xấp xỉ bậc nhất của tập hợptại một điểm cho trước Còn nón pháp tuyến là xấp xỉ bậc nhất của tậphợp được viết bằng ngôn ngữ đối ngẫu Như vậy, nón tiếp tuyến là một cấutrúc trong không gian nền, còn nón pháp tuyến là cấu trúc trong khônggian đối ngẫu Khái niệm thứ nhất là cơ sở cho cách tiếp cận bằng khônggian nền (the primal-space approach), còn khái niệm thứ hai là cơ sở chocách tiếp cận bằng không gian đối ngẫu (the dual-space approach) Chươngnày gồm hai mục Mục thứ nhất trình bày các định nghĩa nón tiếp tuyến,đạo hàm của ánh xạ đa trị, và một số tính chất Mục thứ hai trình bàykhái niệm nón pháp tuyến, đối đạo hàm của ánh xạ đa trị, và một số tínhchất

1.1 Nón tiếp tuyến và đạo hàm

Khái niệm ánh xạ đa trị là sự mở rộng tự nhiên của ánh xạ đơn trị Vớikhái niệm ánh xạ đa trị, ta có thể giải quyết nhiều vấn đề trong toán họcnói chung, và trong lý thuyết tối ưu và cân bằng nói riêng

1.1.1 Ánh xạ đa trị

Định nghĩa 1.1 (Xem [2, tr 9–10]) ChoX, Y là hai tập hợp bất kỳ Cho

F : X ⇒ Y là ánh xạ từ X vào tập hợp gồm tất cả các tập con của Y,được ký hiệu là 2Y Ta nói F là ánh xạ đa trị từ X và Y Như vậy, vớimỗi x ∈ X, F (x) là một tập hợp con của Y Không loại trừ khả năng làvới một số phần tử x ∈ X nào đó ta có F (x) là tập rỗng

Ví dụ 1.1 Xét phương trình đa thức

λn + a1λn−1 + · · · + an−1λ + an = 0, (1)

ở đó n ∈ N = {1, 2, }, ai ∈ R (i = 1, 2, , n) là các số thực Quy tắccho tương ứng mỗi véctơ a = (a1, , an) ∈ Rn với một tập nghiệm củaphương trình (1), được ký hiệu bởi F (a), cho ta một ánh xạ đa trị

F : Rn ⇒ C, a = (a1, , an) 7→ F (a),

từ không gian Euclide Rn vào tập số phức C Với mỗi a, F (a) có khôngquá n phần tử Ở đây, ta có thể nhúng tập F (a) vào R2 bằng cách đồngnhất C với không gian Euclide hai chiều R2

Đối với mỗi ánh xạ đa trị F : X ⇒ Y, người ta định nghĩa các tập hợp

gph F = {(x, y) ∈ X × Y | y ∈ F (x)},dom F = {x ∈ X | F (x) 6= ∅},

và

reg F = {y ∈ Y | ∃ x ∈ X sao cho y ∈ F (x)}

Các tập hợp đó, lần lượt được gọi là đồ thị, miền hữu hiệu, và miền ảnhcủa ánh xạ đa trị F

1.1.2 Nón tiếp tuyến

Định nghĩa 1.2 (Giới hạn theo Painlevé-Kuratowski, xem [2, tr 63]) Giả

sử M là không gian mêtric, X là không gian định chuẩn Cho {Ωt}t∈M là

họ tập hợp phụ thuộc vào tham số t ∈ M, Ωt ⊂ X với mọi t Với mỗi

được gọi là giới hạn dưới theo Painlevé-Kuratowski của họ {Ωt}t∈M khi

Ta có Lim sup

t→0

Ωt = [−1, 1] và Lim inf

t→0 Ωt = ∅

Cho Ω là tập con trong không gian định chuẩn X và cho x ∈ Ω.¯

Định nghĩa 1.3 (Nón tiếp xúc bậc nhất; xem [9, tr 13]) Tập hợp

và gọi nó là nón tiếp tuyến yếu của Ω tại x¯

Định nghĩa 1.4 (Nón tiếp tuyến Clarke; xem [9, tr 13]) Tập hợp

Chứng minh (i) Dễ thấy rằng 0 ∈ T (¯x; Ω) Lấy tùy ý v ∈ T (x; Ω) và

λ > 0 Theo công thức (1.5), tồn tại {xk} ⊂ Ω và {tk} ⊂ R+\{0},tk → 0,

(ii) Kí hiệu vế phải của (1.7) là V Lấyv ∈ T (x; Ω)bất kỳ, ta cần chứngminh rằng v ∈ V Chọn {tk} ⊂ R+\{0}, tk → 0 sao cho

(iii) Giả sử {wk} ⊂ T (¯x; Ω), wk → w Với mỗi k ∈ N, do khẳng định

(ii) ở trên, tồn tại tk ∈ 0, k1

(iv) Lấy bất kỳ v ∈ TC(x; Ω), ta sẽ chứng minh rằng v ∈ T (x; Ω) Vì

v ∈ TC(x; Ω) nên với mọi dãy tk ↓ 0 và mọi dãy xk −→ xΩ ta có

trùng với tôpô của chuẩn trong X, nên ta có T (¯x; Ω) = Tw(¯x; Ω) Tính chất hội tụ yếu của dãy véctơ được đặc trưng như sau

Bổ đề 1.1 Cho {vk} ⊂ X Ta có vk −→ vw nếu và chỉ nếu với mọi x∗ ∈ X∗

Vậy V là lân cận mở yếu của v Do (1.9), với mọi k và với mọi k0 > k ta

có vk0 ∈ V/ Điều này mâu thuẫn với giả thiết vk −→ vw

Giả sử rằng với mọi x∗ ∈ X∗, ta có hx∗, vki → hx∗, vi khi k → ∞ Xétlân cận mở yếu của v dưới dạng

SX := {x ∈ X | kxk = 1}

là trùng nhau Tức là, với mọi tập mở U trong tôpô của chuẩn, ta có

U ∩ SX là vết (trace) của một tập mở yếu W ⊂ X nào đó trên SX (điềunày có nghĩa là tồn tại tập mở yếu W ⊂ X sao cho U ∩ SX = W ∩ SX)

Ví dụ 1.4 Nếu X = H là không gian Hilbert thì

B(x, ρ) ∩ SH 6= ∅ Ta có u ∈ B(x, ρ) ∩ SH khi và chỉ khi kuk = 1 và

ku − xk < ρ Bất đẳng thức cuối tương đương với

ρ2 > hu − x, u − xi = 1 − 2hu, xi + kxk2

Wα là tập mở yếu, điều đó chứng tỏ rằng vết U ∩ SH của U

trên SH bằng vết của tập mở yếu W trên SH Tính chất Kadec của chuẩntrong không gian Hilbert đã được chứng minh

Mệnh đề 1.3 Chuẩn trong không gian Hilbert khả vi Fréchet tại nhữngđiểm khác 0

Chứng minh Thật vậy, cho (X, h., i) là không gian Hilbert Ta có

ϕ(x) = kxk = hx, xi1/2, ∀x ∈ X

Cố định điểm x ∈ X\{0} Đặt x∗ = x

kxk ∈ X ≡ X

∗, ta sẽ chứng minhrằng ∇ϕ(x) = x∗ Ta đặt f (x) = hx, xi, g(t) = t1/2 với mọi t ≥ 0, và để

ý rằng ϕ = g ◦ f Ta có ∇f (¯x) = 2¯x Thật vậy, đẳng thức này xảy ra vì

Vì x 6= 0 nên f (x) = kxk2 > 0 Vậy g(·) khả vi tại t := f (x) Áp dụngquy tắc tính đạo hàm của hàm hợp cho hàm ϕ = g ◦ f ta thu được

Điều đó chứng tỏ rằng ∇ϕ(x) = x∗ 

Mệnh đề 1.4 Nếu v ∈ Lim inf

x−→Ω x

T (x; Ω) thì, với mọi ε > 0, tồn tại η > 0

sao cho (v + εBX) ∩ T (x; Ω) 6= ∅ với mỗi x ∈ Ω ∩ (x + ηBX)

Chứng minh Ta sẽ chứng minh mệnh đề bằng phản chứng Giả sử rằngtồn tại ε > 0 sao cho với mỗi η = k1, k ∈ N, tồn tại xk ∈ Ω ∩ (x + k1BX)

Định lý 1.1 Cho X là không gian Banach, và cho Ω ⊂ X là đóng địaphương quanh x Khi đó các khẳng định sau nghiệm đúng:

(iii) Nếu chuẩn trên X là chuẩn Kadec và khả vi Fréchet tại những điểmkhác 0, thì

T (x; Ω) Khi đó, theo Mệnh đề 1.4, với mỗi ε > 0,

tồn tạiη > 0sao cho (v +εBX) ∩ T (x; Ω) 6= ∅với mọi x ∈ Ω ∩ (x+ηBX)

(ii) Giả sử rằng X là không gian phản xạ, ta đi chứng minh bao hàmthức thứ hai trong định lý Lấy tùy ý v ∈ TC(x; Ω) Khi đó, với mọi ε > 0

ta tìm được η > 0 sao cho với mọi x ∈ (x + ηBX) ∩ Ω tồn tại một dãy

tk ↓ 0 và dãy {vk} ⊂ (v + εBX) với x + tkvk ∈ Ω, k ∈ N Do tính phản

xạ của X, hình cầu đóng v + εBX là compact yếu Vì vậy, ta tìm được

vx ∈ X thỏa mãn vx ∈ v + εBX và tập chỉ số {k0} ⊂ {k} sao chovk0 w

−→ vx

khi k0 → ∞ Theo định nghĩa của nón tiếp tuyến yếu, vx ∈ Tw(x; Ω) Do

ε > 0 được lấy tùy ý, ta có v ∈ Lim inf

x−→Ω x

Tw(x; Ω) Vậy bao hàm thức thứhai đã được chứng minh

(iii) Chứng minh phần này có trong Aubin và Frankowska (xem [4,Theorem 4.1.13]) và bài báo của Browein và Strójwas (xem [6, Theorem

Cho X, Y là các không gian định chuẩn, F : X ⇒Y là ánh xạ đa trị

Ba khái niệm đạo hàm sau đây được xây dựng nhờ các cấu trúc hìnhhọc – đó là các nón tiếp tuyến của đồ thị của ánh xạ đa trị được xét tạimột điểm cho trước Dựa vào đạo hàm người ta có thể đặc trưng tínhlồi và tính lồi theo nón của ánh xạ đa trị F thông qua tính đơn điệu vàtính đơn điệu theo nón của các họ ánh xạ đạo hàm {DFz(·)}z∈gphF và

{CFz(·)}z∈gphF Tương tự như trong giải tích cổ điển, người ta cũng cóthể dựa vào các khái niệm đạo hàm sau đây để đưa ra các định lý ánh xạ

mở, hàm ẩn, hàm ngược cho ánh xạ đa trị Các khái niệm đạo hàm nàycũng đã được sử dụng để thiết lập các điều kiện cần và đủ cực trị trong lýthuyết tối ưu và lý thuyết tối ưu véctơ.

Định nghĩa 1.6 ([2, tr 71]) Đạo hàm contingent (đạo hàm Bouligand)

DFz(·) : X ⇒ Y của F tại điểm z = (x, y) ∈ gphF là ánh xạ đa trị có đồthị trùng với hình nón tiếp tuyến Bouligand-Severi T (z;gphF ), tức là

DFz(u) :=v ∈ Y | (u, v) ∈ T (z;gphF ) , ∀u ∈ X

Nếu F (x) = {f (x)} với mọi x ∈ X, ở đó f : X → Y là ánh xạ đơn trị,thì ta viết Dfx(·) thay cho DF(x,f (x))(·)

Nếu sử dụng hình nón tiếp tuyến Bouligand yếu Tw(z;gphF ) thay cho

T (z;gphF ) trong định nghĩa trên, thì ta có khái niệm đạo hàm sau.Định nghĩa 1.7 Đạo hàm contingent yếu (đạo hàm Bouligand yếu)

DwFz(·) : X ⇒ Y của F tại điểm z = (x, y) ∈ gphF là ánh xạ đatrị có đồ thị trùng với hình nón tiếp tuyến Bouligand yếu Tw(z;gphF ),

tức là

DwFz(u) :=v ∈ Y | (u, v) ∈ Tw(z;gphF ) , ∀u ∈ X

Nếu F (x) = {f (x)} với mọi x ∈ X, ở đó f : X → Y là ánh xạ đơn trị,thì ta viết Dwfx(·) thay cho DwF(x,f (x))(·)

Định nghĩa 1.8 ([2, tr 71]) Đạo hàm Clarke DFz(·) : X ⇒ Y củaF tạiđiểm z = (x, y) ∈ gphF là ánh xạ đa trị có đồ thị trùng với hình nón tiếptuyến Bouligand TC(z;gphF ), tức là

CFz(u) := v ∈ Y | (u, v) ∈ TC(z;gphF ) , ∀u ∈ X

Nếu F (x) = {f (x)} với mọi x ∈ X, ở đó f : X → Y là ánh xạ đơn trị,thì ta viết Cfx(·) thay cho CF(x,f (x))(·)

Ví dụ 1.5 Xét ánh xạ đa trị F : R ⇒ R, với

F (x) =

(

[0, +∞) khi x 6 0,[√

x, +∞) khi x > 0

Ở phần tiếp theo, chúng ta sẽ đề cập đến khái niệm nón pháp tuyến

và đối đạo hàm Đối đạo hàm của một ánh xạ đa trị F : X ⇒ Y tại mộtđiểm z = (x, y) ∈ gphF là một ánh xạ đa trị từ không gian đối ngẫu Y∗

vào không gian đối ngẫu X∗, lưu giữ các thông tin đã được mã hóa trongngôn ngữ của các không gian đối ngẫu về tốc độ thay đổi của ánh xạ đatrị trong các không gian nền Đối đạo hàm được xây dựng nhờ các nónpháp tuyến của đồ thị của ánh xạ đa trị tại một điểm cho trước Cách xâydựng xấp xỉ bậc nhất của ánh xạ đa trị này là hoàn toàn khác với cách đãđược trình bày trong các Định nghĩa 1.5–1.7 Đối đạo hàm qua giới hạn(xem Tiểu mục 1.2.3 dưới đây) không nhất thiết là ánh xạ đa trị liên hợpcủa một ánh xạ đa trị giữa các không gian nền nào

1.2 Nón pháp tuyến và đối đạo hàm

Trong giai đoạn các năm 1995-1997, B S Mordukhovich và các cộng

sự đã công bố nhiều bài báo quan trọng đặt nền móng cho lý thuyết viphân vô hạn chiều theo lược đồ mà trong đó sử dụng dưới vi phân để địnhnghĩa nón pháp tuyến (nói chung là không lồi) của các tập hợp và sử dụngnón pháp tuyến (không lồi) để định nghĩa đối đạo hàm (coderivative) củaánh xạ đa trị Vì dưới vi phân và nón pháp tuyến có quan hệ chặt chẽ, nêncũng có thể định nghĩa nón pháp tuyến trước khi định nghĩa dưới vi phân.Cách trình bày này đã được B S Mordukhovich sử dụng trong cuốn sáchchuyên khảo [9]

1.2.1 Nón pháp tuyến

Định nghĩa 1.9 (Tập véctơ ε-pháp tuyến, xem [9, tr 4]) Cho Ω ⊂ X,

Ω 6= ∅ Cho x ∈ Ω và ε > 0, tập hợp các ε-pháp tuyến của Ω tại x được

cho bởi công thức

Khi ε = 0thì ta sử dụng kí hiệu bN (x; Ω) thay cho N0(x; Ω) và gọi tập này

là nón pháp tuyến Fréchet của Ω tại x Nếu x /∈ Ω thì ta quy ước rằngb

Nε(x; Ω) := ∅, với mọi ε > 0

Định nghĩa 1.10 (Tập nón pháp tuyến qua giới hạn, xem [9, tr 4]) Cho

Ω ⊂ X, Ω 6= ∅ Cho x ∈ Ω Khi đó x∗ ∈ X∗ được gọi là một pháp tuyếnqua giới hạn của Ω tại x nếu tồn tại các dãy εk ↓ 0, xk −→ xΩ , và x∗k −→ xw∗ ∗

với mỗi x∗k ∈ Nbεk(xk; Ω), với mọi k ∈ N Tập hợp

N (x; Ω) := Lim sup

x−→Ω x ε↓0

Tập hợp này được gọi là ε-dưới vi phân Fréchet của ϕ tại x Các phần

tử của tập hợp ở vế trái của công thức (1.15) này được gọi là các ε-dướigradient Fréchet của ϕtại x Khi ε = 0 thì ta sử dụng kí hiệu b∂ϕ(x) thaycho b∂0ϕ(x) và gọi tập này là dưới vi phân Fréchet dưới, hay nói gọn hơn

là dưới vi phân Fréchet của ϕ tại x

Định nghĩa 1.12 ([2, tr 109]) Tập hợp

∂ϕ(x) := Lim sup

x−→ϕ x ε↓0

Mệnh đề sau đây cho thấy mối quan hệ giữa dưới vi phân của hàm chỉ

và nón pháp tuyến của Ω tại x

Mệnh đề 1.5 Cho Ω ⊂ X là tập hợp khác rỗng Khi đó, với mọi x ∈ Ω,

ta có

b

∂iΩ(x) =N (x; Ω).b (1.17)Nếu X là không gian Asplund và nếu Ω là đóng quanh x ∈ Ω, thì

tức là

∀ε > 0, ∃δ > 0 sao cho iΩ(x) − iΩ(x) − hx∗, x − xi > −εkx − xk,

với mọi x ∈ X\{x} mà kx − xk < δ Do iΩ(x) = 0 và iΩ(x) = +∞ nếu

x /∈ Ω, nên tính chất cuối có nghĩa là

∀ε > 0, ∃δ > 0 sao cho hx∗, x − xi 6 εkx − xkvới mọi x ∈ Ω

Khi X là không gian Asplund thì, theo [9, Theorem 2.34], với mọi hàmnửa liên tục dưới ϕ : X → R ta có

∂iΩ(u) = Lim sup

(x, y) ∈ gphF, và được kí hiệu bởi bD∗F (x, y) Ta quy ước rằng với mọi

ε > 0 và y∗ ∈ Y∗ thì bD∗εF (x, y)(y∗) := ∅ nếu như (x, y) /∈ gphF

(ii) Ánh xạ đa trị D∗F (x, y)(·) : Y∗ ⇒ X∗ xác định bởi công thức

D∗F (x, y)(y∗) := x∗ ∈ X∗| (x∗, −y∗) ∈ N ((x, y); gphF ) (1.21)

được gọi là đối đạo hàm qua giới hạn (hay đối đạo hàm Mordukhovich)của F tại (x, y) ∈ gphF.

Nếu F (x) = {f (x)} với mọi x ∈ X, ở đó f : X → Y là ánh xạđơn trị, thì ta viết bD∗f (x) thay cho bD∗f (x, f (x)) và D∗f (x) thay cho

D∗f (x, f (x))

1.3 Quan hệ giữa nón tiếp tuyến và nón pháp tuyến

Định lý 1.2 (xem [9, tr 16]) Cho Ω ⊂ X là tập hợp trong không gianBanach và cho x ∈ Ω Khi đó,

b

Nε(x; Ω) ⊂x∗ ∈ X∗| hx∗, vi 6 εkvk, ∀v ∈ T (x; Ω) (1.22)với mọi ε > 0 Ngoài ra, với ε = 0 ta có

b

N (x; Ω) ⊂ x∗ ∈ X∗| hx∗, vi 6 0, ∀v ∈ Tw(x; Ω) (1.23)

và bao hàm thức này trở thành đẳng thức khi X là không gian phản xạ.Thêm vào đó, bao hàm thức (1.22) trở thành đẳng thức khi X là khônggian hữu hạn chiều

Chứng minh Để chứng minh (1.22), ta cố định một véctơx∗ ∈ Nbε(x, Ω),

ở đó ε > 0 được chọn tùy ý Ta cần chứng minh rằng

hx∗, vi 6 εkvk ∀v ∈ T (x; Ω) (1.24)Nếu v = 0 thì (1.24) hiển nhiên nghiệm đúng Lấy tùy ý v ∈ T (x; Ω)\{0}

Do Định nghĩa 1.3, tồn tại tk ↓ 0 và vk → v sao cho x + tkvk ∈ Ω, với mọi

Vì η > 0 có thể lấy tùy ý, từ đó ta suy ra bất đẳng thức ở (1.24) Vậy baohàm thức (1.22) đã được chứng minh.

Để chứng minh (1.23), ta lấy x∗ ∈ N (x, Ω)b và lấy tùy ý v ∈

Do v ∈ Tw(x; Ω)\{0} nên tồn tại tk ↓ 0 và vk −→ vw sao cho x + tkvk ∈ Ω

với mọi k Thay thế u = x + tkvk vào vế trái của bất đẳng thức ở (1.25)

và để ý rằng x + tkvk → x (Do vk −→ vw nên dãy {vk} là giới nội Vì tk ↓ 0

nên từ đó ta có tkvk → 0X Vậy x + tkxk → x.) Phép thay thế nói trêncho ta bất đẳng thức sau

lim sup

k→∞

hx∗, vki

kvkk 6 0 (1.26)Chọn ρ > 0 sao cho kvkk 6 ρ với mọi k ∈ N Do (1.26), với mỗi η > 0 ta

có hx∗, vki < ηkvkk 6 ηρ Với k đủ lớn Cho k → ∞, từ đó ta thu được

hx∗, vi 6 ηρ

(Vì vk −→ vw nên theo Bổ đề 1.1, hx∗, vki → hx∗, vi khi k → ∞.) Cho

η → 0, ta suy ra rằng hx∗, vi 6 0 Vậy (1.23) đã được chứng minh

Khi X là không gian phản xạ thì ta có

b

N (x; Ω) = x∗ ∈ X∗| hx∗, vi 6 0, ∀v ∈ Tw(x; Ω) (1.27)Thật vậy, bao hàm thức “⊂” trong (1.27) suy ra từ (1.23) Ta cần chứngminh rằng khi X là không gian phản xạ thì

Để ý rằng

n xk − x

kxk − xk

o

là dãy véctơ trong hình cầu đơn vị của X Do X

là phản xạ nên hình cầu BX là compact dãy theo tôpô yếu, tức là từ dãyvéctơ bất kỳ trong BX ta trích ra được dãy con hội tụ theo tôpô yếu trong

X Không mất tính tổng quát, ta có thể giả sử rằng