LUẬN VĂN THẠC SỸ " TÍNH ĐƠN ĐIỆU CỦA DƯỚI VI PHÂN HÀM LỒI " docx

TRƯỜNG ĐẠI HỌC SƯ PHẠMHOÀNG KHẮC LỢI TÍNH ĐƠN ĐIỆU CỦA DƯỚI VI PHÂN HÀM LỒI LUẠN VĂN THẠC SĨ TOÁN HỌC CHUYÊN NGÀNH: GIẢI TÍCH MÃ SỐ: 60.46.01.02 NGƯỜI HƯỚNG DẪN KHOA HỌC: GS.TSKH... Hàm

TRƯỜNG ĐẠI HỌC SƯ PHẠM

HOÀNG KHẮC LỢI

TÍNH ĐƠN ĐIỆU CỦA DƯỚI VI PHÂN HÀM LỒI

LUẠN VĂN THẠC SĨ TOÁN HỌC

CHUYÊN NGÀNH: GIẢI TÍCH

MÃ SỐ: 60.46.01.02

NGƯỜI HƯỚNG DẪN KHOA HỌC: GS.TSKH LÊ DŨNG MƯU

Thái Nguyên - Năm 2012

Mục lục

Lời cảm ơn iii

Mở đầu vi

0.1 Lý do chọn đề tài vi

0.2 Mục đích và nhiệm vụ vi

0.2.1 Mục đích nghiên cứu vi

0.2.2 Nhiệm vụ nghiên cứu vi

0.2.3 Phương pháp nghiên cứu vii

0.2.4 Bố cục luận văn vii

Chương 1 Tập lồi và hàm lồi trong không gian Hilbert thực 1

1.1 Không gian Hilbert thực 1

1.1.1 Định nghĩa và ví dụ 1

1.1.2 Các đẳng thức và bất đẳng thức 3

1.2 Tập lồi 6

1.2.1 Định nghĩa và ví dụ 6

1.2.2 Một số tính chất quan trọng 6

1.2.3 Phép chiếu theo chuẩn 8

1.2.4 Định lí tách tập lồi 10

1.3 Hàm lồi 11

1.3.1 Định nghĩa và ví dụ 11

1.3.2 Một số tính chất quan trọng 13

Chương 2 Dưới vi phân của hàm lồi và tính đơn điệu của nó 16

2.1 Dưới vi phân 16

2.2 Đạo hàm theo hướng 21

2.3 Tính đơn điệu của dưới vi phân 25

2.3.1 Toán tử đơn điệu 25

2.3.2 Toán tử đơn điệu cực đại 26

2.3.3 Tính đơn điệu của dưới vi phân hàm lồi 27

Chương 3 Hàm tựa lồi, hàm giả lồi và tính đơn điệu suy rộng của dưới vi phân 30

3.1 Hàm tựa lồi và hàm giả lồi 30

3.1.1 Định nghĩa và ví dụ 30

3.1.2 Một số tính chất quan trọng 31

3.2 Tính đơn điệu suy rộng của dưới vi phân hàm tựa lồi và hàm giả lồi 34

3.2.1 Toán tử tựa đơn điệu và giả đơn điệu 34

3.2.2 Tính tựa đơn điệu và giả đơn điệu của đạo hàm của hàm tựa lồi và hàm giả lồi 35

Tài liệu tham khảo 40

Lời cảm ơn

Bản luận văn được hoàn thành tại trường Đại học sư phạm Đại

học Thái Nguyên dưới sự hướng dẫn tận tình của GS.TSKH Lê Dũng

Mưu Nhân dịp này tôi xin bày tỏ lòng biết ơn Thầy về sự hướng dẫn

hiệu quả cùng những kinh nghiệm trong quá trình học tập, nghiên

cứu và hoàn thành luận văn

Xin chân thành cảm ơn Khoa Sau Đại Học, Ban chủ nhiệm Khoa

Toán, các thầy cô giáo trường Đại học Sư Phạm - Đại học Thái Nguyên,

Viện Toán Học và trường Đại học Sư Phạm Hà Nội đã giảng dạy và

tạo điều kiện thuận lợi cho tôi trong quá trình học tập và nghiên cứu

khoa học

Xin chân thành cảm ơn tập thể bạn bè, đồng nghiệp lớp Cao Học

Toán K18B và BGH, đồng nghiệp Giáo Viên ở trường THPT Bạch Đằng

- Quảng Ninh đã gúp đỡ tôi trong suốt thời gian học tập và nghiên

cứu

Bản luận văn chắc chắn sẽ không tránh khỏi những khiếm khuyết

vì vậy rất mong được sự góp ý kiến của các thầy cô giáo và các bạn

học viên để luận văn này được hoàn chỉnh hơn

Cuối cùng xin cảm ơn gia đình và bạn bè đã động viên, khích lệ tôi

trong thời gian học tập, nghiên cứu và hoàn thành luận văn

Thái Nguyên, Tháng 8 năm 2012

Tác GiảHoàng Khắc Lợi

Danh mục các kí hiệu viết tắt

H,Hi,K: Không gian Hilbert thực;

C−D : Hiệu Minkowski của tập C và D;

span C : Không gian affine căng bởi C;

spanC : Không gian đóng affine căng bởi tập C;

C : Bao đóng của C;

C⊥ : Phần bù trực giao của C;

convC: Bao lồi của tập C;

convC: Bao lồi đóng của tập C;

coreC: Lõi của tập C;

int C: Phần trong của C;

bdryC: Biên của C;

coneC: Bao nón của tập C;

NC: Nón chuẩn tắc của C;

PC : Phép chiếu lên tập C;

σC : Hàm tựa của tập C;

dC : Hàm khoảng cách của tập C;

B(x, e): Hình cầu đóng tâm x, bán kính e;

ΓH: Tập các hàm lồi nửa liên tục dưới từHvào[−∞,+∞];

Γ0H : Tập các hàm lồi chính thường nửa liên tục dưới từ H vào

∂ f(x): Dưới vi phân của f tại x ;

Of(x)hoặc f0(x): Đạo hàm của f tại x ;

f0(x, y): Đạo hàm theo hướng y của f tại x;

Argminf : Tập các cực tiểu toàn cục của hàm f ;

zerA: Tập các không điểm của toán tử A

epif: Trên đồ thị của hàm f ;

graf: Đồ thị của hàm f

Id : Toán tử đồng nhất;

cont f : Miền liên tục của hàm f ;

l2(I): Không gian Hilbert của tổng các hàm từ I vàoR;

B(H,K): Không gian các toán tử tuyến tính bị chặn từHvàoK;

L

i ∈ IHi : Tổng trực tiếp các không gian Hilbert;

×i∈IHi : Tích các không gian Hilbert;

(x, y): Khoảng trongR ;

[x, y]: Đoạn trongR;

(xi)i∈I : Họ các vectơ trongH

0.1 Lý do chọn đề tài

Giải tích lồi là bộ môn quan trọng trong giải tích phi tuyến tính

hiện đại Giải tích lồi nghiên cứu khía cạnh giải tích các khái niệm,

tính chất cơ bản của tập lồi và hàm lồi Tính đơn điệu của dưới vi

phân hàm lồi là một trong những tính chất quan trọng của hàm lồi,

nó đã được nhiều nhà toán học trong và ngoài nước quan tâm nghiên

cứu và đã đạt được nhiều kết quả sâu sắc cùng với các ứng dụng quan

trọng trong các lĩnh vực khác nhau Việc nghiên cứu về tính đơn điệu

của dưới vi phân hàm lồi và hoàn chỉnh hàm lồi vẫn là đề tài cần được

quan tâm và nghiên cứu trong bộ môn giải tích lồi

0.2 Mục đích và nhiệm vụ

0.2.1 Mục đích nghiên cứu

Mục đích chính của luận văn là nghiên cứu và trình bày một cách

có hệ thống các kiến thức cơ bản và quan trọng nhất về dưới vi phân

của hàm lồi và tính đơn điệu của nó

0.2.2 Nhiệm vụ nghiên cứu

Luận văn tập trung vào nhiệm vụ chính sau đây:

1)Nghiên cứu tập lồi và hàm lồi trong không gian Hilbert thực

2)Đạo hàm theo hướng và dưới vi phân hàm lồi

3)Tính đơn điệu của dưới vi phân hàm lồi.

4)Hàm tựa lồi và hàm giả lồi

5)Tính đơn điệu suy rộng của dưới vi phân hàm tựa lồi và hàm giả

lồi

0.2.3 Phương pháp nghiên cứu

- Sử dụng phương pháp của giải tích hàm kết hợp với phương pháp

của giải tích hiện đại

- Sử dụng các phương pháp của lí thuyết tối ưu

- Kế thừa phương pháp và kết quả của lý thuyết tôi ưu không trơn

0.2.4 Bố cục luận văn

Nội dung luận văn gồm 47 trang, trong đó có phần mở đầu, ba

chương nội dung, phần kết luận và danh mục tài liệu tham khảo

Chương 1 : Trình bày một số kiến thức cơ bản như : Không gian

Hilbert thực, tập lồi, hàm lồi

Chương 2: Dưới vi phân hàm lồi và tính đơn điệu của nó

Nội dung của chương này là trình bày việc xây dụng đạo hàm theo

hướng và dưới vi phân của hàm lồi, các toán tử đơn điệu và chỉ ra tính

đơn điệu của dưới vi phân hàm lồi

Chương 3: Hàm tựa lồi, hàm giả lồi và tính đơn điệu suy rộng của

dưới vi phân

Cuối cùng là phần kết luận trình bày tóm tắt các kết quả đạt được

Chương 1

Tập lồi và hàm lồi trong không

gian Hilbert thực

Nội dung kiến thức trong luận văn này được nghiên cứu trên không

gian Hilbert thực, ta kí hiệu không gian này là H với tích vô hướng

h | i và || || là chuẩn trên H tương ứng với tích vô hướng này, với

khoảng cách d, tức là:

Với mọi x, y ∈ H ta có||x|| = p

hx |xivà d(x, y) = ||x−y||.Chương này nhằm giới thiệu những khái niệm cơ bản nhất, tính chất

đặc trưng của tập lồi và hàm lồi trong không gian Hilbert thực

Các kiến thức ở trong chương này được trích từ cuốn sách ”Convex

Analysis and Monotone Operator Theory in Hilbert Spaces” của tác

giả HenizH Bauschke và PatrickL Combettes [2]

Hầu hết các hàm trong luận văn này là hàm f : H → R∪ {+∞}

1.1 Không gian Hilbert thực

1.1.1 Định nghĩa và ví dụ

Định nghĩa 1.1 Phần bù trực giao của tập C ⊆ Hđược kí hiệu là C⊥, tức

là

C⊥ = {u∈ H | ∀x ∈ C,hx |ui = 0}

Một cơ sở của tập C ⊆ Hđược gọi là một cơ sở trực giao củaHnếu spanC =

H Không gian H được gọi là tách được nếu nó có một cơ sở trực giao đếm

được.

Bây giờ giả sử (xi)i∈I là họ các vectơ trong Hvà giả sửI là lớp các

tập con hữu hạn khác rỗng I định hướng bởi⊂ Khi đó (xi)i∈I là khả

tổng nếu tồn tại x∈ H mà(∑i ∈ Jxi)J∈I hội tụ đến x, tức là,

Đây là trường hợp riêng trong không gian Hilbert thực và nó sẽ được

sử dụng trong cuốn luận văn này

Ví dụ 1.1 Tổng trực tiếp của một họ các không gian Hilbert thực(Hi,|| ||i)i∈I

là không gian Hilbert thực.

Bây giờ giả sử rằng∀i ∈ I, fi :Hi → R∪ {+∞}và I không là tập hữu

(iv) Đẳng thức Apllonius:

||x−y||2 =2||z−x||2+2||z−y||2−4||z− x+y

2 ||

2

Chứng minh (i) Hiển nhiên

(ii) và (iii) được suy ra từ (i) và

Như vậy, chiều thuận được suy ra trực tiếp

Đảo lại nếu

(ii) Đây là một hệ quả của (i), từ đó

x⊥y ⇔ [hx | −yi ≤ 0 và hx| −yi ≤ 0]

Bổ đề 1.3 Cho(xi)i∈I và(ui)i∈I là họ cáchx | yitập hữu hạn trongH và

cho(αi)i∈I là một dãy trên R mà ∑

(ii) Được suy ra từ (i) khi (ui)i∈I = (xi)i∈I

Hệ quả 1.1 Cho x, y ∈ H và α ∈ R, khi đó

Nếu K là một không gian Hilbert và T ∈ B(H,K), liên hợp của T

là toán tử duy nhất T∗ ∈ B(K,H)thỏa mãn

∀x ∈ H,∀y∈ K,hTx | yi = hx | T∗yi.

Trường hợp đặc biệtH và∅ là tập lồi.

Ví dụ 1.3 Trong mỗi trường hợp sau đây C là tập lồi trongH

(i) C là hình cầu.

(ii) C là một không gian con affine.

(iii) C là một nửa không gian.

(iv) C = T

i ∈ ICi với(Ci)i∈I là họ các tập con lồi củaH.

Tính chất giao ở (iv) được khẳng định bằng định nghĩa sau

Định nghĩa 1.3 Cho C⊆ H, bao lồi của C là giao của tất cả các tập con lồi

củaHcó chứa C, tức là nó là tập con lồi nhỏ nhất củaHcó chứa C Nó được

kí hiệu làconvC Bao lồi đóng của C là tập con lồi đóng nhỏ nhất củaHchứa

C, nó được kí hiệu làconvC.

Khi đó D =convC.

Mệnh đề 1.2 ChoK là không gian Hilbert thực, giả sử T : H → Klà một

toán tử affine và cho C, D là các tập lồi trongH,K tương ứng Khi đó T(C)

và T−1(D)là các tập lồi trongK vàHtương ứng.

Chứng minh. Ta có

∀x ∈ H,∀y ∈ H, T((x, y)) = (Tx, Ty).Bây giờ lấy hai điểm trong T(C)là Tx và Ty, ∀x ∈ C và ∀y ∈ C Do

Chứng minh (i) Hiển nhiên

(ii) Đây là hệ quả của (i) và Mệnh đề 1.2 Từ đó∑i ∈ IαiCi = L(×i∈ICi)

1.2.3 Phép chiếu theo chuẩn

Định nghĩa 1.4 Cho C ⊆ H, giả sử x ∈ H, p ∈ C Khi đó p được gọi là

một xấp xỉ tối ưu của x từ C (hay là hình chiếu của x lên C) nếu||x−p|| =

dC(x) Nếu mọi điểm trongHcó ít nhất một hình chiếu lên C thì C được gọi

là tập xấp xỉ.

Nếu mọi điểm trong H có đúng một hình chiếu lên C thì C được

gọi là tập Chebyshev Trong trường hợp này phép chiếu (hay toán tử

chiếu) lên tập C là toán tử kí hiệu là PC, mà ảnh mọi điểm trong Hlên

nó là hình chiếu duy nhất lên C

Ví dụ 1.4 Cho{ei}i∈I là một cơ sở trực chuẩn hữu hạn trong H.

Giả sử V = span{ei}i∈I và x ∈ H Khi đó V là tập Chebyshev,

Chú ý 1.3 Cho C là tập khác rỗng trongH Khi đó:

(i) C = {x ∈ H | dC(x) = 0}, không điểm trong tập C \C có hình chiếu

lên C Một lân cận (trong một tập Chebyshev ) là một tập đóng.

(ii) Nếu C là một không gian hữu hạn chiều trongHthì nó là tập Chebyshev

và do đó nó là tập đóng.

Mệnh đề 1.4 Giả sử rằng H là không gian hữu hạn chiều và C là tập

Chebyshev trongHthì PC là liên tục.

Chứng minh. Cho x ∈ H và giả sử(xn)n∈Nlà dãy trongHmà xn → x.

Ta có dC là liên tục và do đó

||xn −PCxn|| = dC(xn) = ||x−PCx||.Như vậy PC(xn)n∈Nlà bị chặn Bây giờ cho y là điểm tụ của PC(xn)n∈N,

ta có PCxkn → y Theo chú ý 1.3 (i) khẳng định rằng y ∈ Cvà mệnh đề

1.2 có nghĩa là

||xkn −PCxkn|| → ||x−y|| = dC(x).Kéo theo y = PCxlà điểm tụ của dãy bị chặn PC(xn)n∈N

Do đó PCxn → PCx

Ví dụ 1.5 ChoH là không gian hữu hạn chiều và (en)n∈N là một dãy các

vectơ trực chuẩn trongH,(αn)n∈N là dãy trong(1,+∞)mà αn & 1.

Đặt

C = {xn}n∈N,∀n ∈ N, xn =αnen

Khi đó cho bất kì hai điểm phân biệt xn và xm, ta có:

||xn−xm||2 = ||xn||2+ ||xm||2 > ||en||2+ ||em||2 = 2

Do đó mọi dãy hội tụ trong C đều là hằng số và C là tập đóng Tuy nhiên 0

không có hình chiếu lên C, từ đó∀n ∈ N, dC(0) = 1< αn = ||0−xn||.

Mệnh đề 1.5 Cho C là một tập lồi đóng khác rỗng trongH Khi đó với mọi

x ∈ H hình chiếu PC(x)của x trên C luôn tồn tại và duy nhất.

Chứng minh. Giả sử x ∈ H, y ∈ C theo định nghĩa 1.4 ta có dC(x) =

||y−x||, suy ra tồn tại dãy(xn)n∈N trong C sao cho

Chứng tỏ y là hình chiếu của x trên C.

Bây giờ ta chỉ ra tính duy nhất của hình chiếu Thật vậy nếu tồn tại hai

điểm y và z đều là hình chiếu của x trên C thì

x−y ∈ NC(y), x−z∈ NC(z).Tức là

hy−x , z−yi ≤ 0và

hz−x , y−zi ≤ 0

Cộng hai bất đẳng thức này ta suy ra||y−z|| ≤ 0 và do đó y = z

Mệnh đề 1.6 Cho C là tập lồi đóng khác rỗng trong H Khi đó hình chiếu

PC là ánh xạ không giãn.

Chứng minh. Cố định x và y thuộcH, ta có

hPCy−PCx | x−PCxi ≤ 0và

hPCx−PCy | y−PCyi ≤ 0

Lấy tổng của hai bất đẳng thức trên ta được

||PCx−PCy||2 ≤ hx−y| PCx−PCyi.Suy ra điều phải chứng minh từ bất đẳng thức Cauchy - Schwarz

Hơn nữa một điểm x ∈ H tách được từ D nếu tập x và D là tách

được Tương tự như vậy x tách mạnh được từ D nếu tập{x} và D là

Hệ quả 1.2 Cho C và D là các tập khác rỗng trong H mà C∩D = ∅ và

C−D là tập lồi đóng Khi đó C và D là tách mạnh được.

Chứng minh. Từ 0 /∈ C−D, theo định lí 1.1 thì vectơ 0 là tách mạnh từ

C−D Mà theo định nghĩa 1.5 thì C và D là tách mạnh được nếu và

chỉ nếu 0 là tách mạnh được từ C−D

Hệ quả 1.3 Cho C và D là tập lồi đóng khác rỗng trongH mà C∩D =∅

và D bị chặn, khi đó C và D là tách mạnh được.

Chứng minh. Theo hệ quả 1.2 ta cần chứng tỏ rằng C−D là tập lồi

đóng Do tính lồi của C−D trong mệnh đề 1.3 (ii) chứng tỏ C− D

là đóng Lấy một dãy hội tụ trong C−D mà xn → yn → z, ở đây

(xn)n∈N ∈ C, (yn)n∈N ∈ D và z ∈ H Từ D là hội tụ yếu và compact

nên tồn tại dãy con(xkn)n∈N hội tụ yếu đến y∈ D

là tập con lồi củaH ×R.

Hàm f được gọi là hàm lõm nếu−f là hàm lồi

Ví dụ 1.6 Cho C là tập con củaH, ta có epiiC = C×R+ và iC là hàm lồi

nếu và chỉ nếu C là tập lồi.

Định nghĩa 1.7 Cho f : H → (−∞,+∞]là hàm chính thường Khi đó f

được gọi là hàm lồi ngặt nếu∀x ∈ dom f ,∀y ∈ dom f ,∀α ∈ (0, 1), x 6= y

Ví dụ 1.7 Hàm|| .||là lồi NếuH 6= {0}thì||. ||không lồi ngặt.

Chứng minh. Theo tính chất lồi, bây giờ lấy x∈ H \ {0}và α ∈ (0, 1)

Ví dụ 1.9 Cho(ei)i∈I là tổ hợp trongHvà(φi)i∈I là một họ trongΓ0Hmà

Chứng minh. Đặt L : H ×R → H : (x, ξ) 7→ x, khi đó L là tuyến tính

và dom f = L(epif) Từ mệnh đề 1.2 ta có dom f là tập lồi

Mệnh đề 1.8 Cho f : H → (−∞,+∞], hàm f là lồi nếu và chỉ nếu

∀x ∈ dom f ,∀y ∈ dom f ,∀α ∈ (0, 1)

f(αx+ (1−α)y) ≤ α f(x) + (1−α)f(y) (1.3)

Chứng minh. Chú ý rằng f ≡ +∞ ⇔ epif = ∅ ⇔ dom f = ∅ thì f

là hàm lồi và thỏa mãn (1.3) Giả sử rằng dom f 6= ∅ và lấy (x, ξ) ∈

epif ,(y, η) ∈ epif và α ∈ (0, 1) Trước hết giả sử f là hàm lồi thì

α(x, ξ) + (1−α)(y, η) ∈ epif

Ngược lại được suy ra từ mệnh đề 1.8.

Hệ quả 1.4 Cho f : H → (−∞,+∞] là hàm chính thường Khi đó các

mệnh đề sau là tương đương:

Mệnh đề 1.10 Cho f : H → (−∞,+∞] là hàm chính thường Khi đó f

là hàm lồi ngặt nếu và chỉ nếu mọi tổ hợp hữu hạn các (αi)i∈I ∈ (0, 1)mà

Chứng minh. Trước hết giả sử f là lồi ngặt Ta chứng minh điều kéo

theo bằng phương pháp quy nạp cho m phần tử trong I Ta có kết quả

đúng với m = 2 Bây giờ giả sử m ≥3 mà I = 1, , m và kết quả đúng

giả thiết quy nạp (1−αm)−1(m∑−1

Chương 2

Dưới vi phân của hàm lồi và tính

đơn điệu của nó

Dưới vi phân là một công cụ cơ bản trong giải tích, hàm không khả

vi và đặc biệt là hàm lồi Đạo hàm theo hướng, tính liên tục và tính

đơn điệu của nó là các khái niệm liên quan chặt chẽ đến nhau Trong

chương này ta nghiên cứu một số kết quả của dưới vi phân, đạo hàm

theo hướng và tính đơn điệu của dưới vi phân hàm lồi

Nội dung kiến thức của chương này được trích từ cuốn sách "Convex

Analysis and Monotone Operator Theory in Hilbert Spaces" của tác

giả HenizH Bauschke và PatrickL Combettes [2]

2.1 Dưới vi phân

Định nghĩa 2.1 Cho f : H → (−∞,+∞] là hàm chính thường Dưới vi

phân của hàm f là tập giá trị của toán tử

∂ f : H → 2H : x 7→ {u ∈ H | ∀y∈ H,hy−x |ui + f(x) ≤ f(y)}

Cho x ∈ H, thì f có dưới vi phân tại x nếu ∂ f(x) 6= ∅, các phần tử của

∂ f(x)là các dưới đạo hàm của f tại x.

Một vectơ u∈ H là một dưới đạo hàm của hàm chính thường

f : H → (−∞,+∞]tại x ∈ dom f