Điều kiện tối ưu cần và đủ với hàm nhân tử Lagrange

Bài toán tối ưu có ràng buộc là quá trình tối ưu hóa hàm mục tiêuvới các ẩn thỏa mãn một số điều kiện cho trước.. Ta gọi C là tập điểm chấp nhận được của 1.Phương pháp nhân tử của hàm La

BÙI THỊ QUỲNH LƯU

ĐIỀU KIỆN TỐI ƯU CẦN VÀ ĐỦ VỚI HÀM NHÂN TỬ LAGRANGE

KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC

HÀ NỘI, 05/2017

KHÓA LUẬN TỐT NGHIỆP

ĐIỀU KIỆN TỐI ƯU CẦN VÀ ĐỦ VỚI HÀM NHÂN TỬ LAGRANGE

Giảng viên hướng dẫn : ThS BÙI NGỌC MƯỜI

HÀ NỘI, 05/2017

Trước khi trình bày nội dung chính của khóa luận, em xin bày tỏ lòngcảm ơn tới các thầy cô khoa Toán, trường Đại Học Sư Phạm Hà Nội 2, cácthầy cô trong tổ bộ môn Giải tích cũng như các thầy cô tham gia giảngdạy đã tận tình truyền đạt những tri thức quý báu và tạo điều kiện thuậnlợi để em hoàn thành tốt nhiệm vụ khóa học và khóa luận.

Đặc biệt, em xin bày tỏ sự kính trọng và lòng biết ơn sâu sắc tới ThS.Bùi Ngọc Mười, người đã trực tiếp hướng dẫn, chỉ bảo tận tình giúp đỡ để

em có thể hoàn thành khóa luận này

Do thời gian, năng lực và điều kiện bản thân còn hạn chế nên bản khóaluận không thể tránh khỏi những sai sót Vì vậy, em rất mong nhận đượcnhững ý kiến góp ý quý báu của các thầy cô và các bạn

Hà Nội, tháng 5 năm 2017

Sinh viên

Bùi Thị Quỳnh Lưu

i

Khóa luận tốt nghiệp "Điều kiện tối ưu cần và đủ với hàm nhân

tử Lagrange" được hoàn thành do sự cố gắng, nỗ lực tìm hiểu, nghiêncứu của bản thân cùng với sự giúp đỡ hướng dẫn tận tình của thầy BùiNgọc Mười

Tôi xin cam đoan khóa luận tốt nghiệp này không trùng lặp với kết quảcủa các tác giả khác

Hà Nội, tháng 5, năm 2017

Sinh viên

Bùi Thị Quỳnh Lưu

ii

Lời nói đầu 1

1.1 Không gian tiếp xúc 6

1.2 Điều kiện cần bậc nhất 9

1.3 Điều kiện tối ưu bậc hai 12

1.3.1 Điều kiện cần bậc hai 12

1.3.2 Điều kiện đủ bậc hai 14

1.4 Một số ví dụ 16

2 BÀI TOÁN TỐI ƯU VỚI RÀNG BUỘC TỔNG QUÁT 19 2.1 Điều kiện cần của cực tiểu 19

2.2 Điều kiện đủ của cực tiểu 38

iii

Bài toán tối ưu có ràng buộc là quá trình tối ưu hóa hàm mục tiêuvới các ẩn thỏa mãn một số điều kiện cho trước Hàm mục tiêu là hàmgiá cả hoặc hàm năng lượng là những hàm cần giảm thiểu, hay là hàmphần thưởng hoặc hàm tiện ích là những hàm cần tối đa hóa.

Xem xét một bài toán quy hoạch không tuyến tính hữu hạn chiều códạng:

minimize f (x)điều kiện là g(x) ≤ 0, h(x) = 0, x ∈ X0,

(1)

trong đó X0 là tập con của Rn, g và h là hàm giá trị vector, g =(g1, , gm) và h = (h1, hr) Khi đó, f là một hàm mục tiêu Nhữngràng buộc g(x) ≤ 0 và h(x) = 0 được gọi là những ràng buộc hàm số,trong đó ràng buộc x ∈ X0 là một ràng buộc hình học Ta nói gi(x) ≤ 0;

i = 1, , m là ràng buộc bất đẳng thức, hj(x) j = 1, , r là rằng buộcđẳng thức Một điểm x ∈ X0 đáp ứng đầy đủ những ràng buộc trên đượccho là chấp nhận được Ta gọi C là tập điểm chấp nhận được của (1).Phương pháp nhân tử của hàm Largrange là một cách tìm kiếm cựcđại địa phương và cực tiểu địa phương của một hàm số với ràng buộcđẳng thức và ràng buộc bất đẳng thức trong bài toán tối ưu Xem xét(1) trong trường hợp tại đó X0 = Rn và định nghĩa hàm Largrange

1

của L(x∗, λ∗, µ∗) tại x Chủ yếu dựa vào công trình nghiên cứu [4], khóaluận tốt nghiệp này nhằm mục đích nghiên cứu điều kiện tối ưu bậcnhất và bậc hai, cả điều kiện cần và điều kiện đủ mà sẽ sử dụng nhân

tử Largrange Chúng ta tập trung vào các bài toán quy hoạch toán họckhả vi liên tuc Khóa luận này gồm có hai chương

Chương 1: "Bài toán tối ưu với những ràng buộc đẳng thức"

Chỉ tập trung vào ràng buộc đẳng thức, cung cấp điều kiện tối ưu bậcnhất và bậc hai cho bài toán cổ điển và một vài ví dụ minh họa

Chương 2: "Bài toán tối ưu với ràng buộc tổng quát"

Nghiên cứu điều kiện tối ưu bậc nhất và bậc hai cho bài toán có cả ràngbuộc đẳng thức và ràng buộc bất đẳng thức

Bảng kí hiệu

A := B A được xác định là B

Rn Không gian Ơclit thực n- chiều

< x, y > Phép nhân vô hướng của véc tơ, x, y ∈ Rn

x = (x1, x2, xn) Một vectơ x với các thành phần x1, x2, xn

∇f (x) hoặc f0(x) Gradien hoặc đạo hàm Fre’chet của hàm

vô hướng f tại x

∇2f (x) hoặc f00(x) Đạo hàm bậc hai của hàm số

∇g(x) hoặc g’(x) Ma trận Jacobi của đạo hàm Fre’chet của một

hàm vectơ g tại x

∇xL(x, λ) Đạo hàm của L(x, λ) đối với x

∇2

xxL(x, λ) Đạo hàm cấp hai của L(x, λ) đối với x

C1 Lớp hàm thực khả vi liên tục trên không gian

BÀI TOÁN TỐI ƯU VỚI NHỮNG RÀNG BUỘC ĐẲNG THỨC

Chương này sẽ chia làm bốn phần Phần đầu tiên là nhắc lại một sốđịnh nghĩa, hệ thống kí hiệu và định lý Lyusternik’s về không gian tiếpxúc trong hình học Phần thứ hai giải thích về điều kiên cần tối ưu bậcnhất Phần ba sẽ nghiên cứu về điều kiện tối ưu bậc hai Một vài ví dụminh họa sẽ được đưa ra ở phần thứ tư

1.1 Không gian tiếp xúc

Các định nghĩa

Cho hi: Rn → R (i = 1, r) là các hàm khả vi liên tục Đểngắn gọn, chúng ta nói rằng hi là các hàm C1 Các lớp hàm khả vi liêntục sẽ được kí hiệu là C1

Xét hệ các phương trình:

h1(x) = 0, hr(x) = 0, (1.1)hay còn được viết là h(x) = 0 với h(x) := (h1(x), , hr(x)) là một hàmvector Cho Q là viết tắt tập nghiệm của (1.1) Quan sát thấy rằng dưới

6

một điều kiện quy tắc thích hợp thì Q trơn trên Rn.

Kết hợp với một điểm trên bề mặt trơn là một không gian tiếp xúctại điểm đó Để hợp thức hóa các khái niệm chung, chúng ta bắt đầuđịnh nghĩa đường cong trên bề mặt S

Một đường cong trên bề mặt S là tập hợp các điểm x(t) ∈ S liên tụcvới tham số t sao cho a ≤ t ≤ b Đường cong là khả vi nếu ˙x ≡ d(t)d x(t)tồn tại và là khả vi hai lần nếu đạo hàm bậc hai ¨x(t) tồn tại

Một đường cong x(t) a ≤ t ≤ b được nói rằng đi qua điểm x∗ nếu

x∗ = x(t∗) với một vài t∗ Đạo hàm ˙x(t) của đường cong tại x∗ được địnhnghĩa là:

Định nghĩa 1.1.1 Một điểm x∗ thỏa mãn ràng buộc h(x∗) = 0 được gọi

là điểm chính quy của ràng buộc nếu các vector gradien ∇h1x∗, , ∇hrx∗độc lập tuyến tính

Chú ý rằng nếu h là affin, h(x) = A(x) + B, điều kiện chính quy làtương đương với A có hạng bằng r, và điều kiện này không phụ thuộcvào x

Định lí 1.1.1 (Định lý Lyusternik, xem [2, p.235]) Tại một điểm chínhquy x∗ của bề mặt S được xác định bởi h(x) = 0, không gian tiếp xúcbằng:

M = {S ∈ Rn|h∇h(x∗), si = 0}

Chứng minh Cho Ts(x∗) là không gian tiếp xúc đến S tại x∗ Rõ ràng là

Ts(x∗) ⊂ M vậy liệu x∗ có phải là cung chính quy hay không Thật vậycho mỗi S ∈ Ts(x∗) , theo định nghĩa có tồn tại một đường cong trên

S được cho bởi x(t) = x∗ + ts + o(t) với t ∈ R đủ nhỏ, theo khai tiểnTaylor ta có:

0 = h(x(t)) = h(x∗) + ts + o(t))

= (x∗) + th∇h(x∗), si + o(t)

= 0 + th∇h(x(∗)), si + o(t)

Điều này nghĩa là h∇h(x∗), si = 0 vì thế s ∈ M

Để chứng minh rằng S ⊂ M thì ta cần chỉ ra đó là một đường congtrên S đi qua x∗ với đạo hàm S Để xây dựng một đường cong như vậychúng ta xét phương trình:

h(x∗ + ts + ∇h(x∗)Tu(t)) = 0, (1.2)tại đó với t nhất định, chúng ta giải thích u(t) ∈ Rm là một đại lượngchưa biết Đó là một hệ phi tuyến của m phương trình và m chưa biết,tham số m liên tục theo t

Tại t = 0 là một nghiệm của u(0) = 0 Ma trận Jacobi của hệ đối với utại t = 0 là một ma trận m × n

∇h(x∗)∇h(x∗)T

là không suy biến bởi vì h(x∗) là có hạng tối đại nếu x∗ là một điểmchính quy Như vậy dựa vào định lý hàm ẩn, (xem [6, p.223]) đó là hàm

chính quy khả vi liên tục u(t) trong một khoảng −a ≤ t ≤ a Đườngcong x(t) = x∗+ ts + ∇(hx∗)Tu(t) được xây dựng như là một đường congtrên S Bằng cách vi phân hệ (1.1.2) đối với t tại t = 0 chúng ta có được

0 = ∂

∂th(x(t))|t=0 = h∇h(x

∗), si + ∇h(x∗)∇h(x∗)Tu(0)

Theo định nghĩa của s chúng ta có h∇h(x∗), si = 0 tiếp theo, lại vì

∇h(x∗)∇h(x∗) là không suy biến chúng ta kết luận rằng ˙u(0) = 0 Vìthế:

˙u(0) = s + ∇h(x∗)T ˙u(0) = s,

và đường cong đã xây dựng có đạo hàm s tại x

Để hiểu chi tiết về không gian tiếp xúc, chúng ta tham khảo [2]

Nguồn gốc của điều kiện cần và đủ để một điểm là cực tiểu địa phươngphụ thuộc vào ràng buộc đẳng thức là khá đơn giản, bởi vì sự biểu diễncủa không gian tiếp xúc là đã biết Chúng ta bắt đầu bằng việc phátsinh điều kiện cần bậc nhất

Bổ đề 1.2.1 Cho x∗ là một điểm chính quy của hệ ràng buộc h(x) = 0

và một điểm cực trị địa phương (một cực đại hoặc cực tiểu) của f phụthuộc vào những ràng buộc đó Thì mọi s ∈ Rn đáp ứng

h∇h(x∗), si = 0cũng phải thỏa mãn hf (x∗), si = 0

Chứng minh Cho s là một vector bất kì trong không gian tiếp xúc với

S tại x và cho x(t) là một đường cong trơn bất kì trên bề mặt ràng buộc

đi qua x∗ với đạo hàm s tại x∗; đó là : x(0) = x∗, ˙x(0) = s và h(x(t)) = 0cho −a ≤ 0 ≤ a với một vài a > 0

Vì x∗ là một điểm chính quy, mặt phẳng tiếp xúc tương đương với mộttập của s thỏa mãn h∇h(x∗), si = 0 Tiếp đó, vì x∗ là một điểm ràngbuộc cực trị địa phương của s

Chúng ta có:

∂

∂tf (x(t))|t=0 = 0,hay tương đương với h∇f (x∗), si = 0

Chứng minh của bổ đề đã hoàn thành

Bổ đề trên cho rằng ∇f (x∗) trực giao với mặt phẳng tiếp xúc Tiếptheo chúng ta sẽ thấy rằng điều này ngụ ý rằng ∇f (x∗) là một tổ hợptuyến tính của các gradien ∇hi(x∗), i = 1, m một quan hệ dẫn đến sựgiới thiệu về nhân tử Largrange

Chứng minh của định lý tiếp theo sẽ được đưa ra trong phần tiếptheo

Định lí 1.2.1 (Điều kiện cần tối ưu bậc nhất); xem [4, Theorem1,p.224] Cho x∗ là một điểm cực tiểu trong bài toán (P), và cho cáchàm số f (x), hi(x) là hàm khả vi liên tục trong lân cận x∗ Khi đó chúng

ta có thể nhận thấy rằng tồn tại λ∗0, λ∗1, , λ∗r không đồng thời bằng không

vì x∗ là một điểm chính quy, λ∗0 6= 0 (Nếu không thì

r

X

i=1

λ∗i∇hi(x∗) = 0,không phải tất cả λ∗1, , λ∗r đồng thời bằng không ,mâu thuẫn với sự độclập tuyến tính của gradients ∇hi(x∗) Chia phương trình đầu của (1.1)cho λ∗0, chúng ta có được quan hệ đầu tiên trong (1.2)

Chú ý 1.2.1 Nếu Định lý 1.2.2 được chứng minh, thì định lý 1.2.1 cũng

có thể dễ dàng chứng minh Thật vậy nếu x∗ là một điểm cực tiểu của(P) nếu gradient ∇hi(x∗), i = 1, r, là độc lập tuyến tính, thì bằng Định

lý 1.2.2 chúng ta có thể tìm λ∗1, , λ∗r sao cho 1.2 được thỏa mãn Do đóvới λ∗0 = 1 phương trình 1.1 được thỏa mãn Bây giờ, giả sử rằng gradien

∇hi(x∗); i = 1, r là độc lập tuyến tính Khi đó tồn tại λ∗1, , λ∗r khôngđồng thời bằng không sao cho

mãn nếu chúng ta lựa chọn λ∗0 = 0.

Các nhân tử λ∗1, , λ∗r được gọi là các nhân tử Largrange Thực tế lànhìn chung các nhân tử largrange chỉ được quy định bởi những điều kiênchính quy có thể dễ dàng nhìn ra từ những ví dụ đơn giản

Ví dụ 1.2.1 Cho f (x) = x2, h1(x) = (x1 − 1)2 + x22 − 1, h2(x) =(x1+ 1)2 + x22 − 1 Thì Q = (0, 0), thật vậy x∗ = (0, 0) là điểm cực tiểu.Chú ý rằng các gradien ∇h1(0, 0) = (−2, 0) và ∇h2(0, 0) = (2, 0) là độclập tuyến tính, vì vậy x∗ là một điểm cực tiểu chính quy của (P) Có thể

dễ dàng thấy rằng không tồn tại λ∗1, λ∗2 thỏa mãn (1.2)

∇xL(x∗, λ∗) = 0, ∇λL(x∗, λ∗) = 0,

trong đó ∇xL, ∇λL là kí hiệu đạo hàm với các biến tương ứng Biểu thứctrên tiện lợi do tính đối xứng của nó với biến x và λ Chúng ta gọi x và

λ lần lượt là biến ban đầu và biến đối ngẫu của (P)

1.3 Điều kiện tối ưu bậc hai

1.3.1 Điều kiện cần bậc hai

Điều kiện cần tối ưu bậc hai cho phép chúng ta loại trừ một số điểmthỏa mãn điều cần tối ưu bậc nhất trong Định lý 1.2.2 từ những ứngviên cho cực tiểu địa phương

Định lí 1.3.1 Cho x∗ là một điểm cực tiểu chính quy trong bài toán P,cho f (x) và hi(x) là các hàm khả vi liên tục đến cấp hai trong lân cậncủa x∗, và cho λ∗, i = 1, r, là nhân tử Lagrange tương ứng với x∗ Thì

∇λL(x∗, λ∗) = 0 bằng cách chọn λ∗ chúng ta có

f (x∗) ≤ f (x(τ )),

= L(x(τ ), λ∗)

= L(x∗, λ∗) + h∇xL(x∗λ∗, x(τ ) − x∗i)+ h∇2xxL(x∗, λ∗(x(τ ) − x∗, x(τ ) − x∗)i/2 + o(τ2)

= f (x∗) + (τ2/2)h∇2xxL(x∗, λ∗)s, si + o(τ2),

vì vậy với τ đủ nhỏ Kết quả ∇2xxL(x∗, λ∗)s, si ≥ 0 Như vậy chúng tachứng minh rằng (1.3.1) có giá trị cho tất cả s với tính chất (1.3.2)

1.3.2 Điều kiện đủ bậc hai

Điều kiện đủ bậc hai tiếp theo đảm bảo rằng một điểm thỏa mãndạng củng cố của điều kiện đưa ra trong Định lý 1.3.1 là một cực tiểuđịa phương

Định lí 1.3.2 Cho hi(x∗) = 0, i = 1, , r, cho các hàm số f (x)

và hi(x) là khả vi liên tục đến cấp hai trong lân cận của x∗, và cho

∇hi(x∗), i = 1, , r là độc lập tuyến tính Hơn nữa, cho điều kiện cầncủa cực tiểu: ∇xL(x∗, λ∗) = 0, ∇λL(x∗, λ∗) = 0 được thỏa mãn và

h∇2xxL(x∗, λ∗)s, si > 0với tất cả s 6= 0 sao cho hhi(x∗, λ∗), si = 0, i = 1, , r Khi đó x∗ là cựctiểu địa phương trong bài toán (P) Nói cách khác nếu x∗ thỏa mãn điềukiện cần tối ưu bậc nhất và ma trận ∇2xxL(x∗, λ∗) là ma trận xác địnhdương trong mặt phẳng tiếp xúc S, thì x∗ là điểm cực tiểu

Chứng minh Chúng ta lập luận bằng phản chứng Giả sử rằng x∗ khôngphải một cực tiểu địa phương Thì khi đó tồn tại dãy yk của điểm chấpnhận được sao cho yk → x∗ và f (yk) ≥ f (x∗) Nhưng

sk = y

k− x∗

kyk− x∗k.Bởi vì kskk = 1 với mỗi k, không mất tính tổng quát ta giả sử rằnglim

k→∞sk = s tại đó s ∈ Rn và ksk = 1 Theo khai triển Taylor ta có

hi(yk) = hi(x∗) + h∇hi(x∗), yk − x∗i + o(kyk − x∗k)

Vì hi(yk) = hi(x∗) = 0 với i = 1, , r, chia cả hai vế của phương trìnhcuối cho kyk − x∗k và cho k → ∞, ta có

hhi(x∗), si = 0, i = 1, , r

Theo giả định của chúng ta

0 ≥ 1

2h∇2xxL(x∗, λ∗)(yk − x∗), yk − x∗i + o(kyk − xkk2) (1.11)Chia cả hai vế của (1.11) cho kyk − x∗k2 chúng ta có quan hệ lớn hơnđối với k

0 ≥ 1

2h∇2xxL(x∗, λ∗)sk, ski + (ky

k − x∗k2)

kyk − x∗k2 Cho k → ∞, theo bất đẳng thức cuối cùng chúng ta có thể suy luậnrằng

h∇2xxL(x∗, λ∗)s, si ≤ 0điều này mâu thuẫn vói giả thiết của định lý Chứng minh được hoànthành

1.4 Một số ví dụ

Bây giờ chúng ta sẽ trình bày một số ví dụ minh họa

Ví dụ 1.4.1 Xem xét bài toán

Ví dụ 1.4.2 Xem xét bài toán

Vì điều kiện chính quy là chắc chắn được thỏa mãn tại mọi điểm chấpnhận được ,điều kiện cần tối ưu trong định lý 1.2.2 cho chúng ta hệ

2 0 00

√ n

2 0

0 0

√ n 2









Dễ dàng thấy rằng ma trận ∂2L(x∂x∗2,λ∗) là ma trận xác định dương vậyvới mỗi s ∈ S\{0}h∇2xxL(x∗, λ)s, si > 0 Vì thế x∗ là điểm cực tiểu địaphương theo Định lý 1.2.2

Ví dụ 1.4.3 Xét bài toán

minimize x1 + x2 + x23Điều kiện là x1 = 1,

x21 + x22 = 1

Dễ dàng để kiểm tra rằng điểm cực tiểu duy nhất là x∗ = (x∗1, x∗2, x∗3) =(1, 0, 0) Hàm Lagrange tương ứng là

L(x, λ) = x1 + x2 + x23 + λ1(1 − x1) + λ2(1 − x21 + x22)

Quan sát thấy rằng

∂L

∂x2 2

(x∗, λ1, λ2) = 1 với mọiλ1, λ2

Vậy thì ∂x∂L2 không bị triệt tiêu tại điểm tối ưu Để giải thích điềunày ta có: Cho h1(x) = x1 − 1, h2(x) = x21 + x22 − 1, chúng ta có

∇h1(x∗) = (1, 0, 0), ∇h2(x∗) = (2, 0, 0) Những gradient đó là độclập tuyến tính Tuy nhiên x∗ = (1, 0, 0) vẫn là một điểm cực tiểu Nhưvậy chúng ta đã được thấy một vài điều kiện cần tối ưu trong Định lý1.2.4 không được thỏa mãn tại điểm cực tiểu

BÀI TOÁN TỐI ƯU VỚI RÀNG BUỘC TỔNG QUÁT

Trong chương này chúng ta sẽ xem xét các bài toán tổng quát củaquy hoạch không tuyến tính

Cho f, gi, i = 1 , m; hj, j = 1, , r là các hàm thực khả vi liên tụcxác định trên Rn Bây giờ chúng ta sẽ xem xét bài toán

2.1 Điều kiện cần của cực tiểu

Cho C := {x ∈ Rn|gi(x) ≤ 0, i = 1, , m, hj(x) = 0, j = 1, , r} làmột tập ràng buộc (một tập chấp nhận được) và Q := {x ∈ Rn|hj(x) =

0, j = 1, , r} Với bất kì điểm x0 chấp nhận được chúng ta giới thiệu

19

tập các chỉ số hoạt với ràng buộc bất đẳng thức là:

I∗(x0) := {i|gi(x0) = 0, i = 1, , m}

và tập hợp chỉ số không hoạt I(x0) := {1, m}\I∗(x0)

Bằng việc chúng ta xem bất kì ràng buộc đẳng thức hi(x) = 0 như

là hoạt tại điểm chấp nhận được bất kì Ràng buộc hoạt tại một điểmchấp nhận được x hạn chế một miền chấp nhận được trong lân cận của

x, mặt khác hạn chế không hoạt không có ảnh hưởng gì trong lân cậncủa x Vì thế trong khi nghiên cứu về tính chất của điểm cực tiểu địaphương chúng ta có thể chỉ tập trung chú ý vào ràng buộc hoạt

Định lí 2.1.1 (Điều kiện cần tối ưu bậc nhất, Karush-Jonhs); xem [4,Theorem 1,p.271]) Cho x∗ là một điểm cực tiểu địa phương trong P(1).Khi đó chúng ta có thể tìm λ∗0, λ∗i, i ∈ I∗(x∗), µ∗j, j = 1, , r sao cho(i) λ∗0∇f (x∗) +

Chứng minh Đầu tiên chúng ta sẽ xét trường hợp khi {∇hj(x∗)|j =

1, , r} là độc lập tuyến tính, khi đó sẽ tồn tại µ∗1, , µ∗r không đồng thờibằng 0 sao choPr

j=1λ∗i∇hj(x∗) = 0 Bây giờ đặt λ∗0 = λ∗i = 0, i ∈ I∗(x∗),

ta có (i) và (ii) Thứ hai nếu {∇hj(x∗)|j = 1, , r} là độc lập tuyến tính.Bằng định lý 1.2, một vector s ∈ TQ(x∗) (hình nón tiếp xúc của Q tại x∗)nếu và chỉ nếu h∇hj(x∗), si = 0, j = 1, , r Tiếp theo chúng ta đi xâydựng hai tập trong Rm+r+1 và kí hiệu các thành phần của z ∈ Rm+r+1

là z0, z1, , zm+r:

A := { z ∈ Rm+r+1|z0 = h∇gi(x∗), si, i ∈ I∗(x∗),

zm+r = ∇hj(x∗), si, j = 1, , r, s ∈ Rn},

B := { z ∈ Rm+r+1|z0 < 0, zi < 0, i ∈ I∗(x∗), zj = 0, j = m + 1, , m + r}

(2.2)Chúng ta sẽ chỉ ra rằng A ∩ B = ∅ Thật vậy nếu tồn tại z ∈ A ∩ B thì

sẽ tồn tại s ∈ Rn thỏa mãn

h∇f (x∗), si < 0,h∇gi(x∗), si < 0, i ∈ I∗(x∗),h∇hj(x∗), si = 0, j = 1, , r

(2.3)

Vì s ∈ TQ(x∗), nên tồn tại τ sao cho với mỗi τ ∈ (0, τ ), ta có x(τ ) ∈ Qvới

x(τ ) = x∗ + τ s + o(τ ) (2.4)Thật vậy, chúng ta có hj(x(τ )) = 0, j = 1, , r, theo khai triển Taylor

0 vì gi liên tục nên ta có thể chọn τ2 dương đủ nhỏ để với mỗi τ ∈ (0, τ2)

ta có gi(x(τ )) < 0 Từ những lập luận ở trên, đặt ˜τ := min{¯τ , τ1, τ2} ta

có được x(τ ) ∈ C với mọi τ ∈ (0, ˜τ ) Bằng khai triển Taylor ta có

f (x(τ )) = f (x∗) + τ h∇f (x∗), si + o(τ )

Vì h∇f (x∗), si < 0 ta có f (x(τ )) < f (x∗) với τ ∈ (0, ˜τ ) đủ nhỏ Mâuthuẫn này đưa đến thực tế là x∗ là một điểm cực tiểu địa phương Vì