Nguyên lý nhân tử Lagrange trong bài toán tối ưu trơn

MỤC LỤC

Định lý Ljusternik, Định lý hàm ẩn

Tập tất cả các vectơ tiếp xúc với tậpMtạix0 là một hình nón đóng, được gọi là nón tiếp tuyến của M tại x0 và được kí hiệu là TM(x0). Trong nhiều trường hợp, TM(x0) là một không gian con và được gọi là không gian tiếp xúc với tậpM tạix0. Ý nghĩa thực tế của định lý Ljusternik là chuyển công việc tìm không gian tiếp xúc của một tập (điều mà không dễ dàng tìm được theo định nghĩa) về việc tìm hạch của một toán tử.

,xm và giả sử rằng các biến này có thể được biểu diễn thông qua các biến còn lại dưới dạng. Định lý hàm ẩn sẽ giúp ta chứng minh cách xác định không gian tiếp xúc của mặt ràng buộc sẽ được trình bày ở phần sau.

Điều kiện cần đủ cho bài toán tối ưu trơn

Phát biểu bài toán

Chú ý rằng, nếu f và h là các hàm tuyến tính, thì bài toán trên chính là bài toán quy hoạch tuyến tính. Giả sử ta đang ở một điểm trên đường cong, để điểm này nằm trên đường cong thì bất kì chuyển động nào cũng phải theo tiếp tuyếnT. Để tăng hoặc giảm f(x,y) thì chuyển động dọc theo đường cong phải có một thành phần dọc theo gradient của f.

Như vậy,T trực giao với cả gradient ∇f và ∇htại điểm cực trị, điều đó có nghĩa rằng ∇f và ∇h phải song song với nhau. Từ điểm này, chuyển động bắt đầu có một thành phần dọc theo hướng gradient ∇f, như vậy giá trị của f tăng lên. Hệ phương trình trên là hệ phi tuyến với các biến số x,y,λ và ta có thể giải quyết bằng nhiều phương pháp.

Phương pháp xây dựng hàm Lagrange và thiết lập để các gradient của nó bằng không, gọi là phương pháp nhân tử Lagrange. Giá trị cực đại đạt được tại hai điểm đầu tiên, trong khi giá trị cực tiểu đạt được ở hai điểm cuối.

Trường hợp hữu hạn chiều

Đường mức của hàm f là hy- perbolasxy=c, với |c| tăng khi đường cong di chuyển ra xa gốc tọa độ. • Không gian tiếp xúc tại điểmxcủa siêu diện Slà không gian con của Rn, tạo bởi tập các tiếp tuyến dxdt(t)của tất cả các đường congx(t) trên S thỏa mãnx=x(t). Định lý sau nêu lên mối quan hệ giữa gradient của hàm mục tiêu với vectơ nằm trên không gian tiếp xúc.

Theo định lý đối ngẫu của quy hoạch tuyến tính thì bài toán đối ngẫu là giải được. Điều kiện cần cấp một cùng với ràng buộc h(x) = 0, cho ta hệ gồm (m+n)phương trình với(m+n)ẩnxvàλ. Chúng ta xây dựng một khối hộp có thể tích lớn nhất từ bìa cứng, khi cho trước một diện tích bìa cố định.

Tuy nhiên, kết quả ta tìm được ở trong ví dụ (1.3) chỉ là điều kiện cần cấp một, có nghĩa rằng, ta chưa biết liệu tại điểm này khối hộp đã cho đạt thể tích lớn nhất hay nhỏ nhất. Giả sử rằngx là cực tiểu địa phương của hàm f thỏa mãn h(x) =0, và xlà một điểm chính quy của các ràng buộc này. Với mọi đường congx(t) khả vi cấp hai trên mặt ràng buộcS, và đi qua xthỏa mãn x(0) =x, thì ta có.

Chú ý rằng, khi sử dụng điều kiện cần ta chỉ xác định được điểm mà tại đó bài toán đạt cực trị. Do đó để xác định đó là cực đại hay cực tiểu ta cần tới điều kiện đủ cấp hai sau. Nếu x không phải là cực tiểu địa phương ngặt, thì tồn tại dãy các điểm chấp nhận được {yk} hội tụ tới xthỏa mãn f(yk) ≤ f(x), ∀k.

Chú ý rằng, với các giả thiết như trong định lý thì: khi ma trận HL(x) là xác định âm ta có x là cực đại địa phương ngặt của hàm f thỏa mãn h(x) =0. Bây giờ, ta cần sử dụng đến điều kiện đủ cấp hai để xác định xem bài toán đạt cực đại hay cực tiểu tạix. Nhớ rằng nếu chỉ dựa vào điều kiện cần cấp một thì ta chưa thể biết được giá trị hàm mục tiêu tại điểm.

Trường hợp tổng quát

Do F0(x) là toán tử tuyến tính liên tục từ không gian Banach X lên không gian BanachY, nên theo bổ đề(1.1) ta có. Điều này mâu thuẫn với điều kiện của các nhân tử Lagrange là không đồng thời bằng không. Chúng ta có hai trường hợp đặc biệt của bài toán(P1). 1) Trường hợp 1: Cho X,Y là các không gian hữu hạn chiều, khi đó bài toán có dạng.

Khi đó, nếu x là cực tiểu địa phương của bài toán (P5) thì tồn tại các số. ,λn không đồng thời bằng không sao cho. , fn0 độc lập tuyến tính. 2) Trường hợp thứ hai phát sinh khi ánh xạ F trong bài toán (P1) có thể phân tích thành một ánh xạ chính quy vào một không gian Banach và một ánh xạ vào Rn.

NGUYÊN LÝ NHÂN TỬ LAGRANGE CHO BÀI TOÁN TỐI ƯU LỒI

Một số kiến thức cơ bản của giải tích lồi

    Các tam giác, hình tròn trong mặt phẳng, hình cầu đơn vị trong không gian Banach là các tập lồi. Giả sửX là một không gian lồi địa phương,X∗ là không gian các phiếm hàm tuyến tính liên tục trên X. Tập tất cả các vectơ pháp tuyến của tập lồi A tại x∈A được gọi là nón pháp tuyếncủa Atại x.

    TậpM ⊂Rn là một không gian con khi và chỉ khiM là tập affine chứa không. Tập affine A được gọi là song song với tập affineM nếu tồn tạia∈ Rn sao cho. Mỗi tập affineA6= /0song song với một không gian con duy nhấtLđược xác định bởi.

    Giả sử X là không gian lồi địa phương, X∗ là không gian liên hợp của X, tức là không gian các phiếm hàm tuyến tính liên tục trên X. Tập M ⊂ X thỏa mãn: bất cứ đường thẳng nào đi qua hai điểm của M cũng nằm trọn trong M được gọi là mộtđa tạp tuyến tínhtrong X. Khái niệm đa tạp tuyến tính chính là khái niệm tập affine trong không gian hữu hạn chiều.

    Ta nói phiếm hàm tuyến tính liên tụcx∗ 6=0 tách A vàB, nếu tồn tại sốα sao cho. Trong giải tích lồi, dưới vi phân đóng vai trò giống với đạo hàm trong giải tích cổ điển. Nếu hàm f là khả vi Gateaux tại mọi điểm, thì ta có thể chứng minh được rằng: dưới vi phân của hàm f chỉ có một giá trị, và đó chính là đạo hàm Gateaux.

    Định Lý 2.3.(Moreau-Rockafellar). a) Cho các hàm f1 và f2 là những hàm lồi chính thường trên X. b) Nếu một trong các hàm này mà liên tục tại một điểm thuộc miền hữu hiệu của hàm kia thì ta có. b) Ta chứng minh rằng, nếu f1 liên tục tại x∈domf2 thì. Thật vậy,ε >0, tồn tại lân cận U mở củaxsao cho. Xét các tập sau. Mặt khác, ta cũng có tậpC2 là lồi. Không làm mất tính chất tổng quát, có thể xemβ =−1. Như vậyC1 và C2 tách được bởi siêu phẳng. Bằng phương pháp quy nạp,định lý Moreau-Rockafellarcó thể mở rộng với số lượng các hàm số bất kỳ. , fn là những hàm lồi chính thường trên X. Theo định nghĩa dưới vi phân ta có. b) Ta chứng minh theo quy nạp.

    Điều kiện cần đủ cho bài toán tối ưu lồi

      Giả sử f là một hàm lồi trên X, C là đa tạp tuyến tính song song với không gian conM trongX. Rừ ràngx là nghiệm của bài toỏn (P8) khi và chỉ khi hàmL(x) đạt cực tiểu tại x. Do tính liên tục của f, nên ta có thể áp dụng định lý Moreau-Rockafellar, và nhận được.

      Khi đó,xđạt cực tiểu của hàm f trênC khi và chỉ khi tồn tại các sốλi∈R, (i=1,. Giả sửX là không gian lồi địa phương,A⊂X là một tập lồi đóng không rỗng. Quan hệ(2.9)không có đặc trưng hàm, mặc dù nó có thể được viết dưới dạng hàm, ví dụ như trong dạng bất đẳng thức δ(x|A)≤0.

      Chúng ta xây dựng hàm Lagrange cho bài toán mà không bao gồm ràng buộc dạng (2.9), đó là. Tuy nhiên, chúng ta cũng có thể xét tới việc mở rộng hàm số Lagrange L(x,λ0,. Định lý Kuhn-Tucker dưới đây, sẽ đưa ra điều kiện cần và đủ cho điểm chấp nhận được là nghiệm của bài toán(P9).

      Định lý này có thể được phát biểu dưới hai dạng: dạng toàn cục(định lý 2.7) và dạng địa phươngthông qua dưới vi phân (định lý 2.8). , fm và tập A là lồi.xlà điểm chấp nhận được của bài toán(P9). ,m) không đồng thời bằng không sao cho. Hơn nữa, nếu điều kiện Slater sau đây được thỏa mãn:. a) Giả sửxlà nghiệm của(P9). Theo định lý tách thứ nhất, có thể tách các tậpC và{0}bởi một phiếm hàm tuyến tính khác không, tức là tồn tại các sốλ0,.

      Điều kiện bù cho thấy, các nhân tử Lagrange λi tương ứng với ràng buộc tích cực tại điểmx0, (tức là fi(x0)<0) thì bằng không. Nó có thể được coi là sự mở rộng tự nhiên của phương trình Euler-Lagrange (1.12) trong. Đây chính là trường hợp định lý Kuhn-Tucker hay được áp dụng trong thực tiễn.

      Đây là bài toán quy hoạch lồi, vì hàm mục tiêu và tập chấp nhận được là lồi.