2 Phương pháp chiếu đạo hàm giải bài toán tối ưu lồi và áp dụng
2.2.1 Toán tử chiếu lên tập lồi trong không gian Hilbert
Định nghĩa 2.7. Cho D 6= ∅(không nhất thiết lồi) và một điểmy ∈ H, đặt dD(x) := infx∈Dkx−yk.
Ta nóidD(y)là khoảng cách từy tớiD.Nếu tồn tạix0 ∈ D sao chodD(y) =
x0 −y thì ta nói x0 là hình chiếu của y trên D. Kí hiệu là: PD(y) hoặc đơn giản làP(y)nếu không cần nhấn mạnh đến tập chiếuD.
Chú ý:Nếu D 6= ∅thìdD(y) hữu hạn, vì
0≤ dD(y) ≤ ky −xk, ∀x ∈ D.
Mệnh đề 2.1. ChoD là một tập lồi đóng khác rỗng. Khi đó: i) Với mọiy ∈ H, x0 ∈ D hai tính chất sau là tương đương: a)x0 = PD(y).
b)y −x0 = ND(x0),
trong đó, tập hợp
ND(x0) := w/wT(x−x0) ≤ 0 ∀x ∈ D
là nón pháp tuyến (ngoài) của D tạix0
ii) Với mọiy ∈ H, hình chiếu của y trên D luôn tồn tại và duy nhất.
iii) Nếu y /∈ D thì hPD(y)−y, x−PD(y)i = 0là siêu phẳng tựa của D tại
PD(y) và tách hẳn y khỏi D, tức là:
hPD(y)−y, x−PD(y)i ≥ 0, ∀x ∈ D
và
iv) Ánh xạ y →PD(y) có các tính chất sau:
a)kPD(x)−PD(y)k ≤ kx−yk; ∀x, ∀y. (tính không giãn)
b)hPD(x)−PD(y), x−yi ≥ kPD(x)−PD(y)k2.(tính đồng bức)
Chứng minh. i) Giả sử có a). Lấyx ∈ D vàλ ∈ (0,1). Đặt xλ := λx+ (1−λ)x0.
Do x, x0 ∈ D vàD lồi nên xλ ∈ D. Hơn nữa dox0 là hình chiếu củay nên
x0 −y ≤ ky −xλk. Hay x0 −y 2 ≤λ(x−x0) + (x0 −y) 2 . Khai triển vế phải, ước lượng và chia hai vế cho λ >0ta có:
λx−x0
2
+ 2(x−x0, x0 −y) ≥ 0.
Điều này đúng với mọix ∈ D vàλ ∈ (0,1). Do đó khi cho λtiến đến 0, ta được
x0 −y, x−x0 ≥ 0, ∀x ∈ D.
Vậy y −x0 ∈ ND(x0).
Bây giờ giả sử có b). Với mọi x ∈ D có:
0 ≥(y −x0)T(x−x0) = (y −x0)T(x−y +y −x0) = y −x0 2 + (y −x0)T(x−y). Từ đây và b), dùng bất đẳng thức Cauchy-Schwarz ta có: y−x0 2 ≤ (y −x0)T(y−x) ≤ y −x0ky−xk.
Suy ra
y −x0 ≤ ky −xk,∀x ∈ D. và do đóx0 = p(y).
ii) Do dD(y) = infx∈Dkx−yk nên theo định nghĩa của cận dưới đúng (in- fimum), tồn tại một dãyxk ∈ D sao cho
lim k xk −y = dD(y) < +∞. Vậy dãy xk bị chặn, do đó nó có một dãy con xkj hội tụ đến một điểm x0 nào đó. Do D đóng nên x0 ∈ D. Vậy x0 −y = lim j xkj −y= lim k xk−y = dD(y). Chứng tỏx0 là hình chiếu củay trên D.
Bây giờ ta chỉ ra tính duy nhất của hình chiếu. Thật vậy, nếu tồn tại 2 điểm x0 vàx1 đều là hình chiếu củay trên D, thì
y −x0 ∈ ND(x0), y −x1 ∈ ND(x1). Tức là x0 −y, x1 −x0 ≥0 và x1 −y, x0 −x1 ≥0. Cộng hai bất đẳng thức này ta suy ra
x0 −x1 ≤ 0
và do đó
iii) Doy −x0 ∈ ND(x0)nên x0 −y, x−x0 ≥ 0, ∀x ∈ D. Vậy x0 −y, x = x0 −y, x0
là một siêu phẳng tựa củaD tạix0.Siêu phẳng này táchy khỏiD vìy 6= x0 nên
x0 −y, y−x0 = −x0 −y
2
< 0. iv) Theo phần ii) ánh xạ x →P(x)xác định khắp nơi.
Do z−P(z) ∈ ND(P(z)) với mọiz nên áp dụng vớiz = x vàz = y ta có: hx−P(x), P(y)−P(x)i ≤ 0
và
hy −P(y), P(x)−P(y)i ≤ 0. Cộng hai bất đẳng thức lại sẽ được
hP(y)−P(x), P(y)−P(x) +x−yi ≤ 0.
Từ đây và theo bất đẳng thức Cauchy – Schwarz, suy ra: kP(x)−P(y)k ≤ kx−yk.
Để chứng minh tính đồng bức, áp dụng tính chất b) của i) lần lượt với P(x)
vàP(y) ta có: hP(x)−x, P(x)−P(y)i ≤ 0 hy −p(y), P(x)−P(y)i ≤ 0. Cộng hai bất đẳng thức ta được: hP(x)−P(y) +y −x, P(x)−P(y)i = hP(x)−P(y), y−xi+kP(x)−P(y)k2 ≤0.
Chuyển vế ta có:
hP(x)−P(y), x−yi ≥ kP(x)−P(y)k2.
Đây chính là tính đồng bức cần được chứng minh.
Định lí 2.6. Giả sửM là một không gian con đóng của không gian Hilbert
H. Khi đó mỗi phần tử x ∈ H được biểu diễn một cách duy nhấtx = y +z
trong đó y ∈ M với y là phần tử của M gần x nhất (tức là: kx−yk ≤ kx−uk ∀u ∈ M) và z ∈ M⊥ (vớiM⊥ = {x ∈ H; x⊥M}: gọi là phần bù trực giao của M) được gọi là hình chiếu trực giao của xlên M.
Chứng minh. Nếu x ∈ M thì ta đặt y = x, z = 0. Nếux /∈ M thìM là lồi đóng nên tồn tại duy nhất y ∈ M sao cho
kx−yk = d(x, M).
Đặt z = x−y, ta cóx = y+ z. Ta phải chứng minh
z ∈ M⊥. Thật vậy, với mọiα ∈ K, u ∈ M ta có:
kzk = kx−yk ≤ kx−(y +αu)k = kz−αuk. Chọn α = hz, ui; kuk= 1. Ta có 0 ≤ − |hz, ui|2. Suy ra hz, ui = 0, ∀u ∈ M, kuk= 1.
Vậy
z ∈ M⊥. Bây giờ ta chứng minh sự biểu diễn là duy nhất. Giả sử:x = y1 +z1, ∀y1 ∈ M, z1 ∈ M⊥.Khi đó
y −y1 = z1 −z nên y−y1 ∈ M vày −y1 ∈ M⊥. Ta suy ra hy −y1, y −y1i = 0. Vậy y = y1 ⇒ z = z1.
Từ tính duy nhất biểu diễn ta có thể viếtH = M ⊕M⊥.Định lý được chứng minh.
Định nghĩa 2.8. Giả sử M là một không gian con đóng của không gian Hilbert H. Xét toán tử:P : H → H. P được định nghĩa bằng cách với mọi x ∈ H, ta lấy P x = y, trong đóx = y +z (y ∈ M, z ∈ M⊥). Ta gọiP là phép chiếu trực giao hay toán tử chiếu từ không gian H lên không gian con đóngM.
Nhận xét 2.4. - Ký hiệu I là toán tử đồng nhất trênH ta có z = x−y = x−P x = (I −P)x
nên I −P là toán tử chiếu từ không gianH lên không gian con đóngM⊥. - Với mọi x ∈ H ta có kxk2 = kyk2 + kzk2, do y⊥z. Như vậy kP xk =
kyk ≤ kxk nghĩa làP liên tục và kPk ≤ 1.Nếu M 6= {0}ta lấyy ∈ M thì kP yk = kyknên kPk ≥ 1, tức là kPk = 1.
Mệnh đề 2.2. Toán tử chiếu P từ không gian HilbertH lên không gian con đóngM là tự liên hợp và thỏa mãn đẳng thứcP2 = P.
Chứng minh. Hiển nhiênP2 = P từ định nghĩa. Với mọix1, x2 ∈ H ta viết x1 = y1 +z1, x2 = y2 +z2,trong đó y1, y2 ∈ M, z1, z2 ∈ H⊥.
Như vậy
hP x1, x2i = hy1, y2 +z2i = hy1, y2i = hx2, P x1i.
Mệnh đề 2.3. Cho P : H → H là một toán tử liên hợp trong không gian Hilbert H thỏa mãn điều kiện P2 = P. Khi đó P là một toán tử chiếu. Chứng minh. Ký hiệu M = P(H). Ta chứng minh M là không gian con đóng của H. Giả sửM ∈ yn vàyn → y0 thì tồn tạixn ∈ H để P xn = yn. Do P liên tục và từ giả thiết, ta có
P yn = P2xn = P xn = yn → y0, P yn →P y0.
VậyP y0 = yhayy0 ∈ M.Bây giờ với mọix ∈ H ta viếtx = P x+(x−P x). Để ý rằng
∀y ∈ H, hP y, x−P xi = hy, P x−P xi = 0. Nghĩa làx−P x ∈ M⊥và H = M ⊕M⊥.
Định lý sau đây nói lên một số tính chất của toán tử chiếu.
Định lí 2.7. Cho P1, P2 là hai toán tử chiếu từ không gian Hilbert H lên không gian con đóng M1, M2.Các mệnh đề sau đây là tương đương
i) M1⊥M2.
ii) P1P2 = 0( hayP2P1 = 0). iii) P1 +P2 là một toán tử chiếu.
Chứng minh. i) ⇒ii). Lấy bất kỳx ∈ H thìpx1 ∈ M1. Do M1⊥M2 nên P1 +P2(P1x) = 0 (P2P1 = 0).
ii)⇒i). Lấyx1 ∈ M1, x2 ∈ M2 ta có x1 = P1x1, x2 = P2x2. Do hx1, x2i = hP1x1, P2x2i = hx1, P1P2x2i = 0,nên x1⊥x2. ii)⇒iii). Ta có
(P1 +P2)∗ = P1∗ +P2∗ = P1 + P2. Ngoài ra
(P1 +P2)2 = (P1 +P2) (P1 +P2) =P12 +P1P2 + P2P1 +P22 = P1 +P2
Như vậy, theo Mệnh đề 2.3 thìP1 +P2 là một toán tử chiếu. Ta kí hiệuM = M1 ⊕M2 và gọi P là toán tử chiếu từH lên M. Với mọi x ∈ H ta viết x = P x + (I −P)x.
Do P x = M nên P x = u + v trong đó u ∈ M1, v ∈ M2 như thế x = u+v + (I −P)x.
Vì M1⊥M2 nên v⊥M1,(I − P)x⊥M1, suy ra v + (I − P)⊥M1 như thế P1x = u.Tương tự P2x = v nên P x = P1x+P2x = (P1 +P2)x.
Vậy P = P1 + P2 hay P1 + P2 là toán tử chiếu của H lên không gian con M1 ⊕M2.
iii)⇒ii). NếuP1 + P2 là toán tử chiếu thì việc khai triển đẳng thức(P1 +P2)2 =
P1 +P2 ta có P1P2 +P2P1 = 0.
NhânP1 lần lượt vào bên trái và bên phải đẳng thức này thì được P1P2 + P1P2P1 = 0, P1P2P1 +P2P1 = 0.
Cộng hai đẳng thức này lại, vế theo vế ta được2P1P2P1 = 0. Suy raP1P2 = P2P1 = 0.