Định nghĩa 1.6.1. (Hàm nửa liên tục dưới). Một hàm f : X → R được gọi là nửa liên tục dưới tại x0 nếu
lim x→x0
inff(x) ≥ f (x0).
Nói cách khác, với mọi α < f (x0) tồn tại lân cận gốc U sao cho
f(x) > α,∀x ∈ x0 +U,
f được gọi là nửa liên tục dưới nếu nó nửa liên tục dưới tại mọi x ∈ X.
Định nghĩa 1.6.2. Cho X là không gian Hilbert, dãy {xn} trên X được gọi là hội tụ yếu đến x0 ∈ X, kí hiệu xn ⇀ x0, nếu
⟨xn, y⟩ → ⟨x0, y⟩, ∀y ∈ X.
Với ⟨., .⟩ là tích trong trên X.
Định nghĩa 1.6.3. (Hàm nửa liên tục dưới yếu). Một hàm f : X → R
được gọi là nửa liên tục dưới yếu tại x0 nếu lim
x⇀x0
f được gọi là nửa liên tục dưới yếu nếu nó nửa liên tục dưới yếu tại mọi
x ∈ X.
Định nghĩa 1.6.4. Giả sử f là một hàm lồi, chính thường trên không gian Hilbert X và x0 ∈ dom f. Một phiếm hàm x∗ ∈ X∗ được gọi là dưới vi phân của f tại x0 nếu
f(x) ≥ f (x0) +⟨x−x0, x∗⟩,∀x ∈ X . Về mặt hình học, điều đó có nghĩa rằng hàm affine
φ(x) := f (x0) + ⟨x−x0, x∗⟩, x ∈ X .
Có đồ thị là một siêu phẳng tựa của epif tại điểm (x0, f (x0)). Tập hợp tất cả các dưới vi phân của f tại x0 được gọi là dưới vi phân của f tại điểm đó và được kí hiệu là ∂f (x0). Vậy
∂f (x0) = {x∗ ∈ X∗ | f(x)−f (x0) ≥ ⟨x−x0, x∗⟩,∀x ∈ X}.
Nếu ∂f(x0) là tập khác rỗng ta nói f khả dưới vi phân tại x0. Để thuận tiện ta cũng quy ước ∂f (x0) = ∅ nếu x0 ∈/ dom f. Dễ thấy ∂f (x0) là tập lồi đóng yếu* vì đó là giao của các nửa không gian đóng yếu*:
∂f (x0) = \ x∈X
{x∗ | ⟨x−x0, x∗⟩ ≤ f(x)−f (x0)}.
Ví dụ 1.6.5. 1) Cho hàm f(x) = ∥x∥, x ∈ X. Tại điểm x = 0, ta có:
∂f(0) = {x∗ | ⟨x∗, x⟩ ≤ ∥x∥}, ∀x ∈ X.
2) Nếu C là tập lồi và x0 ∈ C, thì
∂δC(x0) = {x∗ ∈ Xa∗ | ⟨x−x0, x∗⟩ ≤ 0,∀x ∈ C}= NC(x0).
CHƯƠNG2
BÀI TOÁN TỐI ƯU TRONG CHỈNH HÓA THƯA
2.1 Phát biểu bài toán
Cho một ma trận không âm V ∈ Rm×n tìm các ma trận nhân tử thưa không âm x ∈ Rm×h và u ∈ Rh×n sao cho
V ≈xu, (1)
với xu là tích của hai ma trận x ∈ Rm×h và u ∈ Rh×n.
(1) là một trường hợp đặc biệt của bài toán tổng quát hơn có dạng như sau:
Cho X, U và H là các không gian Hilbert và H1 = X ×U là không gian tích của X và U, tìm h ∈ H1 từ phương trình:
K(h) =V , (2)
Với K : H1 7−→H là một toán tử liên tục, phi tuyến và dữ liệu từ vế phải
V không được biết chính xác mà chúng ta chỉ có dữ liệu nhiễu Vδ với
∥V −Vδ∥ ≤ δ. (3)
Chú ý rằng nếu X = Rm×h, U = Rh×n và K(h) = xu với h = (x, u) thì bài toán (2) trở thành bài toán (1).
Dùng chỉnh hóa đa phạt, nghiệm của bài toán chỉnh hóa (2) và (3) được xem như là một nghiệm của bài toán cực tiểu hóa sau đây:
min
vớiFV : H1 7−→Rthể hiện một điều kiện tin cậy của dữ liệu,Φ1 : X 7−→ R và Φ2 : U 7−→ R là các hàm phạt, α và β là hai số thực dương (tham số chỉnh hóa).
Để cho gọn, ta đặt hàm chỉnh hóa Ψα,β : H1 →R với
Ψα,β(h) = αΦ1(x) +βΦ2(u), h = (x, u) ∈ H1. (5) Để xem xét tính đặt chỉnh và điều kiện tối ưu thứ nhất của bài toán (4), ta thêm những giả thiết sau đây vào các hàm F, Φ1 và Φ2 :
Giả thiết 2.1.1. (a) FV bị chặn dưới đều, không giảm tính tổng quát, ta giả thiết rằng FV(h) ≥ 0 với mọi h ∈ H1 và mọi V ∈ H. Ngoài ra, FV
là nửa liên tục dưới yếu, khả vi Fréchet, và FV′ là liên tục Lipschitz địa phương. Hơn nữa, nếu {hn} hội tụ yếu đến h sao cho {Θα,β,V (hn)} là đơn điệu giảm, thì tồn tại một dãy con {hnj} sao cho
FV′ (hnj) → FV′(h);
(b) FV(h), là một hàm trên H đối với V, liên tục đều với mọi h ∈ H1; (c) Φ1,Φ2 là chính thường, lồi, bị chặn dưới, nửa liên tục dưới yếu và coercive (nghĩa là Φ1(x) −→ ∞, và Φ2(u) −→ ∞, khi ∥x∥ −→ ∞, hay ∥u∥ −→ ∞ tương ứng). Không giảm tính tổng quát, ta giả định rằng Φ1(x) ≥0 với mọi x ∈ X và Φ2(u) ≥ 0 với mọi u ∈ U.
Nhận xét 2.1.2. từ những giả thiết bên trên ta có thể suy ra
1. Ψα,β(h) = αΦ1(x) + βΦ2(u) là chính thường, lồi, nửa liên tục dưới yếu, bị chặn dưới, và có tính coervice theo h = (x, u) với α > 0, β > 0.
2. Điều kiện (a) của giả thiết trên kết hợp với Ψα,β là coercive ta suy ra rằng FV + Ψα,β là coercive. Tức là FV(h) + Ψα,β(h) → ∞ khi ∥u∥ → ∞.
Chú ý rằng điều kiện (c) cho Φ1,Φ2, điều kiện (b) và tính bị chặn, tính liên tục dưới yếu của FV là cần thiết để đảm bảo tính đặt chỉnh của bài toán (4) .
FV khả vi Fréchet là cần thiết cho điều kiện tối ưu thứ nhất. Tính liên tục Lipschitz của FV′ được dùng để chắc chắn về sự tồn tại của stepsizes trong giải thuật mà ta sẽ đề cập ở chương sau. Cuối cùng, tính hội tụ tuyệt đối trong điều kiện (a) của FV′ được dùng để chứng minh sự hội tụ yếu của giải thuật.