Cho C là một tập con lồi, đóng, khác rỗng của E và A : C −→ E∗ là một toán tử đơn điệu nửa liên tục (nghĩa là với x ∈ C bất kì và tn → 0+ ta có
A(x+tny) * Ax với mọi y ∈ E sao cho x+tny ∈ C). Khi đó, điểm u ∈ C
được gọi là nghiệm của bất đẳng thức biến phân tương ứng với toán tử A, nếu hy−u, Aui ≥ 0 ∀y ∈ C.
Ta kí hiệu V I(C, A) là tập tất cả các nghiệm của bất đẳng thức biến phân ứng với A. Định nghĩa ánh xạ TA bởi TAx= Ax+N(x, C), khi x∈ C, ∅, khi x /∈ C.
Rockafellar [12] đã chỉ ra rằng TA là toán tử đơn điệu cực đại và TA−10 = V I(C, A).
Với y ∈ E bất kì và r >0, ta biết rằng bất đẳng thức biến phân V I(C, rA+ JE(x−y)) có một nghiệm duy nhất. Giả sử x=V I(C, rA+JE(x−y)), nghĩa là,
hz−x, rA(x) +JE(x−y)i ≥0 ∀z ∈ C.
Từ định nghĩa của N(x, C), ta có
−rAx−JE(x−y) ∈N(x, C) =rN(x, C),
điều này suy ra
JE(y−x)
r ∈Ax+N(x, C) =TAx.
Do đó, ta có x =Jry, trong đó Jr là toán tử giải mêtric của TA.
Bây giờ cho E, F là hai không gian Banach trơn và lồi đều và cho Ki, i = 1,2, . . . , N và Lj, j = 1,2, . . . , M là các tập con lồi, đóng của E và F, tương ứng. Cho Ai : Ki −→ E∗ và Bj : Lj −→ F∗ là các toán tử đơn điệu mà nửa liên tục. ChoT : E −→ F là toán tử tuyến tính bị chặn sao cho T 6= 0. Giả sử
S = N \ i=1 V I(Ki, Ai) \ T−1 M \ j=1 V I(Bj, Lj) 6 = ∅
Xét bài toán bất đẳng thức biến phân tách sau:
Tìm phần tử x∗ ∈S. (2.18)
Để giải bài toán (2.18), ta định nghĩa toán tử TAi và TBj như sau
TAix= Aix+N(x, Ki) khi x∈Ki, ∅, khi x /∈Ki, và TBjx= Bjx+N(x, Lj) khi x ∈Lj, ∅ khi x /∈Lj,
với mọii = 1,2, . . . , N và j = 1,2, . . . , M. Với r >0 bất kì, ta kí hiệu Jri và Qjr
là các toán tử giải mêtric của TAi và TBj, tương ứng.
Từ các lập luận trên, Bài toán (2.18) tương đương với bài toán không điểm chung tách cho các toán tử đơn điêu cực đại TAi và TBj. Vì vậy, từ Định lí 2.1, ta có kết quả sau:
Định lí 2.4. Cho C0 =E, x1 ∈E và cho {xn} là dãy được sinh bởi tj,n = V I(Lj, µnBj +JF(• −T xn)), j = 1,2, . . . , M,
zj,n = xn −rnJE−1T∗(JF(T xn −tj,n)), j = 1,2, . . . , M, Chọn jn sao cho kzjn,n −xnk= max
j=1,...,Mkzjn,n−xnk, đặt zn = zjn,n, Dn ={z ∈E :hxn−z, JE(xn −zn)i ≥rnkT xn −QjnµnT xnk2},
yi,n =V I(Ki, λnAi+JE(• −zn)), i = 1,2, . . . , N, Chọn in sao cho kyin,n −znk= max
i=1,...,Nkyi,n−znk, đặt yn = yin,n, Cn+1 = {z ∈ Cn : hyn −z, JE(zn −yn)i ≥0}\Dn,
xn+1 =PCn+1x0, (2.19)
trong đó {rn},{µn},{λn} thỏa mãn điều kiện (C1). Khii đó dãy {xn} hội tụ mạnh về x† ∈S, trong đó x† =PSx1.