Xét bài toán (P). Lấy x∈S là điểm chấp nhận được. Ta có các khái niệm sau:
Định nghĩa 2.2. Ta gọi v ∈Rn là véc tơ tiếp xúc với S tại x nếu tồn tại một dãy {xk} ⊂S và một dãy số dương {tk} hội tụ về 0 sao cho
v = lim k→∞
xk −x tk .
Định nghĩa 2.3. Tập hợp các véc tơ tiếp xúc vớiS tạix, được kí hiệu làT(S, x), gọi là nón tiếp xúc với S tại x. Vậy
T(S, x) = lim k→∞ xk−x tk ∃{xk} ⊂S; ∃{tk}:tk →0+ =nd∈Rn∃{dk} →d, ∃{tk} →0+ :x+tkdk ∈S,∀ko
Xét M(Rn,Rn) là không gian các ma trận vuông n×n. Xét f: Rn →Rn là hàm véc tơ liên tục, f = (f1, f2, . . . , fm). Với mỗi v = (v1, v2, . . . , vn)∈ Rn ta xét hàm hợp (vf) : Rn →R được định nghĩa như sau
(vf)(x) = hv, f(x)i= n
X
i=1
vifi(x)
Định nghĩa 2.4 ([9] Definition 2.1). Cho f: Rn → Rn là hàm véc tơ liên tục. Ta nói rằng một tập con đóng và bị chặn ∂∗f(x)⊆ M(Rn,Rn) là một giả Jacobi của f tại x∈Rn nếu với mỗi v ∈Rn ta có
(vf)0+(x, u)≤ max
M∈∂∗f(x)hM v, ui, ∀u∈Rn
Tính chất 2.1. [9] Nếu f: Rn → Rn là Lipschitz địa phương tại x thì Jacobi suy rộng Clarke ∂f(x) là một giả Jacobi của f tại x, và với mỗi v ∈Rn,
∂C(vf)(x) = ∂f(x)v
Định nghĩa 2.5. [9] Cho hàm thực f: Rn → R khả vi liên tục, và ánh xạ đạo hàm ∇f: Rn →Rn là hàm véc tơ liên tục. Ta nói rằng một tập con đóng và bị chặn∂∗2f(x)⊂ M(Rn,Rn)là một giả Hessian của f tại x∈Rn nếu nó là một giả Jacobi của ∇f tại x. Khi đó ta nói rằng hàm f có giả Hesian ∂∗2f(x) tại x.
Tính chất 2.2. [9]
a) ∂∗2f(x) = ∂∗∇f(x) và ma trận M ∈ ∂∗2f(x) được gọi là ma trận giả Hessian của f tại x.
b) Nếu f khả vi 2 lần tại x thì ∇2f(x) là một ma trận giả Hessian đối xứng của f tại x.