Trong phần này mô tả phương pháp lặp tổng quát để giải phương trình toán tử
Au= f, (1.3.1)
trong đó A : H → H là toán tử tuyến tính, H là không gian Euclid hữu hạn chiều. Trong trường hợp chung, giả sử rằng A = A∗ > 0, f ∈ H là một véc tơ tùy ý. Các phương pháp lặp nhằm xác định liên tiếp các xấp
xỉ u1, u2, ..., uk+1, ... của phương trình (1.3.1) với xấp xỉ ban đầu u0 ∈ H. Mỗi xấp xỉ như vậy được xem như là giá trị lặp sau số lần lặp tương ứng
k = 1,2, ... Giá trị uk+1 có thể nhận được thông qua các giá trị ở các bước trước uk, uk−1, ....
Phương pháp lặp được gọi là phương pháp lặp một bước hay phương pháp lặp hai lớp nếu như giá trị lặp ở bước sau được tính thông qua giá trị lặp của một bước trước.
Phương pháp lặp được gọi là phương pháp lặp một bước tuyến tính nếu nó có dạng
Bkuk+1 = Ckuk +Fk, k = 0,1,2, ... (1.3.2) trong đóBk vàCk là các toán tử tuyến tính từH vàoH, Bk là khả nghịch. Đưa vào tham số τk+1, khi đó dạng chuẩn tắc của sơ đồ lặp hai lớp là
Bkuk+1−uk τk+1
+ Auk = f, k = 0,1,2, ... (1.3.3) Nếu Bk = I là toán tử đơn vị thì (1.3.3) được gọi là sơ đồ lặp hiện, nếu
Bk 6= I thì (1.3.3) được gọi là sơ đồ lặp ẩn. Nếu sơ đồ lặp
Buk+1−uk
τ + Auk = f, k = 0,1, ... (1.3.4)
trong đó B là toán tử hằng, τ là hằng số thì (1.3.4) được gọi là sơ đồ lặp dừng.