Trong các phương pháp đã trình bày ở trên thì chỉ áp dụng để tối ưu các hàm mục tiêu mà chưa tính đến các ràng buộc. Việc đưa ràng buộc vào một bài toán tối ưu rồi giải không đơn giản như không có ràng buộc. Hơn nữa hầu như trong tất cả các bài toán tối ưu thì đa số là các hàm mục tiêu có ràng buộc. Các ràng buộc ở đây có hai loại chính: thứ nhất nó là tập xác định của hàm mục tiêu, nếu không có ràng buộc này thì ngay cả khi thực hiện tối ưu hàm không có ràng buộc sử dụng các thuật toán ở chương trước, chương trình có thể chạy sai. Ví dụ cụ thể với một hàm đó là f(x)=ln(x), nếu không đưa ràng buộc x>0 vào thì khi thực hiện tối ưu có thể nó sẽ thử đến điểm x<0 mà không hề được xử lý, khả năng này rất hay xảy ra với các phương pháp tìm trực tiếp ở chương trước. Ràng buộc thứ hai là trong ứng dụng cụ thể. Các loại ràng buộc này xuất hiện khi giải một bài toán cụ thể, nó có thể là tập xác định của hàm mục tiêu, có thể là mối quan hệ giữa các biến trạng thái.
Trong chương này tôi sẽ giới thiệu hai phương pháp chính để giải bài toán tối ưu các hàm mục tiêu có ràng buộc, đó là phương pháp dùng
hàm phạt (penalty function) và phương pháp sai lệch linh hoạt (flexible tolerance). Trong đó phương pháp thứ nhất đơn giản nhưng không triệt để do không xử lý được ràng buộc loại 1 là tập xác định của hàm mục tiêu, tức là khi gặp loại ràng buộc này thì nó chỉ xử lý trong các ràng buộc chứ không xử lý trong hàm mục tiêu chính, còn phương pháp thứ hai thì tổng quát hơn, nó thực hiện đối với mọi bài toán tối ưu với các ràng buộc bất kì.