Nguyên lý cực đại entropy đưa ra cho chúng ta bài toán tối ưu có ràng buộc. Trong các trường hợp đơn giản mô hình p* có thể được tìm thấy bằng phương pháp giải tích (như ví dụ ban đầu). Tuy nhiên, trong các trường hợp phức tạp, ta không thể giải bằng phương pháp phân tích thuần túy. Người ta đã đưa ra một phương pháp để giải quyết vấn đề này, đó là phương pháp Lagrange Multipliers. Ta gọi bài toán tìm p* ở trên là bài toán cơ sở (Primal Problem).
Với mỗi đặc trưng fi ta đưa ra một tham số λi và định nghĩa hàm Lagrangian
Cố định λ và tính:
Ψ(λ) là hàm đối ngẫu.
Đặt Zλ(x) là hằng số chuẩn hóa được xác định bằng ràng buộc:
Bằng tích phân, ta có thể tính được:
Bài toán đối ngẫu, tương đương với bài toán cơ sở:
Một nguyên lý cơ sở của học thuyết Lagrange Multipliers, mà thường được gọi là định lý Kuhn-Tucker, đã khẳng định rằng dưới những giả định hợp lý, vấn đền cơ sở và vấn đề đối ngẫu là liên quan chặt chẽ với nhau. Có thể phát biểu như sau: “Giả sử rằng λ* là giải pháp của vấn đề đối ngẫu thì pλ* là giải pháp cho vấn đề cơ sở pλ* = p* ”. Nói cách khác:
Mô hình cực đại entropy thỏa mãn tập ràng buộc C có dạng tham số pλ* của
Trong dạng tham số, giá trị cả λ* có thể được xác định bằng cách làm cực đại hàm đối ngẫu Ψ(λ). Hệ quả thực tế quan trọng nhất là bất kỳ thuật toán nào dùng để tìm giá trị cực đại λ* của hàm đối ngẫu Ψ(λ) có thể được dùng để tìm giá trị cực đại p* của H(p) với p Є C.