Bài giảng tối ưu hóa

Bài giảng tối ưu hóa

ĐẠI HỌC THÁI NGUYÊN KHOA CÔNG NGHỆ THÔNG TIN -----o0o-----  Bài giảng môn TỐI ƯU HÓA THÂN QUANG KHOÁT Thái nguyên - 2007 Thân Quang Khoát MỤC LỤC Chương 1. MỞ ĐẦU 3 §1. ĐỐI TƯỢNG NGHIÊN CỨU .3 1.1. Bài toán tối ưu tổng quát .3 1.2. Phân loại bài toán 3 1.3. Một số mô hình thực tế .4 §2. BÀI TOÁN QUY HOẠCH TUYẾN TÍNH 6 2.1. Dạng tổng quát 6 2.2. Dạng chuẩn tắc 7 2.3. Dạng chính tắc .7 §3. MỘT SỐ KIẾN THỨC BỔ TRỢ 9 3.1. Tập hợp lồi và điểm cực biên 9 3.2. Đa diện lồi (polytope) .10 §4. CẤU TRÚC MIỀN RÀNG BUỘC CỦA BÀI TOÁN 11 QUY HOẠCH TUYẾN TÍNH 11 4.1. Phương án cực biên và phương án cực biên tối ưu .11 4.2. Điều kiện cần và đủ để một phương án là cực biên 13 4.3. Cơ sở của một phương án cực biên .15 Chương 2. THUẬT TOÁN ĐƠN HÌNH 17 §1. MỞ ĐẦU .17 1.1. Bài toán .17 1.2. Phương pháp Hình Học .17 §2. THUẬT TOÁN ĐƠN HÌNH .19 2.1. Tư tưởng của thuật toán đơn hình .19 2.2. Công thức số gia hàm mục tiêu - dấu hiệu tối ưu .20 2.3. Tìm phương án cực biên tốt hơn - Công thức đổi cơ sở .21 2.4. Thuật toán đơn hình (Simplex method) 23 2.5. Bảng đơn hình .24 §3. TÍNH HỮU HẠN CỦA THUẬT TOÁN ĐƠN HÌNH .28 3.1. Trường hợp bài toán không suy biến 28 3.2. Trường hợp bài toán suy biến .28 §4. PHƯƠNG PHÁP HAI PHA 31 4.1. Vấn đề .31 4.2. Phương pháp hai pha giải bài toán QHTT 32 Bộ môn Khoa Học Cơ Bản 1 Bài Giảng mơn Tối Ưu Hố 4.3. Một số ví dụ 34 §5. PHƯƠNG PHÁP ĐÁNH THUẾ .36 §6. BÀI TỐN QUY HOẠCH TUYẾN TÍNH ĐỐI NGẪU .41 6.1. Bài tốn đối ngẫu 41 6.2. Các định lý đối ngẫu .42 6.3. Một số ứng dụng của lý thuyết đối ngẫu 44 6.4. Thuật tốn đơn hình đối ngẫu .46 Chương 3. TỐI ƯU HỐ RỜI RẠC .56 §1. BÀI TỐN TỐI ƯU HỐ RỜI RẠC .56 1.1. Mở đầu 56 1.2. Một số bài tốn tối ưu hố rời rạc tiêu biểu 56 §2. PHƯƠNG PHÁP CẮT GOMORY GIẢI BÀI TỐN QHTT NGUN 58 2.1. Tư tưởng chung của phương pháp cắt 58 2.2. Phương pháp cắt Gomory cho bài tốn QHTT ngun hồn tồn .59 2.3. Phương pháp cắt Gomory cho bài tốn QHTT ngun bộ phận 64 §3. PHƯƠNG PHÁP NHÁNH CẬN 65 3.1. Sơ đồ tổng qt .65 3.2. Thuật tốn nhánh cận Land-Doig giải bài tốn QHTT ngun 66 3.3. Một số ví dụ 68 §4. BÀI TỐN CÁI TÚI .72 4.1. Đưa bài tốn QHTT Ngun về bài tốn cái túi .72 4.2. Phương pháp Quy hoạch động giải bài tốn cái túi 74 Tài liệu tham khảo .77 Khoa Cơng nghệ thơng tin - ĐHTN 2 Thõn Quang Khoỏt Chng 1. M U Đ1. I TNG NGHIấN CU 1.1. Bi toỏn ti u tng quỏt Bi toỏn ti u tng quỏt cú dng nh sau: 1122( ) min (max)() , 1,() , 1,() , 1,iijjkknf xgx b i mgx b j m mgx b k m mxX==+==+ Trong ú ()f x c gi l hm mc tiờu; (), 1,igx i m= c gi l cỏc hm rng buc. Mi mt ng thc hay bt ng thc c gi l mt rng buc. Gi 112() , 1, ; () , 1,() , 1, ;ii j jnkkgx bi m gx bj m mDxgx bk m mx X= =+===+ 2 D c gi l min rng buc (hay min chp nhn c). Mi mt vect c gi l mt phng ỏn ca bi toỏn (hay li gii chp nhn c). 12( , , ., )nxxx x D=nh ngha: Phng ỏn c gi l phng ỏn ti u ca bi toỏn nu tho món iu kin sau *xD (đối với bài toán tìm Min)(đối với bài toán tìm Max)**() (),() (),f xfx xDfx fx x D khi ú giỏ tr *()f x c gi l giỏ tr ti u. 1.2. Phõn loi bi toỏn Chỳng ta thy rng, mt cỏch hin nhiờn nht gii bi toỏn t ra l: Tớnh giỏ tr ca hm ()f x trờn tt c cỏc phng ỏn ca min rng buc sau ú so sỏnh cỏc giỏ tr ca hm mc tiờu thu c tỡm ra phng ỏn ti u. Tuy B mụn Khoa Hc C Bn 3 Bài Giảng môn Tối Ưu Hoá nhiên cách làm này là rất khó hoặc đúng hơn là không thể làm được trong trường hợp tổng quát (chẳng hạn tập là không đếm được). Vì vậy chúng ta phải phân tách nhỏ ra bằng cách thêm một số điều kiện nào đó để được các bài toán “dễ giải”. Người ta đã phân ra một số loại bài toán như sau: D+ Quy hoạch tuyến tính + Quy hoạch lồi. + Quy hoạch phi tuyến. + Quy hoạch toàn phương. + Quy hoạch rời rạc. + Quy hoạch nguyên. 1.3. Một số mô hình thực tế Ta sẽ xem xét một số bài toán trong thực tế đưa đến bài toán tối ưu hoá và mô mình toán học tương ứng của nó. 1.3.1. Bài toán lập kế hoạch sản xuất cho một nhà máy Một nhà máy có khả năng sản xuất loại sản phẩm. Để sản xuất loại sản phẩm này thì cần m loại nguyên liệu. Biết: n nija - lượng nguyên liệu loại i cần thiết để sản xuất một đơn vị sản phẩm loại jib - lượng dự trữ nguyên liệu loại i jc - tiền lãi từ việc bán một đơn vị sản phẩm loại j1, , 1,imj==n Hãy xây dựng kế hoạch sản xuất sao cho nhà máy thu được tổng lợi nhuận là nhiều nhất. Gọi là lượng sản phẩm loại mà nhà máy sẽ sản xuất, rõ ràng ta có . Kế hoạch sản xuất của nhà máy sẽ là véctơ . Đại lượng là tổng chi phí nguyên liệu loại theo kế hoạch sản xuất , theo giả thiết ta có: jx j0jx ≥12( , , ., )nxxx x=1nij jjax=∑ix1nij j ijax b=≤∑Khoa Công nghệ thông tin - ĐHTN 4 Thân Quang Khoát Tổng lợi nhuận thu được theo kế hoạch sản xuất x sẽ là . Như vậy yêu cầu của bài toán này đưa về mô hình toán học như sau: 1njjjcx=∑ 11(),1,0, 1,njjjnij j ijjf xcxMax b i mxjn===→⎧≤=⎪⎪⎪⎨⎪≥=⎪⎪⎩∑∑ax Mô hình thu được chính là một bài toán quy hoạch tuyến tính. 1.3.2. Bài toán cái túi Một nhà thám hiểm cần đem theo một cái túi có trọng lượng không quá b. Có loại đồ vật có thể đem theo. Đồ vật thứ có trọng lượng là và giá trị sử dụng là njja(1,jcj n= ). Hỏi rằng nhà thám hiểm cần lấy các loại đồ vật nào và số lượng bao nhiêu để cho tổng giá trị sử dụng của các đồ vật mang theo là nhiều nhất ? Gọi (1,jxj n= ) là số lượng đồ vật loại mà nhà thám hiểm sẽ đem theo. Khi đó tổng giá trị của các đồ vật đó là , tổng trọng lượng của chúng là . Từ giả thiết ta có . Như vậy yêu cầu của bài toán sẽ đưa về việc giải bài toán sau: j1njjjcx=∑1njjjax=∑1njjjax b=≤∑ vµ nguyªn 11max0(njjjnjjjjcxax bxj==→⎧≤⎪⎪⎨⎪≥=⎪⎩∑∑1,)n Đây lại là một bài toán quy hoạch tuyến tính Nguyên. 1.3.3. Bài toán vận tải Có m kho hàng cùng chứa một loại hàng hoá, lượng hàng có ở kho thứ i là (1,m)iai=. Có n địa điểm tiêu thụ loại hàng nói trên, với nhu cầu tiêu thụ ở điểm là j(1,jbj n)=. Biết là cước phí vận chuyển một đơn vị hàng hoá từ kho thứ đến điểm tiêu thụ thứ . Hãy lập kế hoạch vận chuyển hàng hoá từ các kho đến các điểm tiêu thụ sao cho tổng chi phí vận chuyển là nhỏ nhất. ijcijKý hiệu là lượng vận chuyển từ kho i đến điểm tiêu thụ thứ , khi đó: ijxjBộ môn Khoa Học Cơ Bản 5 Bài Giảng môn Tối Ưu Hoá ij11mnijijcx==∑∑ là tổng chi phí vận chuyển 1nijjx=∑ là lượng hàng vận chuyển từ kho thứ i 1mijix=∑ là lượng hàng vận chuyển đến điểm tiêu thụ thứ jkhi đó bài toán lập kế hoạch trên có thể đưa về mô hình toán học như sau: 11110, 1, , 1,mnij ijijnij ijnij jjijcx Minxaxbximj====→⎧=⎪⎪⎪⎪⎪=⎨⎪⎪⎪≥= =⎪⎪⎩∑∑∑∑nnℜ Đây chính là một bài toán Quy hoạch tuyến tính. §2. BÀI TOÁN QUY HOẠCH TUYẾN TÍNH 2.1. Dạng tổng quát Tìm véctơ sao cho: 12(, , ., )tnxxx x=∈1() ( )njjjf xcxMinMa==→∑x với các điều kiện: tù do , 11121211122,1,,1,10, 1,0, 1,1,nij j ijnpj j pjnkj j kjjjjax b i max b p m max b k m mDxjnxjnnxjnn===⎧≥=⎪⎪⎪⎪≤=+⎪⎪⎪⎪⎪==+⎪⎪=⎨⎪≥=⎪⎪⎪⎪≤=+⎪⎪⎪⎪=+⎪⎪⎩∑∑∑,, Dễ thấy rằng: 1) () min () maxf xfx→⇔−→ Khoa Công nghệ thông tin - ĐHTN 6 Thõn Quang Khoỏt 2) 11()nnij j i ij j ijjax b a x b== 3) 111nij j injij j injij j ijax bax bax b====4) 11,( 0)nnij j i ij j n i i n ijjax b ax x b x++== = 5) 11,( 0)nnij j i ij j n i i n ijjax b ax x b x++== += cỏc bin c gi l cỏc bin bự. nix+6) Mt bin khụng rng buc v du (t do) cú th c thay bng hiu hai bin khụng õm: jx Với 0, 0jjj j jxxx x x= T cỏc nhn xột trờn ta thy rng bt k mt bi toỏn quy hoch tuyn tớnh no cng cú th a v mt trong hai dng sau õy: 2.2. Dng chun tc 11(),1,0, 1,njjjnij j ijjf xcxMiax b i mxjn=====n Hay di dng ma trn ()0tf xcxMinAx bx= trong ú: là ma trận cấp ,, ,nmcx b A m n ì2.3. Dng chớnh tc B mụn Khoa Hc C Bn 7 Bài Giảng môn Tối Ưu Hoá 11(),1,0, 1,njjjnij j ijjf xcxMiax b i mxjn===→⎧⎪==⎪⎪⎨⎪≥=⎪⎪⎩∑∑n Hay dưới dạng ma trận ()0tf xcxMinAx bx=→=⎧⎪⎪⎨⎪≥⎪⎩ Ví dụ: Cho bài toán quy hoạch tuyến tính 12 3412 423412 3() 2 3 4 5 max629345720, 1, 4if xxxxxxx xxxxxxxxi=−+−→⎧+−⎪=⎪⎪⎪−++≥⎪⎪⎨⎪+−≤⎪⎪⎪≥=⎪⎪⎩ khi đó dạng chính tắc của bài toán sẽ là: 123412 4234512 3 6() 2 3 4 5 min629345720, 1, 6igx xxxxxx xxxxxxxx xxi=− + − + →⎧+−⎪=⎪⎪⎪−++−=⎪⎪⎨⎪+− +=⎪⎪⎪≥=⎪⎪⎩ dạng chuẩn tắc là: 123412 423412 312 4() 2 3 4 5 min6293457260, 1, 4igx x x x xxx xxxxxx xxx xxi=− + − + →⎧+−≥⎪⎪⎪⎪−++≥⎪⎪⎪−−+≥−⎨⎪⎪−− +≥⎪−⎪⎪⎪≥=⎪⎩ Khoa Công nghệ thông tin - ĐHTN 8 Thõn Quang Khoỏt Đ3. MT S KIN THC B TR 3.1. Tp hp li v im cc biờn 3.1.1. Tp hp li (convex set) on thng: cho hai im khi ú on thng ni hai im ú l tp hp im cú dng ,nab[]{}(1 ) , 0,1nxxa b = + . Nu thỡ ta s cú ng thng i qua hai im . ,abTp li: Tp c gi l tp li nu ly hai im bt k thỡ on thng ni hai im ny thuc hon ton trong C. nC 12,xx CHoc ta cú th phỏt biu nh sau: là tập lồi thì 12 1 2,,0;1 (1)C xxC x x xC = + Cỏc tp li Vớ d: Trong khụng gian 2 chiu thỡ cỏc a giỏc, cỏc hỡnh trũn, cỏc hỡnh elip, l cỏc tp li. Cỏc siờu phng {1nniii}cx== =Hx cng l mt tp li trong n Cỏc na khụng gian {1nniii}cx== Hx l cỏc tp li trong nB : Giao ca cỏc tp li cng l mt tp li. 3.1.2. im cc biờn (vertex) im cc biờn: im thuc tp li C c gi l im cc biờn ca C nu nú khụng l im trong ca bt k on thng no ni hai im khỏc nhau thuc C. Tc l, 0x012 1 2 1x=2,, : (1)xx Cx x x x + vi . 0; 1Vớ d: C l a giỏc li trong thỡ cỏc nh ca nú chớnh l cỏc im cc biờn, cỏc im khỏc u khụng l im cc biờn. Tt c cỏc im trờn ng trũn l 2B mụn Khoa Hc C Bn 9 [...]... x== = ≤== Định lý 2: Nếu là phương án của bài toán (P), là phương án của bài toán (Q) thoả mãn * x * y * () () * f xgy= . Khi đó là phương án tối ưu của bài toán (P) và là phương án tối ưu của bài toán (Q). * x * y Chứng minh: Nếu x là phương án của bài tốn (P) thì theo định lý trên ta có: * () ( ) ( ) * f xgy fx≥= . Do đó là phương án tối ưu của bài tốn (P). * x Tương tự ta có: Nếu y là... phương án tối ưu của bài tốn (Q).  * y Từ các kết quả này thì người ta đã chứng minh được định lý sau đây: Định lý 3: a) Nếu bài tốn (P) có phương án tối ưu thì bài tốn (Q) cũng có phương án tối ưu là và ngược lại. Đồng thời * x * y ** () ()f xgy= . b) Nếu hàm mục tiêu ()f x của bài tốn gốc (P) khơng bị chặn dưới thì bài tốn đối ngẫu (Q) khơng có phương án. c) Nếu hàm mục tiêu của bài toán... PHÁP ĐÁNH THUẾ 36 §6. BÀI TỐN QUY HOẠCH TUYẾN TÍNH ĐỐI NGẪU 41 6.1. Bài toán đối ngẫu 41 6.2. Các định lý đối ngẫu 42 6.3. Một số ứng dụng của lý thuyết đối ngẫu 44 6.4. Thuật tốn đơn hình đối ngẫu 46 Chương 3. TỐI ƯU HỐ RỜI RẠC 56 §1. BÀI TOÁN TỐI ƯU HOÁ RỜI RẠC 56 1.1. Mở đầu 56 1.2. Một số bài toán tối ưu hoá rời rạc tiêu biểu 56 §2. PHƯƠNG PHÁP CẮT GOMORY GIẢI BÀI TOÁN QHTT NGUYÊN 58... CÔNG NGHỆ THÔNG TIN o0o  Bài giảng mơn TỐI ƯU HĨA THÂN QUANG KHOÁT Thái nguyên - 2007 Bài Giảng mơn Tối Ưu Hố 6 -7 15 -1 1 0 -1 0 1 3 1 39 -4 2 1 -2 0 0 5 1 47 1 3 0 -1 1 0 -19 -2 -3 0 1 0 0 Ta thấy và mọi phần tử trên cột 4 đều âm. Do đó ta kết luận hàm mục tiêu của bài tốn khơng bị chặn dưới trong miền ràng buộc. Bài tốn khơng có lời giải hữu hạn.... của bài toán (hay lời giải chấp nhận được). 12 ( , , , ) n xxx x D= Định nghĩa: Phương án được gọi là phương án tối ưu của bài toán nếu thoả mãn điều kin sau * xD (đối với bài toán tìm Min) (đối với bài toán tìm Max) * * () (), () (), f xfx xD fx fx x D ≤∀∈ ≥∀∈ khi đó giá trị * ()f x được gọi là giá trị tối ưu. 1.2. Phân loại bài toán Chúng ta thấy rằng, một cách hiển nhiên nhất để giải bài. .. bài toán đối ngẫu (Q) khơng bị chặn trên thì bài tốn gốc (P) khơng có phương án. d) Nếu là phương án tối ưu của bài toán gốc (P) với cơ sở tương ứng là J thì là phương án tối ưu của bài tốn đối ngẫu (Q), trong đó * x () *1 t J yAc − = J ( ) j J jJ Aa ∈ = là ma trận vuông cấp m , . () Jjj cc ∈ = J Hệ quả: Cặp phương án là phương án tối ưu của cặp bài toán đối ngẫu (P), (Q) khi và chỉ khi... cũng có phương án cực biên tối ưu. - Số phương án cực biên là hữu hạn. Vì tập hợp các phương án cực biên là hữu hạn nên ta có thể tìm một phương án tối ưu (hay một lời giải của bài tốn). Vì vậy Dantzig đã đề xuất một thuật toán như sau (gọi là thuật toán đơn hình): Xu ất phát từ một phương án cực biên . Kiểm tra đã là phương án tối ưu hay chưa. Nếu chưa là phương án tối ưu thì ta tìm cách chuyển... Giải bài toán QHTT sau 12 4 5 6 1456 24 6 3456 () 2 2 3 min 2 12 243 9 0, 1, 6 j f xxx x x x xxxx xx x xxxx xj =−− + − → ⎧ ++− ⎪ = ⎪ ⎪ ⎪ ++ = ⎪ ⎪ ⎨ ⎪ +++ = ⎪ ⎪ ⎪ ≥= ⎪ ⎪ ⎩ Bộ môn Khoa Học Cơ Bản 25 Bài Giảng mơn Tối Ưu Hố trong đó lµ ma trËn cÊp ,, , nm cx b A m n ∈ℜ ∈ℜ × Chúng ta đã biết rằng: - Nếu bài tốn (I) có phương án thì có phương án cực biên. - Nếu bài tốn (I) có phương án tối ưu. .. tin - ĐHTN 36 Bài Giảng mơn Tối Ưu Hố của bài tốn đối ngẫu (Q). Khi đó điều kiện cần và đủ để là các phương án tối ưu của các bài toán tương ứng là: * ,xy * ( ) ( ) j=1 i=1 ** ** 0( 1,) 0( 1, n ij j i i m jijij ax b y i m cayx j −=∀= −=∀= ∑ ∑ )n 6.3. Một số ứng dụng của lý thuyết đối ngẫu Để thấy được ý nghĩa của lý thuyết đối ngẫu ta hãy xét một số ví dụ sau: Ví dụ 1: (Bài tốn về lập kế... tối ưu. ■ 1 x 0 x 3.2. Trường hợp bài toán suy biế n Nếu bài toán QHTT suy biến tức là trong một bước lặp có thể ta gặp một phương án cực biên suy biến có . Sau bước lặp đó ta thu được một đỉnh mới 0 x 0 ()Jx m + < 10 s xx z θ =− trong đó {} 0 0 min : 0, j r js rs js x x zj zz θ == > ∈ J . Vì nên có thể tồn tại 0 ()Jx J + ⊂ Khoa Cơng nghệ thơng tin - ĐHTN 28 Bài Giảng mơn Tối Ưu . án cực biên của bài tốn (I) nếu là điểm cực biên của D. 0xD∈0xBộ mơn Khoa Học Cơ Bản 11 Bài Giảng môn Tối Ưu Hoá Phương án cực biên tối ưu: Nếu phương. ưu: Nếu phương án cực biên là phương án tối ưu của bài toán (I) thì được gọi là phương án cực biên tối ưu của bài toán (I). 0x0xNgười ta đã chứng minh