KHOA TOÁN -— TIN SAAB Ae re + staat pipe cit ia httggs MAI ĐỨC THANH Luận văn Tốt nghiệp Đại học Chuyờn ngành Toỏn — ~—_- —— - = ee re eee eee << ee ee ee mm ~—~ THU VIS
Truy ờn2 But cỳc, Siu Visor x Mee = bad Kinh }
| TP HCM 05/2002
Trang 2MỘT VAI PHUONG PHAP SO GIAI BAI TOAN TOI UU PHI ft ` :
Luận văn Tốt nghiệp Đại học
Chuyờn ngành Toỏn
SVTH : Mai Đức Thanh, Khúa 1998-2002
Người hướng dẫn : TS Trịnh Cụng Diệu Người phản biện :TS Nguyễn Chớ Long
Luận văn được bảo vệ tại bộ mụn Toỏn LỨng Dụn+
Trang 3Chương mở đầu
[ Bài toản tối tu và phương phỏp số
II Phương phỏp số cho bải toỏn tối ưu phi tuyến khụng điều kiện
Chương I : Phương phỏp Gradient
| Phương phỏp giảm nhanh
ll Biến thể phương phỏp
II Phương phỏp Gradient mở rộng
Chương HH : Phương phỏp Newton I Phương phỏp Newton
ll Biến thể phương phỏp Chương III : Một số ỏp dụng
I Cực tiểu húa hảm bỏc hai
II Tỉnh khoảng cỏch trong khụng gian Euclit n chiều Chương IV : Thuật toỏn húa cỏc phương phỏp
và một số chương trỡnh mỏy tớnh
[ Thuật toỏn húa cỏc phương phỏp
Trang 4LUẬN VĂN TỐT NGHIỆP CHƯƠNG MỞ ĐẦU
CHƯƠNG MỞ ĐẦU
1.Bài toỏn tối ưu và phương phỏp số:
Trong thực tế cú rất nhiều vấn đề được đưa vẻ việc tỡm cỏi tốt
nhất, thời điểm tốt nhất, phương ỏn thuận lợi nhất, hay núi cỏch
khỏc là chọn đổi tượng tối ưu nhất theo một tiờu chuẩn nào đú.Lớp
doi tượng cản chọn củng thoả mắn cỏc tiờu chuẩn nảo đú Khi ta "mú
hỡnh hoỏ toỏn học” những vấn để này, tạo điển giải hỡnh thức cho
lớp cỏc đối tượng, khảo sỏt cho tiờu chuẩn tối ưu,ta sẽ cú bải toản tối
ưu (toỏn học) Đó cú rất nhiều vấn để toỏn học được phỏt triển trờn
cỏch nhu cấu thực tế và kết quả lý thuyết (trữu tượng) được ỏp dụng
trở lại thực tế thành cụng như bải toỏn vận tải, bài toỏn kế hoạch sản xuất, Bải toỏn quy hoạch tổng quỏt cú dạng : Min|f{x) : xeMI với M c IR” là tập hợp thường được xỏc định bởi một hệ phương trỡnh hay bất phương trỡnh dạng : g(x) < b, hay g(x) = b,
ham f thưởng được gọi lả cỏc hảm mục tiờu
cỏc hảm ứ, thường được gọi là cỏc hàm ràng buộc
Bải toỏn tối tu được chia làm hai loại: bải toỏn tối tu tuyến
tớnh nếu hàm mục tiều và cỏc ràng buộc được biểu diễn ở dạng tuyển tớnh,bải toỏn tối ưu phi tuyến nếu bài toỏn khụng cú điều kiện trờn
Ta cũng cú thể chia dạng bài toỏn tối ưu theo kiểu khỏc : bài toỏn cú điều kiện và bài toỏn khụng điều kiện tuỳ theo cú rõng buộc
trờn hay khụng
Phương phỏp số là phương phỏp tớnh toỏn dựng để tớnh giỏ trị
của một đối tượng nảo đú, phương phỏp phổ biến lả xõy dựng một
đảy xấp xỉ cỏc đối tượng hội tụ vẻ đối tượng cản tỡm để thửng qua
day nay chọn một đối tượng thay thế cho đối tượng được khảo sỏt,
điểu quan trọng của cỏch lõm này là nhở đú cú thể chỉ ra được độ sai
khỏc của việc thay thộ nay
Trong luận văn nảy chỳng ta chỉ khảo sỏt bài toỏn quy hoạch phi tuyến khụng ràng buộc, nghĩa là hàm f la ham phi tuyộn va ta
cần tỡm mớn|f(x) : xeIR'|
Luận van được chia làm 4 chương (khụng tớnh chương mở đầu) :
Chương l1 : Giới thiệu vẻ phương phỏp gradient cỏc biến
thể, cỏc tỉnh chất của phương phỏp
Trang 5
====m===—= -a Chương 2 : Giới thiệu về phương phỏp Newton, cỏc biến thể, cỏc tớnh chất của phương phỏp Chương 3 : Giới thiệu một số ỏp dụng của cỏc phương phỏp trộn
Chương 4 : Thuật toỏn hoỏ cỏc phương phỏp vả một số chương trỡnh mỏy tỉnh tương ứng
Trong luận văn ta sử dụng một số ký hiệu khải niệm sau :
+ Định nghĩa 1.1 : Cho D lả tập mở trong IR" va f : D > IR ,giả sử f khả vi tại mọi x thuộc D, đạo hàm f là ỏnh xạ tuyến tinh ti IR" of of ef vao IR f(x) = LB, a, a (x) J 2 1 J Chuẩn của f(x) ,Í f(x) Í= XU) | tel l 0 Dinh nghia 1.2: Cho ham f: IR" —-+ IR x —>f[x)
Ham f được gọi là đạt cực tiểu tại x` nếu f{x) < f[x).Vxe IR"
Hàm f được gọi lả đạt cực tiểu địa phương tại x` nếu tổn tại một lan cận U của x” sao cho f{x) < f(x),VxeU
a Cho x,yelR" ta ký hiệu tớch vụ hướng x,y lả <x.y> = yxy,
bel
a Chuẩn của xeIR° là: |xè= V(x,x)
a Với xe IR”,ta coi x là một vectơ nếu sử dụng trong tớch vụ hưởng vả xem x lả ma trận cột nếu sử dụng trong phộp tớnh ma trận a Định nghĩa 1.3: Ma trận vuửng đối xứng A được gọi là xỏc định
đương nếu <Ax,x> > 0O ,VxzO ,xe IR'”
a Mệnh để 1.1: Ma trận vuụng đối xứng A = [ay]ạ„ xỏc định đương khi vả chỉ khi định thức của mọi ma trận con {a,lx„ đều là số
dương
Q Định nghĩa 1.4: Cho hàm f : IR" —> IR
X — (xỡ
Hàm f được gọi là lụi nếu với mọi xị, x2 € IR" ; moi A), Ag € IR
thod A; + Ag=l thi: [[:ĂXi#^zXa} S Ay flx)) + Agflxe)
Ham f dude gọi la lỏi nghiờm ngặt nếu với mọi xị, X¿ e IR" : mọi
Ay A2 € IR thoa Ay * Agz=l thi: f.ĂxiĂ+2a2X2) < Ayflxy) + Aaflxe)
u Mộnh dộ 1.2: Giả sử hàm f cú đạo hàm cấp hai liờn tục khi đú cỏc phỏt biểu sau lả tương đương:
(a) Ham f la ham lỏi,
(b} f(x¿} - Í(xĂ} > <f(X\) Xz - X:> WX) xXgeIR"
Trang 6
LUẬN VĂN TỐT NGHIỆP CHƯƠNG MỞ ĐẦU
(c) Ma trận đạo hàm bỏc hai fˆ(x) thoả món:
<f(x)p.p> > O., Vx, pelR",
4 Mệnh để 1.3: Nếu hảm f cú đạo hàm cấp hai liờn tục và cú mội
hang sO meIR, m > O để ma trận đạo hảm bỏc hai f (x) thoả món:
<f(\x)p.p> > m lpÍ?, vx, pelR"
thi ham f lỗi nghiờm ngặt
II.Phương phỏp số của bài toỏn tối ưu phi tuyến khụng điều
kiện:
Trong đề tải nảy chỳng ta chỉ xột đến bải toỏn tối ưu phi tuyến
khụng điều kiện Như ta biết mọi bài toỏn tối ưu đều cú thể đưa vẻ
bải toỏn tim cực tiểu một hảm số, nờn bài toỏn ta xột cú dang:
Tỡm cực tiểu hóm số f: IRˆ——>IR ,với x =(xè,xẺ x").x' e IR x — fix)
Bài toỏn nảy đó được giới thiệu trong bộ mỏn VI Tớch Phan voi
giả thiết hảm f kha vi cing phương phỏp kiểm tra tỉnh xỏc định
dương của ma trận đạo hàm bỏc hai tại điểm dừng
Tuy nhiờn việc giải hệ f(x) = O chưa cú thuật toản, phương phỏp tổng quỏt Trong khi đú, thực tế chỉ yờu cảu tinh giỏ trị gản đỳng của cực tiểu và điểm đạt cực tiểu Đỏng thời thực tế yờu cầu cản cú thuật toỏn, phương phỏp cụ thể với sự hỗ trợ mỏy tớnh trong quả trỡnh giải Phương phỏp số giải bài toỏn cực tiểu hoỏ thường xõy dựng một day |x„| hội tu vộ x sao cho f[xx.p) < fxx) Dõy (xy) cú dang:
Xkel = Xk + Ak-Pr
Với p„ e IR” là vectơ định chiờu giảm của f tại một lắn cận của
Xx ax € IR la hộ s6 dudng bao dam cho f{xx.1)) < f{xy} a)Cach chon vộcto p,:
Trong lõn cận cila x, co nhiộu vectd xac dinh chiộu gidm cua
ham f tai f(x,J Dộ chon mot vecto px như vay ta chi can chon p, thộa
man BDT <f'(x,).px> < 0
That vay,theo khai triển Taylor ta co:
Í[Xw„i) = Í(xy) + <Í(Xk).Xk+i — Xk> + 1⁄4.<F (Xxe)( Xkôi — Xe).Xk+i — Xk>
VỚI Xụ = Xx + ễ.( Xx+Ă — Xe) : ễ e [O,è]
â ÍXw.i) - ẨX,) = ay.<f (X\).Pk> + ay7/2.<Í”/(Xxc)-Pk (éx>-
Vậy nếu <f(Xx}.py> < O thỡ với một số ay khỏ nhỏ nào đỏ ta cú f(x„.:) <fxv), nghĩa lả tổn tại một lõn cận của x, dộ ham f giảm theo
phương p, tại fx;)
Trang 7en
———ễễễẼễẼễẼEẼễ—-ễễễẼễẼễEẼễẼễEẼễ==Ề
b)Cỏch chọn hệ số a,:
Khi đó chọn p„ thỏa mản BĐT <f(x¿).py> < O, ta chỉ cắn chon a,
trong lăn cận của x„ mó hảm Í giảm tại fx„) theo phương px tức là
chọn ay thỏa BĐT f(xy,;) - f(xu) < e.ay.<f'(Xu).p„> với e là hằng số
O<c<]l
Ta cũng cú thể chọn cỏch khỏc để dóy | f(xy)\ giảm là a„ thỏa
điều kiện: fÍxx.Ă) = fx, + ax-px) = min fx, + a.px)
với cỏch nảy cỏch chọn ay lại trở thành bải tửỏan cực tiểu hàm mot biộn gla) = Í{xx + a.p)
c)C4c van dộ cin giải quyết của phương phỏp:
i) Với cỏch chọn p„ và ay như trờn ta đó xảy dựng được đảy |xy) sao cho dõy | f(xu)| giảm nhưng chưa thể khẳng định được đảy (xyj cú
hội tụ hay khụng và nếu hội tụ thỡ cú hội tụ vẻ điểm x” đạt cực tiểu
hay khụng Sự hội tụ nảy chỉ đỳng với từng phương phỏp ứng với một lớp hàm nhất định
ii) Giả sử dóy |x,| dugc xay dựng đả hội tụ thỡ dóy (xy| sẽ hội
tụ với tốc độ nảo Tốc độ hội tụ nảy trong thực tế rất quan trọng vỡ nếu sự hội tu qua cham thỡ với dung lượng bộ nhớ cú hạn, mỏy tớnh
khú cú thể thực hiện được quỏ trinh xỏy dựng dóy {x,) gin về điểm
hoi tu
Dinh nghia 1.5: Cho day số (x;| hdi tu vộ x’, ta noi:
+ Day s6 [x;| hội tụ với tốc độ một cấp số nhăn (linear rate)
cụng bội q nếu ta cú: Íxx.Ă-xôẽ< q èx„-xô[ hoặc èx„-x-è< q*.C
với O <q< 1; C <eœ,
+ Dõy số [x„| hội tụ với tốc độ trờn cấp số nhõn (superlinear
rate) nếu ta cú:
|xx.Ă-xơÍ< qụ Íxu-xơÍ hoặc ẽx„-x-è< qĂ.q: qx.C với dóy |qxè| -ằ O khi k ~> œ ; C < ứ
+ Day số [xx| hội tụ với tốc độ bặc hai (quadratic rate) nếu ta
cú: ẽxu„Ă-xơÍ< € Íxy-xơ è ấ
iii) Khối lượng phộp tớnh được tiến hảnh của thuật toỏn cựng rất quan trọng vỡ nú ảnh hưởng đến thời gian làm việc của mỏy tớnh Do đú, ta cẩn cải tiến cỏc phương phỏp nhằm giảm bớt khối lượng cụng việc của mỏy tớnh
Trang 8LUẬN VĂN TỐT NGHIỆP PHƯƠNG PHÁP GRADIENT
CHƯƠNG 1: PHƯƠNG PHÁP GRADIENT
I.Phương phỏp giảm nhanh:
TY cach chon vecto py, thod man <f(x,).px> < O, trong phương
phỏp này ta chọn px = - f(x,)
Day |xx| cú dạng Xk„:i = Xx - Ax (Xi) Để chon a, thod man BDT:
f[xK+1) — fxd < e.a<f(X).px> = -E.aw Í f(x¿) èấ
Ta dựng thuật toỏn sau (gọi là phương phỏp lặp chọn a,):
Cho a một giỏ trị cho trước (vd: lấy a = 1)
+Bước 1:Tớnh x = xự - a f(xy) +Bước 2:Tinh ffx) = fix, — a f(x,))
+Bước 3:Kiểm tra BĐT: f(x) - f{xu) <-.a è f(xx] | ?
+Bước 4:Nếu bước 3 kiểm tra BĐT cho kết quả sai Ta giảm a bằng cỏch nhõn a với t (O<t<1) rồi lặp lại cỏc bước cho đến khi BĐT bước 3 đỳng Khi kiểm tra BĐT bước 3 đó đỳng, ta
chon a, = a
Phương phỏp chọn vectơ p„ như trờn được gọi là phương phỏp
giảm nhanh hay phương phỏp građient
Định lý 1.1: Giả sử hàm f bị chặn dưới, đạo hàm f thoả món điểu kiện: |f(x)- f(y) è< R Íx- yè.vx,yeIR"
Khi đú với phương phỏp giảm nhanh, cú ay được chọn bằng
phương phỏp lặp thỡ thuật toỏn thực hiện được và | f(x„) [—>ằ0 khi
k-ằs,với mọi điểm x, ban dau
Chứng rninh:
Từ định lý giỏ trị trung bỡnh, ta cú:
f{x) — f(xy) = <f (Xw‹).X = X> VỚI Xw: = Xx + ệ(x — Xe), 8e|O.1]
Trang 9= -a |f(xx) |? + Ra? | f(x„)l?
= -a ẽf(xy) |đ(1 - R.a)
Vay để BĐT fix) - flx;,) <-c.a 1 f(xJ 1% ta cản chon a sao cho: (1 - R.a] >Ê âa< =
Điều này chứng tỏ sau một số bước hữu hạn giảm a thuật toản
chon a, sẽ dừng, tức ló thuật toỏn thực hiện được
ộ
Mặt khỏc do a chọn ban đầu ban đấu là 1 va doa < _ thi ở bước 3 BĐT được kiểm tra là đỳng, nộn ax > min[1.L ấ|
Ta cú: f{Xy.i) - fXy) <-c.ax è f(xạ) |? = lf(xu) |? < Rx,)- fix )
\
Do ham f(x) bj chan đưới nờn đỏy |f(x„)| bị chặn dưới, mà day IÍ(x,}l là đảy giảm nờn hội tụ = ÍÍX¿) - Í(X„,Ă) +>O khi k->ằœ Ê.a, >IftxJ1 30 khi k-—>z Vậy định lý đó được chứng minh +í nghĩa:
Định lý 1.1 khẳng định sự thực hiện được của thuật toỏn chọn a, va day |x;| hội tụ tại điểm dừng x” (ma trận đạo hảm f{(x) bằng 0) Kết quả thu được cú thể là điểm cực tiểu địa phương, điểm yờn ngựa
(nếu cú) chứ khụng phải là điểm cực tiểu Tuy nhiờn trong thực tế ta
chỉ cản biết giỏ trị hàm mục tiờu khỏ bộ so với giỏ trị đó biết ban đầu
lả đó sử dụng được Do đú phương phỏp trờn cú thể ỏp dụng được vào
thực tể
Khi hảm f bị chặn dudội Diộu kiộn If {x)- f(y) ]< R.1x- yl chỉ cản đỳng với mọi x.y nằm trong một lăn cận rất lớn của x, vi day (xx!
sẽ hội tụ trước khi vượt ra khỏi lõn cận đú Do đú lớp hàm ỏp dụng được phương phỏp nảy khỏ rộng
Trang 10LUẬN VĂN TỐT NGHIỆP PHƯƠNG PHÁP GRADIENT
Dinh lý 1.2: Giả sử hàm f cú đạo hàm cấp hai liờn tục vả tồn tại cỏc hằng số M > m > O sao cho ma tran dao ham cap hai f(x) thod man điều kiện: mlyl* s < f(xly.y> s Mlyl? Ơ x.yeIR"
Khi do vdi phudng phap gradient, cộ a, dudc chon bằng phương phỏp lặp thỡ với mọi giỏ trị ban đảu của x, cac day |Xyè |fxx)| hội tụ ve x ,f[x) (x'` là điểm đạt cực tiểu duy nhất của hàm mục tiờu f ) với
tốc độ được ước lượng bởi cỏc BĐT:
f{xx) - f(x') < q*.( f4} - fx)) ;Í xu- x`è< C.q*⁄2
với C<œ ;O<q<l]
Chứng minh: Từ < f(x)y.y> > mèyẽ? ,m>0, ;V x,yelR”, theo lỷ thuyết ham
lỏi ta cú f là hàm lụi nghiờm ngặt, nờn hảm f cú duy nhất điểm cực tiểu x` là điểm dừng Do đú theo định lý 1.1 thỡ dóy |x;| hội tụ vẻ x” va day (f{xy)| hội tụ về f{x)
Trang 11See rape sme tii —= me ee mie sil Tit f(x) - fix’) < s Ix- x'l? = Íx- x I2 > = 3 - fx)) (3)
Thể (2).(3) vào (1) ta cú:
fix) - flx’) < — Ifoa 1? - tthe - fhe)
oI fool? > ma + aq (fle - fix’)
Do cach chon a, thoa man BDT: fiXx+1) — fx) s-e-ay I f(x) 1?
= Xu.) — ÍXy) <-c.ay m{1 + wtf - f(x))
= fXu.i) — f{x) < [1 - c.ay m(1 + mi) -fx) — (4)
Với thuật toỏn thỡ x - x„ = -a (xy),ta cú:
Trang 12LUẬN VĂN TỐT NGHIỆP PHƯƠNG PHÁP GRADIENT
Vậy định lý đó được chứng minh
+ ột:
Định lý 1.1 chỉ chứng minh sự thực hiện được của thuật toan nhưng chưa chỉ ra được tốc độ hội tụ của cỏc dóy (xy) (f(xy)| đồng thời
chưa khẳng định được sự hội tụ của đõy |x„] vẻ điểm đạt cực tiểu
Định lý 1.2 tuy ỏp dụng cho lớp hảm hẹp hơn so với định lý 1.1 nhưng đó khắc phục được cỏc nhược điểm này Tốc độ hội tụ của cỏc
day (xx), {fxy)) được đỏnh giỏ là tốc độ một cấp số nhõn với cụng bội
2e(1-e)m m
la q'/? va q ,ở đõy q=1 - t.———— (1 + —) Ăq ““ vả q yq M (1 + mu)
Nếu ta coi t, M, m lả những hằng số cho trước thỡ khi đú giả trị
q nhỏ nhất khi c.(1-e) lớn nhất Từ BĐT Cửsi ta cú j#1—e) < ; nộn
Gnun=1 = ke (1 + =) khi c=l/2
Nếu ta coi t, e là những hằng số do ta chọn thi q cảng nhỏ khi tỉ số = cảng gần 1 Nếu tỉ số H << 1 thỡ q rất gản 1, khi đỏ
phương phỏp khụng hiệu quả vi tốc độ hội tụ rất cham
II.Cỏc biến thể phương phỏp :
Ở phản l ta đó đưa ra thuật toỏn chọn p„=-f(x„) và cỏch chọn
a, thoọ BĐT : f(Xx.Ă) — f(Xv) < -e.ay è f(xy) Í? bằng phương phỏp lặp
Nhưng ở định lý 1.1 và 1.2 ta đó chứng minh được BĐT trờn luụn
thỏa món khi ay < —, hodc a,< aa 8) Như vậy nếu ta xỏc định
trước hằng số R hoặc M thỡ ta cú thể chon a, là hằng số a với a <
=, hoặc as ao đè Với cỏch chọn ax là hằng số này số lượng phộp
tỉnh mỏy tớnh cản làm sẽ giảm đi rất nhiễu so với phương phỏp ban dau
Dinh ly 1.3 : Nộu ham f thộa man diộu kiộn cua djnh ly 1.2 thi
cộ thộ chon a, la hang s6 a: O<a< = Khi đú tốc độ hội tu cua day
(xx| được ước lượng bởi:
lx„- x`Í< q* Íxo- x'Í với q=max{l 1-a.mI, | 1-a.MI|
M-m 2
j 3 nhất là: = , đạt được khi a=
Trang 13Chứng minh:
Ta co: bxy- x 1? = <x„-af(xy)- X`, Xxai-X >
=<xx- X-a(f(xu)- Ẩ(xè]) Xx.i-X” >
Theo cụng thức Lagrange : f(xu)- f{x}) =f”(xw:)( xu-x`) Với x„.= X„ + ễ( xx-x) 9e|O, 1]
=èxv.Ă- x`Í? =<x, - x” - a.f'4ôè( Xư-Xè) Xw.i-X” >
=<{(I - a.f (xwe)è( xx-xè) Xw.Ă-X` > <l1 - a.f (xx¿)Í |x„-x” | ẽ x¿„-x' Í âlx¿4Ă- x`ẽ<Í1 - a.f?&¿)Í Íx„-x ` Đặt q=Í1 - a.ff(x„)ẽ thỡ ẽxy„Ă- xˆÍ< q.Í x„-x è =| xy - x bs q* | xo-x' |
Vi q=I1 - a.f"(xxe) | = maxi! l-a.m1,/ 1-a.M1}
=n Ewen tm} | M.(1 - ma) - m.(1 - Ma) | „ M-m M+m M+m M+m Dau bang xảy ra khi và chỉ khi 1-m.a = -(1-M.a] â a = : +m M-m 2 Và = khi a = : 2 M+m M+m
Vậy định lỷ đó được chứng minh
Một biến thể khỏc của phương phỏp Gradient lả ta chọn ay
thoả món f{x¿,;) đạt giỏ trị nhỏ nhất của hàm f theo phương px tại
[[x,) : fẨXe.i) = Í{xy — ay.F(xy)) = min f(x„ — a.f(xv)), như vậy để chọn ax
ta lại đưa vẻ bải toỏn cực tiộu hod ham gfa) = fÍx„ - a.f(xx)) Ta cú
thể đựng ngay phương phỏp giảm nhanh dộ chon ay
Định lý 1.4 : Nếu hảm ớ thỏa điểu kiện của định lý 1.1 và chọn
Trang 14LUẬN VĂN TỐT NGHIỆP PHƯƠNG PHÁP GRADIENT ———ễ ma f[xke1)- fx.) = min (f[x, - a.f(xJ)- fix) < min h(a) 2 ee 2 = fixke1)- fl) s b(5) = - If(xdl* <0 => 0 < If (x) 1? Â 4.R (fx 4)- fx) Vi day {flxy)} la dóy giảm ,bị chặn nờn hội tu => ÍÍx¿)- Í(X Ă} + O khi k->ằs => If(xJl + 0 khi ka
Vậy định ly đó được chứng minh
Định lý 1.5 Nếu hảm f thoả điểu kiện định lý 1.2, với phương
phỏp Gradient cú a„ được chọn sao cho :
[[x.i) = ÍÍxv — ax-P Gad) = min fix, — a.f(x,)) thi day (xx) hội tụ với tốc độ một cấp số nhỏn với tỉ số q= seem +m) Chứng minh: Đặt yx,Ă=x, - a f(xy),với a=1l /M Ta cú:
[[yx,t) -Íxv) =<f(xv),-a f(Xv)> + 1⁄4<f'(Xec)(- a F(xx)).- a F(xxè>
Trang 15
Pare {Moma te) | bee 2.M’
Tứ đú ta cú điều phải chứng minh
HI.Phương Phỏp Građient mở rộng:
Cho F là một ma trận đối xứng tuỷ ý thỏa món điều kiện : 3p>0: plyl* < <Fy y>s Plyl? ,v yeIR" (e)
Tu cach chon vectd py, ta cd thộ chon px, = -F.f (xi) vi :
<f(X;).px> = -<f(x„) F.f(x¿)> < -p Íf(x¿) |? < 0 vậy ta cú thể xỏy dựng dảy |xy) dạng :
Xx+i = Xk — A Fe L (xX)
Với |Fvl lả một dóy ma trận thỏa món tinh chất (Â) Khi dộ day
(F¿ '| thỏa món : mị Íyẽ? < <Fy ,y> < Mi ÍyÍ? với mị = a đấm:
` P
Vay ta cling cộ thộ xay dung day {xy) voi px = -Fy | f' (xe :
Xie = Xk — ay Fy! f(xy
Trang 16LUẬN VĂN TỐT NGHIỆP PHƯƠNG PHÁP GRADIENT
—————————————— S000
= (1- _ ) a.<f(xx).p„> (vi p=Fx !.fxu) â f(xx) = Fxpx )
Tương tự định lý 1.1 ta cú :
VỚI ay < pe) thi BDT: flxxs1) - flxx) < Ê ax<f(x,),p.> đỳng vả ta
chứng minh được I f(x.) + O khi k > ằ theo BDT : Í(xv)-Í[Xx.Ă) > -Ê ax„<fÍ(Xv).Px> = -Êau<Fkpx.Px> = ca,<f(X„).Ex è.f(x„)> 2 m;Êag | ftxạ) |? œ è f(xy)è? < fx,)-ẹx, ) m,eu, Vậy Định lý đó được chứng mớnh | Định lý 1.7 : Với phương phỏp mở rộng định lý 1.2 vẫn đỳng Chứng minh : Nếu x = Xx + ap, mả px = -Fx è.f(xu) khi đú : 1 f[x) - f[xy) = a<f(Xv).px> + >< "(Xwc)}Px.Px> aMịp, |’ < a<f (xu),Pk> (TT ) mà <f(Xx).px> = -< FxPx.px > < -pẽ px è? = f(x) - f(xy) < a<f(Xx),éx> (1- = )
vậy BĐT f[x„.t) - f{x„) < e ax<f(Xx).px> van thộa man khi
1- = zea s PU) tương ty djnh ly 1.1 ta chifng minh 2.p
2p(l -
được ay > Lễ
Trang 17—————— = Í[Xk‹Ă) - ÍÍxv) Ss -Ê ay mịm(1+ m ) [fad - fx)| => flxxe1) - fix") < Í1-Ê a, m;m(1+ = )) fl) - fx’) 2.6(1 - €)ptm, m M ; ee m= 4+ = ) => Mixx) - fix’) š q(f(x¿) - fx)) => fix) - fix) < q*{f(xo) - f(x)) ma I xy -xI< [= f[xyè - fx))|!2 [= { f[x¿) - fx"))}!⁄2 q12 => Ix,-xIl <C.q’? < [1- (4+ = NT Ifxx) - ffx)] Đặt q = I1 2 vậy định lý được chứng minh vả gain = 1- — a! (14 ca ) 2 M M khi c = ` 2 Nhận xột :
a Với phương phỏp Gradient mở rộng ta thấy kết quả cỏc định lý 1.1, 1.2 vẫn đỳng nghĩa là tớnh chất của phương phỏp nay cing giống như phương phỏp trước Tuy nhiờn tốc độ hội tụ
của dóy |x¿è, |f(xx)| trong phương phỏp này là cấp số nhỏn ,tỉ
số q bộ nhất khi eal Nghĩa là, với phương phỏp này trong trường hợp dảy |F,| tuỳ ý thỏa điểu kiện đả cho thỡ tốc độ hội tụ cũn chậm hơn so với phương phỏp trước
a Ta cũng cú hai biến thể chọn ay là hằng số khi biết R hoặc
M là: ay < =? : 8 aot va biộn thộ chon a, theo diộu
kiộn : f[x, + ax.px) = min (f(xx) + a.px)
Hoàn toàn tương tự định lý 1.4 ,1.5 ta chứng minh được định lý
Sau :
Định lý 1.8 : Nếu hảm ớf thỏa điều kiện định lý 1.2 vả với
phương phỏp Gradient mở rộng a„ được chọn theo điều kiện:
fix + ax.px) = min (f(xu) + a.px)
thi đảy (xu) hội tụ vẻ điểm đạt cực tiểu x” với tốc độ một cấp số
nhan,
Trang 18LUẬN VĂN TỐT NGHIỆP PHƯƠNG PHÁP NEWTON
CHƯƠNG 2: PHƯƠNG PHÁP NEWTON
I.Phương phap Newton:
Giả sử hàm f lụi nghiờm ngặt và đủ trơn Khi đú:
3 m>0: <f”(x)y.y> > mỈy |? vx.yeIR"
Ta chọn vectơ pụ sao cho: <f(Xx).py> =-<f”(Xx}éx.px> < O
â px =-((x))' f(x)
Khi đú dảy |xyè cú dạng :
Xie = Xie — aye (OX) Pox)
Để chọn a; ta vẫn dựng phương phỏp lặp chọn a, thod man
BĐT: Í(Xx¿.Ă} - Íx„) < E.ay<f(Xx).Px>
Trong phản nảy ta xột cỏc hảm f c6 ma tran dao ham bac hai
fˆ(x) đối xứng vả thoả món:
3 M>m>0: ml yl? < <f(xly.y> < Ml yl? vx,yeIR"
Vậy phương phỏp Newton lả trường hợp riờng của phương phỏp
Gradient mở rộng nếu lấy F, e f (x„) Vỡ vậy sự hội tụ của dóy |xy| về điểm cực tiểu duy nhất x` đó đỳng, ta chi cụn đỏnh giỏ tốc độ hội tụ
cua cac day [xxl, |f(xx)] trong phương phỏp
Định lý 2.1: Với hàm f thoả món cỏc điều kiện trờn.với phương phap Newton va cach chon a, thod man BDT :
fXx.Ă) - Í[xx) < c.ax<f(Xx).Px>
Khi đú dóy |x;| hội tụ về x” với tốc độ trờn cấp số nhăn, nghĩa
| la:
Í xu na x | = C.AN- Aneto Aner
Trang 19—————————————ễễễễỄễễỄễễễễ 2 =› Í(Xx„i) - Í(Xx) < ay<f(Xxè.px> + hf (Xk) Pk> 2 + ~ | fxxe)-fP(xx) Í px? < ay<fs)p>.(1-đx — 88 Hd dip |" + mip, || = ax<f(xx).px>.(1-Š* a GO-GO, 2 2 m
Ma |xy-x 130 = Ixxe)-xx130 khi kow
Va Xkce = Xk * OF Xkei-XK), 8 € [O71]
=> I xne-xk l= O01 xker-xx 1+ 0 khi koo
Do f" la hàm liờn tue = If (xw)-f"(xJ 1 3 0 khi kon
Vậy với mọi hằng số e sao cho O<c<l/2_, cú một số No(c} sao Ma O-PS 2 2 m thod khi a, = 1 Nghia la khi d6 vội a, = 1 thỡ : f(xx.Ă) - Ẩxv) < e.ay<f(Xx).px> Vậy với phương phỏp này khi k 2 Nole) thi : Xo = Xe — ( (xe)}è f(x) => ẽx,ôi-x |? = <xx- X” - (Ge))”, (Xe) Xx+i-X > = <xx- X - (f(xx))'.( f(xw) - f(x)).Xx.\-X` > Mà theo cụng thức Lagrange : f(x„) - f(x') = fˆôet).( X- X}
=> xx,i-x`|?= <xw- x” - (ff(y))} fˆ(Xwet).( Xe- XX” >
= <[I - (fˆ(xu)}* fˆ(Xwei)è.(Xx- X).XôĂ-X” >
= < (f (xu) !.(ff(Xx) - fˆ(Xwei)) (Xu- Xè).Xk.ỡ-X” > < ~ 1 (FG ~ fer) bbe x1 Pixies” |
)
cho với mọi k = Nole) thi diộu kiộn : 1 sộ
=> I xei-x Is ~ Hf" G) ~ Ê201) bb xy- x"
Trang 20LUẬN VĂN TỐT NGHIỆP PHƯƠNG PHÁP NEWTON
Định lớ 2.2 : Nếu hàm f thoả mản điều kiện :
| ff(x)- fty)ẽ< R.èx-yẽ v x, y e IR*
thỡ khi đú với phudng phap Newton, va cach chon a, thoa man BDT :
fixer) - Í[Xy) < c.ax<f(Xx).pk> day (x,} sộ hoi tu vẻ x” với tốc độ bỏc hai Chứng mớnh : Tử định lý 2.1 ta đó chứng minh: Ixx,Ă-x`Í< 2A èx„- xèẽ voi ay = _ Itfftx¿) - f(x„.;) Í => AS x èxx- Xkci l= gi xv x |< = lxx„- x] m m m R = èXw4Ă-x`Ỉ< zm lx„- x |?
Vay day |xy| hội tụ vẻ x` với tốc độ bặc hai
+Nhõn xột: Với điểu kiện định lý 1.2:
mèyl? < <f'(x)y.y> < Mèyẽ? ,M>m>O vx.yelR"
thỡ với phương phỏp Gradient tốc độ hội tụ của đảy {xy] chỉ được
ước lượng lả tốc độ một cấp số nhõn nhưng với phương phỏp Necwton
day (x) dude xay dựng lại cú tốc độ hội tụ trờn cấp số nhỏn Hơn
nữa, khi điều kiện:
|f*œ)- fy)l< R.Íx-yẽ, v x y € IR"
thoả món thi dóy |xy| được ước lượng hội tụ với tốc độ bỏc hai
Vậy so với phương phỏp Gradient thỡ tốc độ hội tụ của đảy |x¿|
được cải tiến nhanh hơn rất nhiều
II.Biến thể của phương phỏp:
Với phương phỏp Newton, ta cựng cú một biến thể khỏc mà a,
được chọn thoả mản điều kiện:
f[xx,i) =Íxv - av.(fP(xy)) ” (xà) = min f[x¿ - a(”(x¿)) ` f(xy))
Trang 21Định lý 2.3: Với biến thể của phương phỏp Newton ma a, thoa món: fxu.Ă) =f[xy - as.(f OK) Pad) = min fix, - al bad)" fx)
va vdi diÂu kiộn cia dinh ly 2.1 thi day {xy} hội tụ với tốc độ trờn cấp số nhõn Với điều kiện của định lý 2.2 thỡ dảy |xy| hội tụ với tốc độ bậc hai
Chứng minh:
Dat x,,, = Xx - (f (x¿)}} fl) Với một số N nao do, khi k 2 N
thỡ x,., chớnh là cỏch xõy dựng tử x„ theo phương phỏp Newton ban đầu nờn ta cú: | Xạ -x`Í< 2x Íxv- x`Í với A„ = -í [(PGx) - f4.) |
m
Ma theo chứng minh của định lý 1.2 ta cú:
= lx- x 1? < flix) - fix’) < = Ix x |? = a Íx¿.Ă- XE? < fxr) - f(x) < flx,.,) - fix’) M Ae i lz,„ - x1? Lxcer x< (82 1 - xh hs (ae Íxv- x | m m
Với điều kiện định lý 2.1 thỡ (SYK O nộn day [xx) hdi tu
nhanh kon bất kỡ cấp số nhõn nao
Trang 22LUẬN VĂN TỐT NGHIỆP MỘT SỐ ÁP DỤNG
CHƯƠNG 3: MỘT SỐ ÁP DỤNG
I.Cưc tiểu hoỏ hàm bậc hai :
Hảm số đi từ IR” vào IR cú dang : f(x) = ; <Axuâ + <b.x> +c vdi x = (x'.x?._ x") x' EIR Á = laylan là ma trận vuụng cấp n đối xứng, nghĩa la: ay = ay Vij b = |biỡ › là ma trận cột, cú thể coi b là một vectơ Ta cú: f(x) = Ax +b f"(x) = A const A/Tớnh chất: a) Khi A xỏc định đương thỡ ớ là ham lỗi nghiờm ngat, bj chan đưỡi b) Ma trận dao ham f(x) = Ax + b thoa tinh chat: 3 R>0 : ẽf(x) - f(y)è < R.èx - yẽ.vx.yeIR" Thật vỏy ta cú: [f(x) - f(y)l = lAx - Ayl = lA(tx - y)Í < lAl.lx - yẽ.,vx,yeIR" Vậy ta cú thể chọn R = |Aè= | > aj <i je
cỡ Khớ A xỏc định dương thi tụn tại cỏc hằng số M > m > O sao
cho : mèyẽ|? s < f(x)y.y> s MèyÍ? ;VY x,yeIR"
Thỏt vậy, vỡ f lỗi nghiờm ngặt nờn theo tớnh chất hàm lỗi thi
m tốn tại
Trang 23—
Vay mlyl? s < f(x)y,y> < MlyÍ?;v x.yeIR"
với m > O ,M = man > Ia,
1` l‹i‹a
d) Ham f thoa diộu kiộn : I f(x) - My)1s R.Ix - yè.vVx.yeIR" Vậy ta cú thể ỏp dụng cỏc phương phỏp Gradient Newton cho
hàm bặc hai với A là ma trận xỏc định đương
B/Một số thuật toỏn phụ trợ:
Để ỏp dụng được cỏc phương phỏp số da trỡnh bảy, ta cản cỏc
thuật toỏn kiểm tra tớnh xỏc định dương của ma trận A, huật toỏn nghịch đảo ma trận A
a)Thuật toỏn kiểm tra tớnh xỏc định dương của ma trận A: Thuật toỏn xuất phỏt tử mệnh để 1.1 ta cản kiểm tra cỏc định
thức con [au]w đều dương Muốn vậy ta cản biến đổi A về ma trận đường chộo [bụ] bằng cỏc phộp biến đổi dửng sơ cấp mà khong dung
phộp đổi hai dũng cho nhau rồi kiểm tra cỏc số bụ cỏ dương hay
khong
@i1 @i2 @13 Min Daa Địa Địa oe Địa
Bại 822 823 82n O Daz Das Dan
8ạĂ 832 833 8ạ | _ ,.| 0 O0 bs3 Dan lai o2 na Onn 8 9 â@ Tu
Ta dựng thuật toản sau : vũng lặp sau n bước :
Ở bước thứ k ta kiộm tra a,x > 0, nộu sai thi ma tran A khụng
thoả món nếu đỳng ta lấy dũng thứ k+] trừ di awy.Ăx/axx, ta lấy dũng
thứ k+2 trữ đi aw.z/axx cử vậy cho đến hết dũng thứ n rồi qua bước
thi? k+1
b)Thuat toỏn nghịch đảo ma trận A :
Ở đõy ta chỉ ỏp dụng cho ma trận xỏc định dương
Trang 24LUẬN VĂN TỐT NGHIỆP MỘT SỐ ÁP DỤNG
Ta dựng phương phỏp Gauss : gắn thờm cho A m6t ma tran đơn vị rồi dựng cỏc phộp biến đổi sơ cấp theo hàng để biến đổi theo sơ
đỏ:
8ĂĂ 8Ăz 8ịn è 0 0 10 0 Dir Địa -Đéịn 8ại @22 82n O0 1 0 ——— 0 1 0 bạy bạ¿ Dan
lại Q@n2 đan O O 1 OO 1 Bai Daa -bDan
Phương phỏp biến đổi của thuật toỏn cũng tương tự thuật toản kiểm tra ma trận xỏc định dương
c./Giải thuật:
Cú thể xỏc định cực tiểu hoỏ hàm bậc hai bằng một chương
trỡnh mỏy tớnh, trong đú:
- - Mỗi vectơ là mảng ỡ chiều;
- - Mỗi ma trận vuụng là mảng 2 chiộu;
- Ta xõy dựng cỏc chương trỡnh con ứng với cỏc phộp toỏn ma
trận
Tử ngửừn ngữ trờn ta xảy dựng chương trỡnh (xem mục 2 của
chương)
H.Tớnh t u:
Trong khụng gian Euclit n chiộu nhiing van dộ nhu tinh khoảng cỏch tử một điểm đến một siờu mặt, từ nột điểm đến một đường
cong khoảng cỏch giữa hai đường cong, khoảng cỏch giữa hai đa tạp đều cú thể quy vẻ bài toỏn cực tiểu hàm
a)Tớnh khoảng cỏch giữa 2 đa tạp tuyến tớnh:
Trang 25_—————————ễễẼẼễẼễẼŠ==Ẽễ_——EEEẼỀ
với x, y xỏc định như trờn và u = (XỊ, X¿ Xap Y1 Y2 Vaa è
Vỡ ớ( ứ là những hàm tuyộn tinh nộn F? la ham bac 2 theo u Bài toỏn tim khoảng cỏch giữa 2 đa tạp được quy vẻ bài toỏn cực tiểu
ham bac hai đó trỡnh bay ở trờn
b cỏch hai đa vi n:
Giả sử ta cú 2 đa tạp A, B
A la tập những điểm cú dạng (x1, Xa ô., Xap filx), - f(x)
B là tap nhitng diộm cộ dang (yi, ya ~ Yaq ily), ô+ ỉa(y))
VỚI X = (Xi, Xa, Xap) Y = (Ya V4 Yaa) Và Í, ứ; là những ham kha vi
Ta giả sử cỏc hàm f,, ứ, là cỏc hàm đa thức, khi đú hàm F?
cũng là hảm đa thức (F lả hảm khoảng cỏch xỏc định như phản a)
Bải toỏn quy về tim cực tiểu hảm đa thức nhiều biến
Đối với hảm đa thức nhiều biến tổng quỏt thi cỏc điều kiện của
định lý 1.2, điểu kiện hảm trong phương phỏp Newton khụng thoả
món Tuy nhiờn đối với hàm FŸ trờn là hàm khả vi và bị chặn dưới nộn ta cú thể sử dụng phương phỏp Gradient cú ax được chọn theo
thuật toỏn lặp
Với phương phỏp nảy ta cú thể tớnh khoảng cỏch từ một điểm
đến một đường cong, mặt cong hoặc giữa cỏc đường cong, mặt cong
trong IE?, IE”,
Vớ đụ : Tớnh khoảng cỏch tử một điểm đến một mặt cong trong khong gian IE’
Giả sử mặt cong đó cho lả tập những điểm (x.y,f[x.y)) với f la
hàm đa thức hai biến
Giả sử ta cản tớm khoảng cỏch từ điểm (0,0,0) đến mặt (nếu khỏng ta đổi trục tọa độ sao cho điểm cản tỡm khoảng cỏch trựng với gốc tọa độ) Hàm bỡnh phương khoảng cỏch của (0.0.0) đến điểm
(x.y.f(x.y)) là hàm gớx.y) cũng cú dạng đa thức hai biến cỏc đạo hàm riờng của ứ theo x,y cũng cú dạng đa thức hai biến
Một đa thức 2 biến thỡ biểu điển được duy nhất ở dạng : F(x.y) = `
do đú ta cú thể đồng nhất một hảm đa thức hai biến F
với bú số (ay)
Vậy ta sẽ xõy dựng chương trinh đụng nhất hàm đa thức hai
biến với một mảng 2 chiều (tương tự cho bải toỏn khoảng cỏch tử một
điểm đến một siờu mặt trong khụng gian n chiểu lả mang n-1 chiộu)
—— ee
Trang 26LUẬN VĂN TỐT NGHIỆP MỘT SỐ ÁP DỤNG
Giả sử mặt cong (x.vy.fx,y)) với f đồng nhất mảng All,J| thỡ hàm binh phương khoảng cỏch sẽ là g(x.y) = x? + y? +f(x.y) được đồng
nhất với mảng BỊi.j] được tớnh với thuật toỏn sau : a Tớnh cỏc hệ s6 Bii,j] = > yay era
a Sau đú, ta cho BỊO.2|;B|2.0| tăng 1
Cỏc mảng CỊI.j] DỊi,jè tương ứng cỏc hàm số đạo hảm riờng theo x.y cua ham g được tớnh theo cụng thức C[i,j] = (i+1).Bfi+1,j] va DỊi.J] = (j+1).BHH,j+1]
Từ đử ta xảy dựng chương trỡnh cho dang bai toỏn trờn (xem mục 2 của chương) với phương phap Gradient co a, dude tinh bang
phương phỏp lặp
Cỏc vấn để như tỡm khoảng cỏch giữa 2 đường cong một điểm đến một đường cong, mặt cong trong R” đều cú thể xỏy dựng tương tự với giả thiết cỏc hảm ràng buộc lả hàm đa thức nhiều biến (chi
phức tạp hơn bởi số chiều của mảng ứng với hàm số vả cụng thức liờn hệ giữa cỏc mảng)
Trang 27CHƯƠNG 4: THUẬT TOÁN HOÁ CÁC PHƯƠNG PHÁP VÀ MỘT SỐ CHƯƠNG TRèNH MÁY TÍNH
I.Thuật toỏn hoỏ cỏc phương phỏp:
Trong phương phỏp số ta sẻ xỏy dựng một dóy |x¿) hội tụ vẻ x”,
do x' chưa biết trước nờn chờnh lệch giữa x„ và x` được đỏnh giỏ qua
chộnh lệch của x„ vả Xxu.Ă Nghĩa là quả trỡnh xảy dung day x, sộ difng khi Íx; — x„.Ă ẽ< z với z là một hằng số khỏ nhỏ Ta cú : nếu Ix, -x I< q | XK -x' | (O< q <è) =lxx.Ă =x`ẽ < ẽxx.Ă = xyẽ + ẽx„ -x è s ẽxx -xk:è+ q.Í x4 -x | <> (1-q) Ix -x 1 s Ix - xl 1- =è xx ~ Xx.Ă è 2 mt fag se | q => | x, = x | Ss a | x, — Xi 1 I-q
Do đú với q < 1/2 thỡ từ èx„ - xeiẽ<z ta cú ẽÍx¿ - x`Í< z, nờn sự ước lượng giữa x„ và xx.Ă thể hiện chớnh xỏc sai số giữa x„ và x’,
với q rất gắn 1 thỡ = rất lớn nờn sự ước lượng giữa x„y và x„Ă chỉ "4 cũn là tương đối Từ sự nhận xột nảy, ta cú thuật toan ứng với cỏc phương phỏp số như sau ; a tt khi đó chon a, la s6 a: Đầu vảo : giỏ trị xuất phỏt xo, hàm f, hằng số z Đảu ra : giỏ trị gản đỳng x, fx) Dat X = Xo - Bước 1 : Đặt y =x
- Bude 2: Tỉnh lại x = y + a.p(y)
(vai ply) = - fly), với phương phỏp Gradient
p(y) = - fty}'.f(y) với phương phỏp Newton) - Buộc 3: Kiộm tra BBT: | x-y | sz
- Bước 4 : Nếu BĐT sai thỡ lặp lại cỏc bước trờn cho đến khi
BĐT đỳng Khi BĐT đỳng thỡ x chớnh lả giỏ trị gản đỳng của Sn
_ờ>>——————————ừ—
Trang 28LUẬN VĂN TỐT NGHIỆP THUẬT TOÁN HểA Vậy ta đó xảy dựng dóy |xui qua 2 biến x,y thay đổi Ở lản lặp
thứ k kết quả sẽ cho x la xy, va y la X,.; b./Thuật toỏn ch eo hỏ Đầu vào ; hàm Í, Xe, Ê, t, z Đảu ra : giỏ trị gắn đỳng x, f(x) Dat xX = Xo - Bước 1 : Đặt y = x Bước 2 : Gỗm cỏc bước : dat a=] + bước 2a : Tớnh x=y+a.p(y)
+ bước 2b : Kiểm tra BĐT : f(x) - f{y) < c.a.<f(y).p(y)>
+ bước 2c : Nếu BĐT trờn sai thỡ tớnh lại a= t.a rỏi lặp lại
cỏc bước tử 2a đến 2c cho đến khi BĐT đỳng
- Bước 3: Kiểm tra BĐT: è x-y è<z
Bước 4 : Nếu BĐT sai thỡ lặp lại cỏc bước trờn cho đến khi BĐT đỳng Khi BĐT đỳng thi x chớnh là giỏ trị gắn đỳng của
eS
Trong thuật toản trờn giỏ trị a cuối cựng khi ở bước 2c kiểm tra
được BĐT (2b) đỳng chớnh là giỏ trị a, cắn tỡm Cỏch chọn x„ vẫn như thuật toỏn trước, và ta đó sử dụng 2 vũng lặp lỏng vào nhau
c./Thuật toỏn chọn a„ theo điểu kiện f[x›.;) = min fix, + đ.Dy) :
Thuật toỏn nảy hoàn toàn giống thuật toỏn chon a, lA hằng số, chỉ thờm ở bước 2 trước khi tớnh lại x, cần xỏc định lại a theo điều
kiện Cú thể dựng cụng thức đả được chứng minh của ay với lớp hàm cho trước, hoặc dựng lại phương phỏp giảm nhanh để tớnh a, khi ta xem như lả quả trỡnh cực tiểu hàm gớa) = f(x + a.pr)
I.Một số chương trỡnh bằng ngụn ngữ pascal:
2.1./Tớnh cực tiểu hoỏ hàm bậc hai:
Chương trỡnh ỏp dụng cho hàm bậc hai gồm bốn tập tớn:
MATRAN.TPU, HAMBAC2.TPU, PH_SO.TPU, PPSO.EXE được lập từ cỏc tập tớn sau:
Tập MATRAN.PAS xỏc định dạng cỏc vectơ, ma trận (dang
mảng), định số chiều n của IR” vả chứa cỏc chương trỡnh con kiểm tra ma trận xỏc định dương, kiểm tra sai số, cỏc phộp toỏn ma trỏn,
tớch vừ hướng tớnh cỏc hằng số R, M
Trang 29
-ễễễùẳủỉ.ẳẽề›aa-›5› 5 s55 › aaơ UNIT MATRAN; INTERFACE type mlc = array [1 10] of real; m2c = array [1 10,1 10] of real; const n=3; Function ktra_mtran_xdduong({a:m2c) : boolean; procedure nhap_mtran_lc(var b:mlc); procedure ndao(a:m2c;var b:m2c); procedure nhap mtran dxung xdduong(var a:m2c); procedure nhan22(a,b:m2c;var c:m2c); procedure nhan2l(a:m2c;b:mlc:var c:mlc); procedure nhanOl{a:real;b:mlc;var c:mlc); procedure congll{a,b:mlc;var c:mlc);
function tvh(a,b:mic) : real;
function ktsso(x,y:mlc;z:real) :boolean; function M(a:m2c):real; IMPLEMENTATION procedure nhap_mtran_lc(var b:mlc); var i:integer; begin writeln(°nhap ma tran mot chieu:'); for iz:=l to n do begin write('heso',i,'=')};readin(b[i]); end; end;
{ SSEPSREAEAAESKSERAEREWSRHELELALEERAEREA EVENS UCCORWUP LEY SD)
function ktra_mtran_xdduong(a:m2c) : boolean; var k,i,j:integer; begin k: #1; while ({(k<n) and (a[k,k]>0)) do begin for i:= k+l to n do for j:= n downto 1 do a[i,1):=a([i,13)-a([i,k] *a[k, 3]/a{k,k]: k:=k+1; end;
if ({k=n) and (a[k,k]>0))ỡ then
ktra mtran xdduong nngat:=true
else ktra mtran xdduong_ nngat:*faèse;
end;
(09204 ECS HCE RAST ORACLE A AESSSRCEC SE RECSET AVES SURES |}
procedure nhap mtran_dxungivar a:m2c); var i,j:integer;
Trang 30LUẬN VĂN TỐT NGHIỆP THUẬT TOÁN HểA begin writeln('Nhap ma tran vuong doi xung: '); for i:=1 to n do for j}:=1 to n do if i>j then a[(i,j]:*a[j,i] else begin write({‘heso',i,j,'=');readin(a[i,j]}; end; end; {SOHO HEHEHE HEHOEHAHRHRRANEHEHRERERHEEEEREEWERERERAREOS HEHE NWSE | procedure nhap_mtran_dxung_xdduong(var a:m2c) ; var p:boolean; begin repeat
nhap_mtran dxung (a) ;
p:=ktra mtran xdduong_ nngat (aA! ; if p*false then write('Ma tran khong xac dinh duong nghiem nqgat,lam lai:'); until p=true; end; (*9tweseeâosuewewueoedwdetededoeodedoooddodoodoedwdeodewdedoedstedeweedoedoedeseedeode6đẻ >3)
Trang 31for j:=l1 to n do bịi,}j):*b[i,}j]-
b|k,]]*a[li,k]:
for i:=k-1 downto 1 do
Trang 32LUẬN VĂN TỐT NGHIỆP THUẬT TOÁN HểA ==Ÿễễễ-E——————ễễẽ— “=5 SG tớ ti function tvh(a,b:mlc):real; Var crreal; i:integer; begin c:=0; for i:=1 to n do c:=ctali)*b[il]; tvh:=c¿ end; pro n9 tnwa tư ty xttd0we929690t600606w6tđ0060600d0edoduo60dđGe6dđdđd+e+d+s+d+e+ed4+sed “4e “St dđ tđ#tđt+edvoet@e6đ“¿6 owe) function ktsso(x,y:mlc;2z: real) : boolean; var p:boolean; i: integer; begin p: *true; for i:=l to n do p:=p and (({x[i]-y[i]}<z) and ((y[i]=x[i])<z)¿ ktsso:=p; end; { COAT HET HEHE SH EHH SATS ESHSHSHSTSHEEEHEHSHEHEHHHSHHEHHEHEHNREDESD u00 Êunction M(a:m2c) :real; var i,j:integer; p,q:real; begin q:=0; for i:=1 to n do begin p:=0; for j:*l to n do p:=p+sdqrt (sdgr (Aa[i,3]!):; if p>q then q:=p; end; M:=q: end; END
Tập HAMBAC2.PAS gồm cỏc chương trỡnh con tớnh f(x) đạo hàm
Trang 33Var a:m2c;b:mlec;c: real; function f(x:m1c):real; procedure dfx(x:mlc;var dham:mic}; function chuan2df(x:mlc):real; IMPLEMENTATION function fÊ(x:mlc):real; Var p:real; 1, J: integer; begin p:=c; for i:=l to n do for j:=l1 to n do p:=pta{i,j)*x[i}*x[j]/2; for i:#l to n do p:=ep+b[i]*x[i]; f:=p; end;
i te a 2< or bs oS PB tnatet tactee NP aI snes ad shin at ea ri Salt ah Rated aie th
procedure dfx(x:mlc;var dham:mic); var d:mlic; begin nhan21 (a,x,qd); congll(d,b,dham) ; end;
CP SRSSW ST SRSA ESTO ASTRA WRARKSHAWEGARAWED WD
Trang 34LUẬN VĂN TỐT NGHIỆP THUẬT TOÁN HểA
const e=Ú,5;t=0.?5;z=0,0005;
procedure pp_gradient thuan tuy(x:mlc;var y:m]c); procedure pp_bthe gradientltx:mlc;var y:m]C); procedure pp_gradient khac(x:mlc;var y:mèc); procedure pp_newton(x:mlc;var y:mlc!t; IMPLEMENTATION procedure pp gradient thuan tuy(x:mlc;var y:mlc); var dham,tg:imic; ak: real; p:boolean; begin repeat Yi=X? ak:=1; repeat dfx (y, dham) ; nhan] (—=ak, dham, t9) ; congli(y,tg,x);
p:“(f(x)=f(y)) <*“ =e*ak*chuan2df ({y) ;
if p=false then ak:=t*ak; until p=true; until ktsso(x,y,2z)=true; y:“=x: end; [tt oeooe0webduaụdueoụoetuttweoowoedoeowoeoeoowo0oddd,09000006000600960e066060) procedure pp bthe gradientl(x:mlc;var y:mlic); var dham,tg:mlc; ak: real; begin ak:=2* (1-e) /M(a); repeat y:“X; đÊx(y, dham! ; nhanD0] (=ak, dham, tg) ¿ cCong1l (y,tg, x) : until ktsso(x,y,2)=true; y:#X;: end;
(955w 0006167201 6,4V00 0 10010200000 W.ẾC NI VN YẾU TH CAY TY (NT QỢ VỆ, VTV2 AT, Vế /ĐR t OES eS
Trang 35for i:=1 to n do for j:=l to n do if i=j then Fl{i,j}:=n else Fl{i,}]:=1; ak:=2/M(a); ndao (F1, F2) ; (1? sd”eeđwossweueeeudesva | repeat Yi"x; dix (y, Gham} ; nhan21 (F2, dham, tg1) ; nhan0]1 (-ak,tg1,tg2) : cong11(y,tg2,x) ; until ktsso(x,y,2)=true; yi=x; end; (FREE LE ATRHHRARAETDPERTEWRWOHATEWERERERERAERTAEESE SHH | procedure pp newton(x:mlc;var y:mlc); var Fl:m2c; dham, pk, tgl,tg2:mlc; ak: real; p: boolean; begin ndao (a, F1) ; ak:=1; repeat Vy:=X; dÊx (y, dhanm) ? nhan21 (F1, dham, tg1) ; nhanOl (-1,tgl,pk); nhan0Ol (ak, pk, tq2); congll(y,tg2,x); until ktsso(x,y,2z)=true; y:™x; end; [RRM SRRRKORLS: OR DYORARORSIRORSRGOS SORES VERIO SELES E WES S:) END Tap PPSO.PAS là chương trỡnh chớnh thể hiện giao diện với người sử dụng:
PROGRAM PP SO CUC TIEU HAM KHONG DK; USES CRT,MATRAN, HAMBAC2, PP_SO; Var x, y:mic;
k: integer;
Trang 36LUẬN VĂN TỐT NGHIỆP THUẬT TOÁN HểA TT:CHAR; jệ? +2 “tu đsdtdeeodođwsketeuwewadvdởdwdesdeseddeuodeswedqeeuwưdedeewtdeesdedoụoudunwdesoe960) ' procedure gioithieu; begin textbackground({blue);clrscr; gotoxy (1,8): textcolor (14) ; writeln(! ca đư+‡ nhớt + tcđđt tt do hd đwướớdđ tk 4đ đ6469 2+ e te 6weđew46w,410)< r writeln({' * PHUONG PHAP SO CHO BAI TOAN TOI UU + eh} 2 writeln{' wúđwwewwewuedweeoowoddoosđeuewewueudouoụowesweodewd0).c writeln; textcolor (white); writeỡèỡn(° Chuong trớnh nay ap dung cho cac ham bac hai dang: *); writeln({' 1/2.<Ax,x> + <b,x> + c'); writeln{' voi A la mot ma tran doi xung xac dinh duong');
writeln{' nghiem ngat cap ',n:1,'.',m:1); writeèỡn(° Truoc het hay nhap cac he so cac ma tran
A,b va c');
writeln(' Sau do nhap gia tri khoi dau cua x');
Trang 37gotoxy(55,3);write(‘'c=",c:6:2); gotoxy(1,n+4};writeln('ket qua: f(x)=",f{y) 26:2); write('tai x* = (')? for i:=l1 to n do write(y[i]:6:4,' ‘);3 writelni')'); readin; end; (SE SSS ECR SESE SESH SSOP POCO PS LOWE SOVOVSS EVOL EU SEES EHE HEE SSE | procedure nhapheso; begin nhap mtran_dxung xdduong (a) ; nhap_mtran_lc(b); write('nhap he so tu do c:');readlnic); writeln('nhap gia tri khoi dau x:'}; nhap mtran_ lc(x); end; POOR CADP SEW CRSA SSS SSCA SESE SESS SCOCSCEL ES OOS Ia SEES Se SS) BEGIN GIOITHIEU; repeat nhapheso; repeat clrscr;
writeln(' Tinh theo pp nao:'}; writeln(' 1.Phuong phap gradient thuan
tuy.”)z
writeln(' 2.Phuong phap gradient bien the !) ;
writeln(' 3.Phuong phap gradient khac.'); writeln(' 4.Phuong phap Newton.');
Trang 38LUẬN VĂN TỐT NGHIỆP THUẬT TOÁN HểA flu.v) = 4u? + 4uv + 4v ~ 4u - 2v +6 : u,v EIR
Dat x = (u.v) eIR?
f(x) = (8u + 4v -4, 4u + Bv - 2)
Day |x,| can xay dying co dang:
Xx+i =ÍUk¿i.Vw„Ă} ={Uy.Vv) - ay(Buy + 4vụ - 4, 4uy + 8vựy - 2) Đầu vào: +ma tran A ứng với mảng hai chiếu: a[1,1J=a{2.2|=8; a[1,2]=al2 1]=4 +ma trận b ứng với mảng một chiờu: b{I]=-4: b|2]=-2 +c=6 +giỏ trị xu ứng với mảng một chiều: x[1]=40,x[2]=50
Với phương phỏp giảm nhanh ay được chọn theo phương phỏp
Trang 39TT Hv-ễ-FễỲỶẳẽẽ
xl4=( 0.499E 0.0001 } aƠ=0.10 sau 8lan lap
Sau 14 lan tinh, ta thu được kết quả gản đỳng của x’ la: (0.4998, 0.0001) Mặt khỏc.ta tớnh được M = lf(x)è=4v10.tử đú ta cú thể ỏp dụng phương phỏp Gradient biến thể với cỏch chọn ax là hằng số như sau: phuong phap giam nhanh voi ak=0,0833 x O=( 40.0000 90.9000 ) x L=( -3.0000 3.5000 ) x 2=( -1,8333 2.3333 ) x 3=( -1.0556 1.5556 ) x 4=( -0.5370 1.0370 ) x S=( -0.1914 0.6914 ) x 6=( 0.0391 0.4609 ) x 7= 0.1927 0.3073 ) x B*=( 0.2952 0.2048 ) x 9*( 0.3634 0.1366 ) x10=( 0.4090 0.0910 ) xll= 0.4393 0.0607 ) x12= 0.4595 0.0405 ) x13=[ 0.4730 0.0270 ) x14=( 0.4820 0.0180 ) xl5=( 0.4880 0.0120 ) x16=( 0.4920 0.0080 ) x17=( 0.4947 0.0053 ) x18= ( 0.4964 0.0036 ) x19=( 0.4976 0.0024 ) x20= 0.4984 0.0016 ) x21=( 0.4989 0.0011 ) x22= | 0.4993 0.0007 )
Với phương phỏp này sau 22 lần tớnh ta thu được giỏ tri gan đứng của x' là (0.4993,0.0017), với phương phỏp này tuy sổ bước tớnh
xạ tăng lờn nhưng khối lượng cửng việc giảm đi do mỗi lan lap tinh a,
ta phải tớnh lại đạo hàm theo x
Nếu sử dụng phương phỏp newton ta được kết quả:
phuong phap newton
x O=( 40.0000 50.0000 ) x 1=({ 0.59000 0.0000 )
Trang 40LUẬN VĂN TỐT NGHIỆP THUẬT TOÁN HểA
â ZÊ=l 0.5900 0.0000 )
Bảy giờ ta so sỏnh kết quả tớnh của cỏc phương phỏp số với
giỏ trị đỳng của x” Ta cú:
flu.v) = 4u? + 4uv + 4vŸ - 4u ~ 2v + 6
= (2u+v-l)? + 3v? + 5 >5
Dấu “=" xay ra khi 2u+v-1 =v =0
< u=1/2 va v = O
Vậy x` =(0.5., OJ vả tử phương phỏp Gradient ta thấy phương
phỏp khỏ hiệu quả ở giai đoạn đầu khi x„ cũn cỏch xa x” Đối với bải m l toỏn trờn ta chứng minh được — = MT VN (xem phan ham HP "4 bac hai).do M-m GUstq= 7 m
kha gan 1 nờn tốc độ hội tụ cũn cham
2.2/Chương trỡnh tớnh khoảng cỏch một điểm đến một mặt cong trong IRỲ : program tinh khoang cach trong khong gian E3; const n=4;nn=2;e=0.5;t=0.75; z=0.0005; type m2c = array [0 20,0 20] of real; var A,B,C,D:m2c; x,y.X1,Vy1,ak:real; kt:boolean; m:integer; (2 +e++dedđtdtđdwesedweddweedqdetedededo+xedeed+esdeỳ69deseteoeweseweteweededeteeeeộẻ | function mu{x:real1;k:integer) :real; var f:real;i:integer; begin f3:=13 for i:=1 to k do f:=Ê*x; mu:*f; end;
(PRATER HRTEWEKENALSIENDNHS ERO NEERAHROSH HOT AUAHOY |