Đang tải... (xem toàn văn)
Tóm lại, quá trình sinh ra một thế hệ mới từ thế hệ cũ theo giải thuật tiến hóa truyền thống sẽ được thực hiện thông qua 3 toán tử lai ghép, đột biến và chọn lọc với các ma trận chuyển t[r]
(1)Tạp chí Tin học Điều khiển học, T.29, S.2 (2013), 165–172
PHÂN TÍCH TÍNH HỘI TỤ CỦA THUẬT TỐN DI TRUYỀN LAI MỚI LỤC TRÍ TUN1, NGUYỄN HỮU MÙI2, VŨ ĐÌNH HỊA2
1Viện Cơng nghệ Thông tin, Viện Hàn Lâm Khoa học Công nghệ Việt Nam 2Khoa Công nghệ Thông tin, Đại học Sư phạm Hà nội
Tóm tắt Trong báo gần đây, chúng tơi trình bày thuật toán di truyền lai (NHGA) cho toán lập lịch Job Shop (JSP) Phương pháp mã hóa chúng tơi sử dụng mã hóa số tự nhiên thay cho mã hóa nhị phân Cách mã hóa có nhiều ưu điểm, vấn đề hội tụ vấn đề mở nhiều năm Bài báo phân tích thuộc tính hội tụ NHGA cách áp dụng tính chất xích Markov Trên sở phân tích xích Markov thuật tốn di truyền, chúng tơi chứng minh tính hội tụ tới tối ưu toàn cục phương pháp mã hóa số tự nhiên
Từ khóa.Lập lịch, giải thuật di truyền, hội tụ tồn cục, xích Markov
Abstract In this paper, we propose a new hybrid genetic algorithm (NHGA) for the job shop scheduling problem (JSP) The method of encoding we used was Natural coding instead of traditional binary coding This manner of coding has a lot of advantages but its convergence has been still an open issue so far This paper analyzes the convergence properties of the NHGA by applying the properties of Markov chain Based on Markov chain analysis of the genetic algorithm, we show that the proposed algorithm converges to the global optimum in term of Natural coding
Key words.Job shop scheduling, genetic algorithm, global convergence, Markov chain GIỚI THIỆU
Thuật toán di truyền (GA) theo q trình tiến hố tự thích nghi quần thể sinh học để tối ưu hoá hàm mục tiêu Thuật toán phát triển John Holland [5], GA đặc trưng chiến lược tìm kiếm dựa quần thể toán tử di truyền: chọn lọc, đột biến trao đổi chéo Nakano Yamada [11] nằm số người áp dụng GA cổ điển dùng phép biểu diễn lời giải theo số nhị phân cho toán lập lịch Job Shop (JSP) Sau họ cịn đề xuất số phương pháp kết hợp GA với kỹ thuật tìm kiếm khác thu nhiều thành tựu đáng kể việc chinh phục JSP Ulder người khác [10] người đề xuất phương pháp tìm kiếm cục di truyền, phương pháp lai ghép GA kỹ thuật tìm kiếm cục cho JSP Gần hơn, nhiều nhà nghiên cứu đề xuất phương pháp lai kết hợp GA với nhiều kỹ thuật tìm kiếm khác để giải toán phức tạp Chẳng hạn như: Lee Hui Peng người khác [6], F Guerriero [3], Rui Zhang người khác [12], Yamada [14], Tuy nhiên, chưa có phương pháp giải triệt để toán trường hợp nhiều máy nhiều công việc
(2)166 LUC TRI TUYEN, NGUYEN HUU MUI, VU DINH HOA
toán di truyền lai cho JSP, để hiểu chi tiết thuật tốn này, bạn đọc tham khảo [9] Trong báo trình bày vấn đề vướng mắc cịn để ngỏ năm qua là: Chứng minh tính hội tụ thuật toán di truyền lai cho tốn lập lịch Job Shop
2 THUẬT TỐN DI TRUYỀN LAI MỚI CHO BÀI TOÁN LẬP LỊCH JSP
Thuật toán di truyền thuật toán mà trở nên tiếng phổ biến, không sâu vào mô tả toán mà đưa thuật toán truyền thống thuật toán di truyền lai để tập trung phân tích tính hội tụ chúng dựa lý thuyết xác suất
• Thuật tốn di truyền truyền thống Begin
t =
Khởi tạo P(t)
Xác định độ thích nghi cá thể repeat
Thực lai ghép Thực đột biến
Xác định độ thích nghi cá thể Thực chọn lọc
Xác định độ thích nghi cá thể
until số tiêu chuẩn dừng thỏa mãn End
Thuật toán truyền thống khơng hội tụ hồn tồn [4] Vì vậy, chúng tơi cải tiến thuật tốn với bổ sung thêm cá thể tinh hoa thêm vào toán tử chép
• Thuật tốn di truyền lai mới: Siêu cá thể cá thể có tính chất đặc biệt, khơng tham gia vào trình lai ghép, đột biến hay chọn lọc, sau thao tác toán tử với quần thể, thực thêm toán tử mới, tốn tử chép Tốn tử có tác dụng chép cá thể có độ thích nghi cao so với siêu cá thể trạng thái tương ứng vào vị trí siêu cá thể Thuật tốn tiến hóa với siêu cá thể sau
Begin t =
Khởi tạo P(t) với siêu cá thể // cá thể có độ thích nghi tốt nhất// Xác định độ thích nghi cá thể //được chọn siêu cá thể// repeat
Thực lai ghép Thực đột biến
Xác định độ thích nghi cá thể Thực chọn lọc
Xác định cá thể có độ thích nghi cao Thực chép
(3)CONVERGENCE ANALYSIS OF THE NEW HYBRID GENETIC ALGORITHM 167
Với thuật toán di truyền lai này, chúng tơi sử dụng lý thuyết xích Markov để chứng minh toán hội tụ đến lời giải tối ưu toàn cục với xác suất theo thời gian
3 PHÂN TÍCH TÍNH HỘI TỤ CỦA THUẬT TỐN DI TRUYỀN CHO BÀI TOÁN LẬP LỊCH JSP
3.1 Thuật toán di truyền truyền thống
3.1.1Bài toán
Bài tốn giả sử với ncơng việc vàm máy với công việc xác định Mỗi lời giải coi cá thể, phần công việc xử lý máy gen Gọi N số cá thể quần thể Khi đó, trạng thái quần thể coi dãy mã hóa theo số tự nhiên có dài n×m×N, phép chiếu πk(i)cho ta cá thể thứ ktrong quần thể Khơng gian tìm kiếm có số trạng thái là(n!)m×N
3.1.2Liên hệ tốn JSP xích Markov
Như vậy, hệ thuật toán di truyền gồm quần thể đặc trưng hàm thích nghi, giá trị ta coi trạng thái Vì hệ thứt+ 1(gọi Zt+1) sinh
ra cách ngẫu nhiên từ hệ thứt(Zt) nên xác suất để quần thể chuyển từ trạng tháii hệtsang trạng tháij hệt+ 1chỉ phụ thuộc vào hệ thứtnên dãy {Zt, t≥1} coi xích Markov với khơng gian trạng thái khơng gian tìm kiếm Từ đây, ta phân tích hội tụ theo xác suất xích Markov
Bây ta tính ma trận xác suất chuyển xích Markov có từ thuật tốn di truyền
• Ma trận xác suất chuyển trạng thái quần thể gây toán tử lai ghép
Xét toán tử lai, gọi Clà ma trận chuyển trạng thái quần thể gây toán tử lai
ghép, ta có:
C=
c11 · · · c1(n!)m.N
c(n!)m.N
1 · · · c(n!)m.N
(n!)m.N
Vớicij xác suất quần thể chuyển từ trạng tháiisang trạng tháij với xác suất lai
pc Ta thấy với đầu vào thuật tốn tiến hóa truyền thống , xác suất lai làpc ∈[0,1], trình lai diễn việc chọn cá thể cha mẹ trạng thái thời i
với xác suất laipc, tiến hành cho lai ghép cá thể theo luật GT hồn tồn ngẫu nhiên [14], sau q trình lai ghép, quần thể trạng thái j với xác suấtcij
(n!)m.N X
j=1
cij =
xác suất cij không phụ thuộc vào việc quần thể hệ thứ bao nhiêu, thời điểm nào, mà phụ thuộc vào xác suất lai pc cố định theo đầu vào thuật giải Như vậy, ma trận chuyển trạng thái sinh phép lai C quần thể
ma trận ngẫu nhiên cố định không phụ thuộc vào trạng thái thời thời điểm quần thể
(4)168 LUC TRI TUYEN, NGUYEN HUU MUI, VU DINH HOA
Gọi i trạng thái thời điểm t, πk(i)là cá thể thứ k quần thể gồm N cá thể,πh(πk(i))là máy thứhtrong πk(i)vàπl(πh(πk(i)))là gene vị trí thứl, mơ tả Hình 3.1 Thuật tốn đột biến xảy vớiπk(i)có thể mơ tả vắn tắt sau:
Hình 3.1 Gene vị trí thứ2 trạng tháiicủa quần thể
1 Chọn cá thể πk(i) để thực đột biến với xác suất pm >0 (rất nhỏ) Vậy xác suất để đột biến không xảy là1−pm
2 Khi đột biến xảy đối vớiπk(i), trình đột biến sau: Với máyπh(πk(i)), h= 1, , m, máy số này: + Không gây đột biến với xác suất p >0(xấp xỉ 1)
+ Ngược lại, thay máy thứ h hoán vị bất kỳ, khác đồng nhất, với xác suất ngang Vậy xác suất cho thay đổi là:
1−p
n!−1 (3.1)
Với thuật tốn trên, cá thể đột biến thành cá thể khơng gian tìm kiếm với xác suất dương, xác suất phụ thuộc vàop Gọimij xác suất chuyển quần thể từ trạng thái i sang trạng thái j thông qua đột biến, mij > 0,∀i, j Xác suấtmij phụ thuộc vàop(khơng tính sốnđã cho), tính cụ thể sau:
Xét hai trạng thái i, j Giả sử ivàj có K cá thể giống vàN −K cá thể khác thứ tự quần thể chúng, thì:
+ Xác suất choK cá thể giữ ngun (khơng đột biến) là(1−pm)K
+ VớiN−K cặp cá thể khác nhau,πkt(i) vàπkt(j), t= 1,2, , N−K, gọiLkt số máy mà có gene giống giữaπkt(i)vàπkt(j), vậym−Lkt số máy mà có gene khác
- Xác suất xảy đểLkt máy giống làp Lkt - Xác suất để m−Lkt máy khác lại theo 3.1
1−p
n!−1
m−Lkt
Do đó,
mij = (1−pm)K.pN
−K
m
N−K Y
t=1
pLkt.
1−p n!−1
m−Lkt!
>0 (3.2) Vậy,M= [mij]là ma trận xác suất dương
(5)CONVERGENCE ANALYSIS OF THE NEW HYBRID GENETIC ALGORITHM 169
Toán tử thứ thực để sinh quần thể từ quần thể cũ toán tử chọn lọc Gọi S ma trận chuyển trạng thái quần thể gây tốn tử chọn lọc, ta có:
S=
s11 · · · s1(n!)m.N
s(n!)m.N · · · s(n!)m.N(n!)m.N
Vớisij xác suất quần thể chuyển từ trạng tháiisang trạng tháij gây toán tử chọn lọc
Xác suất để cá thể πk(i) quần thể thời trạng tháiiđược giữ lại quần thể
pk=f(πk(i))/ N X
h=1
f(πh(i)) (3.3)
Như vậy, xác suất biến đổi từ trạng thái i sang trạng thái j quần thể gây toán tử chọn lọc phụ thuộc vào hàmf mà không phụ thuộc vào trạng thái thời thời điểm quần thể
Từ 3.3, xác suất để quần thể thời giữ nguyên trạng thái isau phép chọn lọc là:
sii= QN
k=1f(πk(i))
PN
h=1f(πh(i))
N (3.4)
Vì hàm f hàm dương nên từ 3.4 ta suy ra:sij >0
Ma trận chuyển trạng tháiSluôn có phần tử cột dương nên ma
trận S là ma trận thỏa mãn cột.
Tóm lại, q trình sinh hệ từ hệ cũ theo giải thuật tiến hóa truyền thống thực thơng qua toán tử lai ghép, đột biến chọn lọc với ma trận chuyển trạng thái C,Mvà S tương ứng Gọi P ma trận chuyển trạng thái tổng hợp từ hệ t
sang hệt+ 1, ta có:
P=
p11 · · · p1(n!)m.N
p(n!)m.N · · · p
(n!)m.N
(n!)m.N
=C×M×S
Vì ma trận C,M và S là ma trận ngẫu nhiên không phụ thuộc vào thời điểm cũng
như trạng thái thời quần thể nên ma trận P với phần tử pij cũng không phụ
thuộc vào trạng thái thời thời điểm quần thể
Lại có ma trận C,M vàS là ma trận ngẫu nhiên, M là ma trận dương và S là ma
trận thỏa mãn cột, từ Bổ đề3.1 sau ta suy ma trận xác suất chuyển trạng thái tổng hợpP ma trận ngẫu nhiên dương
Bổ đề 3.1 (xem [4])
Gọi C,M,S ma trận ngẫu nhiên, M ma trận dương S ma trận thỏa mãn cột Khi tích C×M×S ma trận ngẫu nhiên dương
Như thuật tốn tiến hóa truyền thống mơ tả thơng qua xích Markov với trạng thái quần thể nằm không gian trạng thái ma trận xác suất chuyển trạng tháiPdương Ta suy thuật tốn xích Markov Ergodic (xích Markov
(6)170 LUC TRI TUYEN, NGUYEN HUU MUI, VU DINH HOA 3.2 Thuật toán di truyền lai với siêu cá thể
Với xuất siêu cá thể, lực lượng quần thể tăng lên N+ 1, không gian trạng thái quần thể khơng cịn là(n!)m×N nữa, mà là(n!)m×(N+1).
Ta đặt vị trí siêu cá thể đầu chuỗi mã hóa chiều dài (N + 1)×m×n ta truy xuất đến siêu cá thể thơng qua phép chiếu π0(i) quần thể trạng thái i Với trạng thái quần thể, có siêu cá thể tương ứng đứng đầu, ta xếp không gian trạng thái theo thứ tự giảm dần độ thích nghi siêu cá thể (tức
i < j →f(π0(i))> f(π0(j)))
Khi ma trận chuyển trạng thái gây tốn tử lai, đột biến chọn lọc có kích thước (n!)m×(N+1)×(n!)m×(N+1), gọi C+,M+,S+ lần lượt ma trận chuyển trạng
thái gây toán tử lai ghép, đột biến chọn lọc lên quần thể có chứa siêu cá thể, siêu cá thể khơng tham gia vào q trình tiến hóa nên ma trận C+,M+,S+ sẽ có
dạng:
C+=
C
C
;M
+=
M
M
; S
+ =
S
S
Với đường chéo bao gồm(n!)m ma trậnC,M,Sđã xét trongMục3.1 với giải thuật tiến hóa chưa có siêu cá thể, từ ta có:
C+M+S+=
CMS
CMS
=
P
P
Toán tử copy thực ma trận nâng cấp U với kích thước (n!)m.(N+1)×
(n!)m.(N+1), phần tử định nghĩa sau:
Xét quần thể có siêu cá thể quần thể trạng thái i, gọiπl(i) cá thể có độ thích nghi cao số cá thể thường, nghĩa là:
f(πl(i)) = max{f(πk(i))|k= 1, , N} (3.5) thì, uij = f(π0(i))< f(πl(i)) với j = (πl(i), π1(i), , πN(i)) thuộc không gian trạng thái Các trường hợp cịn lại,uii=
Tốn tử chép thay cá thể thường có độ thích nghi cao so với siêu cá thể hệ vào vị trí siêu cá thể, khơng có cá thể thỏa mãn, quần thể giữ nguyên Ta thấy ma trận U cũng phụ thuộc vào giá trị hàm f, ma trận U
đối với tốn có kích thước cố định cố định, siêu cá thể xếp theo thứ tự giảm dần độ thích nghi siêu cá thể nên ma trận U sẽ có dạng:
U=
U11
U(n!)m1 U(n!)m(n!)m
trong ma trận Uij có kích thước (n!)m.N×(n!)m.N.
Giả sử Bài tốn3.1 có nghiệm tối ưu, trạng thái từ đến (n!)m×N
(7)CONVERGENCE ANALYSIS OF THE NEW HYBRID GENETIC ALGORITHM 171
trận conU11 là ma trận đơn ma trận Uaa với a≥2 là ma trận
đơn vị với vài phần tử đường chứo Với P=CMS thì ma trận chuyển cho
bài toán NHGA,P+, trở thành
P+=
P P U11
U(n!)m1 U(n!)m(n!)m
= PU11
PU(n!)m1 · · · PU(n!)m(n!)m
Từ đây, ta chứng minh thuật tốn tiến hóa với siêu cá thể có tính chất hội tụ hồn tồn
Thật vậy, vìU11 ma trận đơn vị nênPU11=Plà ma trận ngẫu nhiên dương
Từ ma trận Uaa với a≥2 là ma trận đơn vị với vài phần tử đường chéo chính
bằng nênPUk1 6= 0 với mọik∈ {2, ,(n!)m} Do đó, ma trận con PUa1vớia≥2 có
thể hợp lại thành ma trận chữ nhật R6= 0 và ma trận phụ hợp ma trận Ptrong P+, T,
cũng khác 0:
T PU22
PU(n!)m2 · · · PU(n!)m(n!)m
6= Như vậy, ma trận P+ có thể viết thành:
P+=
P 0
R T
(3.6) Mặt khác, định lý lý thuyết xích Markov phát biểu sau:
Định lý 3.1 ([7], page 126)Gọi P là ma trận chuyển cỡ n×n của xích Markov thỏa mãn P=
C
R T
, với Ccỡ m×m ma trận ngẫu nhiên Ergodic R,T6=0, ta có:
P∞
= lim
k→∞
Pk= lim k→∞
Ck 0
Pk
i=0TiRCk −i Tk
= C∞ R∞
là ma trận ổn định vớiP∞
=10
Π∞(10là ma trận cột toàn phần tử 1) và
Π∞
= Π(0)×P∞ vector hàng ổn định ma trậnP∞
mà không phụ thuộc vào phân phối xác suất ban đầu Π(0) của xích Markov thỏa mãn điều kiện:π∞
i >0 với 1≤i≤m π
∞
i = với
mọi m≤i≤n
Theo 3.6, ma trận P+ thỏa mãn điều kiện củaĐịnh lý 3.1, nên ta có
(P+)∞
= P∞ R∞ (3.7) Như vậy, số hệ tiến tới vô cùng, phân phối xác suất trạng thái quần thể tập trung hồn tồn vào(n!)m×N trạng thái đầu, mà tất trạng thái chứa nghiệm tối ưu (gọi làf∗
) Như vậy:
lim
t→∞P(Zt→f ∗
) = (3.8)