Cỏch tiếp cận lai ghộp giữa mạng nơ ron và giải thuật di truyền

1. 4 Kết luận

3.3.3Cỏch tiếp cận lai ghộp giữa mạng nơ ron và giải thuật di truyền

Nhƣ đó giới thiệu ở trờn thuật toỏn tỡm kiếm tham ăn khụng phải là một giải phỏp tốt cho bài toỏn TA vỡ nú khụng đạt đƣợc cỏc giải phỏp khả thi cho bài toỏn. Và giải thuật di truyền đó đƣợc kết hợp với thuật toỏn tham ăn để tạo cỏc cỏ thể ban đầu cho thuật toỏn đó đƣợc đề xuất bởi Khuri và Chiu. Tuy nhiờn, nú khụng thể khởi đầu với cỏc giải phỏp khả thi từ thuật toỏn tham ăn, do đú khú để đạt đƣợc kết quả tốt cho bài toỏn TA.

Do đú trong luận văn này, chỳng tụi đề xuất lai ghộp mạng nơ ron Hopfield nhị phõn với giải thuật di truyền, trong đú mạng nơ ron Hopfield nhị phõn nhằm tỡm ra cỏc giải phỏp thỏa món cỏc ràng buộc của bài toỏn, và giải thuật di truyền sẽ tỡm kiếm cỏc giải phỏp tốt cho bài toỏn.

3.3.3.1 Mạng Nơ ron Hopfield.

Mạng nơ ron Hopfield [12] đƣợc sử dụng nhƣ thuật toỏn tỡm kiếm cục bộ cho việc giải quyết cỏc ràng buộc TA thuộc lớp mạng Hopfield nhị phõn trong đú cỏc nơ ron chỉ cú thể mang giỏ trị 1 hoặc 0. Cấu trỳc của mạng nơ ron Hopfield cú thể đƣợc mụ tả nhƣ một đồ thị, trong đú tập hợp cỏc đỉnh là cỏc nơ ron, và tập hợp cỏc

nếu 1 0, M iq q x q j     hoặc 1 j N i ij j i x p      , ngƣợc lại

cạnh xỏc định kết nối giữa cỏc nơ ron. Chỳng ta ỏnh xạ một nơ ron tới mỗi thành phần trong ma trận giải quyết X và chỳng ta cú thể sử dụng ma trận X để biểu thị cỏc nơ ron trong mạng Hopfield.

Hoạt động của mạng nơ ron Hopfield cú thể đƣợc mụ tả trong cỏch thức sau đõy: sau khi khởi tạo ngẫu nhiờn mỗi nơ ron với cỏc giỏ trị nhị phõn, thỡ tại mỗi thời điểm chỉ cú một nơ ron đƣợc cập nhật trong khi cỏc nơ ron cũn lại khụng thay đổi.

Khởi tạo ma trận X ban đầu một cỏch ngẫu nhiờn, cỏc nơ ron (phần tử) của ma trận chỉ mang cỏc giỏ trị 0 hoặc 1.

xij = 0 hoặc xij = 1 i j,

Sử dụng mạng nơ ron Hopfield nhằm đạt đƣợc cỏc giải phỏp khả thi cho bài toỏn TA (thỏa món cỏc ràng buộc (3.2), (3.3) trong cỏch phỏt biểu bài toỏn thứ nhất và (3.4),(3.5) trong cỏch phỏt biểu bài toỏn thứ hai)

Trong luận văn này chỳng tụi đó nghiờn cứu và đề xuất một quy tắc cập nhật trạng thỏi của mỗi nơ ron tại thời điểm t, quy tắc đú đƣợc mụ tả nhƣ sau:

ij  0 x 1 t        Nếu xij(t) = 1 và 1 j N i ij j i x p      thỡ xij(t) = 0.

Trong đú: xij t là trạng thỏi của nơ ron tại thời điểm t.

Quy tắc (3.8) đảm bảo rằng chỉ cú một thiết bị đầu cuối đƣợc phõn tới một và chỉ một bộ tập trung, và cỏc bộ tập trung luụn luụn đảm bảo đủ khả năng để đỏp ứng (xử lý) đƣợc cỏc thiết bị đầu cuối đƣợc phõn tới nú.

Trong quy tắc cập nhật xỏc định ở trờn, cỏc nơ ron xij đƣợc cập nhật theo thứ tự tự nhiờn, i = 1,2,…,N; j= 1,2,…,M. Chỳng tụi giới thiệu một sự thay đổi của quy

tắc này bởi việc thực hiện quy tắc cập nhật của cỏc nơ ron theo một thứ tự ngẫu nhiờn trong cỏc dũng của ma trận X (biến i). Điều này sẽ làm cho cỏc giải phỏp khả thi đƣợc tỡm thấy sẽ tăng lờn [20]. Gọi  i là sự hoỏn vị ngẫu nhiờn của i=1,2,…,N.

Quy tắc cập nhật mới của mạng là:

 i j  0 x 1 t         Nếu x i j 1 và 1 j N i ij j i x p      thỡ.x i j 0

Quy tắc cập nhật này duyệt qua cỏc dũng của X theo thứ tự đƣợc đƣa ra bởi phộp hoỏn vị  i , nhƣng cỏc cột đƣợc cập nhật theo thứ tự tự nhiờn j = 1,2,…,M.

Một chu trỡnh đƣợc định nghĩa nhƣ tập hợp của NxM cập nhật nơ ron lần lƣợt theo thứ tự đó cho. Trong chu trỡnh này, mỗi nơ ron đƣợc cập nhật theo thứ tự  i

đó cho, và thứ tự này đƣợc cố định trong suốt quỏ trỡnh thực thi của thuật toỏn. Sau mỗi chu trỡnh, sự hội tụ của mạng nơ ron đƣợc kiểm tra. Mạng nơ ron Hopfield đƣợc xem xột hội tụ nếu khụng cú cỏc nơ ron đó thay đổi cỏc trạng thỏi của chỳng trong suốt chu trỡnh. Trạng thỏi cuối của mạng là giải phỏp tiềm năng cho TA. Tuy nhiờn giải phỏp tỡm thấy cú thể là khụng khả thi nếu khụng phải tất cả cỏc thiết bị đầu cuối đƣợc kết nối tới cỏc bộ tập trung.

3.3.3.2 Giải thuật di truyền I

Thuật toỏn di truyền I (GA I) chỳng tụi đề xuất lai ghộp với mạng nơ ron Hopfield là hệ thống húa cỏc cỏ thể của cỏc giải phỏp tiềm năng cho TA nhƣ chuỗi nhị phõn độ dài NxM. Mỗi chuỗi biểu diễn một ma trận X khỏc nhau, và GA này sử dụng ký hiệu đó cho trong cỏch phỏt biểu bài toỏn thứ 1. Cỏc cỏ thể là đƣợc tiến húa lần lƣợt qua cỏc thế hệ bởi việc sử dụng cỏc phộp toỏn di truyền lựa chọn, lai ghộp, và đột biến. nếu ( ) 1 , M i q q x q j    hoặc 1 j N i ij j i x p      , ngƣợc lại (3.9)

- Xỏc định hàm đớch (độ đo thớch nghi)

Hàm V là hàm phạt [16] đƣợc xỏc định nhƣ sau:

ij ax

( ) m

V s d  N d

Trong đú: dij là khoảng cỏch từ thiết bị đầu cuối i tới bộ tập trung j

N là số lƣợng cỏc thiết bị đầu cuối nếu s khụng phải là một giải phỏp khả thi. N = 0, nếu ngƣợc lại

ax (adsbygoogle = window.adsbygoogle || []).push({});

m

d là khoảng cỏch lớn nhất giữa cỏc thiết bị đầu cuối tới bộ tập trung trong lƣới.

Hàm đớch đƣợc xỏc định bằng:

F(s)= 1

( )

V s

Ta thṍy F (s) luụn dƣơng , cỏ thể nào ớt vi phạm ràng buộc (V(s) nhỏ) thỡ sẽ đƣơ ̣c lƣ̣a cho ̣n nhiờ̀u hơn.

Chỳng ta sắp xếp cỏc cỏ thể theo độ thớch nghi giảm dần, và ỏp dụng chiến lƣợc luụn luụn chọn cỏc cỏ thể cú độ thớch nghi cao đƣa vào cỏc thế hệ tiếp theo, điều này nhằm duy trỡ đƣợc giải phỏp tốt nhất bắt gặp trong quỏ trỡnh tiến húa. Chỳng tụi xem xột hai điểm tƣơng giao với xỏc suất Pc và xỏc suất đột biến ngẫu nhiờn là Pm.

Khi phộp toỏn tƣơng giao và đột biến sinh ra cỏc cỏ thể mới nú sẽ đƣợc thiết lập là khởi tạo của mạng nơ ron để tỡm đƣợc cỏc giải phỏp thỏa món cỏc ràng buộc đƣợc sinh ra bởi mạng nơ ron Hopfield. Và giải phỏp đƣợc sinh ra bởi mạng nơ ron sẽ thay thế nú trong thế hệ mới. Nếu trong trƣờng hợp giải phỏp tỡm thấy bởi mạng nơ ron Hopfield là khụng khả thi (một số cỏc thiết bị đầu cuối khụng đƣợc phõn vào cỏc bộ tập trung), hàm phạt sẽ đƣợc ỏp dụng tới cỏc giải phỏp này cho việc quản lý cỏc giải phỏp khụng khả thi.

Khởi tạo quần thể GA một cỏch ngẫu nhiờn While(Số thế hệ tối đa chưa được sinh ra) do

For(mỗi cỏ thể X)

Chạy mạng nơ ron Hopfield để đạt được cỏc giải phỏp khả thi Tớnh giỏ trị chi phớ của mỗi cỏ thể costij

Nếu X khụng là giải phỏp khả thi, cung cấp một hàm phạt tới costij

Thay thế cỏc cỏ thể GA bởi X mới đạt được qua mạng nơ ron Hopfield Endfor

Lựa chọn Lai ghộp Đột biến End(while)

3.3.3.3 Giải thuật di truyền II

Thuật toỏn di truyền II ỏp dụng cho bài toỏn TA theo cỏch phỏt biểu bài toỏn thứ 2: mỗi cỏ thể đƣợc mó húa là một chuỗi của số nguyờn N giữa 1 và M, x. Phộp toỏn lựa chọn và tƣơng giao đƣợc cung cấp trong cựng cỏch thức nhƣ trong thuật toỏn di truyền I. Phộp toỏn đột biến gồm cú thay thế mỗi vị trớ trong chuỗi với giỏ trị nguyờn khỏc nhau, với xỏc suất Pm rất nhỏ. Để đạt tới cỏc giải phỏp khả thi, mỗi cỏ thể trong quần thể đƣợc chuyển tới mạng Hopfield: đầu tiờn, chuỗi của cỏc số nguyờn x đƣợc chuyển qua ma trận nhị phõn X sử dụng trong (3.7); một giải phỏp khả thi đạt đƣợc bởi mạng Hopfield, ma trận kết quả X đƣợc chuyển ngƣợc tới vectơ của cỏc số nguyờn xsử dụng trong (3.6). Trong trƣờng hợp mà giải phỏp tỡm đƣợc bởi mạng Hopfield là khụng khả thi (một số cỏc thiết bị đầu cuối đó khụng đƣợc gỏn) tƣơng ứng vị trớ trong chuỗi đƣợc phủ đầy một cỏch ngẫu nhiờn, thỡ hàm phạt đƣợc thờm tới hàm chi phớ.

Thuật toỏn di truyền II cú thể đƣợc trỡnh bày nhƣ sau:

Khởi tạo quần thể GA một cỏch ngẫu nhiờn While(Số thế hệ tối đa chưa được sinh ra) do For(mỗi cỏ thế x)

Áp dụng thuật toỏn mạng nơ ron Hopfield để đạt được cỏc giải phỏp khả thi

Tớnh toỏn độ thớch nghi của mỗi cỏ thể costij

Nếu X khụng phải là giải phỏp khả thi, cung cấp một giỏ trị phạt tới độ thớch nghi costij

Ánh xạ nơ ron X tới vectơ x: X-> x Thay thế cỏ thể trong GA bởi x End(for)

Lựa chọn Đột biến Lai ghộp End while

Chương 4. Kết quả thực nghiệm và đỏnh giỏ 4.1 Bộ dữ liệu chuẩn

Để kiểm tra sự thực hiện của cỏc thuật toỏn, chỳng tụi đó chạy thuật toỏn với cỏc bộ dữ liệu khỏc nhau [20]. Bảng 4.1 chỉ ra cỏc đặc điểm chớnh của cỏc bộ dữ liệu này. Cú 15 bộ dữ liệu, với số lƣợng thiết bị đầu cuối khỏc nhau, và cỏc bộ tập trung khắc nhau. Cỏc tọa độ của thiết bị đầu cuối và cỏc bộ tập trung đạt đƣợc một cỏch ngẫu nhiờn trong lƣới 100x100, trong khi dung lƣợng kết nối của mỗi thiết bị đầu cuối đƣợc sinh ngẫu nhiờn giữa 1 và 6. Dung lƣợng của mỗi bộ tập trung cho mỗi bộ dữ liệu đƣợc sinh ngẫu nhiờn giữa 10 và 15.

Bảng 4.1. Cỏc giỏ trị đầu vào cho thuật toỏn

TT Số lượng thiết bị đầu cuối Số lượng cỏc bộ tập trung Tổng dung lượng của cỏc thiết bị đầu cuối Tổng khả năng đỏp ứng của cỏc bộ tập trung 1 10 3 35 39 2 10 3 39 42 3 10 3 34 37 4 20 6 77 83 5 20 6 61 68 6 20 6 72 79 7 30 10 117 127 8 30 10 98 120 9 30 10 94 120 10 50 17 182 204 11 50 17 174 193 12 50 17 173 204 13 100 30 292 360 14 100 30 334 360 15 100 30 342 360

ij ij 1 1 cost dist N M ij i j x   

Trong đú: distij là một ma trận khoảng cỏch Euclidean giữa một thiết bị đầu cuối i và một bộ tập trung j. (adsbygoogle = window.adsbygoogle || []).push({});

4.2 Kết quả thực nghiệm

Chỳng tụi so sỏnh cỏc kết quả đạt đƣợc bởi thuật toỏn lai ghộp mạng nơ ron Hopfield và GA sử dụng quy tắc cập nhật trạng thỏi của mạng nơ ron (3.8), theo hai thuật toỏn GA I và GA II, với sự thực hiện của GA đề xuất trong [16]. Cỏc đối số của cỏc GA sử dụng đƣợc cố định: kớch thƣớc quẩn thể = 50, phộp lựa chọn bỏnh xe, hai điểm tƣơng giao với xỏc suất Pc=0.6, xỏc suất đột biến Pm = 0.01, và tối đa của cỏc thế hệ đƣợc sinh ra cố định là 1000. Chỳng tụi chạy mỗi thuật toỏn 30 lần, nếu lời giải tỡm đƣợc vi phạm cỏc ràng buộc thỡ coi nhƣ khụng tỡm đƣợc lời giải.

4.2.1 Giải thuật di truyền

Kết quả của bài toỏn TA với 15 bộ dữ liệu trờn với giải thuật di truyền [16] là khụng cú lời giải cho cho bộ dữ liệu từ 10-15. Nú chỉ đạt đƣợc kết quả với cỏc bộ dữ liệu từ 1-9 và cú thời gian tớnh toỏn nhanh hơn so với giải thuật lai ghộp giữa mạng nơ ron Hopfield và GA.

4.2.2. Giải thuật di truyền I

Bảng 4.2. Kết quả đạt đƣợc bởi GA I. Bộ dữ liệu GA I Tốt nhất Trung bỡnh 1 203,6 204.5 2 253,1 253,1 3 268,6 277 4 537,3 558.4 5 548,1 618,4 6 683,6 725,7 7 466,8 527,5 8 701,2 746,4 9 613,3 645 10 1110,1 1150

12 981,1 1027,4

13 3085,4 3160

14 3111 3123,4

15 3213,2 3231,6

4.2.3. Giải thuật di truyền II

Bảng 4.3 Kết quả đạt đƣợc bởi GA II.

Bộ dữ liệu GA II Tốt nhất Trung bỡnh 1 203,6 204.5 2 253,1 253,1 3 268,6 277 4 537,3 560.4 5 548,1 619,4 6 683,6 727,7 7 465,8 528,5 8 711,2 751,4 9 610,3 655,7 10 1110,1 1170 11 1104,1 1165,3 12 981,1 1028,4 13 3080,4 3151 14 2974 3120,4 15 3233,2 3234,6

Kết quả từ bảng 4.2 và 4.3 cho thấy rằng hai thuật toỏn GA I và GA II sử dụng cụng thức (3.8) đều tỡm đƣợc lời giải khả thi cho bài toỏn TA trong tất cả cỏc bộ dữ liệu trờn. Và sự thực hiện của hai thuật toỏn GA I và GA II cú sự sai khỏc nhau rất nhỏ.

Qua kết quả trờn, cho thấy rằng lai ghộp giữa mạng nơ ron Hopfield và giải thuật di truyền là một phƣơng phỏp hữu hiệu để giải quyết cỏc bài toỏn tối ƣu nhƣ TA, nú cú thể chạy đƣợc với cỏc bộ dữ liệu cú kớch thƣớc lớn. Và cú thể ỏp dụng phƣơng phỏp này cho nhiều bài toỏn tối ƣu ràng buộc tƣơng tự khỏc nhƣ BP, TSAP,…

KẾT LUẬN

Luận văn “Lai ghộp mạng nơ ron Hopfield và giải thuật di truyền giải bài toỏn tối ưu ràng buộc” đó đạt được một số kết quả sau:

 Đó trỡnh bày cơ sở của mạng nơ ron nhõn tạo đặc biệt là mạng nơ ron Hopfield, phƣơng phỏp ỏnh xạ một bài toỏn thoả món ràng buộc và tối ƣu thoả món ràng buộc lờn mạng nơ ron.

 Tỡm hiểu về giải thuật di truyền và tớnh toỏn tiến húa. Và ứng dụng của nú đối với bài toỏn tối ƣu tổ hợp.

 Qua đú đề xuất phƣơng phỏp lai ghộp giữa mạng nơ ron Hopfield và giải thuật di truyền ỏp dụng cho bài toỏn TA và thu đƣợc kết quả tốt so với cỏc cỏch tiếp cận trƣớc đõy. Luận văn đề xuất đƣợc quy tắc cập nhật trạng thỏi của mạng nơ ron (cụng thức 3.8) và qua thực nghiệm đó cho thấy nú là phƣơng phỏp tốt để tỡm đƣợc giải phỏp khả thi cho bài toỏn TA và cho kết quả hội tụ nhanh.

Hướng phỏt triển tiếp theo:

Lai ghộp mạng nơ ron Hopfield với thuật toỏn tỡm kiếm toàn cục khỏc nhƣ mụ phỏng tụi luyện và tỡm kiếm tabu ỏp dụng cho bài toỏn TA. Và đỏnh giỏ hiệu quả của cỏc thuật toỏn này so với hiệu quả của thuật toỏn lai ghộp giữa mạng nơ ron và giải thuật toỏn di truyền.

TÀI LIỆU THAM KHẢO Tiếng việt:

1. Đặng Quang Á (2001), Một cỏch nhỡn về việc sử dụng mạng Hopfield giải cỏc bài toỏn thỏa món ràng buộc và tối ƣu cú ràng buộc, Bỏo cỏo tại Hội thảo quốc gia “Một số vấn đề chọn lọc của cụng nghệ thụng tin”

2. Đặng Quang Á (2001), Ứng dụng của mạng nơ ron trong tớnh toỏn, Sỏch “Hệ mờ, mạng nơ ron và ứng dụng”, Chủ biờn: Bựi cụng Cƣờng, Nguyễn Doón Phƣớc, Nhà XBKH-KT, Hà nội.

3. Vũ Ngọc Phàn (2005), Tối ƣu húa – Cơ sở lý thuyết và ứng dụng trong cụng nghệ bƣu chớnh viễn thụng, NXB Bƣu Điện.

Tiếng Anh:

4. A. Kershembaum. (1993), Telecommunications Network Design Algorithms. NewYork, McGraw-Hill.

5. C.H.Chu, G. Premkumar, and H. Chou. (2000), “Digital data networks design using genetic algorithms”, European Journal of Operational Research, 127, pp 140-158.

6. E. Falkenauer. (1996), “A hybrid grouping genetic algorithm for bin packing”, J. Heuristic, vol 2, pp. 5-30. (adsbygoogle = window.adsbygoogle || []).push({});

7. F.N. Abuali, D. A. Schoenefeld, and R. L. Wainwright. (1994), “Terminal assignment in a communications network using genetic algorithms”, in Proc. 22nd Annu. ACM Computer Science Conf. pp. 74-81.

8. J. Hertz, A. Krogh, R. G. Palmer. (1997), Introduction to the Theory of Neural Computation, Addison-Wesley.

9. J.A Holland. (1975), Adaption in Natural and Artificial System , Univeristy of Michigan press, Ann Arbor.

10. J.Back, U.Hammel, and H.P.Shwefel. (1997), “Evolutionary computation: Comments on the history and current state”, IEEE Transactitions on Evolutionary

Computation1, 1,pp. 3-17.

11. J.Back, U.Hammel, and H.P.Shwefel. (1997), “Evolutionary computation: Comments on the history and current state”, IEEE Transactions on Evolutionary Computation1(1) ,pp. 3-17.

12. J.J. Hopfield and D.W. Tank, “Neural computation of decisions in optimization problems,” Biol. Cybern, 52, pp. 141-152.