Giải thuật di truyền để xác định trọng số tối ưu cho mạng nơron trong kỹ thuật xử lý ảnh

Đại Học Quốc Gia Tp Hồ Chí Minh TRƯỜNG ĐẠI HỌC BÁCH KHOA oOo NGUYỄN ĐỨC CHÍ ĐỀ TÀI GIẢI THUẬT DI TRUYỀN ĐỂ XÁC ĐỊNH TRỌNG SỐ TỐI ƯU CHO MẠNG NƠ RON TRONG KỸ THUẬT XỬ LÝ ẢNH Chuyên ngành: KỸ THUẬT VÔ TUYẾN ĐIỆN TỬ Mã số ngành: 2.07.01/07 LUẬN ÁN THẠC SỸ TP HỒ CHÍ MINH, tháng 10 năm 2003 LỜI NÓI ĐẦU oOo -Giải thuật di truyền (GA) phương thức giải vấn đề bắt chước hành vi người để sinh tồn phát triển, giúp tìm giải pháp tối ưu hay tốt điều kiện thời gian không gian định, nghóa tìm giải pháp tuyệt đối cho vấn đề, tương đối điều kiện cho phép Khác với phương pháp cổ điển dựa công thức toán hay phương pháp suy luận dựa kinh nghiệm chuyên gia để ý đến số giới hạn giải pháp, GA giải vấn đề cách xét đến toàn giải pháp, mà trước tiên số giải pháp tiêu biểu, sau loại bỏ từ từ thành phần không thích hợp, thích nghi để chọn thành phần thích nghi để sinh sản biến hóa Cùng với giải thuật di truyền, năm 70, mạng nơ ron nhân tạo logic mờ nghiên cứu áp dụng thành công việc giải trường hợp phức tạp Khái niệm tính toán hiểu theo nhiều cách khác Về lịch sử, việc tính toán thường gắn liền với chương trình giải thuật thiết kế cài đặt lên máy tính cách sử dụng cấu trúc lệnh hành Từ quan niệm khác nảy sinh xem xét tính toán hệ sinh học, tính toán não người khác nhiều so với mô hình chỗ: tính toán phân bố cực đại song song, việc học thay phát triển chương trình ưu Nhờ nắm bắt cách cư xử từ tự nhiên, mô hình tính toán xuất phát từ ý niệm sinh học mạng nơ ron nhân tạo (ANN) đời Mạng nơ ron nhân tạo cấu trúc mạng gồm nơ ron kết nối với nhau, nơ ron có đặc tính nhập xuất cài đặt tính toán hay chức cục Đầu nơ ron xác định đặc tính nhập xuất nó, mối liên kết (trọng số) với nơ ron khác Có nhiều loại mạng nơ ron dù chọn loại mạng để giải vấn đề ta cần mạng mô gần vấn đề tốt Điều phụ thuộc vào phương pháp tìm tập trọng số tốt cho toán Luận án nghiên cứu phương pháp giải thuật di truyền, sử dụng việc tìm kiếm tập trọng số tối ưu cho mạng nơ ron, đặc biệt mạng lan truyền, mạng sử dụng rộng rãi việc giải toán phức tạp Luận án nghiên cứu việc ứng dụng mạng nơ ron lónh vực xử lý ảnh, cụ thể vấn đề nhận dạng, nhận dạng chữ văn bản, để từ xây dựng mạng, dùng giải thuật di truyền để xác định tập trọng số tối ưu cho mạng, mà nhận dạng hoàn toàn văn lưu trữ file ảnh Sau em xin chân thành cảm ơn thầy Lê Tiến Thường hướng dẫn, giúp đỡ em hoàn thành luận án Nguyễn Đức Chí TÓM TẮT LUẬN ÁN oOo Giải thuật di truyền ứng dụng nhiều lónh vực khác nhau, từ khoa học tự nhiên đến khoa học nhân văn, từ kỹ thuật sang thương mại lẫn kinh tế tài chính, giải thuật di truyền hình thức tìm kiếm có tính ngẫu nhiên hướng dẫn hàm số thích nghi Giải thuật di truyền lúc tìm giải pháp tối ưu, chắn cung cấp giải pháp tương đối tốt tảng vững thời gian nhanh Trong luận án nghiên cứu giải thuật di truyền, mạng nơ ron nhân tạo, phương pháp nhận dạng, để từ dùng giải thuật di truyền để xác định tập trọng số tối ưu cho mạng nơ ron, ứng dụng giải thuật để tìm tập trọng số tối ưu cho toán nhận dạng chữ văn dùng mạng nơ ron Luận án chia thành chương, nội dung cụ thể chương sau: Chương 1: GIẢI THUẬT DI TRUYỀN Nội dung chương trình bày vấn đề liên quan đến giải thuật di truyền bao gồm: lịch sử trình tính toán tiến hóa, thuật ngữ sinh học, bước quan trọng để thực giải thuật, chế thực giải thuật di truyền, sau ứng dụng giải thuật vào toán tối ưu hàm nhiều biến Chương 2: MẠNG NƠ RON NHÂN TẠO Nội dung chương trình bày vấn đề mạng nơ ron như: lịch sử nghiên cứu ứng dụng, định nghóa, phân loại, mô hình, mạng nơ ron lớp giải thuật huấn luyện mạng, đặc biệt trình bày mạng lan truyền giải thuật huấn luyện mạng tiếng lan truyền ngược Chương 3: GIẢI THUẬT DI TRUYỀN XÁC ĐỊNH TRỌNG SỐ TỐI ƯU CHO MẠNG NƠ RON Nội dung chương dùng giải thuật di truyền trình bày chương để xác định trọng số tối ưu cho mạng lan truyền, bao gồm xây dựng sơ đồ giải thuật, viết chương trình, ứng dụng cụ thể vào toán XOR Chương 4: MẠNG NƠ RON TRONG NHẬN DẠNG Chương trình bày vấn đề nhận dạng như: phương pháp nhận dạng, nhận dạng ký tự dùng mạng nơ ron, sau xây dựng mạng nơ ron hoàn chỉnh để nhận dạng phông chữ cụ thể văn bản, dùng giải thuật di truyền để xác định tập trọng số tối ưu cho mạng Tập trọng số tìm được trình bày phần phụ lục Giải thuật di truyền xử lý ảnh THD: TS.Lê Tiến Thường MỤC LỤC Chương 1: GIẢI THUẬT DI TRUYỀN Tóm tắt lịch sử tính toán tiến hóa .1 Thuật ngữ sinh học Giải thuật di truyền đơn giản Các tính chất quan trọng giải thuật di truyền 5 Các bước quan trọng việc áp dụng giải thuật di truyền 6 Cơ chế thực giải thuật di truyền 6.1 Biểu diễn biến nhờ vectơ nhị phân 6.2 Toán tử chọn cá thể 6.3 Toán tử lai ghép 6.4 Toán tử đột biến 6.5 Haøm thích nghi Chương 2: MẠNG NƠ RON NHÂN TẠO Lịch sử nghiên cứu ứng dụng mạng nơ ron 18 1.1 Lịch sử nghiên cứu 18 1.2 Các ứng dụng mẫu mạng nơ ron nhân tạo .18 Bộ não nơ ron sinh học 19 Định nghóa mạng nơ ron nhân tạo 21 3.1 Phân loại mạng nơ ron 21 3.1.1 Theo kiểu liên kết nơ ron 21 3.1.2 Theo số lớp 22 3.2 Hai cách nhìn mạng nơ ron 22 3.2.1 Mạng nơ ron công cụ tính toán 22 3.2.2 Mạng nơ ron hệ thống thích nghi 23 3.3 Khả tính toán biểu diễn phụ thuộc liệu mạng nơ ron 24 3.4 Xác định cấu trúc mạng tối ưu 24 3.5 Các vấn đề thường gặp sử dụng mạng nơ ron nhân tạo 25 3.5.1 Kích thước mẫu 25 3.5.2 Bieåu diễn biến .25 3.5.3 Tổng quát hóa 26 Mô hình mạng nơ ron nhân tạo 27 4.1 Mô hình nơ ron 27 4.2 Hàm truyền .28 4.3 Nơ ron với vectơ nhập .28 4.4 Cấu trúc mạng .29 4.4.1 Lớp nơ ron 29 Đề tài: Giải thuật di truyền để xác định trọng số tối ưu cho mạng nơ ron kỹ thuật xử lý ảnh i HVTH: Nguyễn Đức Chí Giải thuật di truyền xử lý ảnh THD: TS.Lê Tiến Thường 4.4.2 Mạng nơ ron nhiều lớp .30 4.4.3 Cấu trúc lieäu 30 4.4.4 Kiểu huấn luyện 31 Các mạng nơ ron lớp 31 5.1 Maïng Hopfield 31 5.1.1 Cấu trúc mạng .31 5.1.2 Huấn luyện mạng .32 5.1.3 Sử dụng mạng 32 5.2 Mạng kiểu nhớ hai chiều kết hợp thích nghi .33 5.2.1 Cấu trúc mạng 33 5.2.2 Huấn luyện mạng .34 5.2.3 Sử dụng maïng 34 5.3 Maïng Kohonen .34 5.3.1 Cấu trúc mạng 35 5.3.2 Huấn luyện maïng .36 5.3.3 Sử dụng mạng 37 5.4 Maïng Perceptron 37 5.4.1 Cấu trúc mạng 37 5.4.2 Huấn luyện mạng .38 Mạng lan truyền 38 6.1 Cấu trúc mạng .38 6.2 Máy học 40 6.2.1 Mặt lỗi 40 6.2.2 Phương pháp giảm gradient 41 6.2.3 Cực tiểu cục 41 6.3 Ánh xạ 42 6.4 Đạo hàm hàm lỗi 43 6.4.1 Quy tắc chuỗi .43 6.4.2 Trọng số nút xuaát 44 6.4.3 Trọng số nút ẩn 45 6.5 Huấn luyện mạng 46 6.5.1 Quy tắc giảm dốc 46 6.5.2 Quy taéc moâ men 49 6.5.3 Quy tắc học thích nghi 49 CHƯƠNG 3: GIẢI THUẬT DI TRUYỀN XÁC ĐỊNH TRỌNG SỐ TỐI ƯU CHO MẠNG NƠ RON Khởi tạo trọng 51 Mã hóa mạng nơ ron nhiễm sắc thể 53 Xác định số lớp ẩn số nút ẩn tầng 53 Sơ đồ giải thuật chương trình .55 Đề tài: Giải thuật di truyền để xác định trọng số ii tối ưu cho mạng nơ ron kỹ thuật xử lý ảnh HVTH: Nguyễn Đức Chí Giải thuật di truyền xử lý ảnh THD: TS.Lê Tiến Thường CHƯƠNG 4: MẠNG NƠ RON TRONG NHẬN DẠNG Tổng quan nhận dạng 63 1.1 Không gian biểu diễn đối tượng .63 1.2 Khoâng gian diễn dịch 63 1.3 Mô hình nhận dạng 63 1.4 Bản chất qúa trình nhận dạng .65 Nhận dạng theo cấu trúc 65 2.1 Biểu diễn định tính 65 2.2 Phương pháp định dựa vào cấu trúc 66 2.2.1 Khái niệm 66 2.2.2 Ngôn ngữ PLD .66 2.2.3 Phương pháp nhận dạng .67 Nhận dạng dựa phân hoạch khoâng gian 67 3.1 Phân hoạch không gian 67 3.2 Hàm phân lớp 67 3.3 Một số phương pháp nhận dạng tiêu biểu 68 3.3.1 Nhận dạng thống kê 68 3.3.2 Một số thuật toán nhận dạng tự học tiêu biểu 69 Nhận dạng ký tự dùng mạng nơ ron 70 4.1 Xử lý sơ boä 71 4.2 Tách chữ 72 4.3 Nhận dạng chữ 72 4.3.1 Kỹ thuật nhận dạng chữ in 72 4.3.2 Thuật toán nhận dạng chữ viết tay 73 4.3.3 Thuật toán nhận dạng chữ tổng quát 74 4.4 Phục hồi chữ (văn bản) 75 Phông chữ 76 5.1 Cỡ phông chữ 76 5.2 Kiểu chữ độ đậm nhạt 77 5.3 Phông chữ có chân không chân 77 5.4 Các phông chữ đơn cách theo tỷ lệ 77 5.5 Các phông chữ cố định chỉnh cỡ .78 Nhận dạng chữ viết văn dùng mạng nơ ron .79 Chạy chương trình kết 94 Kết luận 98 Phuï luïc 99 Tài liệu tham khảo .107 Toùm tắt lý lịch trích ngang Đề tài: Giải thuật di truyền để xác định trọng số iii tối ưu cho mạng nơ ron kỹ thuật xử lý ảnh HVTH: Nguyễn Đức Chí THD: TS.Lê Tiến Thường Giải thuật di truyền xử lý ảnh Chương 1: GIẢI THUẬT DI TRUYỀN Tóm tắt lịch sử tính toán tiến hóa Trong thập niên 1950 1960 vài nhà khoa học máy tính nghiên cứu độc lập hệ tiến hóa với ý tưởng tiến hóa sử dụng công cụ tối ưu cho toán kỹ thuật Tư tưởng hệ phát triển tập giải pháp hữu, cách dùng toán tử lấy ý tưởng từ biến đổi di truyền chọn lọc tự nhiên Trong thập niên 1960, Rechenberg (1965, 1973) giới thiệu phương pháp “chiến lược tiến hóa”, phương pháp ông sử dụng để tối ưu tham số giá trị thực thiết bị cánh máy bay chẳng hạn Ý tưởng sau phát triển thêm Schwefel (1975, 1977) Lónh vực nghiên cứu chiến lược tiến hóa để lại phạm vi nghiên cứu thiết thực, gần phát triển độc lập với lónh vực nghiên cứu giải thuật di truyền (mặc dù gần hai trường phái bắt đầu tác động qua lại lẫn nhau) Fogel, Owens, and Walsh (1966) phát triển “lập trình tiến hóa”, kỹ thuật trình bày giải pháp máy có hữu hạn trạng thái, chúng phát triển thông qua việc thay đổi ngẫu nhiên sơ đồ chuyển trạng thái lựa chọn sơ đồ tốt Sự phát triển lập trình tiến hóa để lại phạm vi nghiên cứu thiết thực Chiến lược tiến hóa, lập trình tiến hóa, giải thuật di truyền tạo thành tảng cho lónh vực tính toán tiến hóa Giải thuật di truyền (GA) phát minh John Holland thập niên 1960 phát triển Holland với sinh viên lẫn đồng nghiệp ông đại học Michigan thập niên 1960 1970 Trái với chiến lược tiến hóa lập trình tiến hóa, mục tiêu ban đầu Holland thiết kế giải thuật để giải toán đặc biệt, mà để nghiên cứu tượng thích nghi xuất tự nhiên phát triển theo nhiều cách để chế thích nghi tự nhiên đưa vào hệ thống máy tính Cuốn sách Holland (1975) với tiêu đề “Adaptation in Natural and Artificial Systems” giới thiệu giải thuật di truyền trừu tượng hóa tiến hóa sinh học đưa sở lý thuyết thích nghi dạng GA GA Holland phương pháp để chuyển từ tập nhiễm sắc thể (chuỗi bit 1) đến tập cách sử dụng gọi “chọn lọc tự nhiên” với toán tử di truyền lai ghép (crossover), đột biến (mutation), phép nghịch đảo (inversion) Mỗi nhiễm sắc thể bao gồm “gen”, gen trường hợp đặc biệt Alen Toán tử chọn lọc (selection) chọn nhiễm sắc thể tập nhiễm sắc thể mà sau dùng để tạo sinh, thường nhiễm sắc thể thích nghi tạo nhiều cháu nhiễm sắc thể thích nghi Lai ghép (crossover) hoán chuyển thành phần hai nhiễm sắc thể, bắt chước tái tổ hợp sinh học hai nhiễm sắc thể đơn; đột biến thay đổi ngẫu nhiên giá trị Alen vài vị trí nhiễm sắc thể; phép nghịch đảo (inversion) đảo ngược thứ tự phần kề nhiễm sắc thể, sau xếp Chương 1: Giải thuật di truyền HVTH: Nguyễn Đức Chí THD: TS.Lê Tiến Thường Giải thuật di truyền xử lý ảnh lại theo thứ tự mà gen xếp Giới thiệu Holland giải thuật dựa quần thể với lai ghép, phép nghịch đảo, đột biến đột phá lớn (Chiến lược di truyền Rechenberg bắt đầu với tập hai cá thể, cha con, phiên đột biến cha; tập nhiều cá thể không kết hợp chặt chẽ sau Lập trình tiến hóa Fogel, Owens, Walsh sử dụng phương thức đột biến để tạo thay đổi) Hơn nữa, Holland người cố gắng đặt tiến hóa sử dụng máy tính sở lý thuyết chắn Cho đến gần tảng lý thuyết này, dựa khái niệm “sơ đồ”, sở hầu hết lý thuyết sau giải thuật di truyền Trong vài năm qua có ảnh hưởng lan rộng nhà nghiên cứu phương pháp tính toán tiến hóa khác nhau, gianh giới GA, chiến lược tiến hóa, lập trình tiến hóa, phương pháp tiếp cận tiến hóa khác bị đạp đổ chừng mực Ngày nay, nhà nghiên cứu thường dùng “giải thuật di truyền” để mô tả xa với khái niệm ban đầu Holland Thuật ngữ sinh học Vào thời điểm thật hữu ích để giới thiệu thức vài thuật ngữ sinh học sử dụng Trong ngữ cảnh giải thuật di truyền, thuật ngữ sinh học sử dụng theo tinh thần tương tự với sinh vật học thực, thông qua thực thể mà tham khảo đến đơn giản nhiều thực thể thực Tất sinh vật sống bao gồm tế bào, mà tế bào chứa tập gồm nhiều nhiễm sắc thể (chromosome)-gọi chuỗi DNA Về mặt nhận thức nhiễm sắc thể chia thành gen (gene)-gọi khối chức DNA, gen mã hóa protein đặc biệt Đại để, nghó gen mã hóa đặc điểm (trait) đó, màu mắt chẳng hạn Các đặt khác đặc điểm (như xanh, nâu, nâu lục) gọi alen Mỗi gen đặt vị trí xác định nhiểm sắc thể Nhiều sinh vật có nhiều nhiễm sắc thể tế bào Tập đầy đủ chất liệu di truyền gọi gen (genome) sinh vật Thuật ngữ kiểu di truyền (genotype) tham khảo đến tập gen đặc biệt chứa gen Hai cá thể có gen giống gọi có kiểu di truyền Kiểu di truyền gây kiểu hình (phenotype) sinh vật-gọi đặc tính vật lý trí tuệ sinh vật Các sinh vật mà nhiễm sắc thể chúng xếp theo cặp gọi lưỡng bội (diploid); sinh vật mà nhiễm sắc thể chúng không xếp theo cặp gọi đơn bội (haploid) Trong tự nhiên, phần lớn loài sinh sản có giới tính lưỡng bội, bao gồm người, mà người có 23 cặp nhiễm sắc thể tế bào xôma thể Trong sinh sản có giới tính, tái tổ hợp (recombination crossover) xuất hiện: cha mẹ, gen trao đổi cặp nhiễm sắc thể để tạo thành giao tử (gamete: nhiễm sắc thể đơn), sau giao tử từ hai cha mẹ kết đôi với để tạo thành tập nhiễm sắc thể lưỡng Chương 1: Giải thuật di truyền HVTH: Nguyễn Đức Chí THD: TS.Lê Tiến Thường Giải thuật di truyền xử lý ảnh bội đầy đủ Trong sinh sản giới tính đơn bội, gen trao đổi nhiễm sắc thể đơn dải hai cha mẹ Con bị đột biến có nucleotide (các bit DNA) bị thay đổi từ cha mẹ sang con, thay đổi thường xảy lỗi trình chép Sự thích nghi (fitness) sinh vật xác định khả mà sinh vật sống để sinh sản xác định chức số cháu mà sinh vật có Trong giải thuật di truyền, thuật ngữ nhiễm sắc thể (chromosome) tham khảo đến giải pháp giải cho vấn đề, thường mã hóa thành chuỗi bit “Gen” bit đơn khối ngắn bit kề mã hóa thành phần riêng biệt giải pháp (ví dụ, ngữ cảnh tối ưu hóa hàm nhiều tham số, bit mã hóa tham số riêng biệt xem gen) Một alen chuỗi bit là 1; bảng ký tự lớn có nhiều alen vị trí Lai ghép bao gồm việc trao đổi chất liệu di truyền cha mẹ đơn bội đơn nhiễm sắc thể Đột biến thay đổi bit vị trí chọn ngẫu nhiên (đối với bảng ký tự lớn thay ký hiệu vị trí chọn ngẫu nhiên với ký hiệu chọn ngẫu nhiên) Phần lớn ứng dụng giải thuật di truyền ứng dụng cá thể đơn bội, đặc biệt cá thể đơn nhiễm sắc thể Kiểu di truyền cá thể GA dùng chuỗi bit, đơn giản hình dạng bit nhiễm sắc thể Thường khái niệm kiểu hình ngữ cảnh GA, gần nhiều nhà nghiên cứu thử nghiệm GA mức kiểu di truyền lẫn mức kiểu hình Giải thuật di truyền đơn giản Dựa vào vấn đề định nghóa rõ ràng phải giải chuỗi bit biểu diễn cho giải pháp tiêu biểu, GA đơn giản làm việc sau: Bắt đầu với tập n nhiễm sắc thể chiều dài l bit tạo cách ngẫu nhiên (các giải pháp tiêu biểu cho vấn đề) Tính độ thích nghi f(x) nhiễm sắc thể x quần thể Lặp lại bước sau n cháu tạo ra: a Lựa chọn cặp nhiễm sắc thể cha mẹ từ quần thể tại, xác suất lựa chọn hàm tăng độ thích nghi Lựa chọn làm “với thay thế”, có nghóa nhiễm sắc thể chọn nhiều lần để trở thành cha mẹ b Với xác suất pc (“xác suất lai ghép” “tỷ lệ lai ghép”), lai ghép cặp nhiễm sắc thể điểm chọn ngẫu nhiên để tạo thành hai nhiễm sắc thể Nếu lai ghép xảy ra, tạo hai nhiễm sắc thể mà chép xác cha mẹ tương ứng chúng (Chú ý tỷ lệ lai ghép định nghóa xác suất mà cha mẹ lai ghép điểm xác định Cũng có kiểu lai ghép đa điểm GA mà tỷ lệ lai ghép cặp cha mẹ số điểm mà lai ghép xảy ra) c Đột biến hai nhiễm sắc thể chỗ với xác suất pm (xác suất đột biến hay tỷ lệ đột biến), đặt nhiễm sắc thể kết quần thể Nếu n lẻ, thành viên quần thể bị loại bỏ cách ngẫu nhiên Chương 1: Giải thuật di truyền HVTH: Nguyễn Đức Chí THD: TS.Lê Tiến Thường Giải thuật di truyền xử lý ảnh Thay quần thể quần thể Trở lại bước Mỗi bước lặp trình gọi “sự tạo sinh” Một GA tiêu biểu lặp từ 50 đến 500 lần tạo sinh Toàn tập tạo sinh gọi “một hành trình” Khi kết thúc hành trình thường có nhiều nhiễm sắc thể có mức độ thích nghi cao quần thể Vì tính ngẫu nhiên đóng vai trò lớn hành trình, hai hành trình có số hậu ngẫu nhiên khác tạo cách tác động khác Các nhà nghiên cứu GA thường báo cáo thống kê (như độ thích nghi tốt tìm thấy hành trình lần tạo sinh mà cá thể có độ thích nghi tốt khám phá) trung bình qua nhiều hành trình khác GA vấn đề Thủ tục đơn giản vừa mô tả tảng cho phần lớn ứng dụng GA Có số chi tiết phải thêm vào, kích thước quần thể xác suất lai ghép đột biến, thành công giải thuật thường phụ thuộc vào chi tiết Cũng có nhiều kiểu GA phức tạp (ví dụ, GA làm việc biểu diễn khác chuỗi GA có loại toán tử lai ghép đột biến khác) Một ví dụ chi tiết giải thuật GA đơn giản, giả sử l (chiều dài chuỗi) 8, f(x) số bit chuỗi bit x (một hàm thích nghi đơn giản, sử dụng dành cho mục đích minh họa), n (kích thước quần thể) 4, pc = 0.7, pm = 0.001 (giống hàm thích nghi, giá trị l n thường nằm khoảng từ 50 đến 1000 Các giá trị cho pc pm tiêu biểu) Quần thể ban đầu (được tạo ngẫu nhiên) sau: Nhãn nhiễm sắc thể A B C D Chuỗi biểu diễn nhiễm sắc thể 00000110 11101110 00100000 00110100 Độ thích nghi Một phương pháp lựa chọn phổ biến GA lựa chọn theo tỷ lệ thích nghi, số lần cá thể chọn để tạo sinh với độ thích nghi chia cho giá trị trung bình thích nghi quần thể (Điều tương đương với mà nhà sinh vật gọi “lựa chọn khả tồn tại”) Một phương pháp đơn giản thực lựa chọn theo tỷ lệ thích nghi “lấy mẫu bánh xe ru lét” (roulette-wheel sampling), khái niệm tương đương với việc cho cá thể phần vòng tròn quay với độ thích nghi cá thể Khi bánh xe ru lét quay, bóng ngừng lại hình nêm, cá thể tương ứng chọn Trong ví dụ n = 4, vòng tròn quay quay lần, hai lần quay chọn nhiễm sắc thể B D cha mẹ, hai lần quay thứ hai chọn nhiễm sắc thể B C cha mẹ Một cặp cha mẹ chọn, với xác suất pc chúng lai ghép để tạo thành hai Chương 1: Giải thuật di truyền HVTH: Nguyễn Đức Chí Giải thuật di truyền xử lý ảnh THD: TS Lê Tiến Thường fprintf('Ky tu thuoc nhom %d, vi tri %d: %s \n',nhom,pos,kytu) Chương trình out_no_ron.m xác định vị trí ký tự nhóm: function [out_network]=out_no_ron(E,D1); size_network=[30 1;88 19 1;40 22 1;32 1;54 14 1;12 1;3 1;1 1]; group=[10 3;8 11;8 5;8 4;6 9;4 3;3 1;1 1]; for i=1:8 number_weight(i)=(size_network(i,1)+1)*size_network(i,2)+(size_network(i,2)+1)*size_network(i,3); end; for i=1:8 if size(D1)==group(i,:) chiso=i; break; end; end; w=weight_network(chiso); numweight=size_network(i,:); num_weight=number_weight(i); samp1=E; dem1=0; dem2=0; for k=1:2 dem1=dem1+(numweight(k)+1)*numweight(k+1); samp2=output(numweight(k),numweight(k+1),samp1,w(num_weight-dem1+1:num_weight-dem2)); dem2=dem2+(numweight(k)+1)*numweight(k+1); samp1=samp2; end; if chiso==1 out_network=2*samp2+1; else if (chiso==2)|(chiso==5) out_network=20*samp2-1 else if chiso==3 out_network=(200/9)*samp2; else if chiso==4 out_network=10*samp2; else if (chiso>=6)&(chiso