ngày nay hệ thống thông minh đã trở thành thông dụng trong việc giải quyết các bài toán thực tế phức tạp và nó cũng đảm bảo đáp ứng đầy đủ các yêu cầu thực tiễn của bài toán
Trang 1Chương 1
KẾT HỢP CÁC MƠ HÌNH TÍNH TỐN THƠNG MINH
Một vài năm gần đây, những kỹ thuật tính tốn trong các hệ thống cơng nghệ ngồi thực tế có xu hướng phát triển với nhiều kỹ thuật mới khác với các kỹ thuật truyền thống, đặc biệt được quan tâm đó là: Tính tốn thơng minh (Hình 1.1)
Tính tốn thơng mình
Thuật giải Mạng
di truyền Nơron Logic mờ
Phân cứng và phần mềm
Hình 1.1 Các kỹ thuật tính tốn mềm hình thành nên tính tốn thơng minh Tính tốn thơng mỉnh mà nên tẳng là các kỹ thuật tính tốn mềm: Thuật giải di truyền, mạng Nơron nhân tạo va Logic mé đã từng là chủ đề nghiên cứu và tìm hiểu từ khi bắt đầu chuyên ngành khoa học máy tính (từ năm 1940) Thuật giải di truyên bắt nguồn từ ý niệm tiến hóa để tổn tại và phát triển trong tự nhiên Những kinh
nghiệm thực tế của con người đã là những ý niệm cơ bản cho lý thuyết mới để giải quyết vấn để Lý thuyết này do John Herry Holland để xướng vào giữa thập niên 70 [5, TLTK], [8, TLTK], [18, TLTK], [28, TUTK] Mang Nơron nhân tạo ra đời đầu tiên
vào năm 1949, Donald Hebb đã đưa ra jý thuyết học Nơron và áp dụng cho mạng xử lý
Trang 2đúng Cả ba kỹ thuật trên đang được kết hợp qua lại với nhau hình thành những hệ thống kết hợp Nhiều sản phẩm tiện ích đã và đang áp dụng các hệ thống kết hợp trên
Chương này tổng kết một số nghiên cứu đã có về việc kết hợp qua lại giữa ba kỹ thuật của ¿ính tốn thơng mình: Thuật giải di truyền, mạng Nơron và Logic mờ Cụ thể, nó nêu được tính cấp thiết của việc kết hợp, tổng kết các phương thức kết
hợp, tóm tắt một số ví dụ mình họa và đưa ra lớp bài tốn thích ứng đối với từng mơ hình kết hợp: Di truyền- Mờ, Nơron- Mờ, Di truyền- Nơron, và Di truyền- Nơron-
Mờ Đồng thời, để xuất một số mơ hình kết hợp riêng sẽ trình bày trong các chương 2 và chương 3
1.1 Thuật giải di truyền kết hợp với Logic mờ
Việc kết hợp giữa Thuật giải di truyền với Logic mờ là một lĩnh vực mới và ít được khai thác hơn so với việc kết hợp Thuật giải đi truyền hoặc Logic mờ với mạng Nơron Charles Karr là người tiên phong đưa ra kỹ thuật kết hợp Di fruyên- Mờ, thử nghiệm đầu tiên thực hiện vào năm 1989: đàng Thuật giải di truyền để cải tiến bộ
điều khiển mờ Một số ứng dụng trong thực tế đã chứng minh tính khả thi của hệ
thống kết hợp trên Tuy nhiên, nhiều nghiên cứu sau đó đã đưa ra những cải tiến của kỹ thuật kết hợp này[26,TLTK]
Thuật giải di truyền và Logic mờ có một vài đặc điểm chung và riêng Cả hai kỹ thuật đều thích hợp với việc xử lý bộ dữ liệu dùng cho các hệ thống phi tuyến Sử dụng hai kỹ thuật này giúp cải tiến hiệu suất của hệ thống: tối kết quả và tốc độ thực hiện
Trang 3ích trong việc xác định giải pháp của lớp bài tốn có cấu trúc tri thức cố định và được định nghĩa tốt Tuy nhiên, rất khó thiết kế hệ thống mờ cho những bài toán lớn và phức tạp Quá trình thiết kế phải dựa vào phương pháp /h# và sai thủ công, ma trận biểu diễn mối quan hệ giữa các khái niệm và hoạt động là cổng kểnh, những
giá trị tốt nhất của các tham số yêu cầu để mô tả các hàm thành viên rất khó xác
định Hiệu suất của hệ thống rất nhạy đối với những giá trị tham số đặc biệt
Trong trường hợp thiếu hụt một vài đặc trưng của hệ thống mờ, Thuật giải di truyền vẫn cho phép tối ưu hàm thành viên và thậm chí lọc các luột mờ Thuật giải di truyền hướng tới qui trình tìm kiếm toàn cục, giảm bớt các trường hợp cực tiểu cục bộ bằng việc giới hạn tập giải pháp chuẩn (Bảng 1.1 cho ta thấy các đặc trưng của Logic mờ và Thuật giải di truyền)
Phần nhiều các hoạt động nghiên cứu và ứng dụng cho hệ thống kết hợp Di truyền- Mờ đều tập trung vào việc sử dụng Thuật giải di truyền để tăng cường hiệu suất hệ thống mờ Tuy nhiên, một vài nghiên cứu đã chỉ ra những phương pháp hiệu quả cho phép cdi ti€n cdc hé thong di truyền nhờ bộ điều khiển mờ bằng cách sử dụng tập luật mờ được kết hợp với một vài kỹ thuật trong quá trình thực hiện Thuật giải di truyền
Đóng góp khác của Logic mờ đối với hệ thống kết hợp Di ruyên- Mờ là: ứng dụng nó cho việc xác định trị số của hàm lượng giá trong Thuật giải di truyền Bảng 1.1 So sánh đặc điểm giữa Logic mờ và Thuật giải di truyền (-: Yếu, Ä:Mạnh)
Lưu trữ mi Tăng Hệ thống
Trí hức | F©€ | TỔIHU | vợ qộ Phi tuyến
Hệ thống mờ Ý = 2 Ý Ý
Trang 4Các mục tiếp theo sẽ trình bày tổng quan về phương pháp kết hợp Di /ruyên-
Mờ: Phân loại kỹ thuật kết hợp, một số ví dụ về kỹ thuật kết hợp Di truyên- Mờ, tóm tắt một số ứng dụng thực tế của hệ kết hợp Di :ruyên- Mờ, tổng kết và kết luận 1.1.1 Phân loại kỹ thuật kết hợp
Bảng 1.2 đưa ra một vài phương pháp khả thi cho việc kết hợp giữa Thuật giải
di truyền với Logic mờ Chỉ tiết của phương pháp được trình bày trong các mục kế
tiếp thông qua một vài ví dụ cụ thể
Bảng 1.2 Phân loại việc kết hợp giữa các hệ thống Di truyén va Mo
Các kiểu kếthợp | Miêu tả
Ghép cặp | kết nối mô dun Di truyén và mé dun Mo hiệu chỉnh giá tri thành viên
¡ xác định bộ luật mờ
_ sửa đổi hàm thành viên
vận hành ¡ áp dụng bộ điều khiển logic mờ
hệ thống di truyền | ding hệ thống mờ trong lượng giá hàm thích nghi
các hệ thống kết hợp ' máy học, phân lớp dữ liệu
1.1.2 Một số ví dụ về kỹ thuật kết hợp Di ứruyên- Mờ thiết kế hệ thống mờ Hê thống ghép cặp Di truyền- Mờ
Một trong các phương pháp thiết kế hệ thống kết hợp Di truyền- Mờ là: sử dụng những zmô đưn độc lập với vai trò làm thành phần cấu thành của hệ thống Các mô đưn Thuật giải di truyền và Logic mờ ghép cặp với nhau để tạo nên một hệ thống phần mềm ứng dụng, trong đó mô đun Thuật giải di truyền thường có chức năng điều chỉnh những mô đun cá thể hoặc toàn bộ hệ thống
Thiết kế hê thống mờ bằng Thuât giải di truyền
Trang 5thiết kế bộ luật mờ giúp tăng hiệu suất thực hiện của hệ thống Thủ tục tổng quát
cho việc dùng Thuật giải di truyền để tỉnh chỉnh hệ thống mờ được chỉ ra trong Hình
1.2 (xem chỉ tiết trong [36,TLTK])
Thuật giải di truyền
ee Chọn lọc/Sửa đổi >>
Quan thé Lượng giá | Độ đo thích nghỉ
= Hệ thống mỡ nh
Hình 1.2 Sử dụng Thuật giải di truyền để cải tiến hiệu suất hệ thong Mo
Dùng Thuật giải di truyền cho thiết kế bộ điều khiển mờ được ứng dụng rộng rãi trong nhiều lĩnh vực thực tế Một vài ví dụ được đưa ra trong Bảng 1.3
Bảng 1.3 Các ví dụ ứng dụng kỹ thuật kế? hợp Di truyền- Mờ cho hệ thống điều khiển [26,TLTK]
Điều khiển các xử lý thích nghỉ với Logic mờ và Thuật giải di truyền Karr
Thiết kế bộ điều khiển Logic mờ cho vận hành tàu không gian Lai
Xây dựng mơ hình suy điễn mờ nhờ cơ chế học ứng dụng Thuật giải di truyền
Park, Kandel và Langholz
Kết hợp mô đưn Di truyền- Mờ vào trong những ứng dụng kỹ thuật phức tạp để
đạt mục tiêu: Cải tiến bộ luật điều khiển mờ giúp tăng hiệu suất của hệ thống, đồng thời chứng minh tính khả thi của hệ ?hống kết hợp trong một lớp các bài toán ứng
Trang 6
dụng Vùng ứng dụng điển hình của hệ thống này là những bài toán kỹ thuật gắn liền với các nhiệm vụ thiết kế, đặt cấu hình máy, thiết bị lên kế hoạch và lập lịch
Trong một số bài toán, Thuật giải di truyền giúp tìm kiếm những giá trị tối ưu của hàm thành viên trong trường hợp chọn lọc giá trị hàm thành viên bằng phương pháp thủ cơng là khó hoặc tốn nhiễu thời gian Cụ thể, nếu bộ luật mờ đã được thiết lập và các tham số được định nghĩa dưới dạng hàm thành viên thì mơ đun Thuật giải di truyền sẽ tỉnh chỉnh giá trị tham số tương ứng Ví dụ: Xây dựng mơ hình suy diễn mờ nhờ cơ chế học: Ứng dụng Thuật giải di truyền (36,TLTK]
Một nghiên cứu khác là: Dùng Thuật giải đi truyền thiết kế tự động hệ thống điều khiển mờ Lúc này, Thuột giải di truyền sẽ xác định các hàm thành viên được sử dụng, số lượng /uệt mờ và tham số của những luật liên hệ [36,TLTK]
Bảng 1.4 Ví dụ về hệ thống kết hợp D¿ :ruyên- Mờ ứng dụng giải bài tốn phân tích dữ liệu [26,TLTK]
Thuật giải di truyền tối ưu kỹ thuật phân lớp mờ theo một tiêu chí xác định Bezdek và Hathaway
Thuật giải di truyền hỗ trợ bộ điều khiển mờ:giải một số bài toán thử nghiệm Barczak, Martin và Krambeck
Xử lý đữ liệu địa vật lý
Chen, Berkey và Johnson
Phân lớp mờ trong bộ cảm biến điều khiển từ xa
Chen, Cooley và Zhang
Kết hợp các tập luật điều khiển mờ ứng dụng cho dự báo chấn động Loskiewicz-Buczak va Uhrig
Trang 7Điều khiển mờ tự động của hệ thống Thuật giải di truyền
Lee và Takagi, 1993, đề nghị phương pháp: dùng Logic mờ để điều khiển các tham số thiết lập Thuật giải di truyền Một hệ thống cơ sở tri thức mờ được sử dụng cho việc điểu khiển các tham số của Thuật giải đi truyền (xem Hình 1.3) Đồng thời, họ cũng đưa ra kỹ thuật sử dụng Thuật giải đi truyền để thiết kế và tỉnh chỉnh
tự động hệ cơ sở tri thức mờ Các kết quả đạt được cho thấy khả năng xác định tự động các tham số thiết kế của Thuật giải di truyền và cho phép ứng dụng đối với một lớp các bài toán ngoài thực tế
Đầu vào của mô đun cơ sở tri thức mờ là những độ đo hiệu suất hiện tại của hệ
thống Thuật giải di truyền hoặc bộ các tham số cần thiết để thiết lập nên Thuật giải
di truyền Ví dụ : kích cỡ quần thể, tỷ lệ đột biến, và tỷ lệ trị số thích nghi trung bình so với trị số tốt nhất Các đầu ra từ hệ thống cơ sở tri thức mờ đối với Thuật giải di truyền là giá trị được xác định lại của các tham số, ví dụ như: Những thay đổi
để cử về kích cỡ quần thể
Cơ sở tri thức Thuật giải di truyền cho thiết
Mờ kế Cơ sở tri thức mờ
Động cơ
suy diễn Mờ
Hệ thống Hệ thống
Thuật giải di truyền ứng dụng
Trang 8
Cơ sở tri thức mờ mã hoá các luật như: ảnh hưởng của kích cỡ quần thể đối với tỷ lệ đột biến và đối với các nhân tố khác quyết định hiệu suất Thuật giải di truyền Logic mờ trong cơ sở trì thức và cơ chế suy diễn đẩm bảo chất lượng việc điều khiển các tham số thiết kế của Thuật giải đi truyền Suy luận mờ chỉ xảy ra giữa các lân tạo sinh, được áp dụng cho những ứng dụng thực tế có hàm thích nghi phức tạp
Mô đun Thuật giải di truyền khác được dùng cho thiết kế hệ thống cơ sở tri thức mờ Lúc này, hàm thành viên được giới hạn và mã hoá thành các cá thể của quân thể di truyền Hàm thích nghỉ phần ánh hiệu suất thực hiện của Thuật giải di truyền đích với các tham số thiết kế được xác định nhờ hệ Cơ sở ri thức mờ và được xác định trên cơ sở: tính trung bình của toàn bộ gid tri lượng giá hiệu suất thực hiện khi chạy thuật giải trong một khoảng thời gian cho trước và trung bình của giá /rị lượng giá hiệu suất tốt nhất khi chạy thuật giải trong cùng khoảng thời gian đó
Kết quả đạt được đã chứng minh rằng: việc phát triển các kỹ thuật kết hợp
giữa Logic mờ và Thuật giải di truyền là khả thi và cho phép cải tiến hiệu suất thực hiện của hệ thống trong một lớp các ứng dụng thực tế
1.1.3 Tóm tắt một số ứng dụng thực tế của hệ kết hợp Di truyền- Mừ
Trang 9Bảng 1.5 Những ví dụ ứng dụng của hệ thống kế! hợp Di truyền- Mờ[26,TUTK]
Thuật giải di truyền kết hợp với mạng ngữ nghĩa trong nhận dạng khung cảnh Ankenbrandt, Buckles và Petry
Hệ thống phân quyển điểu khiển trong người máy và máy tính thông minh Fukuda và Shibata
Thiết kế tự động và ứng dụng của nó cho hướng dẫn phương tiện giao thông Hessburg, Lee, Takagi và Tomozuka
Điều khiển xử lý tương ứng của các đơn vị cột báo tự động Kam
Điều khiển nổng độ pH bằng kỹ thuật mờ kết hợp với Thuật giải di truyền Karr và Gentry
Các phản ứng hóa học toả nhiệt
Karr, Sharma, Hatcher va Harper
Hệ thống tự điều khiển trên trạm không gian: Nhận dạng mẫu theo phối cảnh Pal
Vận hành phối hợp trong hệ thống tiến hóa đa tác nhân Shibata và Fukuda
Tự động phát sinh quỹ đạo Robot Xu và Vukovich
1.1.4 Tổng kết và kết luận
Trang 10viên thay cho các tham số, giúp tăng tính linh động trong trường hợp biểu diễn những tri thức có mức độ phức tạp cao
Thuật giải di truyền hoạt động tốt trong những môi trường tương tự với những môi trường dùng cho các hệ thống mờ, nhằm giải quyết các bài toán phi tuyến hoặc những bài tốn địi hỏi hiệu suất cao Hơn nữa, Thuật giải di truyền có thể kết hợp với Logic mờ để tối ưu hiệu suất thực hiện của hệ thống Hệ thống kế! hợp Di truyền- Mờ là một phương cách tự nhiên để giải quyết hầu hết các bài tốn khó trong thực tế, đồng thời nó cũng nâng.cao hiệu suất thực hiện cho các phương pháp truyền thống khi giải quyết bài toán Kỹ thuật kết hợp trên là một ưu điểm trong quá trình thiết kế phát triển ứng dụng cũng như giúp tăng khả năng học của hệ
thống khi môi trường thay đổi :
Miễn ứng dụng hứa hẹn của hệ thống kế: hợp Di truyền- Mờ là: các hệ thống điều khiển cho quá trình xử lý vật lý
Một miễn ứng dụng khác là sử dụng các hệ thống kết hợp Di truyền- Mờ cho xử lý thống kê truyền thống trong phân tích dữ liệu
Việc dùng công nghệ di truyền tăng hiệu suất của các bộ điều khiển mờ đang nhận được sự quan tâm đáng kể trong giai đoạn ứng dụng hiện nay Một số ứng dụng dựa theo kỹ thuật kế: hợp Di truyên- Mờ đã và đang được triển khai và tiếp tục
phát triển
Trang 11Thuật giải di truyền cho phép kết hợp các luật cố định với những tiêu chuẩn
khác: vấn để chỉ phí và hiệu suất hệ thống, những tiêu chuẩn này không dễ dàng biểu diễn dưới dạng luật Nghiên cứu, thử nghiệm và so sánh để chọn lựa kỹ thuật kết hợp Di truyền- Mờ là rất có giá trị trong việc đẩy mạnh các ứng dụng thực tế của hệ thống này
Mục 2.1(chương 2) sẽ để xuất một kỹ thuật kế: hợp Di truyên- Mờ: Mô hình kết hợp giữa Logic mờ và Thuật giải tiến hoá (EA- biến thể của Thuật giải di truyền (Phụ lục A)) riêng Mơ hình để xuất thuộc lớp kỹ thuật : Ghép cặp hai mô đun Logic mờ và Thuật giải tiến hóa để hình thành nên một hệ thống ứng dụng và tạm đặt tên
là mơ hình FL_ EA
12 Mạng Nơon kết hợp với Logic mờ
Phương pháp kết hợp giữa mạng Nơron với Logie mờ ra đời từ đầu thập niên 1990 và hình thành trên nguyên tắc: khai thác ưu điểm của hai kỹ thuật riêng lẻ
Mạng Nơron và Logic mờ có một vài điểm chung Chúng đều đóng vai trị như những hàm tính tốn động, mà có thể điều chỉnh hoặc huấn luyện cho việc cải tiến hiệu suất hoạt động Chúng đều được thực hiện dựa trên nguyên lý xử lý song song Mạng Nơron bao gồm tập hợp các liên kết qua lại bên trong giữa cdc nut (Noron) trên nguyên tắc: đầu ra của mỗi Møron được liên kết thông qua các trọng số đến các Nơron khác hoặc tới chính nó Hệ ;hống “mờ” xử lý các luật, những luật này sẽ liên kết tập các đầu ra “mờ” với tập các đầu vào “zờ” Nhược điểm chính của các hệ thống “mờ” là: rất khó thiết kế cơ sở luật mờ khi tổn tại một số lượng lớn các đầu vào và đầu ra của hệ thống Các luật mờ được biểu diễn như một ánh xạ từ tập các biến ngôn ngữ đầu vào đến tập các biến ngôn ngữ đầu ra của hệ thống Tuy nhiên,
Trang 12khó khăn và vất vả Hơn nữa, việc tìm ra hàm thành viên chính xác đảm bảo hệ thống đạt được hiệu suất tốt cũng rất khó khăn Mzng Nơron mang lại một số thuận lợi, đó là: khả năng học từ dữ liệu quá khứ và khả năng thích ứng với môi trường khi dữ liệu mới được nạp vào hệ thống Ä⁄4ng Wơron sau khi được huấn luyện bởi các Thuật giải học sẽ có khả năng phân loại dữ liệu và nhận dạng các mẫu phức tạp [2,TLTK] Mặt hạn chế của mang 1a: sự thiếu hụt các Nơron trong mạng hoặc dữ liệu huấn luyện không bảo đảm: bị nhiễu hay không đây đủ
Bảng 1.6 Các đặc điểm của hệ thống “Mờ” và mạng Nơron
Đặc tính của hệ thống thông minh Các hệ thống Mờ | _ Mạng Nơron
Ước lượng hàm V
Khả năng học, xấp xỉ
Tính mở đối với việc sử dụng
Khả năng xử lý song song
el a 41 <4 <4
Giải các bài toán số
Chấp nhận tính mơ hồ (khơng chính xác) -^-| 2| 2| 2| 2| 2 Miêu tả tri thức rõ Tính thích nghi Tối ưu a) 4) 4] Tinh tự bổ xung Chấp nhận nhiễu 1
Trang 13thuật mờ sẽ hiệu chỉnh các biến đổi toán học của từng Nơron trong mạng, hoặc sửa đổi Thuật giải huấn luyện mạng sao cho hiệu suất thực hiện của mạng là cao nhất [1;TLTKI
Có thể phân loại việc kết hợp giữa các hệ thống Mờ và Nơron như Bảng 1.7 Bảng 1.7 Phân loại việc kết hợp giữa các hệ thống Mờ và mạng Nơron
Các kiểu kết hợp Miêu tả
ghép cặp kết nối hệ chuyên gia Mo va mang Nơron để hình
thành một hệ thống tính tốn thông minh
mạng Nơron cho việc thiết kế và tỉnh chỉnh hệ thống #⁄ờ
mạng Nơron có thể dùng để phân tích dữ liệu và nhận biết các luật mờ tương ứng
mạng có thể dùng để tối ưu các hàm thành viên để nâng cao hiệu suất thực hiện của hệ thống Mờ
mạng Nơron mờ: kỹ thuật Mờ tỉnh chỉnh mạng Nơron để tạo ra mạng mới với hiệu suất cao hơn
Logic mờ hiệu chỉnh mạng cho phép mạng Nơron tiếp
nhận và xử lý các đầu vào mờ lúc này, một tang mdi trên cùng sẽ được bổ xung để mờ hoá các dữ liệu đầu vào rõ
Mục 2.2 thuộc chương 2 sẽ để xuất mơ hình kết hợp Nơron- Mờ riêng của
luận án: mơ hình mạng Nơron- Mờ thuộc kiểu kết hợp: kỹ thuật mờ tỉnh chỉnh Mạng Nơron để tạo ra mạng mới với hiệu suất cao hơn
143 Kết hợp giữa Thuật giải di truyền và mạng Noron
Trang 14Vào năm 1990, việc khảo sát các hoạt động của Thuật giải di truyền đã làm đổi mới hướng nghiên cứu và ứng dụng của mạng Nơron Đến năm 1994, Thuật giải di truyên đã từng được đề cập đến như một phần hỗ trợ của mạng Nơron hoặc hệ chuyên gia trong một vài hội nghị và tạp chí chuyên ngành
Công nghệ Thuật giải di truyền và một số cơng cụ khác trong Tính tốn tiến hố đã hình thành phương pháp giải quyết vấn để khá hiệu quả trong những ứng dụng thực tế phức tạp Đặc trưng chủ yếu của phương pháp cho phép sử dụng rộng rãi nó cho các hệ thống kết hợp là: khả năng tìm kiếm hiệu quả lời giải trên miền không gian rộng lớn và phức tạp Trong một số bài tốn khó, phức tạp, Tính tốn tiến hoá cho phép tim ra lời giải tối ưu với chỉ phí nhỏ hơn (chỉ phí thuật giải, chi phí thời gian ) so với các phương pháp truyền thống khác
Thuật giải di truyền kết hợp với mạng Nơron theo nhiễu cách khác nhau và một yêu cầu cho các nghiên cứu là: khai thác hữu ích khả năng kết hợp của phương pháp kết hợp Di :ruyễn- Nơron trong các ứng dụng thực tế
Trong thời gian gần đây, nhiều nghiên cứu đặt ra câu hỏi: khi nào và tại sao Thuật giải di truyền nên kết hợp với mạng Nơron? Mạng Nơron được hiểu như một
hệ thống quyết định phân lớp, vấn để đặt ra là: Bằng cách nào có thể nâng cao hiệu
suất thực hiện của mạng? Để thực hiện yêu cầu trên, mục tiêu Thuật giải di truyền kết hợp với mạng Nơron là: Đảm bảo chất lượng dữ liệu nhập vào mạng, giải thích các trạng thái khác nhau của mạng, khởi tạo bộ trọng số ban đầu giúp giảm bớt chi phí thuật giải trong quá trình tinh chỉnh mạng Xa hơn nữa, Thuật giải di truyền có
Trang 15Cũng với mục tiêu: Nâng cao hiệu suất phân lớp của mạng Nơron, gần đây, việc liên kết nhiều mzng Nơron bằng các cơng cụ tính tốn mềm dẻo khác từng
được để cập như một hướng mới giúp xây dựng các hệ thống giải quyết Bời toán
phân lớp với hiệu suất cao
Trong khi các phương pháp thông thường chọn ra mạng tốt nhất từ các mạng Noron tham dự thì phương pháp kết hợp sẽ giữ lại tất cả các mạng cá thể và áp dụng một chiến lược quyết định tập chung thích hợp
Trong mục 2.3 thuộc chương 2, luận án sẽ để xuất một mơ hình liên kết D¡ truyền- Nơron riêng: Thuật giải dị truyền liên kết nhiều mạng Nơron cá thể {6,CTNC], [10,CTNC] Mơ hình kết hợp này không những xem xét sự khác nhau về hiệu suất của mỗi mạng khi liên kết, mà còn sử dụng các hệ số (đánh giá mức độ tin cậy của từng mạng cá thể) Thuật giải di truyền sẽ xác định giá trị các hệ số này và kết hợp các mạng cá thể để thu được một kết quả đầu ra hợp lý
Các mục sau sẽ trình bày tổng quan về mơ hình kế: hợp Di truyền- Nơron: Tóm tắt các nghiên cứu về việc kết hợp giữa D¿ ruyên và Nơron; một số ví dụ về mơ hình kết hợp giữa Thuật giải di truyền và mạng Nơron; ứng dụng thực tế và kết luận
1.3.1 Tóm tắt các nghiên cứu về việc kết hợp giữa Di truyền va Noron
Việc kết hợp giữa Thuật giải đi truyền và mạng Nơron có thể tóm tắt trên một vài phương thức khác nhau (bảng 1.8) (xem chỉ tiết trong [5,TLTK]):
© Thuật giải di truyền được ding trong các mô đun độc lập, mà nó sẽ tác động qua lại tới mạng Nơron và những mơ đưn tính tốn thơng minh khác với mục tiêu giải quyết một bài toán thực tế Chức năng mô đun Thuật giải di truyền
Trang 16© Thuột giải di truyền có thể đóng vai trò như bộ tiền xử lý ctia mang Noron: Giới hạn lại không gian lời giải để giảm chỉ phí thuật giải của mạng Nơron
© Thuật giải di truyền phân tích các kết quả đầu ra của mạng Nơron: trợ giúp việc giải thích kết quả để đưa ra quyết định cuối cùng
Thuật giải di truyền được dùng trong việc chuẩn bị dữ liệu đầu vào cho mạng
Nơron Nó được sử dụng để đưa ra một phương thức biểu diễn dữ liệu tối ưu và cũng được dùng để chọn ra bộ dữ liệu thích hợp nhất cho mạng Nhờ đó, với những mạng Nơron có cấu trúc ổn định, Thuật giải di truyền sẽ giúp giảm bớt xử lý lặp trong quá trình xác định bộ trọng số và tham số
e Cũng có thể sử dụng Thuật giải đi truyền khởi tạo bộ trọng số ban đầu của mạng Nơron, điều này giúp rút ngắn thời gian huấn luyện mạng
Một số chương trình tiến hoá mà nền tẳng là Thuật giải di truyền cho phép xác định cấu trúc, tham số mạng Nơron, tuy nhiên còn đòi hỏi nhiều nghiên cứu và tìm hiểu sâu hơn nữa
Thuật giải di truyền thay thế thuật giải học của mạng Nơron, ứng dụng trong lớp bài toán: trong đó thuật giải lan truyền ngược khơng hữu ích
Bảng 1.8 Một số phương thức liên kết Thuật giải di truyền với mạng Nơron
Khía cạnh mạng Nơron Vai trò Thuật giải di truyền
Dữ liệu nhập Biểu diễn tối ưu cho bộ dữ liệu and/or
Tìm trọng số, tham số phù hợp hoặc Các trọng số và các tham số lu tìm bộ giá trị khởi tạo ban đầu tốt ác ch SH ưng pee
Giải thích các kết quả Phân tích đầu ra của mạng Nơron
Tìm kiếm mơ hình mạng Nơron cụ thể ba :ất Lế
Tiến hoá thiết kế mạng từ nhiều mơ hình khác nhau
Được thay thế hoặc hỗ trợ bởi phương
Trang 17Trong mơ hình kết hợp, Thuật giải di truyền được thiết kế dưới dạng một mô đun độc lập ghép cặp với mạng Nơron hoặc những mơ đun tính tốn khác, nó sẽ hiệp lực cùng với các mô đun này để giải quyết bài tốn (thường nó được áp dụng để tìm ra lời giải tối ưu), (Hình 1.4)
Thuật giải di truyền _ |** mạng Nơron
Hình 1.4 Mơ đun ghép cặp Di ruyên-Nơron trong một hệ thống ứng dụng
1.3.2 Một số ví dụ về việc kết hợp giữa Thuật giải di truyền và mạng Noron
Các hệ thống ghép căp Di truyền- Nơron
Một ví dụ về mô đun ghép cặp Thuật giải di truyền- mạng Nơron được trình bầy bởi Kađaba Nygard và Juell (1991)[19/TUTK] Hệ thống kết hợp của họ là sự kết hợp của nhiều thành phần: Thuật giải di truyền, mạng Nơron, cơ sở luật và các mơ đun tính tốn truyền thống khác Hệ thống này được đặt tên là XROUTE, đồng thời tính khả thi của nó được chứng minh trong lớp bài toán ứng dụng: xác định lộ
trình phương tiện (xem chỉ tiết trong [19,TLUTK])
Cơ sở mô hình Hệ thống Giao diện
Heuristic Cơ sở tri thức người dùng
mạng Nơron Thuật giải di truyền
Trang 18
Thuật giải di truyền tiền xử lý đầu vao mang Noron
Thuật giải di truyền dùng để cải tiến dữ liệu trình bày trong một mạng Nơron Dữ liệu được phân tích bởi mạng Nơron và sau đó được tối ưu bởi Thuật giải di truyền Đầu tiên, mạng Nơron phân biệt các lớp dữ liệu, tiếp theo, Thuật giải di truyền hợp nhất các yếu tố bổ sung để phân biệt giữa các thành viên trong từng lớp [5,TLTK], [26,TLTK]
Bảng 1.9 Các ví dụ: Thuật giải di truyền tiền xử lý đầu vào mạng Nơron [26,TLTK]
Thuật giải di truyền xây dựng bộ mẫu huấn luyện cho mạng Nơron phân lớp Brill, Brown, va Martin
Tự động trích chọn dữ liệu huấn luyện cho học có giám sát của mạng Nơron Laird và Saul
Tiến hoá, cải tiến biến đổi toán học của từng Noron trong mạng Nơron Romaniuk
Rút gọn số lượng cdc Noron trong mạng: Hội tụ cấu trúc mạng Wilson
Brill, Brown va Martin (1992) dùng Thuật giải di truyền để phân tích dữ liệu huấn luyện với sự hỗ trợ của mạng Kohonen Phân lớp láng giểng gần nhất được dùng trong quá trình xác định hàm lượng giá của Thuật giải di truyền với mục tiêu tăng tốc độ tính tốn Khơng gian bộ mẫu huấn luyện sẽ được chia thành nhiều không gian con và đặc trưng đại diện của chúng sẽ được chọn lọc bởi Thuật: giải di truyền , bộ đặc trưng này trở thành đầu vào của mạng Nơron
Trang 19mot mang Noron cu thể Trong trường hợp này, nhiễm sắc thể chứa giá trị 1 hoặc 0 báo hiệu sự có mặt hay vắng mặt của một véc tơ huấn luyện trong bộ mẫu huấn luyện tham dự Hàm lượng giá của Thuật giải di truyền được dùng để thông báo số lượng các mẫu được nhận biết chính xác khi mạng Nơron xử lý tập dữ liệu tham dự
Thuật giải di truyền thiết ké mang Noron
Bảng 1.10 Các ví dụ: Thuật giải di truyền thiết kế mạng Nơron[26,TUTK]
Tiến hoá mạng: Sử dụng Thuật giải di truyền với việc học các liên kết Belew, McInernney và Schraudolf
Thuật giải di truyền sắp xếp cấu trúc của các mạng Nơron mờ Fukuda, Ishigami, Arai va Shibata
Tối ưu mạng Nơron bằng Thuật giải di truyền
Harp và Samad
Huấn luyện các mạng Nơron bằng Thuật giải di truyền Janson và Frenzel
Sơ đồ tự tổ chức : Phương pháp tối ưu tiến hóa và cạnh tranh cục bộ Jockusch và Ritter
Một phương thức kết hợp cho việc thiết kế và huấn luyện mạng Nơron Kitano
Thiết kế đi :ruyên điều chỉnh các mang Noron truyền thẳng
Saha và Christensen
Sử dụng Thuật giải di truyền huấn luyện các lớp của mạng Nơron truyền thẳng Yoon, Holmes, Langholz va Kandel
Trang 20Các tham số của mạng Nơron có thể được tối ưu bằng việc khởi tạo và kiểm tra quần thể các mạng Nơron ứng với những bộ giá trị tham số khác nhau Ví du: ti lệ học và số lượng các nút ẩn Thông tin cấu thành mạng được chứa trong nhiễm sắc thể tương ứng của quân thể các mạng tham dự Toán tử đột biến sửa đổi quần thể các Nhiễm sắc thể hiện tại trên cơ sở những ràng buộc xác định do ứng dụng [5,TLTK], [23, TLTK], (26, TLTK]
Harp va Samad (1991) mô tả phương pháp dùng Thuật giải đi truyền để thiết kế mạng Nơron tổng quát cho một lớp các bài toán ứng dụng Họ trình bầy một vài thí nghiệm với hệ thống ơron GENESYS đề xuất và chỉ ra hiệu suất của nó so với các phương pháp truyền thống khác Phương pháp này đại diện cho mét kiéu mang Nơron riêng và cũng đảm bảo tính mềm dẻo đối với người sử dụng: cho phép họ chọn ra những tiêu chuẩn tối ưu riêng Ví du : kich thước mạng và tốc độ học sao cho phù hợp với các thử nghiệm trên phần cứng Thuật giải di truyền khởi tạo và phân tích những quần thể cấu hình thiết kế tiểm năng cho mạng Nơron đề nghị (Hình 1.6) Các Nhiễm sắc thể sơ đồ hố cấu hình của mạng Nơron (Hình 1.7)
Thuật giải
Quân thể Le di truyền T—_sø° Hiệu suất
lượng giá
Dữ liệu mạng mạng Nơron Dữ liệu
huấn luyện Nơron đã huấn luyện kiểm tra
Trang 21
Các tham số vùng tham số dự án
Hình 1.7 Nhiễm sắc thể biểu diễn các tham số thiết kế mạng
Các kiểu thông tin riêng lẻ mà chúng lưu trữ, được xác định trên cơ sở mơ hình thiết kế mạng Nơron đặc thù Việc lượng giá hiệu suất của mạng có thể xem xét trên nhiều khía cạnh khác nhau như: tốc độ hoặc khả năng tổng quát hoá
Nhiễm sắc thể bao gồm nhiều phân đoạn thông tin chỉ ra trong Hình 1.7 Một vùng trong nhiều trường hợp tương ứng với một lớp của mạng Nơron đa lớp và chứa các giá trị tham số mô tả đặc điểm chỉ tiết mạng như : vị trí, kích thước và các tham số học Số biến biểu diễn những tham số xác định mối liên kết từ một vùng này đến một vùng khác Để biểu diễn cho nhiều kiểu mạng khác nhau, phương pháp sẽ sử dụng những phân đoạn con đặc biệt tương ứng với từng dạng
Thử nghiệm với phương pháp kết hợp này trong một vài trường hợp, sẽ tạo ra những zng có hiệu suất cải tiến cao Phương pháp được ứng dụng trên các dạng bài toán sau: Nhận dạng số, bài toán OR, xử lý ước lượng trễ, bài toán ánh xạ đặc trưng Kohonen và các hệ thống trợ giúp thông minh Kết quả thử nghiệm đạt được cho thấy: việc sử dụng Thuật giải di truyền nâng hiệu quả hoạt động của mạng
Nơron là khả thị
Šohaffer, Caruaha và Eshelman (1990) từng nghiên cứu việc ứng dụng Thuật giải di truyền để cải tiến mạng Nơron Với phương pháp của họ, một nhiễm sắc thể biểu diễn cấu trúc một zmạng truyền thẳng Ví dụ xem Hình 1.8, những bit chỉ định
trong Nhiễm sắc thể biểu diễn thông tin chung của các lớp trong mựng và thông tin
Trang 22Bảng 1.11 Các ví dụ: Thuật giải di truyền cải tiến và tối ưu mạng Nơron[26,TUTK]
Thuật giải tiến hoá thiết kế mạng Nơron hồi quy Angeline, Saunders va Pollack
Thuật giải di truyền xác định cấu trúc mạng Nơron không đối xứng Bornholdt va Graudenz
Tiến hoá di truyén cho sắp xếp và phân phối bộ trọng số của mạng Nơron
Maniezzo
Các thuật giải song song cho việc phân phát dữ liệu đến các nút đa tính tốn
Mansour và Fox
Xác định các liên kết bên trong mạng Nơron bằng lập trình tiến hố
McDonnell và Waagen
Thiết kế tiến hoá cho các ứng dụng thích nghỉ với mạng Nơron Obradovic và Srikumar
Các vòng lặp tiến hoá và việc huấn luyện mạng Nơron nhân tạo hồi quy
Santos va Duro
Cải tiến bộ điều khién Noron bang lập trình tiến hố Saravanan và Fogel
Thuật giải di truyền cho học tự tăng cường với các mạng Nơron đa lớp Whitley, Dominic va Das
Học di truyền tự tăng cường cho bài toán điều khién Noron
Whitley, Dominic, Das va Anderson
Tối ưu các liên kết
Whitely, Starkweather va Bogart
Cải tiến bộ điều khiển mạng Nơron cho những hệ thống không ổn định
Wieland
Tổng hợp mạng Nơron sigma-pi nhờ lập trình tiến hoá tái sinh
Zhang và Muhlenbein
Trang 23
Bit Ý nghĩa
ä n (Có thể nhận tối đa 4 giá trị)
} œ (Có thể nhận tối đa 4 giá trị)
: Miễn trong số ban đầu (Có thể nhận tối đa 4 giá trị) 1Í Cho biết sự có mặt hay vắng mặt của lớp
8
3 Số lượng Noron
10 ong
ll
12 Cho biết sự có mặt hay vắng mặt của lớp 13
4 Z
: Số lượng Noron
16
Hình 1.8 Ví dụ đoạn mã biểu diễn cho 1 nhiễm sắc thể Wins 6 ; Wins Ôi; Wan Ơn on
Hình 1.9 Đoạn mã biểu diễn nhiễm sắc thể trong Yooh, 1994
Yooh và đồng nghiệp (1994) đã đưa ra phương pháp: dùng Thuật giải di truyền trong việc huấn luyện mạng Nơron Họ đã so sánh Thuật giải di truyền với thuật giải Lan truyền ngược và đưa ra các biến đổi để đơn giản hoá thuật giải Lan truyền ngược bằng Thuật giải di truyền trong các mạng tương ứng Đặc tả cho nhiễm sắc
thể được chỉ ra trong Hình 1.9, cung cấp cho Thuật giải di truyền những giá trị trọng
Trang 24Nơron Các biến thể của Thuật giải di truyền đang tiếp tục được tìm hiểu với mục
tiêu: ứng dụng nó để cải tiến cấu trúc mạng Nơron
Whitley, Dominic, Das va Anderson, 1993 đã chứng minh: có thể dùng Thuật
giải di truyền cho việc huấn luyện mạng Nơron nhằm giải quyết một lớp các bài toán điều khiển thiết bị ngoài thực tế Họ đã so sánh cách tiếp cận di truyền với phương pháp học tự tăng cường AHC[27,TLTK], [33,TUTK] trong việc áp dụng chúng vào bài toán mô phỏng việc điều khiển quả lắc Nghiên cứu trên là rất hữu ích trong các ứng dụng của công nghệ điều khién Noron (sử dụng mạng Nơron để
điều khiển thiết bị) Tuy nhiên, các nghiên cứu đã thưc hiện cũng cho thấy: Thuật giải di truyền cổ điển không tốt hơn so với những phương pháp Gradient Angculie, §anders và Pollach, 1994, đưa ra một số kết quả ứng dụng các biến thể của Thuật giải di truyền Họ sử dụng kỹ thuật Lập trình tiến hố cho việc tìm kiếm song song: cấu trúc và trọng số của một mạng Nơron đang hoạt động Hệ thống của họ có tên là GNARL, nó cho phép hội tụ những đặc trưng phức tạp của hệ thống, mà không thể dat được từ thuật giải di truyền cổ điển (xem chỉ tiết [14, TLTK], [26,TLTK])
Việc sử dụng Thuật giải di truyền hoặc biến thể của nó cho thiết kế cấu trúc
mạng Nơron được phân loại như sau:
e _ Tìm các tham số trong một kiến trúc mạng xác định
e _ Tìm hiểu cách bố trí, sắp xếp các nút trong mạng Nơron
e_ Đồng xác định cả cấu trúc và các tham số trong mạng
Tuy nhiên, trong một số trường hợp, phương pháp kết hợp Di truyền- Nơron chưa phải là phương pháp tốt nhất để giải quyết bài tốn Vì thế, tùy vào từng ứng
Trang 251.3.3 Ứng dụng thực tế
Bảng 1.12 Các ví dụ ứng dụng của hệ thống kết hợp Di /ruyên — Nơron [26,TUTK]
Tối ưu các mạng Nơron cho dự đốn phân tích màu Bishop, Bushnell, Ussher va Westland
Thuật giải di truyền và các ứng dung trong kỹ thuật hệ thống
Caponetto, Fortuna, Graziani và Xibilia
Thuật giải di truyền tối ưu mạng Nơron cho lập kế hoạch công tác tại cửa hàng
Dagli va Sittisathanchai
Thuật giải di truyền điều khiển quy trình huấn luyện mạng Nơron
Eaton
Thuật giải học song song cho MIMD Hung và Adeli
Chẩn đoán bệnh từ các phần ứng của một bệnh nhân Narayanan và Lucas
Thiết kế hệ chuyên gia trợ giúp tư vấn đầu tư
Nikolopoulos va Fellrath
Máy học dựa trên cơ sở di truyền cho các hệ thống tính tốn thương mại Pakath
Quản lý không chắc chắn trong việc nghiên cứu tự động trên trạm không gian Pal
Lập kế hoạch SMS thông minh Rabelo, Yih, Jones va Witzgall
Thiết kế mạng truy nhập cục bộ
Routen
Xây dựng cách tổ chức cho các nút đa lớp Schiffmann, Joost va Werner
Phương thức nhận dạng văn bản lưu hành Takeda
Thuật giải di truyền thiết kế mạng Nơron ứng dụng cho mũi điện tử
Fekadu, Hines va Gardner
Trang 261.3.4 Tóm tắt và kết luận
Kỹ thuật kết hợp Di truyền- Nơron đã từng hình thành và phát triển vào cuối
những năm 1980 Hầu hết các nghiên cứu này đều dựa trên nguyên tắc: khai thác
ưu điểm tiến hoá quần thể của Thuật giải di truyền để cải tiến thiết kế và ứng dụng cho mạng Nơron Những kết quả đạt được trong một số ứng dụng thực tế cho thấy tính khả thi của phương pháp kết hợp
Cụ thể, các nghiên cứu đều tận dụng khả năng của Thuật giải di truyền để tìm
kiếm:
¢ Khơng gian bộ dữ liệu huấn luyện cho mạng Nơron
s _ Bộ các tham số khởi tạo cho việc huấn luyện mạng Nơron
Ngoài ra, Thuật giải di truyền hoặc các biến thể của nó cũng được sử dụng để cải tiến cấu trúc, tổ chức của mạng Nơron
Một số ứng dụng của kỹ thuật kết hợp Di truyén- Noron đã thực hiện là:
s _ Điều chỉnh hệ thống kế! hợp Di truyền- Nơron hiện tại để đáp ứng cho một lớp
điển hình các bài tốn trong thực tế
© _ Sử dụng Thuột giải di truyền làm thuật giải học cho mạng Nơron, áp dụng kỹ thuật hội tụ trong tính tốn tiến hố
e Nhận biết miển các bài toán ứng dụng cho các kỹ thuật mạng Nơron tiêu chuẩn, trong đó :huật giải Lan truyền ngược rất khó áp dụng
s _ Các thử nghiệm tối ưu các vai trò của Thuật giải di truyền và mạng Nơron trong các hệ thống kết hợp
Những phát triển mới nhất của kỹ ;huật kết hợp Di truyén- Noron tập trung giải
quyết hai vấn để chính :
Trang 27e Khả năng thực thi của nó trong các ứng dụng hữu ích
Tóm lại, lớp bài toán điển hình sử dụng mơ hình kết hợp Di /ruyễn- Nơron thường là các hệ thống ra quyết định phân lớp Cùng với sự phát triển của khoa học kỹ thuật, các mơ hình kết hợp Di fruyễn- Nơron ngày càng được cải tiến và càng được ứng dụng rộng rãi trong nhiều lĩnh vực thực tế phức tạp
Trong phạm vi luận án, chúng tôi để xuất một mơ hình kết hợp giữa Thuật giải di truyền với mạng Nơron: Thuật giải di truyền kết hợp nhiều mạng Nơron trong bài toán phân loại mẫu (mục 2.3) Mô hình đề xuất thuộc lớp kỹ thuật: dùng Thuật giải di truyền phân tích đầu ra của mạng Nơron hỗ trợ cho việc giải thích kết quả
1.4 Kết hợp Thuật giải di truyền, mạng Nơron và Logie mờ
Việc kết hợp giữa Thuật giải di truyền với Logic mờ, mạng Nơron với Logic mờ và Thuật giải di truyền với mạng Nơron đã được trình bày trong các mục trước
Tuy nhiên, trong thực tế xuất hiện nhiễu bài toán khá phức tạp, muốn giải
quyết hiệu quả chúng, đôi khi phải thiết kế những mơ hình liên kết cả ba phương
pháp: Thuật giải di truyền, mạng Nơron và Logic mờ Ba thành phần cơ bản của kỹ
thuật tính tốn mềm này sẽ hỗ trợ bổ xung cho nhau trong quá trình giải quyết một ứng dụng cụ thể Chúng ta có thể xây dựng các mô hình kết hợp qua lại cả ba thành phần trên: Di /ruyên- Nơron- Mờ, áp dụng giải quyết hiệu quả một số bài toán tổng
quát phức tạp trong thực tế mà các phương pháp truyền thống không đạt được hiệu quả cao (với tiêu chí đánh giá: chất lượng- Độ chính xác (ưu tiên số 1) và chỉ phí thuật giải- chỉ phí thời gian (du tiên số 2))
Chương 3 sẽ trình bầy chỉ tiết một số phương pháp kết hợp qua lại giữa ba kỹ
Trang 281.5 Mô hình kết hợp ba kỹ thuật Di truyền, Nơon, Mờ giải bài toán phân loại mẫu tổng quát
Các mục 1.1, 1.2, 1.3, 1.4 tóm tắt một số mơ hình kết hợp qua lại giữa ba kỹ thuật Nơron, Di truyền và Mờ đã được nghiên cứu bởi các nhà khoa học ở trong nước và trên thế giới Cụ thể, những mục này đã nêu lên được tính cần thiết của việc kết hợp, tổng kết các phương thức kết hợp, đưa ra lớp bài tốn thích ứng đối
với từng mô hình kết hợp
Để chứng minh tính khả thi của việc kết hợp ba kỹ thuật Thuật giải di truyền,
Logic mờ và mạng Nơron Luận án cũng đề xuất một số mơ hình kết hợp riêng Những mơ hình kết hợp này được kiểm chứng thông qua một ứng dụng cụ thể, đó là bài tốn phân loại mẫu tổng quát gồm bai lớp bài toán: phân loại mẫu không mất mát thông tin: chứng thực mẫu, phân lớp mẫu và phân loại mẫu bị mất mát thông tin Mục này sẽ trình bẩy về bài tốn và các mơ hình kết hợp giải bài toán ứng dụng
1,5.1 Bài toán phân loại mẫu
Xét bài toán phân loại mẫu tổng quát (Sơ đồ hình 0.1)
Cho Q, ¿¡ e{(1,2, n), OzØ; và O là một phân hoạch các ©, Bài toán phân loại mẫu tổng quát là bài toán xác định ánh xạ:
p:Q —>{l2, n}: VX «Q, p(X) =¡(nghĩa làX eQ, )
Tuy nhiên, trong thực tế có thể tổn tại hai tình huống với mẫu X
— Tình huống 1: Khơng mất mát thông tin: X đầy đủ đặc trưng © XeQ —_ Tình huống 2: Bị mất mát thông tin: X không đầy đủ đặc trưng © X„„„£©
Trang 29Với tình huống 2 phải phuc hdi Xm VE Xphuc_adi $40 ChO X„„„ ;¿¡eO, rồi mới phân loai Xphuc_ndi về ©„ ¡e (1,2, , n} (đưa về bài toán phân loại mẫu tổng quát)
Chỉ tiết hơn, bài toán phân loại mẫu được chia thành hai dạng bài toán:
(1) Bài toán chứng thực mẫu (phân biệt THẬT/ GIẢ):
Đây là một trường hợp cụ thể của bài toán trên với ¡=2 = =„„¿; sOặ (2) Bài toán phân lớp mẫu:
Xét đến hai trường hợp:
- Trường hợp 1: Mẫu X là một véc tơ: cho Q 1A một phân hoạch các ©,, ¡e{1/2, n} và X=(X\, X;, X.,)eQ Xác định /e{1, n}:XeO,
- Trường hợp 2: Mẫu X là #⁄ véc tơ : cho O là một phân hoạch các {Q,
¡e(1/2, n}} và mẫu X =ÍY' =(X7, X7, X/):X” «Q, 7 ={1 M)} Xác định ¡
sao cho XeQ,
1.5.2 Kết hợp Di truyền- Mờ: Mơ hình FL_EA giải bài toán chứng thực mẫu
(phân biệt THẬT/ GIÁ)
Xuất phát từ bài zoán phân loại mẫu tổng quá: (mục 1.5.1) chúng ta xét đến
một trường hợp cụ thể của bài toán với n=2 > © = znạy UQax : bai oán chứng
thực mẫu (phân biệt THẬT! GIẢ) - Xác định “mẫu” đang xem xét có phải là “mẫu”
gốc cho trước không? Để giải quyết bài tốn này, có thể sử dụng nhiều phương pháp khác nhau, luận án để xuất một mơ hình kết hợp 7huật giải tiến hoá (phụ lục
Trang 30rút gọn biểu diễn “mẫu” gốc Lúc này, Thuật giải tiến hoá sẽ được dùng giúp việc
phát hiện ma trân rút gon biểu diễn “mẫu” giả một cách nhanh nhất Chỉ tiết về phương pháp để xuất sẽ được trình bày trong mục 2.1 (chương 2) Ứng dụng thực tế của phương pháp: Chứng thực Ảnh được trình bày đầy đủ trong chương 4 (mục 4.1) | 1.5.3 Két hợp Di truyền- Nơron- Mờ giải bài toán phân lớp mẫu (Xe)
Quay trở lại bài toán phân loại mẫu tổng quát (mục 1.5.1) với trường hợp n nguyên dương bất kỳ Tuy nhiên, mục này chỉ quan tâm đến Tình huống 1 (mục 1.5.1): Phân loại mẫu không mất mát thông tin: X day đủ đặc trưng XeQ Để giải quyết bài toán, luận án để xuất bốn mô hình kết hợp ứng dụng cho việc phân loại
mẫu dưới đây:
(a) Mạng Nơron truyền thẳng ba lớp (phụ lục D)
(b) Mạng Nơron mờ truyền thẳng bốn tầng (xem mục 2.2 thuộc chương 2)
(c) Thuật giải di truyền kết hợp các mạng Nơron truyền thẳng ba lớp (xem mục 2.3
thuộc chương 2)
(d) Thuật giải di truyền liên kết các mạng Nơron mờ (xem mục 3.1.6 thuộc chương 3) Việc so sánh để chọn lọc mơ hình kết hợp tốt nhất trong bốn mô hình trên được thể hiện trong một ứng dụng thực tế: Nhận dạng ký tự viết tay (trong mục 4.2.1
thuộc chương 4)
1.5.4 Mơ hình kết hợp Di ruyễn- Nơron- Mờ giải bài toán phân loại mẫu có mất mát thơng tin (X„„„£ ©)
Là bài tốn phân loại mẫu tổng quát với Tình huống 2 (mục 1.3.1): Phân loại
mẫu bị mất mát thông tin: X không đầy đủ đặc trưng © X„„„£Q Để giải quyết bài
Trang 31giữa các kỹ thuật: Thuật giải di truyền, mạng Kohonen, Logic mờ và mơ hình bộ nhớ | kết hợp (AM) Mục 3.2.2.1 thuộc chương 3 trình bày chi tiết mơ hình để xuất này Sau khi phục hồi mẫu X, chúng ta có Xz„„ ;¿;eQ Việc phân loại Xphucpdi VE Qu e{1,2, } bằng việc chọn lựa từ bốn kỹ thuật phân loại như trong mục 3.2.2.2 thuộc chương 3
Ung dụng thực tế minh hoạ cho bài toán phân loại mẫu mất mát thông tin là:
Phân loại mẫu vân tay mất mát thông tin Ứng dụng này được trình bày chỉ tiết trong
mục 4.3 thuộc chương 4
16 Phân tích, đánh giá các kết quả thử nghiệm
Các mơ hình kết hợp để xuất trong luận án được phân tích đánh giá hiệu quả thông qua ứng dụng cụ thể đó là: Bài tốn phân loại mẫu tổng quát Tiêu chí đánh giá hiệu quả của các mơ hình này gồm:
Ưu tiên số 1: Kết quả tối ưu của bài toán
Uu tiên số 2: Chỉ phí thuật giải, chỉ phí thời gian
Với bài toán chứng thực mẫu: phân biệt mẫu(THẬT/GIẢ) Luận án để xuất
mô hình kết hợp Mờ- Di truyền để giải quyết bài toán Kết quả đạt được khi giải
Trang 32Với bài nhận dạng chữ viết tay Luận án để xuất bốn mơ hình: mạng Nơron,
mang Noron- Md, Thuật giải di truyền liên kết các mạng Nơron, Thuật giải di truyễn liên kết các mạngNơron- Mờ Các mơ hình này đã được thử nghiệm trên 26 chữ viết tay thường (a, , z) Với tiêu chí đánh giá là: kết quả tối ưu của bài toán (tỷ lệ nhận dạng(%)) Qua các kết quả thử nghiệm (Bảng 4.1, mục 4.2.1, chương 4), nhận thấy, mơ hình kết hợp: Thuật giải di truyễn liên kết các mạng Nơron- Mờ (GA kết hợp 3 ENN ) đạt tỷ lệ nhận dạng cao nhất 96.50% Điều này khẳng định tính khả thi của mơ hình kết hợp Di truyén- Noron- Mé trong bai toán nhận dạng chữ viết tay thường
(chương 2- 3- 4)
Với bài toán phân loại mẫu vân tay bị mất mát thông tin Luận án đề xuất mơ hình kết hợp Di truyền- Mờ- mạng Kohonen cho việc chuẩn bị bộ dữ liệu học Mơ hình này cho phép xây dựng không gian mẫu đồng dạng với các mẫu đại điện chọn lọc bằng phương pháp thủ công Điều này giúp giảm chỉ phí về thời gian cũng như công sức bỏ ra dé tìm một cơ sở dữ liệu các mẫu vân tay lớn phục vụ cho quá trình huấn luyện mạng (chương 3- 4 )
1⁄7 Kết luận chương 1
Chương 1 giới thiệu và tóm tắt những nghiên cứu đã có về các mơ hình kết hợp giữa các kỹ thuật tính tốn thơng mình: Thuật giải di truyền, Logic mờ và mạng Nơron Nó cũng giới thiệu những mơ hình kết hợp để xuất trong luận án và việc ứng
dụng các mơ hình này để giải quyết một số dạng của bài toán phân loại mẫu tổng
Trang 33phân loại mẫu tổng quát: Bài toán chứng thực Ảnh, bài toán Nhận dạng ký tự viết tay, bài toán phân loại mẫu vân tay mất mát thông tin