Ứng dụng mạng nơ ron hopfield giải bài toán lập thời khóa biểu

iii http://www.ictu.edu.vn MỤC LỤC TRANG PHỤ BÌA Trang LỜI CẢM ƠN ……………………………………………………………… i LỜI CAM ĐOAN………………………………………………………… ii MỤC LỤC………………………………………………………………… iii DANH MỤC CÁC BIỂU ĐỒ, HÌNH VẼ………………………………… v MỞ ĐẦU CHƯƠNG I TỔNG QUAN VỀ MẠNG NƠ RON NHÂN TẠO 1.1 GIỚI THIỆU VỀ MẠNG NƠ-RON NHÂN TẠO .3 1.1.1 Lịch sử phát triển 1.1.2 Mơ hình mạng nơ-ron nhân tạo .4 1.2 PHẠM VI ỨNG DỤNG CỦA MẠNG NƠ RON NHÂN TẠO 19 1.2.1 Những tốn thích hợp 19 1.2.2 Các lĩnh vực ứng dụng mạng nơ ron 22 1.3 MẠNG HOPFIELD 24 1.3.1 Mạng Hopfield rời rạc 25 1.3.2 Mạng Hopfield liên tục 26 1.3.3 Mạng Hopfield với tốn tối ưu 28 1.3.4 Mạng Hopfield với tốn lập thời khóa biểu 30 1.4 NHẬN XÉT 32 CHƯƠNG II: ỨNG DỤNG MẠNG NƠ-RON HOPFIELD TRONG BÀI TỐN LẬP THỜI KHĨA BIỂU CHO TRƯỜNG ĐẠI HỌC .32 2.1 Bài tốn lập thời khóa biểu khó khăn việc lập thời khóa biểu cho trường đại học .33 2.2 Tình hình giải tốn lập thời khóa biểu 37 2.3 Xây dựng mơ hình mạng Hopfield cho tốn thời khóa biểu 38 2.3.1 Mạng nơ ron Hopfield 38 2.3.2 Ánh xạ tốn thời khóa biểu lên mạng nơ-ron Hopfield 40 2.4 Thuật tốn mạng nơ-ron Hopfield tốn lập thời khóa biểu cho trường Đại học 43 2.5 Kết luận chương 46 CHƯƠNG 3: CÀI ĐẶT THỬ NGHIỆM 47 3.1 Thiết kế chương trình ứng dụng mạng nơ ron Hopfield việc lập thời khóa biểu cho trường đại học .47 http://www.ictu.edu.vn iv 3.2 Chuẩn bị liệu 50 3.3 Kết thử nghiệm 50 3.4 Đánh giá kết 51 KẾT LUẬN VÀ ĐỀ NGHỊ 52 Kết đạt luận văn 52 Các định hướng nghiên cứu 52 TÀI LIỆU THAM KHẢO .53 PHỤ LỤC 55 DANH MỤC CÁC BIỂU ĐỒ, HÌNH VẼ Hình 1.1 Mơ hình nơ-ron sinh học Đồ thị hàm đồng (Identity function) .8 Đồ thị hàm bước nhị phân (Binary step function) Đồ thị hàm sigmoid Đồ thị hàm sigmoid lưỡng cực 10 Hình 1.2 Mơ hình nơ-ron 10 Hình 1.3 Mạng truyền thẳng lớp 13 Hình 1.4 Mạng truyền thẳng nhiều lớp 14 Hình 1.5 Mạng lớp có nối ngược 15 Hình 1.6 Mạng nhiều lớp có nối 15 Hình 1.7 Mơ hình mạng Hopfield 24 Đồ thị hàm Sigmoid .28 Đồ thị hàm Hàm y=tanh(x) 28 Hình 3.1: Giao diện chương trình thời khóa biểu 48 Hình 3.2: Danh sách form liệu 49 Hình 3.3: Minh họa tìm kiếm liệu theo lớp 50 Hình 3.4: Nhập tham số cơng thức cho tốn thời khóa biểu 50 http://www.ictu.edu.vn v Hình 3.5: Minh họa kết sau xếp thời khóa biểu 51 http://www.ictu.edu.vn MỞ ĐẦU Nhờ khả năng: học, nhớ lại khái qt hóa từ mẫu huấn luyện liệu, mạng nơ-ron nhân tạo trở thành phát minh đầy hứa hẹn hệ thống xử lý thơng tin Các tính tốn nơ-ron cho phép giải tốt tốn đặc trưng số tất tính chất sau: sử dụng khơng gian nhiều chiều, tương tác phức tạp, chưa biết khơng thể biết mặt tốn học biến Ngồi phương pháp cho phép tìm nghiệm tốn đòi hỏi đầu vào cảm nhận người như: tiếng nói, nhìn nhận dạng Bài tốn lập thời khóa biểu đại học tốn tối ưu dạng NP-hard tìm thời khóa biểu có chất lượng tốt thử thách thực Bài tốn với số lượng lớn kiện bao gồm nhiều ràng buộc cứng khác để thực việc tìm kiếm thời khóa biểu tối ưu phức tạp tốn nhiều thời gian Để xử lý độ phức tạp tốn để cung cấp việc tự động hỗ trợ người xếp thời khóa biểu, có nhiều cách tiếp cận tài liệu tập trung vào tốn Những cơng việc nghiên cứu thể luận văn nhằm xây dựng theo tình trạng phát biểu tìm kiếm phương pháp luận cho tốn thời khóa biểu Nghiên cứu tập trung vào phần xếp lịch dạy thời khóa biểu nhằm đảm bảo lớp - giáo viên - phòng học tránh bị xung đột Các tính tốn nơ-ron cho phép giải tốt tốn có nhiều tương tác phức tạp Vì vậy, ứng dụng mạng nơ-ron Hopfield tốn thời khóa biểu hứa hẹn giải pháp hiệu góp phần nâng cao khả xếp thời khóa biểu nhờ tính hội tụ nhanh đến trạng thái ổn định mạng nơ-ron Hopfield Trên giới, có số nghiên cứu ứng dụng mạng nơ-ron tốn xếp lịch thời khóa biểu cho trường đại học Tuy nhiên, lĩnh vực mẻ chưa ứng dụng rộng rãi nước ta Trong nước http://www.ictu.edu.vn chưa có tài liệu thống lĩnh vực Với ứng dụng ngày rộng rãi mạng nơ-ron, việc nghiên cứu áp dụng vào tốn thời khóa biểu trở nên cấp thiết, quan tâm Chính lý em định chọn đề tài: “Ứng dụng mạng nơ-ron Hopfield việc lập thời khóa biểu cho trường đại học“ làm hướng nghiên cứu Với mục tiêu đưa ý tưởng khác nhằm tăng hiệu tổng quan với thuật tốn xếp thời khóa biểu tìm cách ứng dụng vào thực tế Luận văn gồm chương với nội dung sau: Chương 1: Trình bày tổng quan sở mạng nơ-ron nhân tạo, nêu khái qt ứng dụng mạng nơ-ron tốn xếp thời khóa biểu Chương 2: Trình bày phương pháp giải tốn lập thời khóa biểu, dùng mạng Hopfield sửa đổi nhằm giảm độ phức tạp tăng tốc giải tốn, đưa nhận xét hiệu mơ hình tốn Chương 3: Thiết kế cài đặt thử nghiệm chương trình ứng dụng mạng nơ-ron Hopfield cho tốn lập thời khóa biểu, đánh giá kết đạt Ngồi ra, luận văn phần phụ lục tài liệu tham khảo kèm theo cuối đề tài http://www.ictu.edu.vn CHƯƠNG I TỔNG QUAN VỀ MẠNG NƠ RON NHÂN TẠO 1.1 GIỚI THIỆU VỀ MẠNG NƠ-RON NHÂN TẠO 1.1.1 Lịch sử phát triển Khái niệm mạng nơ-ron bắt đầu vào cuối kỷ 19, đầu kỷ 20 có tham gia ba ngành Vật lý học, Tâm lý học Thần kinh học Các nhà khoa học Hermann Von Hemholtz, Earnst Mach, Ivan Pavlov với cơng trình nghiên cứu sâu vào lý thuyết tổng qt mơ tả hoạt động trí tuệ người như: Học, nhìn, lập luận, khơng đưa mơ hình tốn học cụ thể mơ tả hoạt động nơ-ron Về lịch sử, q trình nghiên cứu phát triển mạng nơ-ron nhân tạo chia thành bốn giai đoạn sau: + Giai đoạn một: Từ nghiên cứu William (1890) tâm lý học với liên kết nơ-ron thần kinh Năm 1943, nhà thần kinh học Warren MeCulloch nhà logic học Walter Pitts rằng:về ngun tắc mạng nơ-ron nhân tạo mơ hình hố thiết bị ngưỡng (giới hạn) để thực tính tốn hàm số học hay phép tính logic Tiếp theo hai ơng Donald Hebb với giải thuật huấn luyện mạng đời năm 1949 + Giai đoạn hai: Vào khoảng năm 1960, số mơ hình nơ-ron hồn thiện có tính ứng dụng thực tiễn đưa như: mơ hình Perceptron Frank Rosenblatt (1958), mơ hình Adaline Bernard Widrow (1962) Trong mơ hình Perceptron quan tâm ngun lý đơn giản, có hạn chế Marvin Minsky Seymour Papert MIT (Massachurehs Insritute of Technology) phát http://www.ictu.edu.vn chứng minh khơng dùng cho hàm logic phức (1969) Còn Adaline mơ hình tuyến tính, tự chỉnh, dùng rộng rãi điều khiển thích nghi, tách nhiễu phát triển + Giai đoạn ba: Vào khoảng đầu thập niên 80, việc nghiên cứu mạng nơ-ron diễn mạnh mẽ với đời máy tính cá nhân PC Những đóng góp lớn cho mạng nơ-ron giai đoạn phải kể đến Stephen Grossberg, Teuvo Kohonen, Rumelhart John Hopfield Trong đóng góp lớn nhà vật lý học người Mỹ John Hopfield gồm hai mạng phản hồi: Mạng rời rạc năm 1982 mạng liên tục năm 1984 Đặc biệt, ơng dự kiến nhiều khả tính tốn lớn mạng mà nơ-ron khơng có khả Cảm nhận Hopfield Rumelhart, Hinton Williams đề xuất thuật tốn sai số truyền ngược (back –propagation) tiếng để huấn luyện mạng nơ-ron nhiều lớp nhằm giải tốn mà mạng khác khơng thực Nhiều ứng dụng mạnh mẽ mạng nơ-ron đời với mạng theo kiểu máy Boltzmann mạng Neocognition Fukushima + Giai đoạn bốn: từ năm 1987 - đến nay, hàng năm giới mở hội nghị tồn cầu chun ngành nơ-ron IJCNN (International Joint Conference on Neural Networks) Rất nhiều cơng trình nghiên cứu để ứng dụng mạng nơ-ron vào lĩnh vực sống, ví dụ như: Kỹ thuật tính, tối ưu, sinh học, y học, thống kê, giao thơng, hố học… Cho đến nay, mạng nơ-ron tìm khẳng định vị trí nhiều ứng dụng khác 1.1.2 Mơ hình mạng nơ-ron nhân tạo 1.1.2.1 Nơ-ron sinh học Bộ não người có khoảng 1010 tế bào thần kinh liên kết chặt chẽ với gọi nơ-ron Mỗi nơ-ron gồm có ba phần: Thân nơ-ron với nhân bên (soma), đầu sợi trục thần kinh (axon) hệ thống tế bào hình (dendrite) Tế bào hình có nhiệm vụ mang tín hiệu điện tới http://www.ictu.edu.vn tế bào thân, tế bào thân thực gộp (Sum) phân ngưỡng ( Thresholds) tín hiệu đến Sợi trục thần kinh làm nhiệm vụ đưa tín hiệu thân ngồi Trong thực tế có nhiều dây thần kinh vào chúng bao phủ diện tích lớn (0.25 mm2) để nhận tín hiệu từ nơ-ron khác Đầu thần kinh rẽ nhánh nhằm chuyển giao tín hiệu từ thân nơ-ron tới nơ-ron khác Các nhánh đầu thần kinh nối với khớp thần kinh (synapse) Các khớp thần kinh nối với thần kinh vào nơ-ron khác Sự xếp nơ-ron mức độ mạnh yếu khớp thần kinh định q trình hóa học phức tạp, thiết lập chức mạng nơ-ron, nơ-ron sửa đổi tín hiệu khớp, nơ-ron nhân tạo gọi trọng số Có thể nói, mạng nơ-ron sinh học hoạt động chậm nhiều so với linh kiện điện tử (10-3 giây so với 10-9 giây), não thực nhiều cơng việc nhanh nhiều so với máy tính thơng thường Do cấu trúc song song mạng nơ-ron sinh học thể tồn nơ-ron thực đồng thời thời điểm Mạng nơ-ron nhân tạo có đặc điểm Các mạng nơ-ron nhân tạo chủ yếu thực nghiệm máy tính mạnh có vi mạch tích hợp lớn, thiết bị quang, xử lý song song Điều giải thích nghiên cứu khoa học mạng nơ-ron nhân tạo có điều kiện phát triển với phát triển kỹ thuật cơng nghệ phần cứng máy tính Có nhiều loại nơ-ron khác kích thước khả thu phát tín hiệu Tuy nhiên, chúng có cấu trúc ngun lý hoạt động chung Hình vẽ (1.1) hình ảnh đơn giản hố loại nơ-ron http://www.ictu.edu.vn Hình 1.1 Mơ hình nơ-ron sinh học - Hoạt động nơ-ron sinh học mơ tả tóm tắt sau: Mỗi nơ-ron nhận tín hiệu vào từ tế bào thần kinh khác.Chúng tích hợp tín hiệu vào, tổng tín hiệu vượt q ngưỡng chúng tạo tín hiệu gửi tín hiệu tới nơ-ron khác thơng qua dây thần kinh Các nơ-ron liên kết với thành mạng Mức độ bền vững liên kết xác định hệ số gọi trọng số liên kết 1.1.2.2 Nơ-ron nhân tạo Để mơ tế bào thần kinh khớp nối thần kinh não người, mạng nơ-ron nhân tạo có thành phần có vai trò tương tự nơ-ron nhân tạo kết nối chúng (kết nối gọi weights) Nơron đơn vị tính tốn có nhiều đầu vào đầu ra, đầu vào đến từ khớp nối thần kinh (synapse) Đặc trưng nơ-ron hàm kích hoạt phi tuyến chuyển đổi tổ hợp tuyến tính tất tín hiệu đầu vào thành tín hiệu đầu Một nơ-ron nhân tạo đơn vị tính tốn hay đơn vị xử lý thơng tin sở cho hoạt động mạng nơ-ron Các thành phần mơ hình nơ-ron http://www.ictu.edu.vn • Trọng số tổng tín hiệu đầu vào: Mỗi nơ-ron có nhiều dây thần kinh vào, nghĩa nơ-ron tiếp nhận đồng thời nhiều tín hiệu Giả sử nơ-ron i có N tín hiệu vào, tín hiệu vào S j gán trọng số Wij tương ứng Ta ước lượng tổng tín hiệu vào nơ-ron net i theo số dạng sau: (i)Dạng tuyến tính: N neti = ∑ Wij s j (1.1) j =1 (ii)Dạng tồn phương: N neti = ∑ Wij s 2j (2.2) j =1 (iii)Dạng mặt cầu: neti = − ρ N ∑( s j =1 j − w ij ) (3.3) Trong đó: ρ w ij ( j = 1, N ) tâm bán kính mặt cầu • Hàm kích hoạt (hàm chuyển): Hầu hết đơn vị mạng nơ-ron chuyển net input cách sử dụng hàm vơ hướng (scalar – to – scalar function) gọi hàm kích hoạt, kết hàm giá trị gọi mức độ kích hoạt đơn vị Trừ khả đơn vị thuộc lớp ra, giá trị kích hoạt đưa vào hay nhiều đơn vị khác Các hàm kích hoạt thường bị ép vào khoảng giá trị xác định, thường gọi hàm nén (squashing) Hàm biến đổi tín hiệu đầu vào net cho tín hiệu đầu out gọi hàm kích hoạt Hàm có đặc điểm khơng âm bị chặn, dùng để giới hạn biên http://www.ictu.edu.vn 46 cực trị địa phương Các tham số xác định tham số phạt α , β , χ , γ sau: Số lần lặp lại dốc Số dốc xuống Điều kiện ổn định để chấm dứt sớm lần lặp Số nơ-ron cho phép xoay đến kết thúc lần lặp Ngưỡng xác định xác suất nơ-ron giá trị xoay Tổng số bước chạy thực từ khởi tạo ngẫu nhiên u v Mạng nơ-ron rời rạc có thời gian trễ cố định cơng thức (24) ∆t =1 2.5 Kết luận chương - Phần đặt vấn đề thể phát biểu tổng qt tốn - Giới thiệu tình hình giải tốn lập thời khóa biểu khó khăn việc thực - Đã trình bày lời giải tốn cách sử dụng hai ánh xạ tốn thời khóa biểu theo mơ hình TT2 TT3 lên mạng Hopfield (xem [9]) Mơ hình mở rộng cơng thức Hopfield and Tank (1985), ứng dụng tới tất tốn tối ưu tổ hợp Mơ hình thứ hai có hiệu mang ý tưởng ánh xạ ba (Lớp – giáo viên – phòng học) suốt học kỳ (Abramson, 1991) lên mạng nơ-ron Hopfield Việc dùng cơng thức ánh xạ ba (lớp –giáo viên- phòng) TT3, chứng minh có hiệu số nơ-ron trọng số cần thiết để mã hóa cho tốn Trong chất lượng giải pháp tương tự thu cho hai trình bày mạng nơ-ron, cải thiện tốc độ tính tốn cho TT3 làm cho ưu tiên tiếp cận mạng nơ-ron Việc cài đặt thử nghiệm nhằm xác định ảnh hưởng sửa đổi thực mạng nơ-ron, tác động ngẫu nhiên xoay http://www.ictu.edu.vn 47 vòng, kiểm sốt thơng qua ngưỡng tham số Do vậy, thuật giải mạng nơron Hopfield thể khả cho lời giải chất lượng tốt với tốn thời khóa biểu mở rộng - Giới thiệu thuật giải mạng nơ-ron Hopfield cải tiến mã giả CHƯƠNG 3: CÀI ĐẶT THỬ NGHIỆM 3.1 Thiết kế chương trình ứng dụng mạng nơ ron Hopfield việc lập thời khóa biểu cho trường đại học - Chương trình Demo Với lý thuyết nghiên cứu, tác giả cài đặt mơ hình thử nghiệm ngơn ngữ C# tảng mơi trường phát triển tích hợp Visual Studio 2008 hệ quản trị sở liệu SQL server 2008 Minh họa thuật tốn nơ-ron Hopfield cài đặt Input: Khởi tạo mảng chiều uijkl (ngẫu nhiên) - Tính vijkl sử dụng phương trình (23) 1 , uijkl > vijkl = g(uijkl ) =   0, uijkl ≤ Trong g(uijkl ) hàm kích hoạt - cập nhập uijkl thời điểm (t+1) sử dụng phương trình (24) w ijkl ,i' j'k 'l' * vijkl + I ijkl uijkl (t+1) = uijkl (t) + ∆t( ∑ ) ' ' ' ' i jkl uijkl = ∑w ' ' ' ' i jkl ijkl ,i' j 'k 'l' Trong I ijkl = α Rijk cho trước * vijkl + I ijkl http://www.ictu.edu.vn 48 - Cập nhập vijkl thời điểm (t+1) sử dụng phương trình (25) vijkl = vijkl + ∆vijkl Trong 1, ∑ Wijkl ,i' j'k 'l'Vi' j'k 'l' (t ) + I ijkl ≥ Vijkl (t ) =  ∆Vijkl = −1,nếu ∑ Wijkl ,i' j'k 'l'Vi' j 'k 'l' (t ) + I ijkl ≤ Vijkl (t ) =   0, trường hợp khác Output: vijkl Tín hiệu vijkl ma trận cho lời giải tốn lập thời khóa biểu Dưới chương trình cài đặt thử nghiệm theo thuật giải mạng nơ-ron Hopfield Giao diện chương trình Hình 3.1: Giao diện chương trình thời khóa biểu http://www.ictu.edu.vn 49 - Về giao diện ( UI) bao gồm nhiều Form có form nhập liệu hình vẽ: Hình 3.2: Danh sách form liệu http://www.ictu.edu.vn 50 Hình 3.3: Minh họa tìm kiếm liệu theo lớp 3.2 Chuẩn bị liệu Để cài đặt chương trình thử nghiệm ta cần phải lựa chọn liệu đầu vào đơn giản tham số phù hợp Trong tốn này, tơi cho liệu đầu vào lớp, giáo viên, phòng học, tiết cụ thể hệ số cơng thức α =3, β = γ = χ =1 3.3 Kết thử nghiệm - Nhập tham số cơng thức: Hình 3.4: Nhập tham số cơng thức cho tốn thời khóa biểu - Xếp thời khóa biểu http://www.ictu.edu.vn 51 Hình 3.5: Minh họa kết sau xếp thời khóa biểu Phần mềm Demo chạy kết lịch thời khóa biểu, bị xung đột lớp - giáo viên - phòng học Qua đó, tơi thấy sử dụng mạng Hopfield để giải tốn lập thời khóa biểu cho trường đại học nhiều yếu tố ràng buộc cần phải dành nhiều thời gian nghiên cứu kỹ kết tối ưu 3.4 Đánh giá kết Việc cài đặt chương trình mơ hệ thống ứng dụng mạng nơ-ron Hopfield xếp lịch thời khóa biểu ban đầu cho kết khả quan Tuy nhiên, việc sử dụng mạng nơ-ron Hopfield để giải tốn cần thử nghiệm nhiều so sánh với thuật giải siêu tìm kiếm khác Một hạn chế luận văn tiến hành cài đặt thuật giải gặp phải vơ khó khăn tính trừu tượng thuật tốn sửa đổi tốn lập thời khóa biểu Và việc so sánh hai mơ hình TT2 TT3 cần phải có nhiều thời gian cơng sức nghiên cứu tìm tòi Trong thời gian làm luận văn, nỗ lực việc nghiên cứu tìm tòi có tài liệu tiếng anh liên quan giúp đỡ nhiệt tình thầy hướng dẫn bạn bè đồng nghiệp Song thời gian có hạn nhiều hạn chế mặt kinh nghiệm, kiến thức nên q trình tìm hiểu luận văn, khơng thể tránh khỏi sai sót Em mong nhận nhiều ý kiến đóng góp thầy bạn để luận văn hồn thiện hơn, sớm ứng dụng vào thực tế http://www.ictu.edu.vn 52 KẾT LUẬN VÀ ĐỀ NGHỊ Kết đạt luận văn Trong luận văn “ Ứng dụng mạng nơ-ron Hopfield giải tốn lập thời khóa biểu“ tơi hồn thành nhiệm vụ sau: Đã hệ thống sở lý thuyết mạng nơ-ron nhân tạo, đặc biệt mạng nơ-ron Hopfield Nêu phương pháp ánh xạ mạng nơ-ron lên tốn tối ưu, giới thiệu mạng nơ-ron Hopfield tốn lập thời khóa biểu Đã trình bày phát biểu tốn lập thời khóa biểu khó khăn việc lập thời khóa biểu cho trường đại học Đã nghiên cứu tốn lập thời khóa biểu dựa mạng nơ-ron Hopfield tác giả De Verra (1985) đề xuất hiểu rõ lý thuyết tốn Đã cài đặt thử nghiệm thuật giải mạng nơ-ron Hopfield, lựa chọn mơ hình cụ thể TT2 máy tính, kết đạt phần mềm xếp thời khóa biểu Các định hướng nghiên cứu Để cho thời khóa biểu tốt thỏa mãn nhiều ràng buộc phụ thuộc vào nhiều yếu tố như: độ lớn tốn đặt ra, việc chọn lựa tham số cho ma trận trọng số vơ cần thiết Vì hướng nghiên cứu luận văn tìm thuật giải cải tiến phương pháp chọn lựa tham số cho tốn lập thời khóa biểu tìm tối ưu http://www.ictu.edu.vn 53 TÀI LIỆU THAM KHẢO Tiếng Việt Đặng Quang Á, Một cách nhìn việc sử dụng mạng Hopfield giải tốn thoả mãn ràng buộc tối ưu có ràng buộc, Báo cáo Hội thảo quốc gia “Một số vấn đề chọn lọc cơng nghệ thơng tin”, Hải phòng 6/2001 Đặng Quang Á, Ứng dụng mang nơ ron tính tốn, Sách “Hệ mờ, mạng nơ ron ứng dụng”, Chủ biên: Bùi Cơng Cường, Nguyễn Dỗn Phước, Nhà XBKH-KT, Hà nội, 2001, 199-211 Bùi Văn Thanh, Bùi Việt Hà, Ứng dụng mơ hình tốn xếp thời khóa biểu để phát triển phần mềm xếp thời khóa biểu cho trường đại học, cao đẳng, Báo cáo nghiên cứu, Viện CNTT, 2008 Nguyễn Thị Thanh Huyền, Nguyễn Hồng Hạnh, Vũ Tuyết Trinh, Trần Đình Khang Giải thuật di truyền tốn lập thời khóa biểu Tạp chí Khoa học Cơng nghệ trường Đại học kỹ thuật, 6/2008 KS Lương Văn Khoa, TS Lưu Trường Văn, GS Lê Kiều Mạng, Mạng nơron nhân tạo (ANNs) giới thiệu số nghiên cứu ứng dụng quản lý dự án đầu tư xây dựng, tạp chí kinh tế xây dựng số 2/2006 Tiếng Anh Y Takefuji, Neural Network Parallel Computing, Kluwer Acad Publ., 1992 Marco Paulo Carrasco and Margarida Vaz Pato, A Comparison of Discrete and Continuous Neural Network Approaches to Solve the Class/Teacher Timetabling Problem, CIO − Working Paper 4/2001, http://www.ictu.edu.vn 54 Masri Ayob, Salwani Abdullah and Ariff Md Ab Malik, A Practical Examination Timetabling Problem at the Universiti Kebangsaan Malaysia, IJCSNS International Journal of Computer Science and Network Security, VOL.7 No.9, September 2007 Kate A Smitha, David Abramsonb, David Dukeb, Hopfield neural networks for timetabling: formulations, methods, and comparative results, Computers & Industrial Engineering 44 (2003) 283–305 10 http://www.grupet.at/en/downloads/demoversion/demoversion.php 11 http://www.mimosasoftware.com/company2.html 12 Salwani Abdullah, Heuristic approaches for university timetabling problems, The Scholl of Computer Science and Information Technology, June 2006 13 J Hertz, A Krogh, R G Palmer, Introduction to the Theory of Neural Computation, Addison-Wesley, 1991 http://www.ictu.edu.vn 55 PHỤ LỤC // Mã lệnh chương trình cài đặt thử nghiệm “ Ứng dụng mạng nơ-ron Hopfield giải tốn thời khóa biểu” using using using using System; System.Collections.Generic; System.Linq; System.Text; namespace Hopfield.TT2 { public class Calculation { private int iCountI; private int iCountJ; private int iCountK; private int iCountL; private float fAlpha; private float fGamma; private float fBeta; private float fLama; private int iDescentNumber; private int iNeuralNumber; private float[,,,] arrU; private float[,,,] arrV; private float[,,,] arrI; private float[,,,] arrDelta; private float[,,,,,,,] arrW; private int[,] arrKroneckerDelta; private float[, , ] arrR; public Calculation(int i, int j, int k, int l,float alpha,float beta,float gamma, float lama, int neural, int descent) { CountI = i; CountJ = j; CountK = k; CountL = l; fAlpha = alpha; fBeta = beta; fGamma = gamma; fLama = lama; http://www.ictu.edu.vn 56 iNeuralNumber = neural; iDescentNumber = descent; U = new float[CountI,CountJ,CountK,CountL]; V = new float[CountI, CountJ, CountK, CountL]; I = new float[CountI, CountJ, CountK, CountL]; W = new float[CountI, CountJ, CountK, CountL, CountI, CountJ, CountK, CountL]; arrDelta = new float[CountI, CountJ, CountK, CountL]; arrKroneckerDelta = new int[CountI + CountJ + CountK + CountL, CountI + CountJ + CountK + CountL]; R = new float[CountI, CountJ, CountK]; #region Private methods private void KhoiTaoKroneckerDelta() { for (int i = 0; i < CountI + CountJ + CountK + CountL; i++) { for (int j = 0; j < CountI + CountJ + CountK + CountL; j++) { if (i == j) { arrKroneckerDelta[i, j] = 1; } else { arrKroneckerDelta[i, j] = 0; } } } } private void KhoiTaoU() { Random r = new Random(); for (int i=0;i[...]... Trong đó: Ui : là tín hiệu vào tại nơ- ron i Vi : là tín hiệu ra tại nơ ron i Wij : là trọng số liền kề từ nơ- ron j đến nơ- ron i θi : là ngưỡng (đầu vào ngồi) kích hoạt nơ- ron i fi : là hàm kích hoạt của nơ- ron i 1.1.2.3 Mạng nơ- ron nhân tạo Mạng nơ- ron nhân tạo (gọi tắt là mạng nơ- ron) là mơ hình tốn học hay mơ hình tính tốn được xây dựng dựa trên các mạng nơ- ron sinh học Nó gồm có một nhóm các nơ- ron. .. hơn mạng truyền thẳng rất nhiều Tuy vậy các mạng hồi quy có thể cho phép mơ phỏng các hệ thống tương đối phức tạp trong thực tế CHƯƠNG II: ỨNG DỤNG MẠNG NƠ -RON HOPFIELD TRONG BÀI TỐN LẬP THỜI KHĨA BIỂU CHO TRƯỜNG ĐẠI HỌC http://www.ictu.edu.vn 33 2.1 Bài tốn lập thời khóa biểu và những khó khăn trong việc lập thời khóa biểu cho trường đại học - Phát biểu bài tốn Gọi V là tập hợp các phòng học và C,... lớn mạng nơ- ron nhân tạo là một hệ thống thích ứng (adaptive system) tự thay đổi cấu trúc của mình dựa trên các thơng tin bên ngồi hay bên trong chảy qua mạng trong q trình học Với việc giả lập các hệ thống sinh học, các cấu trúc tính tốn, mạng n ron có thể giải quyết được các lớp bài tốn nhất định, như: Bài tốn người du lịch, bài tốn tơ màu bản đồ, bài tốn xếp loại, bài tốn lập thời khóa biểu, bài. .. trình học Kỹ thuật dịch chuyển cửa sổ có thể được sử dụng để giải quyết các vấn đề chuỗi các sự kiện và đối tượng như trong các lĩnh vực về mơi trường theo thời gian, kiểm sốt hỏng hóc 1.2.2 Các lĩnh vực ứng dụng mạng nơ ron Trong q trình phát triển, mạng nơ ron đã được ứng dụng thành cơng trong rất nhiều lĩnh vực Một số ứng dụng chính của mạng nơ- ron có thể liệt kê là: - Xử lý ảnh: Gồm trùng khớp ảnh,... mà mạng Hopfield rất phù hợp với các bài tốn tối ưu tổ hợp, đặc biệt là đối với một số bài tốn thuộc lớp bài tốn NP-đầy đủ như: bài tốn thời khóa biểu, bài tốn người bán hàng, tìm đường đi tối ưu cho tuyến đường xe bus trường học, bài tốn người đưa thư, http://www.ictu.edu.vn 29 Tuy nhiên, khi sử dụng mạng Hopfield vào việc giải các bài tốn tối ưu trong thực tế còn gặp một số hạn chế sau: - Mạng Hopfield. .. tuyến, phức tạp và đặc biệt trong tình hình các dữ liệu đầu vào khơng tường minh http://www.ictu.edu.vn 24 1.3 MẠNG HOPFIELD Trong mạng hồi quy tín hiệu ra của một nơ- ron có thể được truyền ngược lại làm tín hiệu vào cho các nơ- ron ở các lớp trước, hoặc các nơ- ron trong cùng một lớp Phần này sẽ trình bày mơ hình mạng tiêu biểu thuộc lớp mạng hồi quy, đó là mạng Hopfield Mạng Hopfield được bắt đầu nghiên... Đây là mạng một lớp với thơng tin và q trình xử lý có nối ngược Chính cơng trình của Hopfield được tìm thấy rất nhiều ứng dụng, đặc biệt trong bộ nhớ liên kết và trong các bài tốn tối ưu Giả sử mạng được xây dựng dưới dạng mạng một lớp, mỗi nơ- ron được truyền ngược lại làm tín hiệu vào cho các nơ- ron khác nhưng bản thân các nơ- ron khơng tự liên kết với chính nó Khi đó mơ hình mạng Hopfield được biểu. .. số của nơ- ron thứ i f i : Là hàm kích hoạt nơ- ron thứ i θi : Là ngưỡng của nơ- ron thứ i Ngay từ khi mạng Perceptron được đề xuất nó được sử dụng để giải quyết bài tốn phân lớp Một đối tượng sẽ được nơ- ron i phân vào lớp A nếu: http://www.ictu.edu.vn Tổng thơng tin đầu vào 14 ∑w ij x j > θi Trong trường hợp trái lại nơ- ron sẽ được phân vào lớp B - Mạng truyền thẳng nhiều lớp (Multilayer Perceptron –MLP)... các nơ ron 5 Khởi tạo các giá trị đầu vào * Chú ý: Khơng có phương pháp ánh xạ trực tiếp các bài tốn tối ưu có ràng buộc lên mạng nơ ron Cho nên phải thêm vào hàm mục tiêu các thành phần http://www.ictu.edu.vn 30 phạt khi các ràng buộc bị phá vỡ Khi đó hàm năng lượng được biểu diễn như tổng của hàm mục tiêu và các thành phần phạt 1.3.4 Mạng Hopfield với bài tốn lập thời khóa biểu Bài tốn thời khóa biểu. .. xuất của mạng n ron, t là giá trị ra mong muốn, e là sai lệch giữa hai giá trị này.: e=t-y Mạng nơ- ron có một số ưu điểm so với máy tính truyền thống Cấu trúc song song của mạng nơ- ron rất thích hợp cho những ứng dụng đòi hỏi tốc độ nhanh theo thời gian thực Khả năng huấn luyện của mạng nơ- ron có thể khai thác để phát triển hệ thống thích nghi Mặt khác, với khả năng tổng qt hóa của mạng nơ- ron, nó có ... Với ứng dụng ngày rộng rãi mạng nơ- ron, việc nghiên cứu áp dụng vào tốn thời khóa biểu trở nên cấp thiết, quan tâm Chính lý em định chọn đề tài: Ứng dụng mạng nơ- ron Hopfield việc lập thời khóa. .. Trình bày tổng quan sở mạng nơ- ron nhân tạo, nêu khái qt ứng dụng mạng nơ- ron tốn xếp thời khóa biểu Chương 2: Trình bày phương pháp giải tốn lập thời khóa biểu, dùng mạng Hopfield sửa đổi nhằm... thái ổn định mạng nơ- ron Hopfield Trên giới, có số nghiên cứu ứng dụng mạng nơ- ron tốn xếp lịch thời khóa biểu cho trường đại học Tuy nhiên, lĩnh vực mẻ chưa ứng dụng rộng rãi nước ta Trong nước