Luận văn ứng dụng mạng nơron nhân tạo dự báo số học sinh tuyển vào trung tâm GDNN – GDTX quận đống đa

9 MỞ ĐẦU Lý chọn đề tài Hiện nay, công tác dự báo đƣợc ứng dụng rộng rãi hầu hết lĩnh vực nhƣ: Dự báo giá xăng dầu, dự báo chứng khoán, dự báo thời tiết… Cơng tác dự báo nhằm mục đích dự báo trƣớc thay đổi đối tƣợng đƣợc dự báo dựa sở nghiên cứu quy luật đối tƣợng dự báo Những năm gần ngành giáo dục bắt đầu trọng đến công tác dự báo nhằm đƣa đƣợc sách đắn Có nhiều tác giả vào nghiên cứu dự báo lĩnh vực khác giáo dục nhƣ: Dự báo nhu cầu giáo viên, dự báo tỉ lệ học sinh đỗ tốt nghiệp, dự báo tỉ lệ học sinh đỗ Đại học… Chính thấy đƣợc lợi ích việc dự báo giáo dục nên em chọn đề tài: “Ứng dụng mạng nơron nhân tạo dự báo số học sinh tuyển vào Trung tâm GDNNGDTX quận Đống Đa” để giúp đƣa đƣợc sách đắn thời gian tới cho Trung tâm Mục tiêu nhiệm vụ luận văn Luận văn tập trung khảo sát mơ hình mạng nơron, áp dụng phƣơng pháp học máy mạng nơron ứng dụng vào toán dự báo số học sinh tuyển vào Trung tâm GDNN-GDTX Đống Đa Luận văn phát triển công cụ thử nghiệm riêng tiến hành thử nghiệm số liệu thu thập đƣợc 30 năm Đối tƣợng phạm vi nghiên cứu Luận văn nghiên cứu lý thuyết mạng nơron nhân tạo, mạng nơron lan truyền thẳng thuật toán lan truyền ngƣợc, áp dụng vào tốn dự báo nói chung dự báo số học sinh tuyển vào Trung tâm GDNN – GDTX Đống Đa nói riêng Phƣơng pháp nghiên cứu Nghiên cứu lý thuyết để nắm rõ mơ hình mạng nơron, phƣơng pháp dự báo, lý thuyết mạng nơron nhân tạo, mạng nơron lan truyền thẳng thuật toán lan truyền ngƣợc Trên sở lựa chọn mơ hình phù hợp thử nghiệm để hiệu chỉnh tối ƣu mơ hình chọn Ý nghĩa khoa học thực tiễn luận văn Luận văn khả ứng dụng mạng nơron nhân tạo cơng tác dự báo nói chung dự báo lĩnh vực giáo dục nói riêng hồn tồn khả thi cho kết đáng khích lệ Bố cục luận văn Nội dung luận văn đƣợc tổ chức thành ba chƣơng có nội dung nhƣ sau:  Chƣơng 1: Nghiên cứu toán dự báo, phƣơng pháp dự báo phƣơng pháp dự báo mà luận văn áp dụng cho toán dự báo số học sinh tuyển vào Trung tâm GDNN-GDTX quận Đống Đa  Chƣơng 2: Nghiên cứu mạng nơron nhân tạo, tập trung vào mạng nơron truyền thẳng nhiều lớp, chƣơng cung cấp chi tiết vấn đề q trình 10 huấn luyện thuật tốn học mạng, với trọng tâm thuật toán lan truyền ngƣợc sai số  Chƣơng 3: Ứng dụng mạng nơron nhân tạo vào giải toán dự báo số học sinh tuyển vào Trung tâm GDNN – GDTX quận Đống Đa Chƣơng giới thiệu số liệu thu thập đƣợc, phƣơng pháp đánh giá kết dự báo tập trung vào thử nghiệm để dự báo số học sinh tuyển sinh vào Trung tâm GDNN – GDTX quận Đống Đa Từ đánh giá khả ứng dụng phƣơng pháp máy học vào dự báo chuỗi thời gian  Kết luận: Tổng kết kết đạt đƣợc luận văn hƣớng nghiên cứu Phần phụ lục giới thiệu phần mềm ứng dụng kết thực nghiệm mà luận văn đạt đƣợc 11 CHƢƠNG TỔNG QUAN VỀ BÀI TỐN DỰ BÁO 1.1 Lịch sử q trình dự báo Nhu cầu dự báo việc diến tiến tƣơng lai có từ nhiều kỷ trƣớc Những dự báo dự báo tƣợng tự nhiên, tƣợng xã hội tƣợng đời sống xã hội Ban đầu dự báo dựa vào kinh nghiệm ngƣời dự báo, dự báo đƣợc hỗ trợ công nghệ giúp cho kết dự báo xác Có nhiều phƣơng pháp dự báo đƣợc nghiên cứu cho đời nhƣ: Phƣơng pháp hồi quy bội, phƣơng pháp Delphi, phƣơng pháp Cross Impact Matrices, phƣơng pháp ARIMA (kết hợp AR – Autoregressive MA – Moving Average)… Có nhiều cách phân loại dự báo nhƣ: Dựa vào thời gian dự báo phân làm ba loại là: Dự báo dài hạn, dự báo trung hạn dự báo ngắn hạn Theo phƣơng pháp dự báo lại đƣợc phân thành: Dự báo phƣơng pháp chuyên gia, dự báo theo phƣơng trình hồi quy, dự báo dựa vào dãy số thời gian… 1.1.1 Khái niệm dự báo Dự báo khoa học nghệ thuật tiên đoán việc xảy tƣơng lai Dự báo có tính khoa học dựa số liệu thu thập đƣợc từ khứ vào kết phân tích nhân tố ảnh hƣởng đến kết dự báo Tính nghệ thuật dự báo dựa kinh nghiệm thực tế khả phán đoán chuyên gia để đƣa đƣợc dự đốn với độ xác cao 1.1.2 Mục đích dự báo Đƣa đƣợc định xác, quán: Phân tích dự báo cung cấp thông tin chi tiết đối tƣợng dự báo từ đƣa đƣợc hành động chiến lƣợc Phân tích dự báo đƣợc thực liên tục cho kết đáng tin cậy nhờ có hỗ trợ kỹ thuật Các định đƣợc đƣa cách quán, cơng khơng phải dựa tính chủ quan ngƣời Giải công việc nhanh hơn: Dự báo trả lời câu hỏi phức tạp xử lý chúng với độ xác cao khoảng thời gian ngắn Có định trƣớc phải hàng vài ngày nhờ có hỗ trợ khoa học vài phút vài giây Giảm chi phí giảm rủi ro: Với hiểu biết đối tƣợng giúp nhà lãnh đạo đánh giá đƣợc xác rủi ro giảm tổn thất.[18] 12 1.1.3 Những thách thức phân tích dự báo Mục đích dự báo để giúp cải tiến hiệu quả, hỗ trợ định nhà lãnh đạo Tuy nhiên, lúc dự báo xác, số yếu tố ảnh hƣởng đế độ xác dự báo là: Trở ngại quản lý, liệu, xây dựng mơ hình q trình triển khai.[18] Những trở ngại quản lý Thơng thƣờng để triển khai mơ hình dự báo địi hỏi có chuyển đổi nguồn lực cho tổ chức nên cần có hỗ trợ từ nhà lãnh đạo để chuyển mô hình từ nghiên cứu sang vận hành Những trở ngại liệu Các mơ hình thƣờng u cầu liệu dƣới dạng bảng bảng có chứa hàng cột (dữ liệu hai chiều) Nếu liệu đƣợc lƣu trữ sở liệu cần phải kết nối sở liệu để tạo bảng Trở ngại việc xây dựng mô hình Trở ngại lớn tải, tức mơ hình q phức tạp u cầu phải ghi nhớ liệu huấn luyện Hai trở ngại với mô hình là: Thứ mơ hình thực với liệu việc giải thích mơ hình khơng đáng tin cậy Thứ hai, nhà xây dựng mô hình q tham vọng vào mơ hình đƣợc xây dựng liệu có sẵn khoảng thời gian định Cách tốt để khắc phục xây dựng mơ hình đơn giản sau đƣợc cải tiến sau chạy thử nghiệm Trở ngại triển khai mơ hình Thơng thƣờng mơ hình khơng q phức tạp mặt tính tốn Tuy nhiên, mơ hình phải đƣợc kiểm tra hệ thống hoạt động đƣa dự đoán phù hợp với hệ thống đó.[18] 1.1.4 Các phƣơng pháp dự báo Các phƣơng pháp dự báo đƣợc chia thành phƣơng pháp phƣơng pháp định tính phƣơng pháp định lƣợng Phương pháp định tính: Hay cịn gọi phƣơng pháp dự báo chuyên gia Phƣơng pháp đƣợc sử dụng liệu khơng có sẵn liệu có sẵn nhƣng khơng đầy đủ để phân tích, đánh giá Phƣơng pháp định tính thƣờng đƣợc sử dụng đối tƣợng dự báo bị tác động yếu tố khơng thể lƣợng hóa đƣợc Ngun tắc phƣơng pháp sử dụng ý kiến đánh giá hay nhiều chuyên gia lĩnh vực liên quan Vì vậy, để đảm bảo tính xác dự báo phải loại trừ ý kiến chủ quan ngƣời dự báo Phương pháp định lượng: Sử dụng liệu từ khứ thu thập số liệu dối tƣợng để dự báo Với phƣơng pháp định lƣợng cho kết dự báo nhanh đo đƣợc độ xác dự báo Tuy nhiên, phƣơng pháp áp dụng cho dự báo ngắn trung hạn Để dự báo đạt đƣợc hiệu cao ngƣời ta thƣờng kết hợp phƣơng pháp định tính phƣơng pháp định lƣợng 13 1.1.5 Quy trình thực dự báo Dự báo trình phức tạp nhƣng quy trình thực theo bƣớc sau: 14 Xác định mục tiêu Xác định nội dung dự báo Xác định khía cạnh thời gian Xem xét liệu Lựa chọn mơ hình Đánh giá mơ hình Chuẩn bị dự báo Trình bày kết dự báo Theo dõi kết dự báo Hình 1.1.Quy trình thực dự báo Bƣớc 1: Xác định mục tiêu Xác định mục tiêu xác định xem kết dự báo đƣợc sử dụng để làm Mục tiêu chung dự báo lập kế hoạch có định hành động hợp lý Mục tiêu dự báo tuyển sinh nhằm giúp nhà lãnh đạo có chiến lƣợc phát triển cách hợp lý Bƣớc 2: Xác định nội dung dự báo Xác định xác dự báo Ví dụ, mục tiêu chung dự báo tuyển sinh nhƣng hệ thống dự báo gồm có: Số lƣợng học sinh, số lƣợng lớp…Luận văn xây dựng hệ thống thử nghiệm dự báo tuyển sinh với thông số đầu vào số liệu thu đƣợc 30 năm liên tiếp Trung tâm GDNN-GDTX Đống Đa Bƣớc 3: Xác định khía cạnh thời gian Xác định độ dài dự báo nhƣ: Dự báo dài hạn hay dự báo ngắn hạn dự báo có tính cấp thiết nhƣ Bƣớc 4: Xem xét liệu 15 Xem xét liệu xem xét đến yếu tố liệu nhƣ: Nguồn cung cấp, bƣớc phân loại, đánh giá, xử lý liệu trƣớc sử dụng Trong luận văn sử dụng nguồn liệu thu thập đƣợc từ Trung tâm Vì vậy, liệu xác đáng tin cậy Bƣớc 5: Lựa chọn mô hình Để lựa chọn mơ hình thích hợp cho dự báo cần xem xét yếu tố nhƣ: Dữ liệu đầu vào, yêu cầu thời gian, yêu cầu kết đầu ra, tài nguyên sẵn có… Quy trình lựa chọn mơ hình dự báo đƣợc lựa chọn dựa số chiến lƣợc dự báo nhƣ sau: Tiền định: Dựa mối quan hệ mật thiết tƣơng lai Triệu chứng: Dựa dấu hiệu để dự báo cho tƣơng lai Hệ thống: Tức cho xu hƣớng phát triển tƣơng lai tuân thủ theo quy tắc đó, chẳng hạn lý thuyết giáo dục Luận văn sử dụng chiến lƣợc dự báo tiền định để dự báo tuyển sinh Nhận định đánh giá chung Xác định vấn đề dự báo cụ thể Xác định yêu cầu đầu Xác định chiến lƣợc dự báo Xác định đầu vào Xác định lập mơ hình sơ Lựa chọn mơ hình Hình 1.2.Quy trình lựa chọn mơ hình dự báo Bƣớc 6: Đánh giá mơ hình Với phƣơng pháp dự báo định tính cần quan tâm đến việc đánh giá mơ hình nhƣng với phƣơng pháp định lƣợng phải đánh giá mức độ phù hợp mơ hình độ xác dự báo Nếu mơ hình khơng phù hợp quay lại bƣớc Để đánh giá độ phù hợp mơ hình luận văn sử dụng tiêu chí MSE (Mean Square Error - công thức 1-1) MAE (Mean Absolute Error - công thức 1-2) Bƣớc 7: Chuẩn bị dự báo 16 Chuẩn bị số liệu để phục vụ cho việc dự báo Bƣớc 8: Trình bày kết dự báo Khi trình bày dự báo phải đảm bảo tính ngắn gọn, rõ ràng, đƣợc độ tin cậy cảu dự báo Có nhiều cách để trình bày kết dự báo nhƣ: Bảng biểu, đồ thị hay hình ảnh minh họa trình bày dạng viết dạng nói Bƣớc 9: Theo dõi kết dự báo Sau dự báo phải xem xét kết dự báo tức xem xét độ lệch giá trị dự báo giá trị thực Mục tiêu việc theo dõi kết để tìm lý lại có sai số xác định độ lớn sai số, qua bảo trì nâng cấp hệ thống dự báo 1.2 Phƣơng pháp dự báo sử dụng mạng nơron theo đề xuất luận văn Mơ hình mạng nơron mơ hình có khả “học” từ liệu khứ, cập nhật tham số Vì lựa chọn đƣợc tham số tối ƣu mơ hình xấp xỉ tốt đƣờng cong dịch chuyển đối tƣợng cần dự báo Kết dự báo có độ xác cao Đây mơ hình đƣợc lựa chọn cho tốn dự báo tuyển sinh luận văn, cụ thể vấn đề liên quan đến mạng nơron đƣợc trình bày chƣơng 1.3 Đánh giá mơ hình dự báo Để đánh giá độ xác mơ hình dự báo luận văn sử dụng hai đánh giá sau: Sai số bình phƣơng trung bình (Mean Square Error): ̂ ∑ (1-1) Sai số tuyệt đối trung bình (Mean Absolute Error) ∑ |̂ | (1-2) Trong đó: ̂ Giá trị dự báo sinh mơ hình mẫu liệu thứ i : Giá trị quan sát mẫu liệu thứ i n: chiều dài chuỗi dự đoán 1.4 Kết luận chƣơng Dự báo nhu cầu thiết yếu cơng tác quản lý mang tính định hƣớng cho tƣơng lai, giúp đƣa đƣợc định đắn Trong phƣơng pháp dự báo nay, mạng nơron tỏ có nhiều ƣu điểm có mơ hình tính tốn linh hoạt, dễ thích nghi Dựa mơ hình lựa chọn sau huấn luyện đánh giá đƣợc hiệu mơ hình Việc đánh giá chủ yếu dựa vào so sánh kết thực tế chƣa có phƣơng pháp chuẩn để đánh giá 17 CHƢƠNG TỔNG QUAN VỀ MẠNG NƠRON NHÂN TẠO Mạng nơron nhân tạo công cụ mạnh để giải tốn có tính phi tuyến, phức tạp, đặc biệt trƣờng hợp mà yếu tố có mối quan hệ tác động qua lại khơng rõ rệt Có nhiều loại mạng nơron khác [3], [6], [12], [16] mạng nơron truyền thẳng nhiều lớp đƣợc sử dụng phổ biến Đã có nhiều nghiên cứu sử dụng mạng nơron truyền thẳng nhiều lớp toán dự báo [1], [2], [4], [5], [7], [8], [10], [13], [14], [15] chứng tỏ hƣớng tiếp cận hiệu Trong chƣơng luận văn tìm hiểu kiến thức mạng nơron nhân tạo, mạng nơron truyền thẳng nhiều lớp khả ứng dụng chúng toán dự báo 2.1 Mạng nơron nhân tạo gì? Một mạng nơron đƣợc định nghĩa nhƣ mơ hình lý luận dựa não ngƣời Não ngƣời bao gồm tập hợp kết nối tế bào thần kinh Bộ não ngƣời có gần 10 tỷ tế bào thần kinh 60 ngàn tỷ khớp thần kinh (Shepherd Koch, 1990) Bằng cách sử dụng đồng thời nhiều tế bào thần kinh mà não ngƣời thực chức nhanh nhiều lần so với máy tính nhanh Não ngƣời đƣợc coi nhƣ hệ thống xử lý thông tin phức tạp, phi tuyến song song Não ngƣời giải nhiều vấn đề nhƣ: nghe, nói, nhìn, hồi ức thơng tin, nhận dạng mẫu…Não thực đƣợc nhiệm vụ nhƣ nhờ phần tử tính tốn nơron Não phân bố viễ xử lý cho hàng tỷ nơron có liên quan, điều khiển mối liên hệ nơron Nơron không ngừng nhận truyền thông tin cho Trong trình xử lý nơron tự liên kết với tạo thành mạng Mỗi mạng lại gồm hàng vạn phần tử nơron khác nhau, nơron lại lại có khả liên kết với hàng vạn nơron khác.[3] Ngồi ra, tính mềm dẻo kết nối tế bào thần kinh mà não ngƣời có khả học hỏi qua kinh nghiệm từ khứ Học đặc tính thiết yếu mạng nơron sinh học.[17] Dựa vào đặc trƣng nơron sinh học ngƣời ta xây dựng lên mạng nơron nhân tạo Mạng nơron nhân tạo (ANN) ngày gần giống với não ngƣời nhƣ: Có khả học, tức sử dụng kinh nghiệm để cải thiện hiệu suất Khi thu thập đƣợc đủ lƣợng mẫu ANN khái quát hóa cao Một ANN nhận đƣợc ký tự viết tay, phát bom sân bay…[17] Chính mà mạng nơron giải vấn đề phức tạp có quy mơ lớn, khó 18 2.2 Sự tƣơng đƣơng nơron nhân tạo với nơron sinh học Một mạng nơron nhân tạo bao gồm số xử lý đơn giản có liên quan lẫn nhau, đƣợc gọi tế bào thần kinh, gần giống với não ngƣời Các tế bào thần kinh đƣợc kết nối trọng qua tín hiệu từ tế bào thần kinh khác Mỗi tế bào thần kinh nhận đƣợc số tín hiệu đầu vào thơng qua kết nối Các tín hiệu đầu đƣợc truyền thông qua tế bào thần kinh kết nối (tƣơng ứng với sợi thần kinh sinh học).[17] 2.3 Lịch sử phát triển mạng nơron nhân tạo Năm 1890 William nghiên cứu tâm lý học với liên kết nơron thần kinh Năm 1940, McCulloch Pitts nơron đƣợc mơ hình hóa nhƣ thiết bị ngƣỡng (giới hạn) để thực phép tính logic Trong thời gian Wiener nghiên cứu mối liên hệ nguyên lý phản hồi chức não Vào năm 1960 số mơ hình nơron đƣợc đƣa nhƣ: Perception Rosenbatt, Adaline Widrow ma trận học Stinbuck Trong mơ hình Perception đƣợc ý tính đơn giản Nhƣng Minsky Papert chứng mơ hình Perception khơng dùng đƣợc cho hàm logic phức Đầu năm 80 có đóng góp Grossberg, Kohonen Hoppfield Đặc biệt đóng góp lớn Hoppfield đƣa mạng rời rạc (1982) mạng liên tục (1984) Từ làm sở để Rumelhart Hinton đề xuất thuật toán sai số truyền ngƣợc để huấn luyện mạng nơron nhiều lớp nhằm giải toán mà mạng khác không làm đƣợc Từ năm 1987 đến nay, hàng năm giới mở hội nghị toàn cầu chuyên ngành nơron IJCNN (International Joint Conference on Neural networks) Ở Việt Nam mạng nơron đƣợc nghiên cứu từ năm 1980 đƣợc ứng dụng lĩnh vực nhƣ: Tin học viễn thông, đo lƣờng điều khiển…Một số chip nơron đƣợc sử dụng kỹ thuật lọc số ứng dụng khác [3] 2.4 Nơron sinh vật Mơ hình nơron nhân tạo có nguồn gốc từ mơ hình tế bào thần kinh (hay cịn gọi nơron) sinh vật Một tế bào nơron gồm bốn phần là: - Các nhánh rễ: Là phận nhận thông tin Các đầu nhậy đầu nơron khác bám vào rễ nhánh nơron Khi đầu vào từ ngồi có chênh lệch nồng độ K+, Na+ hay Cl- so với nồng độ bên xảy tƣợng thấm từ ngồi vào thông qua chế màng thấm đặc biệt Hiện tƣợng thẩm thấu tạo nên chế truyền đạt thông tin Mức độ thẩm thấu đƣợc đặc trƣng chế màng tƣợng trƣng tỷ lệ Tỷ lệ đƣợc gọi tỷ trọng trọng (weight).[3] - Thân Thần kinh (Soma): Chứa nhân quan tổng hợp protein Các ion vào đƣợc tổng hợp biến đổi Khi nồng độ ion đạt đến giá trị định, 49 KẾT LUẬN Luận văn nghiên cứu mạng nơron nhân tạo, mơ hình mạng nơron truyền thẳng đƣợc huấn luyện với giải thuật lan truyền ngƣợc cho toán dự báo số học sinh tuyển vào Trung tâm GDNN-GDTX quận Đống Đa Các đóng góp luận văn: Luận văn nghiên cứu tổng quan mạng nơron nhân tạo, sâu vào nghiên cứu mạng nơron lan truyền thẳng huấn luyện thuật toán lan truyền ngƣợc sai số nhằm đạt tới kết tốt cho toán tối ƣu trọng số mạng nơron nhân tạo Luận văn xây dựng đƣợc phần mềm dự báo số học sinh tuyển vào Trung tâm GDNN-GDTX quận Đống Đa năm Hƣớng phát triển Những kết thực nghiệm khả quan dựa nghiên cứu ứng dụng mạng nơron nhân tạo với thuật toán học lan truyền ngƣợc sai số toán dự báo số học sinh tuyển vào Trung tâm GDNN-GDTX quận Đống Đa năm tới cho thấy mơ hình hiệu Vì vậy, hƣớng phát triển luận văn cải tiến phƣơng pháp dự báo để có kết xác Ngồi ra, sử dụng kết hợp với logic mờ giải thuật di truyền (GA) kết dự báo xác 50 TÀI LIỆU THAM KHẢO Tiếng Việt Thái Trung Hải (2014), Sử dụng mạng nơron việc dự đoán kết đậu đại học, Luận văn Thạc sỹ, Đại học Lạc Hồng Nguyễn Quang Hoan, Hoàng Thị Lan Phƣơng (2006), “Dự báo giá chứng khốn sử dụng cơng nghệ mạng nơron”, Kỷ yếu hội nghị khoa học lần nghiên cứu, phát triển ứng dụng công nghệ thông tin truyền thông Hà Nội ICT.rda’06 (20-21/5/2006) tr 157 -164 Nguyễn Quang Hoan (2005), Giáo trình mạng nơron nhân tạo, Học viện cơng nghệ bƣu viễn thơng Hồng Phúc Lâm, Nguyễn Hƣớng Điền, Cơng Thanh, Hồng Thanh Vân (2007), “Sử dụng mạng nơron đa lớp truyền thẳng mạng truy hồi dự báo tổng lƣợng xạ ngày cho số trạm đồng phía Bắc Việt Nam”, Tạp chí Khí tượng Thủy văn số 10 (559) Trần Đức Minh (2002), Ứng dụng mạng nơron truyền thẳng dự báo liệu, Luận văn thạc sỹ, Viện Cơng nghệ Thơng tin Nguyễn Đình Thúc (2000), Mạng nơron nhân tạo – phương pháp ứng dụng, Nhà xuất Giáo dục Nguyễn Văn Trịnh (2012), Ứng dụng mạng nơron dự báo tỷ lệ nghỉ học, Luận văn thạc sỹ ,Viện Toán Ứng dụng Tin học – Đại học Bách khoa Hà Nội Phạm Thị Hoàng Nhung (2007), Nghiên cứu, ứng dụng phương pháp học máy tiên tiến công tác dự báo, vận hành hồ Hịa Bình, Luận văn thạc sỹ, trƣờng Đại học Công nghệ (ĐHQGHN) Tiếng Anh John C Chambers, Satinder K Mullick and Donald D Smith (1971), How to Choose the Right Forecasting Technique, https://hbr.org/1971/07/how-tochoose-the-right-forecasting-technique 10 Petar Halachev (2012), “Prediction of e-Learning Efficiency by Neural Networks”, Cybernetics And Information Technologies – volume 12 – Nơron 12, Bulgarian Academy of Sciences 11 Hopfield, J.J (1982), “Neural Networks and Physical Systems with Emergent Collective Computational Abilities”, Proceeding of Natural Academic Sciences, USA, vol 79, pp 2.554 – 2.558 12 Robert J Schallkoff (1997), Artificial Neural Networks, The McGraw – Hill Companies, Inc 1997 13 David Silverman, Jonh A Dracup (2000), “Artificial Neural Networks and Long-Range Precipitation Prediction in California”, Journal of Applied Meteorology, vol 39 (Jan 2000), pp 57-66 51 14 Dipti Srinivasan, A.C Liew, Jonh S., P Chen (1991), “Short Term Forecasting Using Neural Networks Approach”, IEEE 91TH0374-9/91/0000-0012, pp 1216, 1991 15 Morioka Y., Sakurai K., Yokoyama A Sekine Y (1993), “Next Day Peak Load Forecasting Using a Multilayer Neural Network with an Additional Learning”, IEEE, 0-7803-1217-1/93, 1993 16 Michael Negnevitsky (2005), Artificial Intelligence, Addison Wesley 17 Fico Corporation (2009), Understanding Predictive Analytics 18 Dean Abbott (2014), Applied Predictive Analytics: Principles and Techniques for the Professional Data Analyst, Wiley 52 PHỤ LỤC A GIỚI THIỆU CÔNG CỤ VÀ KẾT QUẢ DỰ BÁO Giao diện phần mềm Chức Cấu hình mạng: - Nút lệnh Nhập từ tệp: Cho phép ngƣời dùng nạp liệu từ tệp liệu - Nút lệnh Tạo thông số mạng: Để tạo mạng nơron lan truyền ngƣợc Thông số mạng đƣợc tạo bao gồm: Số nơron lớp vào, số nơron lớp ẩn, số nơron lớp ra, tốc độ học, hệ số quán tính, số lần học tối đa, sai số cực tiểu - Nút lệnh Sửa: Để sửa thông số mạng 53 Giao diện huấn luyện Trƣớc huấn luyện phải Nhập liệu cho mạng - Nút lệnh Huấn luyện: Dùng để huấn luyện mạng, hình hiển thị thơng số huấn luyện mạng gồm Tập liệu huấn luyện liệu chuẩn hóa - Nút lệnh Chuẩn hóa: Dùng để chuẩn hóa liệu huấn luyện - Nút lệnh Xóa liệu: Để xóa liệu 54 Giao diện Kiểm tra mạng Trƣớc kiểm tra mạng phải Nhập liệu cho mạng Nút lệnh Kiểm tra mạng: Để kiểm tra độ xác kết huấn luyện mạng Giao diện hiển thị tập liệu đƣợc kiểm tra liệu chuẩn hóa mạng Chức Dự báo Trƣớc nhấn nút lệnh Dự báo phải chọn số năm định dự báo 55 Chức Giới thiệu vào Thốt Chức Giới thiệu: Hiện thơng tin tên đề tài, tác giả, giáo viên hƣớng dẫn luận văn Chức Thốt: Dùng để chƣơng trình 56 PHỤ LỤC B MỘT SỐ MÃ NGUỒN CỦA CÔNG CỤ Huấn luyện mạng public void Bp_Run(List sampleSeries, double learnRate, double momentum, int theEpoches = 10000, double residual = 0.00001) { InitForTrain(); int i, j, k, n; int epoch = 0; double MAE = Double.MaxValue; double LastError = Double.MaxValue; List MAError = new List(); double[,] deltaInputHidden = new double[s_Network.m_iNumInputNodes + 1, s_Network.m_iNumHiddenNodes]; double[,] deltaHiddenOutput = new double[s_Network.m_iNumHiddenNodes + 1, s_Network.m_iNumOutputNodes]; double[,] lagDeltaInputHidden = new double[s_Network.m_iNumInputNodes + 1, s_Network.m_iNumHiddenNodes]; double[,] lagDeltaHiddenOutput = new double[s_Network.m_iNumHiddenNodes + 1, s_Network.m_iNumOutputNodes]; for (j = 0; j < s_Network.m_iNumHiddenNodes; j++) // initialize weightstep of Input Hidden connection { for (i = 0; i