Lựa chọn tốc độ huấn luyện hợp lý khi sử dụng thuật toán lan truyền ngược giải bài toán dự báo

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN & TRUYỀN THÔNG -    - CAO THỊ KIM NGÂN LỰA CHỌN TỐC ĐỘ HUẤN LUYỆN HỢP LÝ KHI SỬ DỤNG THUẬT TOÁN LAN TRUYỀN NGƯỢC GIẢI BÀI TOÁN DỰ BÁO LUẬN VĂN THẠC SỸ KHOA HỌC MÁY TÍNH Thái Nguyên – 2015 i LỜI CAM ĐOAN Em xin cam đoan: Luận văn thạc sĩ Khoa học máy tính “Lựa chọn tốc độ huấn luyện hợp lý sử dụng thuật toán lan truyền ngược giải tốn dự báo” cơng trình nghiên cứu thực cá nhân em, thực sở nghiên cứu lý thuyết hướng dẫn khoa học Phó giáo sư, Tiến sỹ Nguyễn Tân Ân Em xin chịu trách nhiệm lời cam đoan Ngày 02 tháng 10 năm 2015 Tác giả Cao Thị Kim Ngân ii LỜI CẢM ƠN Để hoàn thành luận văn, em xin chân thành cảm ơn Trường Đại học Công nghệ Thông tin Truyền thông Thái Ngun, Phịng Đào tạo, thầy, giáo giảng dạy lớp cao học Khoa học máy tính K12E quan tâm, tạo điều kiện thuận lợi, tận tình giảng dạy giúp đỡ em thời gian theo học trường Đặc biệt, em xin bày tỏ lòng biết ơn sâu sắc đến PGS TS Nguyễn Tân Ân, người dành nhiều thời gian, tâm huyết hướng dẫn em suốt q trình nghiên cứu hồn thành luận văn Em xin cảm ơn cán bộ, giảng viên đồng nghiệp Trường Đại học Hùng Vương tạo điều kiện thời gian để em học tập hoàn thành luận văn Mặc dù cố gắng hoàn thiện luận văn, chắn cịn nhiều thiếu sót, mong có góp ý thầy giáo bạn để luận văn hoàn thiện Xin trân trọng cảm ơn Ngày 02 tháng 10 năm 2015 Tác giả Cao Thị Kim Ngân iii MỤC LỤC LỜI CAM ĐOAN i LỜI CẢM ƠN ii MỤC LỤC iii DANH MỤC CÁC KÝ HIỆU VÀ CHỮ VIẾT TẮT v DANH MỤC HÌNH VẼ vi DANH MỤC BẢNG BIỂU viii MỞ ĐẦU CHƯƠNG I: MẠNG NƠRON NHÂN TẠO 1.1 Giới thiệu mạng nơron nhân tạo .4 1.1.1 Khái niệm 1.1.2 Quá trình phát triển mạng nơron 1.1.3 Mô hình mạng nơron .7 1.2 Các phương pháp học 14 1.2.1 Học có giám sát 14 1.2.2 Học khơng có giám sát 16 1.2.3 Học tăng cường 17 1.3 Kết luận chương 17 CHƯƠNG II: MẠNG NƠRON TRUYỀN THẲNG VÀ THUẬT TOÁN LAN TRUYỀN NGƯỢC 18 2.1 Cấu trúc mạng nơron truyền thẳng 18 2.1.1 Mạng nơron truyền thẳng lớp 18 2.1.2 Mạng nơron truyền thẳng nhiều lớp 22 2.2 Khả thể mạng 23 2.3 Thuật toán lan truyền ngược (Back – Propagation) 24 2.3.1 Mơ tả thuật tốn 28 2.3.2 Một số biến thể thuật toán lan truyền ngược 31 2.3.3 Nhận xét 33 2.4 Kết luận chương 35 iv CHƯƠNG III: CHƯƠNG TRÌNH THỬ NGHIỆM THUẬT TOÁN LAN TRUYỀN NGƯỢC TRONG BÀI TOÁN DỰ BÁO THỜI TIẾT 36 3.1 Giới thiệu toán dự báo 36 3.1.1 Giới thiệu 36 3.1.2 Các phương pháp giải toán dự báo thời tiết phổ biến 38 3.1.3 Quy trình thực dự báo 39 3.2 Phân tích đánh giá trọng số toán 42 3.2.1 Phân tích tốn 42 3.2.2 Đánh giá số toán 46 3.3 Chương trình thử nghiệm 50 3.3.1 Mơ hình mạng nơron toán 50 3.3.2 Xây dựng chương trình dự báo thời tiết 51 3.4 Kết thử nghiệm 59 3.4.1 Thử nghiệm 59 3.4.2 Thử nghiệm 60 3.4.3 Thử nghiệm 62 3.4.4 Thử nghiệm 63 3.5 Kết luận chương 64 KẾT LUẬN VÀ HƯỚNG NGHIÊN CỨU TIẾP THEO 65 TÀI LIỆU THAM KHẢO 67 PHỤ LỤC v DANH MỤC CÁC KÝ HIỆU VÀ CHỮ VIẾT TẮT ANN Artificial Neural Network MLP Multi Layer Perceptron ADALINE ADAptive LINear Elements MADALINE Multiple ADAptive LINear Elements LMS Least-Mean-Squares Perceptron Mạng nơron truyền thẳng lớp vi DANH MỤC HÌNH VẼ Hình 1.1 Cấu trúc nơron sinh học điển hình Hình 1.2 Nơron nhân tạo Hình 1.3 Hàm đồng (Indentity function) .11 Hình 1.4 Hàm bước nhị phân (Binary step function) 12 Hình 1.5 Hàm Sigmoid 12 Hình 1.6 Hàm sigmoid lưỡng cực 13 Hình 1.7 Một cách phân loại mạng nơron .14 Hình 1.8 Sơ đồ học tham số có giám sát1 .16 Hình 1.9 Sơ đồ học khơng giám sát 16 Hình 1.10 Sơ đồ học tăng cường 17 Hình 2.1 Mạng truyền thẳng 18 Hình 2.2 Perceptron 19 Hình 2.3 Lớp vào lớp mạng noron 19 Hình 2.4 Mạng MLP tổng quát .22 Hình 2.5 Sơ đồ thuật toán lan truyền ngược 30 Hình 3.1 Quy trình dự báo 40 Hình 3.2 Kiến trúc hệ dự báo thời tiết 42 Hình 3.3 Đồ thị biểu diễn mức độ mưa 43 Hình 3.4 Đồ thị biểu diễn mức độ mây 44 Hình 3.5 Minh họa vấn đề cực tiểu địa phương 47 vii Hình 3.6 Mơ hình mạng nơron dùng tốn dự báo thời tiết .50 Hình 3.7 Giao diện chương trình dự báo thời tiết 52 Hình 3.8 Giao diện thiết lập mạng noron 52 Hình 3.9 Giao diện huấn luyện mạng nơron 54 Hình 3.10 Giao diện dự báo thời tiết .55 Hình 3.11 Các biểu đồ so sánh liệu dự báo liệu thực tế 58 viii DANH MỤC BẢNG BIỂU Bảng 3.1 Độ hội tụ với tốc độ huấn luyện khác 59 Bảng 3.2 Độ hội tụ mạng với giá trị trọng số khởi tạo khác 60 Bảng 3.3 Độ hội tụ mạng với số nơron lớp ẩn khác 62 Bảng 3.4 Đánh giá kết dự báo 64 MỞ ĐẦU Trong q trình phát triển người ln ước muốn biết trước tương lai Họ thực ước muốn theo nhiều cách khác nhiều cách có tính khoa học khơng khoa học như: bói tốn, tiên tri, cơng cụ dự báo… Dù cách hay cách khác thể ham muốn người biết điều chưa xảy ra, hay việc xảy tương lai Chính thế, từ xa xưa dự báo đóng vai trị cần thiết sống người Mạng nơron nhân tạo mơ hình tính tốn dựa mơ trình tư duy, hay “học” người để giải vấn đề Mạng Nơron nhân tạo ứng dụng rộng rãi nhiều lĩnh vực thu nhiều kết khả quan như: nhận dạng mẫu, phân loại mẫu, nhận dạng tiếng nói, … Với khả xấp xỉ với độ xác tùy ý hàm phi tuyến, với khả thích hợp cho hệ thống mờ nên mạng nơron thích hợp cho toán dự báo, đặc biệt mơi trường khí Trên giới, người thử nghiệm phương pháp dự báo thời tiết số Vilhelm Bjerknes vào năm 1904, đến nhiều cơng trình dự báo số phát triển với kết có độ xác cao, có mơ hính sử dụng hệ mờ nơron Mạng nơron áp dụng nhiều lĩnh vực có khí tượng thủy văn từ nhiều năm trước có nhiều kết cụ thể Tháng năm 2006, Ricardo A Guarnieri [12] đồng nghiệp ứng dụng mạng nơron nhân tạo hiệu chỉnh dự báo tổng xạ mơ hình khí hậu khu vực Eta; trước năm 2002, luận văn thạc sỹ Bin Li [11] (Đại học Georgia, Hy Lạp) ứng dụng mạng nơron nhân tạo công cụ nội suy trường khí tượng trạm thay cho phương pháp nội suy truyền thống,…và nhiều cơng trình nghiên cứu chuyên biệt lĩnh vực nơron nhân tạo đáng ý khác cơng trình Ajith Abraham [8], Chin-Teng Lin [9], Jacek M Zurada [10],… 64 trạng thái để đánh giá dự báo qua lần thử với tập liệu gồm 30 mẫu liên tiếp Kết kiểm tra cho Bảng 3.4 Bảng 3.4 Đánh giá kết dự báo ME MAPE (Mean Error) (Mean Average Percent Error) Nhiệt độ 0.09 C 0.42% Độ ẩm 0.37% 0.39% Mưa 0.08% 2.59% Hướng gió 0.77 Khơng tính MAPE Tốc độ gió 0.27 km/h 4.56 % Mây 0.1 % 0.13 % Tham số 3.5 Kết luận chương Chương trình bày toán dự báo thời tiết, phương pháp quy trình giải tốn dự báo thực tế Trong đó, trọng số tốn phân tích đánh giá cụ thể Cuối chương trình thử nghiệm sử dụng mơ hình mạng noron thuật toán lan truyền ngược để thực toán dự báo thời tiết Với liệu số thời điểm gần đây, thử nghiệm cho thấy tính tương đối xác hợp lý chương trình 65 KẾT LUẬN VÀ HƯỚNG NGHIÊN CỨU TIẾP THEO Bài toán dự báo thời tiết toán phức tạp nhiều người quan tâm, giới có nhiều công nghệ đại sử dụng lĩnh vực đem lại thành to lớn, nhiên hạn chế mặt kinh tế kĩ thuật, cơng nghệ chưa áp dụng Việt Nam Ở nước ta áp dụng nhiều phương pháp dự báo khác phương pháp chưa đưa lại kết mong muốn Mạng nơron mơ hình tính tốn mơ hoạt động não người, mơ hình tính tốn giải gần nhiều tốn với độ phức tạp tính tốn lớn, thích hợp với việc giải tốn dự báo nói chung dự báo thời tiết nói riêng Việc lựa chọn ứng dụng mạng nơron giải toán dự báo lựa chọn thích hợp, có nhiều khả tốt phương pháp khác Với mạng nơron, cấu trúc thuật toán học vấn đề quan trọng, thuật tốn học có ưu điểm nhược điểm riêng, thích hợp với số tốn định Qua nhiều phân tích, so sánh chọn lọc, tác giả chọn phương pháp học BackPropagation cho chương trình thử nghiệm dự báo thời tiết Khi ứng dụng mạng nơron việc giải tốn dự báo địi hỏi phải nghiên cứu chọn lọc nhiều tham số cho hệ thống Mỗi cách chọn tham số có đặc điểm riêng, việc chọn lựa tham số vấn đề quan trọng, ảnh hưởng đến chất lượng mơ hình Với yêu cầu dung thứ lỗi cao đáp ứng mặt thời gian hệ thống dự báo thời tiết, tác giả chọn tham số thích hợp đảm bảo tương đối độ xác tính cấp thiết dự báo 66 Những kết đạt được: Kết thực nghiệm cho thấy mơ hình đưa kết thời điểm mùa, lúc giao mùa phải huấn luyện lại mạng Với số mẫu huấn luyện chưa lớn kết dự báo chương tạm chấp nhận Hạn chế: Để mơ hình dự báo thu kết cao liệu huấn luyện phải lớn, phải đặc trưng cho mùa Những sai lệch chưa chọn liệu huấn luyện chuẩn, kiến thức khí tượng tác giả cịn hạn chế… Hướng nghiên cứu tiếp theo: Hướng mở rộng tác giả là: nghiên cứu thêm mạng nơron, lựa chọn cấu trúc, thuật học, phưong pháp tối ưu hóa mạng, sở đó, xây dựng ứng dụng với lựa chọn thích hợp 67 TÀI LIỆU THAM KHẢO Tiếng Việt [1] Bùi Hoàng Khánh, Lê Duy Hưng, Hồng Mạnh Khơi, Báo cáo mạng nơron ứng dụng, Đại học Quốc gia Hà Nội, Đại học Công Nghệ, Hà Nội, tháng 04/2010 [2] ] Nguyễn Sĩ Linh (2010), "Tổng quan phương pháp dự báo khả áp dụng số mơ hình dự báo biến động tài nguyên môi trường Việt Nam", http://isponre.gov.vn/ ngày 23/2/2010 [3] Nguyễn Đình Thúc, Mạng nơron nhân tạo – phương pháp ứng dụng, Nhà xuất giáo dục, (2000) [4] Phan Cẩm Tú, (2007), Dự báo thời tiết sở mạng nơron mờ Luận văn thạc sỹ khoa học máy tính, Khoa Cơng nghệ thông tin, Trường Đại học Sư phạm Hà Nội [5] PGS.TS Nguyễn Quang Hoan, Nhập mơn trí tuệ nhân tạo, Học viện bưu viễn thơng, Hà Nội 2007 [6] Trần Đức Minh, (2002), Mạng nơron truyền thẳng ứng dụng dự báo liệu, Luận văn thạc sỹ khoa học máy tính, Trường Đại học Sư phạm Hà Nội [7] Nguyễn Tân Ân, Nguyễn Văn Đoài, Cao Thị Kim Ngân (2015), Một cách xác định tốc độ huấn luyện mạng noron nhân tạo theo quy tắc delta Tiếng Anh [8] Ajith Abraham, Ninan Sajeeth Philip and P.K Mahanti, (1995) Soft Computing Models for Weather Forecasting, Department of Computer Science, Oklahoma State University, USA 68 [9] Chin-Teng Lin, C.S George Lee, (1996) Neural Fuzzy Systems: A neuroFuzzy Synergism to Intelligent Systems, Prentice-Hall International, Inc [10] Jacek M Zurada, (1997), Introduction to Artifical Neural System, Jaico Publi shing House [11] Bin Li (2002), Spatial Interpolation of Weather Variables using Artificial Neural Network, Master of Science, University of Georgia, Greence [12] Ricardo A Guarnieri et al, (2006), Solar Radiation Forcast using Artificial Neural Networks in South Brazil, Proceedings of ICSHMO PHỤ LỤC data2Test.txt Time Temp Humid Rain WindDirection WindSpeed Cloud 11h.7/6/15 31 66 10 70 11h30.8/6/15 33 63 150 90 11h30.9/6/15 31 70 120 14 90 10h30.10/6/15 27 79 60 14 90 130 10 70 11h.11/6/15 31 10h30.12/6/15 32 11h.13/6/15 30 66 62 70 7 140 10 90 310 90 11h30.14/6/15 29 74 90 11h30.15/6/15 31 75 90 11h30.16/6/15 29 74 30 11 30 11h30.17/6/15 26 89 25 360 90 12h.18/6/15 28 11h30.19/6/15 28 79 74 7 50 160 11 19 90 90 12h.20/6/15 33 63 140 11 90 11h.21/6/15 32 62 140 10 30 11h.22/6/15 32 66 160 11 90 10h30.23/6/15 33 10h.24/6/15 33 66 59 7 330 90 280 14 90 90 11h30.25/6/15 33 55 10h30.26/6/15 34 63 280 11h.27/6/15 29 70 10 90 90 10h30.28/6/15 27 79 90 11h30.29/6/15 30 66 70 10h30.30/6/15 32 66 70 11 90 10h30.1/7/15 32 66 120 14 90 12h.3/7/15 33 59 120 16 90 11h30.4.7.15 32 62 140 23 90 10h30.5/7/15 31 70 140 19 90 11h30.6/7/15 27 84 55 60 11 70 10h30.7/7/15 29 74 90 11h30.8/7/15 28 74 25 10 14 11h30.9/7/15 32 59 90 11h30.10/7/15 33 65 7 70 11h30.11/7/15 34.6 58 45 7.2 10h.12/7/15 27.4 90 70 0 13h.14/7/15 34.6 56 135 7.2 90 70 70 70 70 10h.13/7/15 29.7 79 0 13h.14/7/15 36.3 51 25 7.2 70 13h.28/7/15 33 25 7.2 67 50 dataTrain.txt Thoi gian Nhiet Do am Mua Huong gio Toc gio May 7h.29.3.15 22 94 15 70 7h.30.3.15 22 89 90 160 16 70 7h.31.3.15 21 94 35 80 21 70 7h.1.4.15 20 78 15 40 14 70 7h.2.4.15 17 88 25 10 13 70 7h.3.4.15 19.7 93 35 130 10 7h.4.4.15 19.2 98 35 20 70 7h.5.4.15 21.7 98 45 120 70 7h.6.4.15 24.7 90 15 100 11 70 7h.7.4.15 23.1 97 15 110 13 70 7h.8.4.15 24.8 94 7h.9.4.15 24.1 92 90 11 7h.10.4.15 25 83 7h.11.4.15 26 93 45 120 14 70 7h.12.4.15 27 89 100 13 70 70 90 50 90 network1.txt hiddenNumber: 18 learningRate: 0.8 minOfError: 5.0E-4 maxOfRepeatCycle: 150000 minWeight: -0.7 maxWeight: 0.7 weightIH[18][6] 0.22965334458117237 -0.06026749973271095 -0.153290928852034 0.550677624280542 0.3494983912021643 -0.19672407677064419 -0.03447850909262018 -0.017922483837988223 -0.5394180511700373 0.3516385423149311 -0.3158925250062574 0.08953138846081543 -0.4317136328371526 -0.007204195337010111 0.5020668205007028 0.23534739431455454 0.13125161678190367 -0.37592176976256625 0.5281518812817148 0.01751625266908141 0.5369443672462324 0.3029779937880377 0.12677486234508506 -0.0758847332170105 0.3009196159981862 0.10867434209358717 -0.27152410501281027 - 0.05665342762372949 -0.16899537914067908 -0.09859494868239105 0.6005617199526061 -0.5718954348320884 -0.08771724287607685 - 0.0833448086604851 -0.4268518848361163 -0.6885709578960653 -0.09784690837136734 -0.088245398754348 -0.46638746466880965 0.5354111379201603 0.17689062912748943 -0.6386624820929704 0.33898713768079447 -0.10892020379777634 -0.15796987050062905 - 0.45754581242840575 -0.3489043624721736 -0.6294916333964004 -0.6914554010653389 0.5632104026354108 0.2732607492804481 0.4048407129470246 0.4451889004783989 -0.12935354983377423 0.4601827816551678 -0.19685187710914398 0.6445263007658615 - 0.4758469381375935 -0.6158870021525642 -0.1830113638181612 -0.11394497012571547 -0.6599418837388159 -0.5292808758251313 0.3342515960496706 0.5444997212094966 -0.2988967504409622 0.06706335053219337 -0.44666887036275466 0.07473177629135108 0.3813663301214185 -0.32811274700154813 0.20488344176741358 -0.5930698014620154 0.16277027199268856 -0.6550789073525153 - 0.5266172610761568 -0.6935061094009569 -0.6863434003060394 -0.6827918224086464 -0.5755965823280091 -0.3071358393324849 - 0.0370140215920326 0.04845914769010495 -0.4339849261620504 0.3698144249794775 0.6355655385755516 0.6202236706566315 - 0.03611111661900557 -0.0030862139743865757 0.5142878265871376 0.015190919930214708 0.08967523880902728 0.6277677610134349 0.5647025256302607 0.11320366975657092 0.3109219862205068 0.1552896294165771 0.6953277101348037 -0.06640612946575475 0.22826543387991616 -0.46234693024640544 -0.1660560282905219 -0.6287781108180569 -0.26816455758313484 0.5307256579191812 0.6243000942390621 -0.5898763940123974 -0.11622181896685069 weightHO[6][18] - 0.6236816292074607 0.46248950500590114 0.1863623253836788 0.104795960354516 0.03287448417956784 -0.29680619530441865 -0.44605553347587046 -0.03586018807758695 - -0.6082174528669808 -0.22321944891248952 0.6675719305468399 -0.4325259254662219 - 0.19882105205766354 0.35718588969405496 -0.6163547719784211 - 0.4241585816852104 -0.16810390765637417 -0.6859508608673247 -0.20140554167823016 0.24140113673767327 0.5078172216187331 -0.19463989499784817 -0.5974912825517403 -0.2730049550148013 - 0.4189783293890486 -0.6451518755587234 -0.2762416395423781 - 0.26925728397374515 0.6320458613954794 -0.5997560013822274 - 0.1456958401503191 0.40433542979310855 0.41449237351864876 0.16332756901602097 0.4451630117101373 -0.15102075171629126 0.2624412910904915 -0.30831388089566397 0.2523208764644731 - 0.2471656009836306 0.5776913826219996 0.1538201128245109 - 0.24374344321286978 -0.26598807606879693 -0.671887398050142 0.06066859291695792 0.5397620757706578 -0.45552219865481364 0.06463136316742668 -0.35570844398002766 -0.11098041761177257 0.052509741697062906 0.1814769465930688 0.12649124041914772 -0.5180821254944974 0.11881333806689409 0.5777144167891528 0.016990429973152033 -0.5546347683334918 0.24761400705606895 - 0.5697607566937147 -0.14362885622112964 -0.3001215230105376 0.4290035029235093 -0.540693742654074 -0.03668588414958418 0.16500170733454167 0.09252942903971473 -0.3426855085502916 0.5587644130719622 0.47313181827648454 -0.23552195005250415 -0.24003210549572596 0.4625111529605854 0.38838929343470685 0.5214848351119925 -0.6678991125807232 0.36607986993466524 0.18004503085070567 -0.5287210683788314 0.1581889702168181 0.16562948823010626 0.5731169706402819 0.059199880183749554 -0.2786586584239928 0.03813421168274411 - 0.06198311703049064 0.5411920943727309 0.19646608485617623 -0.6451428646124837 0.5480986772303493 0.12332580180168595 0.6683894022489083 -0.28682080410986194 0.16206994674064257 - 0.29075960572582626 0.6485703520303001 -0.6990723739303693 0.38783874484914294 - 0.05765047521489597 -0.43288258632048937 0.47334037867592516 - 0.6842504922628132 0.10126586383601721 0.1828474458240863 - 0.33689452619571203 0.07920490255011026 -0.6722509461897597 network2.txt hiddenNumber: 18 learningRate: 0.8 minOfError: 5.0E-4 maxOfRepeatCycle: 150000 minWeight: -0.7 maxWeight: 0.7 weightIH[18][6] -1.5168788378875462 4.5831147447700324 0.2291172592319612 2.5870139921648434 -4.792476646006979 -2.0868955428785174 -0.05619658031378993 1.7662767065925187 -0.8018648532475111 - 3.4559838486365795 -0.8566624210323958 0.854358208948603 0.3024934591805242 3.6879051626608144 0.259757752835157 1.148069156186131 -0.42804720394684714 1.8108050976961263 - -0.40605356739306714 3.0225101963303045 1.894700240271384 5.366411854120212 -2.2935344603373045 -2.743658684556014 1.460667183156529 3.7476570789729378 0.783551667144431 0.004755179689083942 -0.3645761918037051 2.74327028306597 -7.974126677557779 -4.778325977010648 -6.5223944842759956 8.001965302224423 -0.6633014294511698 6.255158895336911 -13.85633815492902 6.8956939330162355 -15.440592035812662 10.46265227966706 12.199898455291963 -8.359930521850485 12.2437825104082 1.0763274625030441 -3.8741406384215353 - 4.231872178510229 -2.9966002385916206 -2.077933800445509 -6.599374481283863 -3.35189171059332 6.319771153471421 2.7616515291978394 2.3864629410430305 5.969027981492346 2.81316397221657 -0.35691035822139405 2.892624393528069 - 6.856587958921425 -5.868198496052825 2.7865461925559303 -5.596933005316925 -6.118737785858081 2.2761815112949484 - 12.69058900497414 -0.09192864182847435 12.055943982086985 6.144855931081198 0.8613843116819562 -6.903345262375874 12.426843234257968 -5.820428541885919 0.33203479276851133 2.7957665163714327 11.801504591310602 -0.7019425919211475 - 17.531085781677053 -4.524674357809397 -17.05513358195699 -3.5556531053781213 0.7202243099483243 7.20834577994364 2.036363954359046 -11.113469468870601 -0.1003713993463848 0.9507456809419436 3.3914290016964515 1.1240979140298026 0.5318962972061235 0.5178102910660091 3.232965405289327 1.0559046225776765 0.6319562578184668 0.868832995143224 1.6616088463533594 -0.45179840141069144 1.0431419830306567 0.9222153367917192 3.6433450540913896 0.33743734699023187 - 0.5336021984393883 -1.336522866886746 2.650552399567281 0.42083021236767526 2.4338138381177528 2.7059779013593337 - 2.2181939564009876 -2.6504521569835475 4.28932863186254 weightHO[6][18] -1.4792245255862049 0.11770424593270849 -0.1531872821212241 - 3.2420760705027756 -0.21670212756226073 -1.599335725358551 0.8698750449775305 1.9182405085026204 2.5894827881175333 0.31438454033374597 -1.6974501072555843 -0.13818905780858945 0.6036400181729145 0.7213194706399424 -0.9496040067471575 2.052455759525781 0.013191728195182616 -0.6458467936818743 0.6563633060213812 -2.742749510186692 -1.021280612108782 2.4195676033566644 -1.0869877128955336 8.309967176059855 0.5418634959128523 2.456080720731198 0.8678126046672285 4.185348484041877 1.732997218029473 5.883514584167745 0.928918783066122 - -4.0365386047078164 - 0.1481870059347372 0.3109753224017267 0.09768021484583693 -0.31932283799071237 -2.093165689330914 1.802826966130908 0.8211675996922105 - 2.1102215298035647 2.0551031657781063 11.657181878117404 - 4.11058995604541 -9.267125698573963 -4.220707562753978 5.742826516704133 -3.198770972749803 -2.378607198434602 17.457467377891064 -3.7506092164633182 1.0886759276456175 1.9938734462457535 2.2544134527886004 4.345472295028839 - -1.2212470675737364 3.7838589479621545 1.5220426782089345 - 0.8177115408486741 0.4442722468510065 1.3327035163973546 - 13.331680913759037 6.009927569835245 1.7678277201030368 9.0924172931316 -12.575488068497297 -2.6625265959287057 -1.293599959857474 -10.983722155443402 - 0.4112402671046853 0.8298006356334717 1.9526057423144323 2.5469577412890096 -1.1022873403827742 -2.656142195289996 -0.2290299202670758 2.2374797719774717 1.2571971192405291 6.147418725992361 0.4735673062312329 -3.1950880745424213 4.049353854548401 -3.5631385048944355 -1.4772756962527347 0.01668733369904359 -5.569925973514108 -1.0243665108602 - 1.2881543652382528 1.6493753857808533 0.9498085141481949 1.225715324504273 -7.282729490738518 0.5858136137517121 1.6624658769012215 - 4.676310063981077 1.0721047858780017 -0.6153284857005413 5.577359396250267 -1.0641210931843246 5.9142345680942014 2.2026944677782456 -2.192766241261043 0.8990711882600833 5.707264762136241 0.5160242990007115 0.9311666598195051 2.4325488652245926 1.5301602037269455 1.0125488148460453 - ... mạng nơron, chọn đề tài: “LỰA CHỌN TỐC ĐỘ HUẤN LUYỆN HỢP LÝ KHI SỬ DỤNG THUẬT TOÁN LAN TRUYỀN NGƯỢC GIẢI BÀI TOÁN DỰ BÁO” nhằm nghiên cứu cách tìm tốc độ huấn luyện mạng theo bước huấn luyện nhằm... 2.5 Sơ đồ thuật tốn lan truyền ngược 2.3.2 Một số biến thể thuật toán lan truyền ngược Ta xét số đặc điểm thuật toán lan truyền ngược sử dụng kỹ thuật giảm theo hướng Mạng sử dụng thuật toán tồn... thạc sĩ Khoa học máy tính ? ?Lựa chọn tốc độ huấn luyện hợp lý sử dụng thuật toán lan truyền ngược giải tốn dự báo? ?? cơng trình nghiên cứu thực cá nhân em, thực sở nghiên cứu lý thuyết hướng dẫn khoa