Mạng nơ ron và ứng dụng dự báo chỉ số tiêu dùng

ĐẠI HỌC THÁI NGUYÊN KHOA CÔNG NGHỆ THÔNG TIN    PHẠM MINH HOÀNG MẠNG NƠRON VÀ ỨNG DỤNG DỰ BÁO CHỈ SỐ TIÊU DÙNG Chuyên ngành: Khoa học máy tính Mã số: 60.48.01 LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH Người hướng dẫn khoa học PGS.TS ĐOÀN VĂN BAN Thái Nguyên - 2010 MỤC LỤC MỞ ĐẦU CHƯƠNG I: BÀI TOÁN DỰ BÁO CHỈ SỐ TIÊU DÙNG 1.1 Giới thiệu chung 1.2 Khái niệm giá tiêu dùng 10 1.3 Chỉ số tiêu dùng .10 1.4 Phương pháp tính số giá tiêu dùng .11 1.5 Quy trình thực dự báo 15 1.6 Đánh giá hiệu mô hình dự báo [10] 18 1.7 Phương pháp dự báo với mạng nơron .19 1.8 Kết luận 20 CHƯƠNG 2: MẠNG NƠRON NHÂN TẠO .22 VÀ MẠNG NƠRON MỜ 22 2.1 Mạng nơron nhân tạo .22 2.1.1 Giới thiệu 22 2.1.2 Các nơron sinh học não người 22 2.1.3 Mô hình mạng nơron nhân tạo 28 2.1.4 Phân loại cấu trúc mạng nơron nhân tạo 31 2.1.5 Các hình thức học mạng nơron 33 2.1.6 Một số phương pháp huấn luyện mạng nơron nhân tạo 34 2.2 Tập mờ .41 2.2.1 Giới thiệu 41 2.2.2 Khái niệm tập mờ .42 2.2.3 Các phép toán tập mờ 45 2.2.4 Hệ thống suy luận mờ .49 2.3 Mạng nơron mờ .51 2.3.1 Lý kết hợp mạng nơron với lý thuyết mờ 51 2.3.3 Một số phương pháp mờ hoá mạng nơron .53 2.4 Mạng nơron nhân tạo mờ toán dự báo 54 2.4.1 Thuật toán lan truyền ngược .54 2.4.2 Một số cải tiến thuật toán lan truyền ngược .57 2.5 Kết luận 71 CHƯƠNG 3: ỨNG DỤNG DỰ BÁO CHỈ SỐ TIÊU DÙNG 73 3.1 Đặt vấn đề 73 3.2 Môi trường cài đặt 73 3.3 Xử lý liệu 73 3.4 Thuật toán la truyền ngược giải toán dự báo .75 3.4.1 Mô hình toán dự báo số giá tiêu dùng 75 3.4.2 Các bước thuật toán lan truyền ngược 75 3.5 Xây dựng chương trình 76 3.5.1 Giao diện chức chương trình 76 3.5.2 Một số kết chạy thử nghiệm chương trình 80 Trong trình chạy thử nghiệm chương trình với liệu số tiêu dùng từ năm 2006 đến 2008 nhận thấy vấn đề sau: 80 Vấn đề 1: Việc lựa chọn số nơron lớp ẩn 80 Số nơron lớp ẩn nhân tố ảnh hưởng đến khả hội tụ mạng Thực tế cho thấy với việc cố định thông số khởi tạo mạng sau: Hằng số học 0.5; Sai số cho phép = 0.0005; Số vòng lặp tối đa = 200000 khoảng khởi tạo trọng số từ -0.8 đến 0.8 kết thu sau: 80 Sô nơron lớp ẩn 80 Số vòng lặp .80 15 80 Không hội tụ 80 21 80 Không hội tụ 80 22 80 Không hội tụ 80 23 80 188234 80 24 80 162579 80 25 80 174325 80 26 80 89419 80 30 80 104364 80 35 80 127648 80 50 80 109984 80 Với 10 mẫu thự nghiệm cho thấy, với số nơron lớp ẩn nhỏ 15 mạng không hội tụ, việc huấn luyện mạng không thành công Cũng theo kết cho thấy mạng khởi tạo nên có số nơron lớp ẩn 26 Nếu chọn mạng có số nơron lớp ẩn lớn nữa, lý thuyết tốc độ hội tụ nhanh nhiên không gian nhớ để xử lý lại lớn 80 Như vậy, phạm vi toán dự báo số giá tiêu dùng việc khởi tạo số lượng nơron lớp ẩn 26 phù hợp với yêu cầu kết thu sau huấn luyện mạng 80 Vấn đề 2: Việc lựa chọn số học cho mạng 81 Qua thực nghiệm 10 mẫu với việc cố định số nơron đầu vào 26, sai số cho phép 0.0005, khoảng khởi tạo trọng số -0.8 đến 0.8 số vòng lặp tối đa 200000 thu kết sau: .81 Hằng số học 81 Số vòng lặp .81 0.1 81 Không hội tụ 81 0.2 81 Không hội tụ 81 0.3 81 Không hội tụ 81 0.4 81 -3- 127372 81 0.5 81 168463 81 0.6 81 103837 81 0.7 81 89419 81 0.8 81 97864 81 0.9 81 Không hội tụ 81 1.0 81 Không hội tụ 81 Bảng kết thực nghiệm cho thấy, việc lựa chọn số học hoàn toàn ảnh hưởng đến tốc độ, khả hội tụ mạng Cũng từ kết cho thấy, phạm vi toán dự báo số học thích hợp chọn 0.7 81 Vấn đề 3: Việc lựa chọn khoảng khởi tạo trọng số .81 Cũng qua việc thử nghiệm chạy chương trình ứng với việc khởi tạo khoảng trọng số khác tham số khởi tạo mạng như: Số nơron lớp ẩn 26; Sai số cho phép 0.0005; Số vòng lặp tối đa 200000 số học 0.5 cố định cho thấy: 81 Với khoảng khởi tạo trọng số khác kết thu khả hội tụ mạng khác .81 Từ kết thực nghiệm rút ra: Trong trình huấn luyện mạng muốn mạng hội tụ giá trị trọng số phải số khác nên nằm khoảng [1,1], chênh lệch trọng số khởi tạo phải mức vừa phải Cũng từ thực nghiệm cho thấy khoảng khởi tạo ứng với toán [-0.8,0.8] .81 3.6 Kết luận 81 Việc ứng dụng mạng nơron để giải toán dự báo số tiêu dùng phương pháp tương đối khả quan Quá trình cài đặt chương trình dự báo số tiêu dùng thuật toán lan truyền ngược mạng nơron thu số kết quả: 82 Người sử dụng xây dựng mạng nơron với số lượng nơron lớp ẩn, số học, sai số, … để phục vụ cho trình huấn luyện mạng .82 Với giá trị mạng khởi tạo thiết lập, người sử dụng tiến hành huấn luyện mạng để thu kết phục vụ cho mục đích chương trình dự báo 82 Sau huấn luyện thành công mạng, kết thu kết hợp với số liệu số giá tiêu dùng cho tháng 82 KẾT LUẬN 83 Mạng nơron mô hình xây dựng nhằm mục đích bắt chước thông minh người, nhiều năm qua người không ngừng nghiên cứu để tìm cách xây dựng mô hình tính toán mô hoạt động não người Mạng nơron mô 83 Căn vào kết thu việc tìm hiểu, xây dựng mạng nơron cho thấy mạng nơron nhân tạo có khả giải nhiều toán mà người giải được, ví dụ: nhận dạng, dự báo, chuẩn đoán bệnh, kiểm tra độ tin cậy máy móc quản lý rủi ro, … 83 -4- Có nhiều phương pháp dự báo sử dụng mô hình dự báo khác Mỗi phương pháp có ưu điểm, nhược điểm Ứng dụng mạng nơron nhân tạo mô hình dự báo thử nghiệm năm gần .83 CPI số kinh tế quan trọng với tầng lớp xã hội, phản ánh tình trạng lạm phát kinh tế đất nước Việc dự báo xác số tiêu dùng đem lại lợi ích to lớn cho quốc gia giới 83 Trong khuôn khổ luận văn tiến hành tìm hiểu mạng nơron với thuật toán xây dựng Tôi tìm hiểu thuật toán lan truyền ngược ưu điểm nội trội thuật toán áp dụng vào giải toán dự báo Luận văn xây dựng chương trình dự báo số tiêu dùng với thuật toán lan truyền ngược với độ xác khoảng 83% 83 Với thời gian, điều kiện không cho phép, với am hiểu lĩnh vực kinh tế thân nhiều hạn chế, nên chương tình ứng dụng dừng lại việc dự báo số giá tiêu dùng tháng sau so với tháng 83 Hướng phát triển tác giả tìm hiểu sâu lĩnh vực kinh tế, từ tiến hành xây dựng hoàn chỉnh toán dự báo số giá tiêu dùng cho quý, hay năm tới Bên cạnh tác giả tìm hiểu thêm nhân tố bên tác động làm biến đổi số giá tiêu dùng thời điểm năm, mờ hoá liệu để thu kết dự báo xác mềm dẻo 83 TÀI LIỆU THAM KHẢO 84 -5- MỞ ĐẦU I- Đặt vấn đề: Giới thiệu tổng quan đề tài Trong luận văn trình bày Mạng nơron (mạng nơron nhân tạo mạng nơron nhân tạo mờ), toán dự báo, ứng dụng toán dự báo dự báo số tiêu dùng Lý chọn đề tài Hiện với phát triển mạnh mẽ mặt nước giới tình hình lạm phát khủng hoảng kinh tế vấn đề mà hầu hết quốc gia gặp phải, đặc biệt hai năm trở lại toàn nhân loại phải chèo lái để vượt qua khủng hoảng kinh tế toàn cầu Giá cả, dịch vụ hàng hóa biến động theo thời gian, nhiên giá thay đổi nhanh ảnh hưởng lớn đến kinh tế, đẩy đất nước lâm vào tình trạng khủng hoảng Chỉ số giá tiêu dùng (CPI) tiêu kinh tế quan trọng phản ánh mức độ lạm phát kinh tế, đo lường biến động giá tiêu dùng Sự tăng giảm số tiêu dùng liên quan nhiều yếu tố trực tiếp gián tiếp như: lượng hàng hóa dịch vụ sản xuất, cung cấp thị trường, giá thành sản xuất, sức mua dân, … CPI quan trọng vấn đề tính toán không đơn giản Nó đòi hỏi đầu tư đắn doanh nghiệp, địa phương quốc gia để cho thu kết xác từ đưa sách cho việc điều chỉnh kinh tế phát triển bền vững Và nữa, dự báo trước số tiêu dùng chắn người cần đến chủ động đưa phương án sách phù hợp giúp giảm thiểu tình trạng khủng hoảng kinh tế nước, giới Vì việc dự báo đắn diễn biến số tiêu dùng việc cần thiết Bài toán dự báo toán khó, độ phức tạp tính toán lớn Tuy nhiên cần thiết toán mà quốc gia, tổ chức khoa học, … đầu tư nghiên cứu giải Có nhiều phương pháp dự báo sử dụng mô hình dự -6- báo khác Mỗi phương pháp có ưu điểm, nhược điểm riêng Ứng dụng mạng nơron nhân tạo mô hình dự báo thử nghiệm Trong khuôn khổ luận văn thạc sỹ, chọn đề tài nghiên cứu: “Mạng nơron ứng dụng dự báo số tiêu dùng” II- Nội dung nghiên cứu Mục tiêu nghiên cứu tính cấp thiết đề tài Đề tài nghiên cứu mạng nơron, ứng dụng mô hình dự báo để đưa dự báo số tiêu dùng Tính cấp thiết đề tài: Tình trạng lạm phát khủng hoảng kinh tế xảy toàn cầu, dự báo trước số tiêu dùng chắn người cần đến chủ động đưa phương án phù hợp giúp giảm thiểu tình trạng khủng hoảng kinh tế nước giới Phạm vi nghiên cứu ứng dụng - Bài toán dự báo - Mạng nơron nhân tạo - Mô hình dự báo - Mô hình dự báo mờ với ứng dụng mạng nơron nhân tạo - Dự báo số tiêu dùng Ý nghĩa khoa học - Nghiên cứu tổng quan phương pháp dự báo dự báo mờ với dư liệu vào không đầy đủ, không xác - Nghiên cứu mạng nơron nhân tạo, mạng nơron nhân tạo mờ - Nghiên cứu xây dựng mô hình dự báo mờ với ứng dụng mạng nơron nhân tạo - Ứng dụng dự báo số tiêu dùng CPI Phương pháp nghiên cứu - Quan sát, điều tra, thu thập liệu cần cho toán dự báo - Nghiên cứu tài liệu, tổng hợp kết nhà nghiên cứu liên quan đến lĩnh vực nghiên cứu - Thực nghiêm, tham khảo ý kiến tư vấn từ chuyên gia -7- Các kết dự kiến đạt - Giới thiệu tổng quan số tiêu dùng, toán dự báo số tiêu dùng - Trình bày Mạng nơron, mô hình dự báo - Cài đặt thử nghiệm chương trình dự báo số tiêu dùng III - Bố cục luận văn Luận văn trình bày chương, có phần mở đầu, phần kết luận, phần mục lục, phần tài liệu tham khảo Các nội dung luận văn trình bày theo cấu trúc sau: Chương 1: Bài toán dự báo số tiêu dùng Khái quát số tiêu dùng, phương pháp để tính số tiêu dùng, quy trình thực dự báo số tiêu dùng Qua đánh giá tính hiệu mô hình dự báo Giới thiệu phương pháp dự báo sử dụng mạng nơron Chương 2: Mạng nơron nhân tạo mạng nơron nhân tạo mờ Mạng nơron nhân tạo, mô hình mạng nơron nhân tạo, cấu trúc mạng nơron nhân tạo với nơron sinh học Các hình thức học mạng nơron phương pháp huấn luyện mạng nơron Khái niệm tập mờ, mạng nơron mờ Mạng nơron nhân tạo mờ với toán dự báo Sử dụng thuật toán Lan truyền ngược để giải toán dự báo Chương 3: Ứng dụng dự báo số tiêu dùng Chỉ số tiêu dùng thông số phản ánh tình trạng lạm phát quốc gia Việc đưa giải pháp để dự báo số tiêu dùng quan trọng Thiết lập sở liệu đầu vào, sử dụng thuật toán lan truyền để giải toán dự báo Các form chương trình, quy trình cài đặt, phân tích đánh giá kết đặt độ xác thuật toán chương trình cài đặt so với thực tế -8- CHƯƠNG I: BÀI TOÁN DỰ BÁO CHỈ SỐ TIÊU DÙNG 1.1 Giới thiệu chung Chỉ số tiêu dùng tiêu kinh tế quan trọng, thường sử dụng phân tích kinh tế, đánh giá tình hình lạm phát, quan hệ cung cầu, sở tham khảo cho việc điều chỉnh lãi suất ngân hàng, tiên lương, tính toán điều chỉnh tiền công hợp đồng sản xuất kinh doanh, … Dự báo phát biểu tương lai, phát biểu có sở chắn chắn định Các dự báo xây dựng nhiều phương pháp, kiểm chứng qua hệ thống biểu thức đánh giá Dự báo số tiêu dùng bái toán tìm hiểu từ lâu Tuy nhiên, Việt Nam việc dự bó số giá tiêu dùng hình thức dự báo dựa vào việc thống kê số liệu, dựa vào nhận đình biến động kinh tế trước đó, quy luật có năm mà chưa có phương pháp cụ thể Những lợi ích to lớn mang lại ta dự báo tương đối xác số giá tiêu dùng, là: - Căn vào số liệu giá tiêu dùng mà quốc gia tính toán tình hình diễn biến kinh tế nước góp phần kìm chế lạm phát, thúc đẩy kinh tế đất nước ngày phát triển - Mỗi doanh nghiệp vào số liệu dự báo số tiêu dùng, điều chỉnh quy mô sản xuất, giá hàng hoá cho phù hợp tình toán giá nhân công hợp lý với mức chi tiêu công nhân - Với người dân số liệu dự báo số tiêu dùng giúp họ tính toán, điều chỉnh mức chi tiêu cho phù hợp Mạng Nơron nhân tạo mô hình mô hoạt động nơron sinh học, có khả học từ ứng dụng để giải toán dự báo -9- 1.2 Khái niệm giá tiêu dùng Giá tiêu dùng người tiêu dùng mua hàng hoá chi trả cho dịch vụ trực tiếp cho đời sống hàng ngày Giá tiêu dùng biểu diện giá bán lẻ hàng hoá thị trường giá phục vụ sinh hoạt đời sống, không bao gồm đất đai, giá hàng hoá bán cho sản xuất công việc có tính chất sản xuất kinh doanh Để tính số giá tiêu dùng cần phải thi thập giá mặt hàng dịch vụ đại diện, phổ biến tiêu dùng dân cư theo danh mục xác định - thường goi “rổ” hàng hoá, dịch vụ 1.3 Chỉ số tiêu dùng Chỉ số tiêu dùng (CPI) tiêu kinh tế Chính phủ, quan hữu quan, tổ chức quốc tế nhiều đối tượng khác quan tâm CPI tiêu thiếu phân tích hoạt động kinh tế để loại trừ yếu tố giá tính trượt giá so sánh tiêu tổng hợp liên quan CPI sở để Chính phủ ban hành điều chỉnh sách tài chính, tiền tệ, lãi suất ngân hàng,… Chỉ số giá tiêu dùng tiêu tương đối phản ánh xu hướng mức độ biến động giá “rổ” hàng hoá, dịch vụ tiêu dùng đại diện nói trên, giá mặt hàng, nhóm hàng “rổ” có thay đổi Chỉ số giá tiêu dùng số tương đối so sánh mức độ biến động giá mặt hàng đại diện kỳ báo cáo so với kỳ gốc Giá rổ hàng hoá kỳ gốc quy định 100 giá kỳ khác biểu diện tỷ lệ phần trăm so với giá kỳ gốc Ví dụ: Tháng 4/2003 so với tháng 3/2003, giá toàn mặt hàng danh mục đại diện tăng 0,2% Chỉ số giá 100,2% Hiện nay, Chỉ số giá tiêu dùng tính hàng tháng, cho gốc: Tháng trước, kỳ năm trước 12 tháng năm trước Cần ý Chỉ số giá tiêu dùng không phản ánh mức đo lường mức độ biến động giá hai khoảng thời gian Ví dụ: Chỉ số giá tháng 4/2003 so với tháng 3/2003 nhóm hàng “Thiết bị đồ dùng gia đình” 100,5% Chỉ số giá -10- CHƯƠNG 3: ỨNG DỤNG DỰ BÁO CHỈ SỐ TIÊU DÙNG 3.1 Đặt vấn đề Trong năm gần tình hình khủng hoảng kinh tế xảy khắp toàn cầu gây biến động vô to lớn cho nhân loại Sự nghèo đói, thất nghiệp tệ nạn xã hội ngày trở nên nghiêm trọng Sự khủng hoảng kinh tế làm cho tình hình làm phát không ngừng tăng Một thông số phản ánh tình trạng lạm phát quốc giá số giá tiêu dùng Chỉ số giá tiêu dùng để đo lường lạm phát thể thông qua việc tiêu ngày người tiêu dùng Sự gia tăng số CPI đồng nghĩa với tỉ lệ lạm phát tăng CPI sử dụng thương nhân bán lẻ để dự đoán giá tương lai, ông chủ để tính tiền lương, ngân hàng để điều chỉnh lãi suất phủ để xác định mức tăng cho quỹ bảo trợ xã hội Với tầm quan trọng vậy, số giá tiêu dùng cần biết cách xác sớm tốt Dự báo số giá tiêu dùng toán quan trọng, nhờ mà toàn hệ thống xã hội có điều chỉnh phù hợp nhằm đưa đất nước thoát khỏi tình trạng khủng hoảng kinh tế phát triển đất nước lên tầm cao Có nhiều phương pháp để dự báo số giá tiêu dùng Tuy nhiên, với ưu điểm khả học đưa định từ điều kiện học mạng nơron việc ứng dụng mạng nơron để dự báo phương pháp Chính vậy, luận văn thu thập liệu để xây dựng huấn luyện mạng nơron giúp trình dự báo số giá tiêu dùng nhanh chóng tương đối xác 3.2 Môi trường cài đặt Chương trình cài đặt ngôn ngữ Java, thử nghiệm hệ điều hành Windows XP 3.3 Xử lý liệu Dữ liệu đầu vào cho toán dự báo Chỉ số tiêu dùng bao gồm 13 thông số: -73- Chỉ số giá tiêu dùng Đồ uống thuốc Nhà vật liệu xây dựng Dược phẩm, y tế Giáo dục Hàng hóa dịch vụ khác Chỉ số giá đô la Mỹ Lương thực, thực phẩm May mặc, giày dép, mũ nón 10 Thiết bị đồ dùng gia đình 11 Phương tiện lại, bưu điện 12 Văn hóa, thể thao, giải trí 13 Chỉ số giá vàng Dữ liệu đầu vào Chỉ số giá tiêu dùng tháng Dữ liệu đầu Chỉ số giá tiêu dùng tháng Quy trình thực dự báo mô tả sau: Chuẩn hóa liệu đầu vào Dự báo mạng nơron Xử lý liệu đầu Hình 3.1: Quy trình thực dự báo Chuẩn hóa liệu đầu vào: - Trong huấn luyện mạng, liệu đầu vào lưu file text có 13 dòng tương ứng với 13 thông số dự báo 12 cột tương ứng với 12 tháng năm - Khi dự báo, liệu đầu vào thông số số giá tiêu dùng Số liệu thực tế chuẩn hóa đưa giá trị tương ứng nằm khoảng [0,1] cách chia thông số 100 Xử lý liệu đầu ra: - Các liệu đầu sau thực chương trình dự báo mạng nơron giá trị nằm khoảng [0,1] Để thu liệu đầu ta cần thao tác ngược lại khâu chuẩn hóa liệu vào nhân số liệu với 100 -74- 3.4 Thuật toán la truyền ngược giải toán dự báo 3.4.1 Mô hình toán dự báo số giá tiêu dùng Chỉ số giá tiêu dùng Chỉ số giá tiêu dùng 1 Lương thực, thực phẩm Lương thực, thực phẩm 2 Chỉ số giá đô la Lớp vào Lớp ẩn Chỉ số giá đô la Lớp Hình 3.2: Mô hình mạng nơron dự báo CPI Trong mô hình mạng 3.1 sử dụng số lượng nơron đầu vào 13 Số lượng nowrron lớp ẩn n số lượng nowrron đầu 13 tương ứng với thông số cần dự báo 3.4.2 Các bước thuật toán lan truyền ngược Lan truyền ngược giải thuật huấn luyện tốt thường dùng mạng huấn luyện mạng nhiều lớp thay đổi trọng số nơron lớp ẩn Thuật toán lan truyền ngược dùng để tính toán lỗi để thay đổi giá trị trọng số Đầu vào để huấn luyện mạng tập giá trị 13 thông số (x i, yi) với xi tập thông số đầu mong muốn, trọng số khởi tạo ngẫu nhiên Các bước thực hiện: Lan truyền tiến với mẫu liệu đầu vào tính toán lỗi đầu Thay đổi tất giá trị trọng số ma trận cách sử dụng công thức: -75- Trọng số = (Trọng số cũ) + (Hằng số học) * (lỗi đầu ra) * (đầu nơron i) * (đầu nơron i + 1) * (1 - (đầu nơron i + 1)) Quay lại bước sai số tính lớn sai số cho phép đồng thời số vòng lặp chưa vượt số vòng lặp tối đa Thuật toán kết thúc số vòng lặp vượt qua số vòng lặp tối đa sai số tính nhỏ sai số cho phép 3.5 Xây dựng chương trình 3.5.1 Giao diện chức chương trình Hình 3.3: Giao diện chương trình Trên giao diện gồm có chức sau: Tạo mạng Kích nút “tạo mạng" thực đơn cửa sổ giao diện chính, xuất hộp thoại sau: -76- Hình 3.4: Giao diện khởi tạo mạng Trên cửa sổ giao diện hình 4.2, người sử dụng cần khởi tạo giá trị số nơron lớp ẩn; Hằng số học; Sai số cho phép; Số vòng lặp tối đa khoảng khởi tạo trọng số Sau ghi lại mạng khởi tạo cách kích chuột vào nút “khởi tạo”, đóng cửa sổ nút “Thoát” Huấn luyện mạng Để tiến hành huấn luyện mang người dùng kích nút “Huấn luyện mạng” gia diện chương trình Khi xuất cửa sổ hình 4.3 Trên cửa sổ hình 4.3, người sử dụng - Kích nút “Chọn liệu huấn luyện” để lựa chọn file chứa liệu để tiến hành huấn luyện - Kích nút “Chọn mạng huấn luyện” để lựa chọn mạng khởi tạo trước - Kích nút “Huấn luyện” để bắt đầu huấn luyện mạng - Cuối kích nút “Ghi kết quả” để hoàn tất việc huấn luyện mạng Đóng cửa sổ cách kích vào nút “Thoát” -77- Hình 4.3: Giao diện huấn luyện mạng Kiểm thử Kích chuột vào nút “Kiểm thử giao diện để bắt đầu kiểm thử, xuất cửa số hình 4.4 - Người sử dụng chọn File liệu huấn luyện cách kích vào nút “Chọn file liệu huấn luyện” - Tiếp theo bấm nút “Chọn file liệu thực” kích chọn 13 loại liệu cần kiểm thử - Tiến hành kiểm thử cách kích vào nut “Kiểm thử” cửa sổ chứa biểu đồ so sánh liệu mà kết dựa báo với số liệu thực có - Kết thúc kiểm thử cách bấm vào nút “Thoát” -78- Hình 4.4: Giao diện kiểm thử Dự báo Để dự báo số giá tiêu dùng, người dùng kích vào nút “Dự báo” cửa sổ chương trình Xuất hình 4.5 Hình 4.5: Giao diện dự báo CPI -79- - Người dùng nhập vào CPI tháng - Kích vào nút “Chọn mạng” để lựa chọn mạng dự báo - Kích vào nút “Dự báo” kết dự báo CPI tháng tính toán hiển thị - Kết thúc dự báo cách kích vào nút “Thoát” 3.5.2 Một số kết chạy thử nghiệm chương trình Trong trình chạy thử nghiệm chương trình với liệu số tiêu dùng từ năm 2006 đến 2008 nhận thấy vấn đề sau: Vấn đề 1: Việc lựa chọn số nơron lớp ẩn Số nơron lớp ẩn nhân tố ảnh hưởng đến khả hội tụ mạng Thực tế cho thấy với việc cố định thông số khởi tạo mạng sau: Hằng số học 0.5; Sai số cho phép = 0.0005; Số vòng lặp tối đa = 200000 khoảng khởi tạo trọng số từ -0.8 đến 0.8 kết thu sau: Sô nơron lớp ẩn 15 21 22 23 24 25 26 30 35 50 Số vòng lặp Không hội tụ Không hội tụ Không hội tụ 188234 162579 174325 89419 104364 127648 109984 Với 10 mẫu thự nghiệm cho thấy, với số nơron lớp ẩn nhỏ 15 mạng không hội tụ, việc huấn luyện mạng không thành công Cũng theo kết cho thấy mạng khởi tạo nên có số nơron lớp ẩn 26 Nếu chọn mạng có số nơron lớp ẩn lớn nữa, lý thuyết tốc độ hội tụ nhanh nhiên không gian nhớ để xử lý lại lớn Như vậy, phạm vi toán dự báo số giá tiêu dùng việc khởi tạo số lượng nơron lớp ẩn 26 phù hợp với yêu cầu kết thu sau huấn luyện mạng -80- Vấn đề 2: Việc lựa chọn số học cho mạng Qua thực nghiệm 10 mẫu với việc cố định số nơron đầu vào 26, sai số cho phép 0.0005, khoảng khởi tạo trọng số -0.8 đến 0.8 số vòng lặp tối đa 200000 thu kết sau: Hằng số học Số vòng lặp 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1.0 Không hội tụ Không hội tụ Không hội tụ 127372 168463 103837 89419 97864 Không hội tụ Không hội tụ Bảng kết thực nghiệm cho thấy, việc lựa chọn số học hoàn toàn ảnh hưởng đến tốc độ, khả hội tụ mạng Cũng từ kết cho thấy, phạm vi toán dự báo số học thích hợp chọn 0.7 Vấn đề 3: Việc lựa chọn khoảng khởi tạo trọng số Cũng qua việc thử nghiệm chạy chương trình ứng với việc khởi tạo khoảng trọng số khác tham số khởi tạo mạng như: Số nơron lớp ẩn 26; Sai số cho phép 0.0005; Số vòng lặp tối đa 200000 số học 0.5 cố định cho thấy: Với khoảng khởi tạo trọng số khác kết thu khả hội tụ mạng khác Từ kết thực nghiệm rút ra: Trong trình huấn luyện mạng muốn mạng hội tụ giá trị trọng số phải số khác nên nằm khoảng [-1,1], chênh lệch trọng số khởi tạo phải mức vừa phải Cũng từ thực nghiệm cho thấy khoảng khởi tạo ứng với toán [-0.8,0.8] 3.6 Kết luận -81- Việc ứng dụng mạng nơron để giải toán dự báo số tiêu dùng phương pháp tương đối khả quan Quá trình cài đặt chương trình dự báo số tiêu dùng thuật toán lan truyền ngược mạng nơron thu số kết quả: - Người sử dụng xây dựng mạng nơron với số lượng nơron lớp ẩn, số học, sai số, … để phục vụ cho trình huấn luyện mạng - Với giá trị mạng khởi tạo thiết lập, người sử dụng tiến hành huấn luyện mạng để thu kết phục vụ cho mục đích chương trình dự báo - Sau huấn luyện thành công mạng, kết thu kết hợp với số liệu số giá tiêu dùng cho tháng -82- KẾT LUẬN Mạng nơron mô hình xây dựng nhằm mục đích bắt chước thông minh người, nhiều năm qua người không ngừng nghiên cứu để tìm cách xây dựng mô hình tính toán mô hoạt động não người Mạng nơron mô Căn vào kết thu việc tìm hiểu, xây dựng mạng nơron cho thấy mạng nơron nhân tạo có khả giải nhiều toán mà người giải được, ví dụ: nhận dạng, dự báo, chuẩn đoán bệnh, kiểm tra độ tin cậy máy móc quản lý rủi ro, … Có nhiều phương pháp dự báo sử dụng mô hình dự báo khác Mỗi phương pháp có ưu điểm, nhược điểm Ứng dụng mạng nơron nhân tạo mô hình dự báo thử nghiệm năm gần CPI số kinh tế quan trọng với tầng lớp xã hội, phản ánh tình trạng lạm phát kinh tế đất nước Việc dự báo xác số tiêu dùng đem lại lợi ích to lớn cho quốc gia giới Trong khuôn khổ luận văn tiến hành tìm hiểu mạng nơron với thuật toán xây dựng Tôi tìm hiểu thuật toán lan truyền ngược ưu điểm nội trội thuật toán áp dụng vào giải toán dự báo Luận văn xây dựng chương trình dự báo số tiêu dùng với thuật toán lan truyền ngược với độ xác khoảng 83% Với thời gian, điều kiện không cho phép, với am hiểu lĩnh vực kinh tế thân nhiều hạn chế, nên chương tình ứng dụng dừng lại việc dự báo số giá tiêu dùng tháng sau so với tháng Hướng phát triển tác giả tìm hiểu sâu lĩnh vực kinh tế, từ tiến hành xây dựng hoàn chỉnh toán dự báo số giá tiêu dùng cho quý, hay năm tới Bên cạnh tác giả tìm hiểu thêm nhân tố bên tác động làm biến đổi số giá tiêu dùng thời điểm năm, mờ hoá liệu để thu kết dự báo xác mềm dẻo -83- TÀI LIỆU THAM KHẢO Tài liệu tham khảo tiếng việt: [1] Bùi Công Cường, Nguyễn Doãn Phước Hệ mờ mạng nơron ứng dụng Nhà xuất Khoa học Kỹ thuật, 2006 [2] Đoàn Văn Ban Lập trình hướng đối tượng với Java Tập tập 2, Nhà xuất Khoa học Kỹ thuật, 2006 [3] Kinh tế vĩ mô NXB Thống kê Đại học Kinh tế quốc dân, 1994 [4] Ngô Quốc Tạo, Phạm Văn Hùng Xây dựng tham số cho mạng nơron lan truyền ngược Kỷ yếu hội thảo quốc gia, 2003 [5] Hồ Thuần, Đặng Thanh Hà Loogic mờ ứng dụng Nhà xuất Đại học Quốc gia Hà Nội, 2007 [6] Nguyễn Đình Phúc, Hoàng Đức Hải Giáo trình mạng trí tuệ nhân tạo mạng Nơron phương pháp ứng dụng Nhà xuất Giáo dục, 2000 [7] Nguyễn Thị Minh Ánh Nghiên cứu ứng dụng mạng nơron nhận dạng chữ viết tay tiếng việt Khóa luận tốt nghiệp đại học, Đại học Công nghệ, ĐHQGHN, 2005 [8] Nguyễn Hữu Tú Một số vấn đề tính toán công bố số giá tiêu dùng 2007 [9] Nguyễn Thị Thu Lạm phát từ lý thuyết đến thực tiễn Việt Nam Tạp chí thông tin kinh tế, 2007 [10] Phan Cẩm Tú Dự báo thời tiết với ứng dụng mạng nơron nhân tạo Luận văn thạc sỹ, ĐH Sư phạm Hà Nội, 2008 [11] Trần Tiến Dũng Giáo trình lý thuyết tập Java Nhà xuất Giáo dục, 1999 Tài liệu tham khảo tiếng Anh: [12] Anil K Jain, Jainchang Mao, K.M Mohiuddin Artificial Neural Networks A Tutorail IEEE.1996 [13] Atiya, A F., El-Shoura, S M., et al A comparison between neuralnetwork forecasting techniques 1999 -84- [14] Chiu, S L Fuzzy model identification based on cluster estimation Journal of Intelligent and Fuzzy Systems, 2, 1994, 267 – 278 [15] Dickerson, J A., & Kosko, B Fuzzy function approximation with ellipsoidal rules IEEE Transactions on Systems, Man, anh Cybernetics, Part B: Cybernetics, 26, 4, 1996 [16] F C Morabito, M Versaci Fuzzy neural identification and forecasting techniques to process experimental urban air pollution data Faculty of Engineering, University “Mediterranea” of Reggio Calabria, DIMET, Via Graziella, Feo di Vito, Reggio Calabria, Italy, 2003, page 493 – 506 [17] Hebb, D O (1949) The Organization of Behavior: A neuropsychological theory New York: Wiley [18] McClelland, J L., Rumelhart, D E., and the PDP research group (1986) Parallel distributed processing: Explorations in the microstructure of cognition Volume I and Volume II Cambridge, MA: MIT Press [19] Zadeh, L.A Fuzzy sets Information and Control [20] S Stoeva, A Nikov Fuzzy Sets and Systems (2000) -85- PHỤ LỤC -86- Phụ lục 1: Danh sách ký hiệu Ký hiệu ∧,∨ ai(1) m (1) a ai(1)(s) aj’(0), aj”(0) aj’m(0), aj”m(0) f(net) g H neti(1) s t tm tmk wij(1) ∆ wij(1) wij(1)(s) wijold wijnew xj I J |J| K L M N+ P(I) Q Ý nghĩa Toán tử max, khoảng đơn vị [0,1] Giá trị kích hoạt nơron thứ j tầng Giá trị kích hoạt a(1) tương ứng với mẫu thứ m Giá trị kích hoạt ai(1) bước thứ s Giới hạn trên, giới hạn mẫu đầu vào Giới hạn trên, giới hạn giá trị đầu vào mẫu thứ m Hàm kích hoạt Độ đo mờ tập P(J) Độ đo mờ tập P(I) Giá trị net nơron thứ i tầng Bước lặp thứ s Giá trị đầu mẫu Giá trị đầu mẫu thứ m Giá trị đầu thứ k mẫu thứ m Trọng số đầu vào thứ j nơron thứ i tầng thứ Thay đổi trọng số tầng thứ Trọng số wij(1) bước thứ s Trọng số wij(1)(s) Trọng số wij(1)(s + 1) Đầu vào mẫu thứ j Tập (chỉ số nơron tầng ẩn) Tập (chỉ số nơron lớp vào) Số phần tử tập J Tập số nơron lớp Số tầng mạng Tập số mẫu huấn luyện Tập số nguyên dương Tập lũy thừa tập I Chỉ số thực thi -87- [...]... của mạng n ron thì phương pháp ứng dụng mạng n ron trong dự báo thể hiện nhiều ưu điểm Hơn nữa, khi ứng dụng mạng n ron để dự báo người ta còn có thể kết hợp nó với lôgic mờ trong qua trình xử lý dữ liệu nhằm mang lại kết quả dự báo chính xác hơn -20- Trong khuôn khổ luận văn này, hướng ứng dụng mạng n ron và mạng n ron mờ cho mô hình dự báo được thể hiện và có ứng dụng cụ thể cho việc dự báo Chỉ số. .. hoá và dịch vụ khác; Chỉ số giá vàng; Chỉ số giá đô la Mỹ Cũng nằm trong bước lập kế hoạch, ta cần xác định khoảng thời gian dự báo là gì Với bài toán dự báo Chỉ số giá tiêu dùng, ta tiến hành dự báo Chỉ số giá tiêu dùng của tháng sau tháng hiện tại Ta cũng có thể dự báo chỉ số giá tiêu dùng của quý kế tiếp hoặc dự báo chỉ số giá tiêu dùng của năm tiếp Bước 2: Thu thập dự liệu Bước tiếp theo trong... sinh học  Mạng n ron gồm một số lượng lớn các n ron được kết nối qua lại chặt chẽ  Các đáp ứng của mạng n ron thể hiện khả năng tính toán lớn  Một n ron có thể đáp ứng theo kích thích đầu vào của nó và đáp ứng hoàn toàn phụ thuộc vào các thông số bên trong của n ron đó  Mạng n ron có khả năng học, có khả năng nhớ và tổng quát hoá từ các dữ liệu đã học bằng cách điều chỉnh các trọng số đầu vào Do các... tìm hiểu về mạng n ron Lý thuyết về mạng n ron đã hình thành và đang phát triển, đặc biệt là nghiên cứu các ứng dụng của chúng Ở Việt nam, mạng n ron được chú ý nghiên cứu từ những năm 1980, nó đi vào ứng dụng trong các lĩnh vực tin học, điện tử viễn thông, đo lường điều khiển, Một số chíp n ron đã được sử dụng trong kỹ thuật lọc và một số ứng dụng khác Mạng n ron nhân tạo có khả năng giải quyết nhiều... mục tiêu Xác định mục tiêu là xác định xem kết quả dự báo sẽ được sử dụng như thế nào Mục tiêu chung của dự báo là để lập kế hoạch và có những quyết định hành động hợp lý Mục tiêu của dự báo Chỉ số giá tiêu dùng là giúp chính phủ, các doanh nghiệp và các cá nhân có được tầm nhìn và quyết sách hợp lý trong việc đề ra các định hướng phát triển đất nước, trong kinh doanh và trong chi tiêu cho cuộc sống... x -1 Bảng 2.2: Một số hàm phi tuyến được sử dụng trong các mô hình n ron 2.1.4 Phân loại cấu trúc mạng n ron nhân tạo Cũng như các n ron sinh học, các n ron nhân tạo có thể liên kết với nhau để tạo thành mạng n ron nhân tạo Có nhiều các liên kết các n ron nhân tạo thành mạng, mỗi cách liên kết cho một loại mạng n ron nhân tạo khác nhau Có nhiều cách để phân loại các lớp mạng, dựa vào các cách phân loại... thẳng một lớp (b): Mạng truyền thẳng nhiều lớp (c): N ron tự phản hồ.i (d): Mạng phản hồi một lớp (e): Mạng phản hồi nhiều lớp Như vậy, mạng n ron nhân tạo có cấu trúc khác nhau tuỳ theo số lớp, số phần tử trong mỗi lớp và cách tổ chức 2.1.5 Các hình thức học của mạng n ron Mạng n ron xây dựng theo kiến trúc máy tính chỉ mới giải quyết về phần cứng Do đó, để mạng hoạt động được thì mạng phải được dạy... với mạng n ron Bài toán dự báo có nhiều phương pháp giải quyết khác nhau, không có phương pháp nào tốt nhất cho mọi bài toán Mỗi phương pháp dự báo đều có ưu điểm và nhược điểm riêng, vì thế việc lựa chọn phương pháp nào để thực hiện tuỳ thuộc vào từng bài toán cụ thể Đối với bài toán dự báo Chỉ số giá tiêu dùng, luận văn này nghiên cứu phương pháp dựa trên mạng n ron -19- Về lý thuyết, các mạng n ron. .. các loại mạng khác nhau  Dựa vào số lớp có trong mạng: - Mạng một lớp là tập hợp các phần tử n ron có đầu vào và đầu ra trên mỗi một phần tử Nếu mạng nói các đầu ra của phần tử này với đầu vào của phần tử kí gọi là mạng liên kết (autoassociative) - Mạng nhiều lớp gồm một lớp đầu vào và một lớp đầu ra riêng biệt Các lớp nằm giữa lớp đầu vào và lớp đầu ra gọi là các lớp ẩn (hidden layers)  Dựa vào đường... tiêu dùng của Việt Nam theo tháng, theo quý và theo năm -21- CHƯƠNG 2: MẠNG N RON NHÂN TẠO VÀ MẠNG N RON MỜ 2.1 Mạng n ron nhân tạo 2.1.1 Giới thiệu Với những đặc điểm ưu việt đã được chứng minh của bộ não con người thì việc nghiên cứu nó, mà cụ thể là tế bào thần kinh (n ron) là ước muốn từ lâu của nhân loại Từ đó, các nhà khoa học đã không ngừng nghiên cứu và tìm hiểu về mạng n ron Lý thuyết về mạng ... luyện mạng n ron Khái niệm tập mờ, mạng n ron mờ Mạng n ron nhân tạo mờ với toán dự báo Sử dụng thuật toán Lan truyền ngược để giải toán dự báo Chương 3: Ứng dụng dự báo số tiêu dùng Chỉ số tiêu dùng. .. gian dự báo Với toán dự báo Chỉ số giá tiêu dùng, ta tiến hành dự báo Chỉ số giá tiêu dùng tháng sau tháng Ta dự báo số giá tiêu dùng quý dự báo số giá tiêu dùng năm tiếp Bước 2: Thu thập dự liệu... cứu: Mạng n ron ứng dụng dự báo số tiêu dùng II- Nội dung nghiên cứu Mục tiêu nghiên cứu tính cấp thiết đề tài Đề tài nghiên cứu mạng n ron, ứng dụng mô hình dự báo để đưa dự báo số tiêu dùng