Ứng dụng mạng nơ-ron trong dự báo Chỉ số giá tiêu dùng

Mạng nơron nhân tạo 1. Giới thiệu

• Các nơron sinh học và bộ não con người 1. Nơron sinh học
• Một số phương pháp huấn luyện mạng nơron nhân tạo 1. Luật học Hebbian

Tuy nhiên bộ não có thể kích hoạt hầu như cùng một lúc tại rất nhiều nơron và khớp nối, trong khi đó ngay cả máy tính hiện đại cũng chỉ có một số hạn chế các bộ vi xử lý song song. Bởi vì, dù tốc độ tính toán của mỗi nơron rất chậm nhưng mạng nơron tính toán song song cho nên chỉ cần qua một số chu kỳ tính của nơron thì mạng đã cho kết quả của phép tính một hàm số phi tuyến phức tạp bất kì. - Mạng tự tổ chức là mạng có khả năng sử dụng những kinh nghiệm quá khứ để thích ứng với những biến đổi của môi trường (không dự báo trước). Loại mạng này thuộc nhóm tự học, thích nghi không cần có tín hiệu chỉ đạo từ ngoài. Trong mỗi lớp mạng lại có nhiều mạng với các tên gọi và các đặc trưng khác nhau. Một số mô hình mạng nơron cơ bản được mô tả trong hình 2.6. Lớp vào Các lớp ẩn Lớp ra. Như vậy, mạng nơron nhân tạo có cấu trúc khác nhau tuỳ theo số lớp, số phần tử trong mỗi lớp và cách tổ chức. Các hình thức học của mạng nơron. Mạng nơron xây dựng theo kiến trúc máy tính chỉ mới giải quyết về phần cứng. Do đó, để mạng hoạt động được thì mạng phải được dạy học. Luật chia làm hai loại:. Học theo cấu trúc: Sử dụng các luật biến đổi để tăng hoặc giảm số lớp nơron, thêm hoặc bớt các phần tử nơron. Tức là xác định số lớp và số nơron trong mỗi lớp. Học theo tham số: Học để chỉnh các giá trị trọng số, đảm bảo cho đầu ra mong muốn trên cơ sở các đầu vào hoặc đầu ra. Tức là xác định tham số của hàm kích hoạt ặ) và các trọng số Wij.

Nếu coi cấu trúc mô hình mạng là phần xương thịt là thể xác của mạng nơron thì các luật học là phần trí tuệ thông minh của mạng nơron chính vì vậy các công trình nghiên cứu luật học đã chiếm số lượng lớn trong mấy chục thập kỷ qua. Ưu điểm lớn nhất của Luật học Perceptron là tính đơn giản của luật học, trong trường hợp dữ liệu học được chuẩn hoá về dạng nhị phân lưỡng cực thì luật học rất trong sáng xem công thức cập nhật trọng số (2.11) ở trên.

Tập mờ 1. Giới thiệu

• Các phép toán trên tập mờ

Có thể nói logic mờ (Fuzzy logic) là nền tảng để xây dựng các hệ mờ thực tiễn; ví dụ: trong công nghiệp sản xuất xi măng, sản xuất điện năng, các hệ chuyên gia trong y học giúp chuẩn đoán và điều trị bệnh, các hệ chuyên gia trong xử lý tiếng nói, nhận dạng hình ảnh,… Công cụ chủ chốt của logic mờ là tiền đề hóa và lập luận xấp xỉ với phép suy diễn mờ. Khỏi niệm về khỏ khụng rừ ràng vỡ cú thể sinh viên có điểm thi trung bình bằng 8.4 là khá, cũng có thể điểm thi trung bình bằng 6.6 cũng là khá (dải điểm khá có thể từ 6.5 đến 8.5),…Nói cách khác, “nhóm sinh viờn khỏ” khụng được định nghĩa một cỏch tỏch bạch rừ ràng như khỏi niệm. Để có thể tiến hành mô hình hóa các hệ thống có chứa tập mờ và biểu diễn các quy luật vận hành của hệ thống này trước tiên ta cần tới việc suy rộng các phép toán logic cơ bản với các mệnh đề có chân trị trên đoạn [0,1].

Mạng nơron mờ

Nếu thu hẹp hơn nữa họ các hệ suy diễn mờ và mạng nơron ta có kết quả sau: Các hệ suy diễn mờ sử dụng suy diễn tích, phép giải mờ trọng tâm, hàm thuộc dạng Gauss tương ứng với họ các mạng nơron RBF với một lớp ẩn và sử dụng hàm kích hoạt dạng Gauss. Ngoài ra chúng ta cũng không có khả năng rút ra được tri thức có dạng cấu trúc (các luật) từ mạng nơron đã huấn luyện cũng như không thể đưa thêm các thông tin đặc thù vào trong mạng nơron để đơn giản hoá quá trình học. Các hệ thống mờ tốt hơn theo nghĩa cách hoạt động của các hệ thống mờ có thể giải thích được dựa trên các luật mờ và như vậy tốc độ thực thi của chúng có thể điều chỉnh được bằng cách chỉ định các luật.

Mạng nơron nhân tạo mờ và bài toán dự báo 1. Thuật toán lan truyền ngược

• Một số cải tiến của thuật toán lan truyền ngược

Nhóm thứ nhất bao gồm sự phát triển các kỹ thuật heuristic như thay đổi hệ số huấn luyện, sử dụng động lượng,…Nhóm thứ hai tập trung vào xây dựng các kỹ thuật tối ưu số như phương pháp gradient liên hợp,…. Trong cách tính hàm neti(1) theo phương trình (2.45), các toán tử ∨và ∧ được thực hiện trên giá trị kích hoạt cũng như các trọng số của tất cả các tập con có một phần tử của tập J và của toàn bộ tập J, nghĩa là trên tất cả các sự kết hợp của các lớp một phần tử và trên chỉ một sự kết hợp của lớp |J| phần tử. Cho a0j'm,a0j''m là các giá trị lớn nhất, nhỏ nhất tương ứng của đầu vào của mẫu thứ m, giả thiết rằng định lý 1 đúng, thì thuật toán QuickFBP cũng như thuật toán FBP sẽ hội tụ về đích t nếu những điều kiện sau thỏa mãn: am0' ≥tvà am0''≤t.