Một giải thuật học của các mạng noron mờ với các trọng số mờ tam giác

http://kilobooks.com THƯ VIỆN ĐIỆN TỬ TRỰC TUYẾN OBO OK S CO M TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI Khoa Cơng nghệ thơng tin - BÁO CÁO NGHIÊN CỨU KHOA HỌC Đề tài Một giải thuật học mạng noron mờ với trọng số mờ tam giác KIL Giáo viên hướng dẫn: TS Nguyễn Tân Ân Sinh viên thực :Phùng Thị Nguyệt Lớp : B_K54 Hà Nội, 04-2008 http://kilobooks.com THƯ VIỆN ĐIỆN TỬ TRỰC TUYẾN Mục lục KIL OBO OKS CO M Phần I: Giới thiệu I Lý chọn đề tài II Mục đích nghiên cứu III Nội dung nghiên cứu IV Bố cục báo cáo Phần II Nội dung Chương I:Tập mờ số phép tốn số mờ I.1 Tập mờ I.1.1 Nhắc lại tập kinh điển I.1.2 Định nghĩa tập Mờ I.1.3 Các phép tốn tập mờ I.1.3.1 Phép hợp hai tập mờ I.1.3.2 Phép giao tập mờ I.1.3.3 Phép bù tập mờ I.2 Các phép tốn số mờ Chương II Mạng noron 11 II.1.Mơ hình noron 11 II.2 Lớp noron 12 II.3 Khái niệm phân loại mạng noron 13 II.4.Thủ tục học mạng 16 Học tham số 16 Học cấu trúc 18 II.5 Giải thuật học lan truyền ngược 18 II.5.1 Kiến trúc mạng 18 II.5.2 Huấn luyện mạng 20 II.5.3 Sử dụng mạng 21 Chương III: Một giải thuật học mạng noron mờ 22 với trọng số mờ tam giác 22 III.1 Kiến trúc mạng noron mờ 22 III.2 Giải thuật 23 Kết luận: 24 http://kilobooks.com THƯ VIỆN ĐIỆN TỬ TRỰC TUYẾN I KIL OBO OKS CO M Phần I: Giới thiệu Lý chọn đề tài Bộ não người máy tính kì diệu, từ lâu người nghĩ tới viêc xây dựng mơ hình tính tốn, mơ q trình hoạt động não người Trước đây, cơng cụ tính tốn chưa phát triển mạnh nên ý tưởng nằm phòng thí nghiệm người nghiên cứu biết Khi máy tính điện tử, cơng cụ chủ yếu cơng nghệ thơng tin đại, phát triển tới mức độ cao ý tưởng thực hố Chất lượng khối lượng hoạt động trí óc khơng ngừng tăng lên theo tiến triển nhanh chóng khả lưu trữ xử lý thơng tin máy Từ hàng chục năm nay, với khả tính tốn khoa học kỹ thuật khơng ngừng nâng cao, hệ thống máy tính ứng dụng thực nhiều mơ hình tính tốn thơng minh để phục vụ cho ngành kinh tế, xã hội, hình thành dần kết cấu hạ tầng thơng tin quốc gia, móng phát triển kinh tế thơng tin nhiều nước Sự phong phú thơng tin, liệu với khả kịp thời khai thác chúng mang đến suất chất lượng cho cơng tác quản lý, hoạt động kinh doanh, phát triển sản xuất dịch vụ Một mơ hình tính tốn thơng minh đó, ta phải kể đến mạng Noron nhân tạo Điểm định nên tồn phát triển người não Cùng với phát triển vũ bão cơng nghệ thơng tin thời đại ngày nay, người sử dụng não để tư duy, để tạo mạng noron nhân tạo thực tính tốn làm điều huyền bí, tưởng chừng nan giải! Với kết hợp kỳ diệu tin học sinh học, người mơ hoạt động mạng noron não thơng qua chương trình máy tính Có lẽ mạng noron khơng hấp dẫn người u thích cơng nghệ thơng tin khả người huấn luyện, mà ứng dụng thực tiễn sống Chúng ta hồn tồn nhận dạng dấu vết vân tay tội phạm hình sự, dự đốn thị trường chứng khốn, dự đốn thời tiết, dự tốn chi phí cho dự án đường cao tốc, khơi phục http://kilobooks.com THƯ VIỆN ĐIỆN TỬ TRỰC TUYẾN ảnh, hay xe lăn dành cho người khuyết tật nhận mệnh lệnh điều khiển cử chỉ, hành động, chí suy nghĩ người ngồi xe v.v… nhờ có mạng noron nhân tạo KIL OBO OKS CO M Khi nghiên cứu mạng noron nhân tạo, dễ thấy việc huấn luyện mạng ln vấn đề khó nhiều người quan tâm Ngày nay,các mạng noron phát triển thành mạng noron mờ để xử lý thơng tin mờ, phát triển vấn đề huấn luyện mạng ngày trở nên phức tạp.Trong khn khổ báo cáo khoa học, em chọn đề tài “Một giải thuật học mạng noron mờ trọng số mờ tam giác” nhằm tìm hiểu chung mạng thuật tốn huấn luyện mạng noron mờ II Mục đích nghiên cứu - Tìm hiểu mạng noron ứng dụng - Nghiên cứu bước xây dựng ứng dụng nhờ mạng noron III Nội dung nghiên cứu Lý thuyết tập mờ Mạng noron Một giải thuật học mạng noron mờ với trọng số mờ IV Bố cục báo cáo 1.Chương 1: Lý thuyết tập mờ số phép tốn số mờ Chương 2: Mạng noron 3.Chương 3: Giới thiệu thuật tốn mạng noron mờ với số mờ tam giác Phần II Nội dung http://kilobooks.com THƯ VIỆN ĐIỆN TỬ TRỰC TUYẾN Chương I:Tập mờ số phép tốn số mờ KIL OBO OKS CO M I.1 Tập mờ I.1.1 Nhắc lại tập kinh điển Định nghĩa 1: Cho tập hợp A Ánh xạ µ A : A → {0 , 1} định nghĩa tập A sau: x∈ A µ A (x) = (1.1) x ∉ A gọi hàm thuộc tập hợp A Tập A tập kinh điển Như µ A (x) nhận hai giá trị hoặc Giá trị hàm thuộc µ A (x) ứng với trường hợp x thuộc A , ngược lại giá trị ứng với trường hợp x khơng thuộc A Một tập X ln có µ X (x) = 1, với x gọi tập vũ trụ Một tập A có dạng A = { x ∈ X | x thỏa mãn số tính chất đó} nói có tập vũ trụ X, hay định nghĩa tập vũ trụ X Ví dụ tập A = { x ∈ R | 2< x [...]... vào Với hai lớp ẩn, mạng có thể tính tốn xấp xỉ một hàm bất kỳ Tuy vậy, số noron trong các lớp ẩn có thể tăng theo hàm mũ đối với số đầu vào và cho đến nay vẫn chưa có những cơ sở lý luận đầy đủ để khảo sát họ các hàm có thể xấp xỉ nhờ các mạng nhiều lớp Chương III: Một giải thuật học của các mạng noron mờ với những trọng số mờ tam giác III.1 Kiến trúc của mạng noron mờ Giả sử chúng ta có 3 lớp mạng noron. .. feedforrward + Mạng nối ngược (feedback): là mạng có các tín hiệu ra được gửi trở lại như là các tín hiệu vào của cùng một lớp hay lớp trước đó Mạng noron có các vòng lặp khép kín gọi là mạng hồi quy Hình 1.9- Mạng hồi quy Vậy các thơng số cấu trúc của mạng noron nhân tạo gồm có là: + Số tín hiệu vào và tín hiệu ra + Số lớp noron + Số noron trên mỗi lớp + Số trọng số của mỗi noron + Cách các trọng số được... wi=(wi1,wi2,…,wim)T, i=1,2,…,n là vecto trọng số của noron thứ i và wij là trọng số kết nối từ noron thứ j đến noron thứ i Các thủ tục học tham số nhằm tìm kiếm ma trận trọng số W sao cho mạng có khả năng đưa ra các dự báo sát với thực tế Các thủ tục học tham số có thể chia thành 3 lớp nhỏ hơn là: học có chỉ đạo (học có thầy), học tăng cường, học khơng có chỉ đạo (học khơng có thầy) Học có chỉ đạo (học có thầy): Mỗi lần... A,B,Net là những số mờ, µ* (.) biểu thị hàm thuộc của mỗi số mờ, ∧ là tốn tử nhỏ nhất và f ( x) = 1 là hàm kích hoạt của những noron ẩn 1 + e −x và những noron ra của mạng noron mờ Các phép tốn đó được minh hoạ trong hình 1 và hình 2 Hình 1.2 :các phép tốn của số mờ Hình 1.3: hàm kích hoạt mờ Những phép tốn trước của những số mờ được thực hiện trên các tập mức (như cắt- α ) Tập mức h của một số mờ X được xác... dụng mạng có 1 lớp ẩn, số noron trong lớp ẩn được xác định dựa trên kinh nghiệm, hoặc dựa trên các kỹ thuật tìm kiếm khác nhau Cấu trúc của mạng là đặc điểm chính tác động đến tính mềm dẻo của mơ hình mà mạng sản sinh ra, đó là số lớp, số noron và cách mà chúng được nối với nhau Các đặc điểm chính của mạng với chiến lược học lan truyền ngược sai số thường là: - Các lớp của mạng noron lan truyền ngược của. .. tập mẫu {(Xp,Tp)} Giải thuật học của mạng noron mờ có thể được tóm tắt như sau: Khi đưa một mẫu Xp=(x1,x2,…,xm) vào mạng ta thực hiện các bước sau: Bước 0: khởi tạo các trọng số mờ và các bias mờ Bước 1: lặp lại bước 2 với h=h1,h2,…,hn Bước 2: lặp lại các thủ tục với p=1,2,…,m (1) Tính tốn tuyến tính: tính tốn tập mức h của vector mờ ra Op ứng với vector mờ vàoXp Tức là cho vector mờ vào Xp tính vector... là một đầu vào mờ, Wij và Wkj là những trọng số mờ, KIL OBO OKS CO M Θ j và Θ k là những bias mờ (hình 1.14) Hình1.14: Kiến trúc một mạng noron mờ III.2 Giải thuật Giả sử rằng có m cặp vector mờ vào-ra (Xp,Tp), p=1,2,…,m được đưa ra trong q trình huấn luyện dữ liệu Chúng ta cũng giả sử rằng có n giá trị của h (như h1,h2,…,hn) được sử dụng cho sự học của mạng noron mờ Sự học ở đây là học có giám sát với. .. nhớ tới cơng việc của các nhà thống kê, nhất là các nhà thống kê dùng máy tính hiện đại Tín hiệu ra Out Mạng noron Hình 1.12- Sơ đồ học khơng chỉ đạo Học cấu trúc Viêc học cấu trúc là việc tìm kiếm các tham số của cấu trúc mạng để tìm ra một cấu trúc mạng hoạt động tốt nhất Trong thực tế, việc học cấu trúc là việc tìm ra số lớp ẩn và số noron trên mỗi lớp đó Các kĩ thuật như giải thuật di truyền hay... thành các vecto Net và Out Các vecto Out KIL OBO OKS CO M này có thể dùng như tín hiệu vào X của các noron kế tiếp Hình vẽ sau là một ví dụ về 1 lớp có 4 noron và vecto tín hiệu vào có 3 biến Hình 1.5- Lớp noron II.3 Khái niệm và phân loại mạng noron Một mạng noron bao gồm một vài lớp liên kết với nhau Nếu lấy số lớp là tiêu chuẩn để phân loại mạng thì ta có: mạng một lớp và mạng nhiều lớp + Mạng 1... giữa các lớp + Những noron nào nhận tín hiệu hiệu chỉnh 15 http://kilobooks.com THƯ VIỆN ĐIỆN TỬ TRỰC TUYẾN + Số lượng liên kết của mỗi noron (liên kết đầy đủ, liên kết bộ phận và liên kết ngẫu nhiên) KIL OBO OKS CO M II.4.Thủ tục học của mạng Ngun tắc học của mạng noron được chia làm 2 loại: học tham số và học cấu trúc Trong đo, học tham số quam tâm đến chiến lược hiệu chỉnh trong số của các noron ... B ( x) = µ A ( x) − µ A ( x) µ B ( x) - Phép giao: µ A∩ B (x) = µ A ( x) µ B ( x) - Phép hợp: µ A∪ B (x) = max{ µ A (x) , µ B (x) } - Phép bù: µ A (x) = - µ A (x) C I.1.2 Định nghĩa tập Mờ Xét... Xp=(xp1, …., xpni) vào mạng, ta thực cơng việc sau: - Lan truyền mẫu Xp qua mạng để có Op = Tinh(Xp, W) - Tính sai số e mạng dựa sai lệch Op-Tp - Hiệu chỉnh trọng số liên kết noron dẫn tới lớp từ... nhằm tìm hiểu chung mạng thuật tốn huấn luyện mạng noron mờ II Mục đích nghiên cứu - Tìm hiểu mạng noron ứng dụng - Nghiên cứu bước xây dựng ứng dụng nhờ mạng noron III Nội dung nghiên cứu Lý thuyết