Nghiên cứu ứng dụng công nghệ mạng nơron tế bào vào giải phương trình truyền nhiệt 2 chiều

i ĐẠI HỌC THÁI NGUYÊN TRƢỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN & TRUYỀN THÔNG LUẬN VĂN THẠC SĨ KHOA HỌC NGÀNH KHOA HỌC MÁY TÍNH NGHIÊN CỨU ỨNG DỤNG CƠNG NGHỆ MẠNG NƠRON TẾ BÀO VÀO GIẢI PHƢƠNG TRÌNH TRUYỀN NHIỆT CHIỀU Học viên: PHẠM THANH HẢI Giáo viên hƣớng dẫn: TS VŨ ĐỨC THÁI THÁI NGUYÊN - 2016 Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn ii LỜI CAM ĐOAN Tôi xin cam đoan kết nghiên cứu đƣợc trình bày luận văn hồn tồn trung thực, khơng vi phạm điều luật sở hữu trí tuệ pháp luật Việt Nam Nếu sai, tơi hồn tồn chịu trách nhiệm trƣớc pháp luật Thái nguyên, ngày 14 tháng năm 2016 Tác giả luận văn Phạm Thanh Hải Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn iii LỜI CẢM ƠN Tơi xin bày tỏ lòng cảm ơn chân thành tới thầy giáo, TS Vũ Đức Thái, ngƣời tận tình hƣớng dẫn tạo điều kiện cho tơi suốt q trình làm luận văn tốt nghiệp Tôi xin cảm ơn thầy, cô giáo giảng dạy suốt thời gian học tập trƣờng cán Phòng Đào tạo tạo điều kiện giúp đỡ tơi hồn thành luận văn Tôi xin chân thành cảm ơn quan tâm giúp đỡ gia đình, bạn bè tập thể lớp Cao học K13C cổ vũ động viên tơi hồn thành tốt luận văn Tuy có cố gắng định nhƣng thời gian trình độ có hạn nên luận văn nhiều thiếu sót hạn chế định Kính mong nhận đƣợc góp ý thầy bạn Thái nguyên, ngày 14 tháng năm 2016 Học viên Phạm Thanh Hải Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn iii MỤC LỤC LỜI CAM ĐOAN ii LỜI CẢM ƠN iii DANH MỤC CÁC CHỮ VIẾT TẮT iii DANH MỤC CÁC BẢNG vi DANH MỤC CÁC HÌNH vii MỤC LỤC iii MỞ ĐẦU CHƢƠNG VẤN ĐỀ GIẢI PHƢƠNG TRÌNH TRUYỀN NHIỆT BẰNG CƠNG NGHỆ MẠNG NƠ RON TẾ BÀO 1.1 Giới thiệu phƣơng trình đạo hàm riêng 1.1.1 Các khái niệm phƣơng trình đạo hàm riêng 1.1.2 Phân loại phƣơng trình đạo hàm riêng tuyến tính cấp hai với hai biến độc lập 1.1.3 Phƣơng pháp sai phân Taylor 1.1.4 Bài toán sai phân 1.2 Phƣơng trình truyền nhiệt chiều 1.3 Công nghệ mạng nơron tế bào 12 1.3.1 Các định nghĩa mạng nơ ron tế bào 12 1.3.2 Kiến trúc chuẩn công nghệ mạng nơ ron tế bào 13 1.3.3 Các dạng kiến trúc mạng CNN 14 1.3.4 Một số ứng dụng công nghệ CNN 20 CHƢƠNG GIẢI PHƢƠNG TRÌNH TRUYỀN NHIỆT HAI CHIỀU 24 2.1 Mối quan hệ mạng CNN phƣơng trình đạo hàm riêng [12] 24 2.2 Phƣơng pháp giải phƣơng trình đạo hàm riêng công nghệ mạng nơ ron tế bào 28 2.2.1 Mẫu thiết kế mẫu 28 Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn iv 2.2.2 Ứng dụng máy tính CNN-UM số toán đơn giản 29 2.2.3 Sự ổn định mạng CNN 39 2.3 Phƣơng trình truyền nhiệt hai chiều ràng buộc 50 2.3.1 Thành lập phƣơng trình truyền nhiệt 50 2.3.2 Điều kiện ban đầu điều kiện biên 53 2.4 Giải phƣơng trình truyền nhiệt chiều CNN 54 2.4.1 Phân tích sai phân Taylor phƣơng trình truyền nhiệt hai chiều 54 2.4.2 Thiết kế mẫu CNN cho phƣơng trình truyền nhiệt hai chiều 54 2.4.3 Kiến trúc điện tử cuả mạng nơ ron giải phƣơng trình truyền nhiệt hai chiều 55 2.5 Kết luận 57 CHƢƠNG CÀI ĐẶT MÔ PHỎNG GIẢI PHƢƠNG TRÌNH TRUYỀN NHIỆT HAI CHIỀU 58 3.1 Xây dựng toán 58 3.2 Các kết tính tốn 59 KẾT LUẬN 69 TÀI LIỆU THAM KHẢO 71 Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn v DANH MỤC CÁC CHỮ VIẾT TẮT Viết tắt Tiếng Anh Tiếng Việt CNN Cellular Neural Network Công nghệ mạng nơron tế bào PDE Partial Difference Equation Phƣơng trình đạo hàm riêng Ma trận cổng logic lập trình FPGA Field Programmable Logic Array VLSI Very Large Scale Intergrated VHDL Very High Description Language Ngôn ngữ đặc tả phần cứng dù Số hóa Trung tâm Học liệu – ĐHTN đƣợc Chip tích hợp mật độ cao http://www.lrc.tnu.edu.vn vi DANH MỤC CÁC BẢNG Bảng 3.1 Giá trị ban đầu nhiệt độ phẳng thực nghiệm 60 Bảng 3.2: Giá trị điểm biên đƣợc xác định 61 Bảng 3.3 Giá trị điểm biên đƣợc xác định 62 Bảng 3.4 Kết tính toán sau 10 giây 63 Hình 3.4 Giá trị nhiệt độ sau 10 giây 63 Bảng 3.5 Giá trị điểm biên đƣợc xác định 64 Hình 3.5 : Giá trị nhiệt độ sau giây 64 Bảng 3.6 Giá trị điểm biên đƣợc xác định 65 Bảng 3.7 Giá trị điểm biên đƣợc xác định 66 Bảng 3.8 Kết tính tốn sau 10 giây 67 Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn vii DANH MỤC CÁC HÌNH Hình 1.1: Kiến trúc CNN chuẩn 13 Hình 1.2: Kiến trúc làm việc mạng CNN 14 Hình 1.3 Một số kiến trúc CNN không chuẩn 14 Hình 1.4 Kiến trúc CNN hai chiều lớp 15 Hình 1.5: CNN không gian bất biến với láng giềng 18 Hình 1.6 Mơ tả cấu trúc tƣơng tác CNN tổng quát 19 Hình 1.7: CNN hồi tiếp 0: C(0,B,z) 19 Hình 1.8: Mạch điện CNN có hồi tiếp C(0,B,z) 19 Hình 1.9: CNN đầu vào 0, C(A,0,z) 20 Hình 1.10: Mạch điện CNN đầu vào 0:C(A,0,z) 20 Hình 2.1: Mạch CNN hai lớp Lớp u có ảnh hƣởng đến lớp v 25 Hình 2.2: Lƣới sai phân chiều 26 Hình 2.3: Mơ hình mạch cho toán giải hệ PDE 28 Hình 2.4: Kiến trúc tế bào mở rộng thêm vào khối (LLM, GW, GCL) 30 Hình 2.5: Tế bào mở rộng có thêm hai khối cell khác 31 Hình 2.6 Thủ tục SUBSET nhƣ hàm 32 Hình 2.7: Lƣu đồ xử lý tốn dò biên 33 Hình 2.8: Quá trình nạp TEM1 (a,b) 35 Hình 2.9: Nạp kết vào LLM3 36 Hình 2.10: Ảnh kết xử lý bỏ điểm ảnh cô lập 38 Hình 2.11: Giá trị ban đầu phƣơng trình 39 Hình 2.12: Ảnh kết nghiệm phƣơng trình 39 Hình 2.13 Đặc trƣng mạch phi tuyến tính mạch tƣơng đƣơng 45 Hình 14: Mạch tƣơng đƣơng vững ô nơron tế bào 46 Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn viii Hình 2.15: Các tuyến động điểm cân mạch tƣơng đƣơng với giá trị khác g(t) 50 Hình 2.16: Sao chép khn mẫu khối tƣơng tác toán tử 50 Hình 2.16: Sơ đồ khối CNN 2D cho giải phƣơng trình truyền nhiệt 56 Hình 2.17: Khối xử lý số học mạng CNN giải phƣơng trình truyền nhiệt 56 Hình 3.1 Tấm phẳng làm thực nghiệm 58 Hình 3.2: Giá trị nhiệt độ ban đầu 61 Hình 3.3: Giá trị nhiệt độ sau giây 62 Hình 3.4 Giá trị nhiệt độ sau 10 giây 63 Hình 3.5 : Giá trị nhiệt độ sau giây 64 Hình 3.6 : Giá trị nhiệt độ sau 10 giây 65 Hình 3.7: Giá trị nhiệt độ sau giây 66 Hình 3.8 : Giá trị nhiệt độ sau 10 giấy 67 Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn MỞ ĐẦU Trong nhiều toán khoa học đại lƣợng biến thiên phức tạp theo nhiều tham số không gian, thời gian điều kiện ngoại cảnh Để giải toán thƣờng đƣa đến việc giải phƣơng trình vi phân, chí phƣơng trình vi phân đạo hàm riêng Phƣơng trình vi phân có nhiều loại, có nhiều cách giải khác nhƣ: phƣơng pháp giải tích, phƣơng pháp sai phân với công thức sai phân tiến hành cài đặt máy vi tính Các máy tính thơng thƣờng giải đƣợc nhƣng với tốc độ hạn chế, số trƣờng hợp không đáp ứng đƣợc với ứng dụng thời gian thực Việc áp dụng công nghệ mạng nơron tế bào CNN vào giải phƣơng trình đạo hàm riêng với tốc độ cao cần thiết có nhiều triển vọng tƣơng lai đáp ứng cho toán thời gian thực Do đó, em chọn “Nghiên cứu ứng dụng công nghệ mạng nơ ron tế bào vào giải phương trình truyền nhiệt hai chiều” nhằm mục tiêu tìm hiểu cơng nghệ mạng nơ ron tế bào tìm hiểu phƣơng pháp, kỹ thuật thuật thực giải phƣơng trình truyền nhiệt hai chiều công nghệ Để thực mục tiêu này, đề tài tập trung nghiên cứu nội dung sau: Chương 1: Vấn đề giải phương trình truyền nhiệt cơng nghệ mạng nơ ron tế bào: Nghiên cứu công nghệ mạng nơron tế bào, phƣơng trình đạo hàm riêng, phƣơng trình truyền nhiệt hai chiều ứng dụng thực tiễn Chương 2: Giải phương trình truyền nhiệt hai chiều: Đề xuất phƣơng pháp giải xây dựng mơ hình tốn phƣơng trình truyền nhiệt hai chiều đƣợc giải cơng nghệ mạng nơ ron tế bào Chương 3: Mô thực nghiệm: Mơ tính tốn kết Matlab, đánh giá so sánh kết Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 67 Bảng 3.8 Kết tính tốn sau 10 giây Hình ảnh trực quan phẳng sau truyền nhiệt 10 giây nhƣ Hình 3.8 Hình 3.8 : Giá trị nhiệt độ sau 10 giấy Nhƣ vậy, mô ta thấy nhiệt độ lan truyền từ nơi cao đến nơi thấp theo quy luật tƣợng truyền nhiệt tự nhiên Kết thực nghiệm phản ánh giá trị nhiệt độ Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 68 Do điều kiện thực nghiệm mô nên giá trị đƣa vào giả định, nhiên ta thay giá trị giả định giá trị thực thí nghiệm (giá trị hệ số truyền nhiệt k; khoảng cách khơng gian, thời gian tính tốn) Nếu tăng số điểm tính tốn giảm biến thiên thời gian ∆t ta đƣợc giá trị phản ánh biến thiên gần nhƣ liên tục hàm nhiệt độ Nếu thực thi CNN thực q trình với ƣu tính tốn song song cơng nghệ Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 69 KẾT LUẬN Trong Luận văn em tiến hành nghiên cứu vấn đề sau: Nghiên cứu công nghệ mạng nơ ron tế bào tập trung vào ứng dụng để giải phƣơng trình đạo hàm riêng, phƣơng trình truyền nhiệt hai chiều ; Bổ sung kiến thức phƣơng trình đạo hàm riêng phƣơng pháp sai phân; Nghiên cứu mơ hình toán học tham số vật lý phƣơng trình truyền nhiệt, phƣơng trình truyền nhiệt hai chiều Tìm hiểu cơng cụ Matlab để cài đặt mơ tính tốn giải phƣơng trình truyền nhiệt Những thuận lợi khó khăn thực đề tài: Về thuận lợi, có nhiều tác giả nghiên cứu ứng dụng CNN vào giải phƣơng trình đạo hàm riêng Tài liệu giới thiệu phƣơng trình truyền nhiệt đƣợc xây dựng xác đầy đủ Cơng cụ cài đặt mơ Matlab có nhiều hỗ trợ tính tốn thể Tuy nhiên thực có nhiều khó khăn: Việc giải phƣơng trình cơng nghệ CNN chƣa đƣợc nghiên cứu Việt Nam; Kiến trúc mạng CNN phần cứng mà ta phải tự thiết kế chế tạo; thiết bị để chế tạo phần cứng chƣa có sẵn nên chƣa thực đƣợc mà mô tính tốn máy PC, chƣa có tính thuyết phục cao; giá trị đo đạc chƣa có nên sử dụng giá trị ổn định, đại lƣợng vật lý tƣơng đối trừu tƣợng nên khó kiểm định vây phải chạy nhiều lần khẳng định đƣợc độ tin cậy thuật toán Luận văn đạt đƣợc kết quả: - Nắm đƣợc nguyên tắc phân tích áp dụng thuật tốn vào tốn cụ thể - Phân tích đắn tốn để áp dụng cơng nghệ CNN vào giải tốn có sẵn - Cài đặt tính tốn cho kết phƣơng trình truyền nhiệt chiều Việc giải tốn bao gồm q trình nghiên cứu tỉ mỉ sai phân hệ phƣơng trình, thiết kế mẫu nhà nghiên cứu sử dụng để áp dụng vào Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 70 mơ hình tốn học cụ thể với ràng buộc cụ thể Xây dựng lƣợc đồ sai phân CNN tƣơng đƣơng với mơ hình sai phân ban đầu phân tích logic tốn học đồng hai mơ hình đảm bảo xác tính tốn, ổn định tính tốn Luận văn đƣợc phát triển theo hƣớng sau: Thơng qua kết giải phƣơng trình truyền nhiệt đề tài phát triển cứng hóa giải hệ công nghệ FPGA Dựa theo mẫu mô kiến trúc phần cứng CNN công nghệ FPGA giúp cho việc giải tốn phù hợp với tính toán lƣới sai phân lớn theo mẫu đo thực tế Điều chỉnh mẫu để có kết tối ƣu Thực thi chế tạo phần cứng để tính tốn, tối ƣu hóa thuật tốn Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 71 TÀI LIỆU THAM KHẢO Tiếng Việt Vũ Đức Thái, Lê Văn Thủy, “Thiết kế mẫu CNN cho tốn tìm biên ảnh”, Tạp chí Khoa học & Cơng nghệ ĐH Thái Nguyên, số 06, tập 106 -T6, 2013, Trang 139-145 Vũ Đức Thái, Bùi Văn Tùng, Phạm Thƣợng Cát “Cấu hình chip CNN giải phương trình thuỷ lực hai chiều công nghệ FPGA” Tuyển tập kỷ yếu Hội nghị toàn quốc Cơ điện tử lần thứ 6-VCM2012, Hà Nội, tháng 12/2012 Trang 657-662 Vũ Đức Thái, Bùi Văn Tùng, Phạm Thƣợng Cát “Cấu hình chip CNN giải tốn thủy lực chiều cơng nghệ FPGA” Kỷ yếu Hội nghị toàn quốc Điều khiển Tự động hóa-VCCA2011, Hà Nội, tháng 11/2011 Trang 97-101 Vũ Đức Thái, ”Vấn đề ổn định mạng CNN giải phương trình thuỷ lực hai chiều chip”, Tạp chí Tin học Điều khiển học, tập 26, số 3, năm 2010, Tr 278-288 Tạ Văn Đĩnh, (2002) ”Phƣơng pháp sai phân phƣơng pháp ph ần tử hữu hạn” NXB Khoa học Kỹ thuật Hà Nội Phan Thanh Tao (2009), “Giáo trình Matlab tồn tập”, NXB Trƣờng Đại học Bách Khoa Nguyễn Xuân Hãn (1998), Cơ học lƣợng tử, ĐHQG Hà Nội, Hà nội Nguyễn Đình Trí, Tạ Văn Đĩnh, Nguyễn Hồ Quỳnh, toán học cao cấp tập 2, tập 3, Nxb Giáo dục Phạm Thƣợng Cát, (2007), “Máy tính vạn mạng nơ ron tế bào CNN UM: Một hƣớng phát triển công nghệ thông tin”, Kỷ yếu Hội nghị Khoa học 30 năm thành lập Viện Công nghệ Thông Tin NXB Khoa học Tự nhiên Công nghệ, Tr 239-250 Tiếng Anh 10 Chua L O., Yang L (1988), "Cellular Neural Networks: Theory", IEEE Transaction on Circuits and System,35 (10), pp 1257-1272 Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 72 11 Chua L.O., L Yang, (1988), "Cellular Neural Networks: Application", IEEE Trans Circuits Syst (35), PP 1273-1290 12 Gilli M.,Roska T.,Chua L.O.,Civalleri P.P (2002), “On the relationship between CNNs and PDEs” Proceeding of 7th Internatonal Workshop on CNN and their Applications, (CNNA2002), PP 16-24 13 Ouarit H.,Lefèvre L.,Georges D and Begovich O (2003), “A way to deal with nonlinear boundary condition in open-channel optimal control problems” Proceeding of the 42nd IEEE Conference on Decision and Control Maui, Hawaii USA, PP 336-341 14 Sonkoly P.,Kozma P.,Nagy Z.,Szolgay P (2006), “Acoustic wave propagation modeling on 3D CNN-UM architecture”, Proceeding of the 10th International Workshop on Cellular Neural Networks and Their Applications, (CNNA2006), PP 1-6 15 Zhi X.,Lu X (2002) “Universal Parallel Numerical Computing for 3D Convection-Diffusion Equation with Variable Coefficients”, Proceedings of the 5th International Conference on Algorithms and Architectures for Parallel Processing, PP 54 -59 Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn ... chiều công nghệ Để thực mục tiêu này, đề tài tập trung nghiên cứu nội dung sau: Chương 1: Vấn đề giải phương trình truyền nhiệt cơng nghệ mạng nơ ron tế bào: Nghiên cứu công nghệ mạng nơron tế. .. 1.3.4 Một số ứng dụng công nghệ CNN 20 CHƢƠNG GIẢI PHƢƠNG TRÌNH TRUYỀN NHIỆT HAI CHIỀU 24 2. 1 Mối quan hệ mạng CNN phƣơng trình đạo hàm riêng [ 12] 24 2. 2 Phƣơng pháp giải phƣơng trình đạo... nghệ mạng nơ ron tế bào vào giải phương trình truyền nhiệt hai chiều nhằm mục tiêu tìm hiểu cơng nghệ mạng nơ ron tế bào tìm hiểu phƣơng pháp, kỹ thuật thuật thực giải phƣơng trình truyền nhiệt