MẠNG NO RON VÀ ỨNG DỤNG TRONG XỬ LÝ TÍN HIỆU

33 12 0
MẠNG NO RON VÀ ỨNG DỤNG TRONG XỬ LÝ TÍN HIỆU

Đang tải... (xem toàn văn)

Tài liệu hạn chế xem trước, để xem đầy đủ mời bạn chọn Tải xuống

Thông tin tài liệu

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC GIAO THÔNG VẬN TẢI KHOA ĐIỆN – ĐIỆN TỬ TIỂU LUẬN MẠNG NO RON VÀ ỨNG DỤNG TRONG XỬ LÝ TÍN HIỆU Giảng viên hướng dẫn : TH.S VÕ THIỆN LĨNH Nhóm Sinh viên thực hiện: ĐINH THỊ TỐ LOAN MSSV: 5951020045 Lớp : Kỹ thuật điện tử tin học công nghiệp K59 Khoá : 59 TPHCM, tháng 12 năm 2021 GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC GIAO THÔNG VẬN TẢI KHOA ĐIỆN – ĐIỆN TỬ TIỂU LUẬN MẠNG NO RON VÀ ỨNG DỤNG TRONG XỬ LÝ TÍN HIỆU Giảng viên hướng dẫn : TH.S VÕ THIỆN LĨNH Nhóm Sinh viên thực hiện: ĐINH THỊ TỐ LOAN MSSV: 5951020045 Lớp : Kỹ thuật điện tử tin học công nghiệp K59 Khoá : 59 TPHCM, tháng 12 năm 2021 GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan MỞ ĐẦU *Lý chọn đề tài Mạng Nơron nhân tạo (Artificial Neural Network- ANN) mơ hình xử lý thông tin mô dựa hoạt động hệ thống thần kinh sinh vật, bao gồm số lượng lớn Nơron gắn kết để xử lý thông tin Với phát triển ngày lớn mạnh khoa học công nghệ , mạng noron coi thành phần quan trọng thiếu sống Mạng no ron ứng dụng vào nhiều lĩnh vực khác như: Nhận dạng chữ viết tay, dự đoán giao dịch chứng khoáng, nhận dạng phát vật thể, Nhà đầu tư thường bỏ lượng tiền lớn cực lớn để kinh doanh chứng khốn, đó, giá cổ phiếu vấn đề quan tâm hàng đầu Nếu dự đoán giá diễn biến xác, mang lại thành cơng lớn; ngược lại, thua thiệt, chí có dẫn đến phá sản Sau học xong môn học “Mạng no ron ứng dụng xử lí tín hiệu” em muốn ứng dụng kiến thức học để dự đoán giá cổ phiếu tương lai dựa vào giá cổ phiếu thu thập khứ mà mạng học *Mục đích thiết kế Sử dụng mạng LSTM (Long Short Term Memory) để dự đoán cổ phiếu *Phạm vi đề tài -Tìm hiểu khái niệm mạng neu ron -Tìm hiểu thuật tốn perceptron giải tập huấn luyện mẫu perceptron -Tìm hiểu mạng perceptron nhiều lớp giải tập -Dự đoán cổ phiếu sử dụng mạng LSTM GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan MỤC LỤC ( Bold, size 14) Mở đầu: (size 13) Trang Chương 1.1 1.1.1 1.1.2 1.1.3 1.2 1.2.1 1.2.2… 1.3 22 Chương 2.1… 2.1.1… 2.1.2… 2.2 … … Chương 3.1… 3.1.1… 3.1.2… 3.2 ……………… KẾT LUẬN PHỤ LỤC DANH MỤC TÀI LIỆU THAM KHẢO - 50 120 121 130 Ghi chú: In đậm in hoa tiêu đề chương, mục lớn Chữ số thứ thứ tự chương Chử số thứ thứ tự mục chương Chữ số thứ 3,…,chỉ thứ tự tiểu mục GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan DANH MỤC CÁC BẢNG BIỂU (In đậm, in hoa, size14) BÁNG 1.1 (size 13) số trang BẢNG 1.2 …… …… …… - Ghi chú: Xếp sau trang Mục lục Chữ số thứ tên chương Chữ số thứ hai thứ tự bảng biểu, sơ đồ, hình,…trong chương GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan (Mẫu khuyến khích thực hiện) DANH MỤC CÁC HÌNH VẼ (In đậm, in hoa, size14) HÌNH 1.1 (size 13) số trang HÌNH 1.2 (size 13) số trang ……………………………………………………………………………………… - Ghi chú: Xếp sau trang danh mục bảng Chữ số thứ tên chương Chữ số thứ hai thứ tự bảng biểu, sơ đồ, hình,…trong chương GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan KÍ HIỆU CÁC CỤM TỪ VIẾT TẮT (size 14) (Được xếp sau trang Danh mục Các hình vẽ) STT Từ viết tắt Từ tiếng Anh Nghĩa tiếng Việt ATCS Advanced Train Control System Hệ thống điều khiển chạy tàu tiên tiến ATC Automatic Train Control Tự động điều khiển đoàn tàu ATO Automatic Train Operation Tự động lái tàu ATP Automatic Train Protection Tự động phịng vệ đồn tàu ATS Automatic Train Supervision Tự động giám sát đoàn tàu … … … Ghi chú: Cụm từ viết viết tắt chữ ký hiệu thay chữ viết liền nhau, để thay cho cụm từ có nghĩa thường lặp nhiều lần văn người chấp nhận GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan CHƯƠNG 1: CẤU TẠO CƠ BẢN CỦA MỘT TẾ BÀO NO RON NHÂN TẠO 1.1 CẤU TẠO CƠ BẢN CỦA MỘT TẾ BÀO NO RON NHÂN TẠO 1.1.1 Cấu tạo tế bào no ron sinh học Theo nhà nghiên cứu sinh học, hệ thống thần kinh người bao gồm khoảng 1011 tế bào thần kinh, thường gọi nơron Mỗi tế bào nơron gồm ba phần:  Thân nơron với nhân bên (gọi soma), nơi tiếp nhận hay phát xung động thần kinh  Một hệ thống dạng dây thần kinh vào (gọi dendrite) để đưa tín hiệu tới nhân nơron Các dây thần kinh vào tạo thành lưới dày đặc xung quanh thân nơron, chiếm diện tích khoảng 0,25 mm2  Đầu dây thần kinh (gọi sợi trục axon) phân nhánh dạng hình cây, dài từ cm đến hàng mét Chúng nối với dây thần kinh vào trực tiếp với nhân tế bào nơron khác thông qua khớp nối (gọi synapse) Có hai loại khớp nối, khớp nối kích thích (excitatory) cho tín hiệu qua để tới nơron cịn khớp nối ức chế (inhibitory) có tác dụng làm cản tín hiệu tới nơron Người ta ước tính nơron não người có khoảng 104 khớp nối Chức tế bào nơron liên kết với để tạo nên hệ thống thần kinh điều khiển hoạt động thể sống Các tế bào nơron truyền tín hiệu cho thông qua dây thần kinh vào ra, tín hiệu có dạng xung điện tạo từ trình phản ứng hoá học phức tạp Tại nhân tế bào, điện tín hiệu vào đạt tới ngưỡng tạo xung điện dẫn tới trục dây thần kinh Xung truyền theo trục tới nhánh rẽ tiếp tục truyền tới nơron khác GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan Hình 1.1 Cấu tạo tế bào nơron sinh học 1.1.2 Cấu tạo tế bào no ron nhân tạo Mạng nơron nhân tạo, Artificial Neural Network (ANN) gọi tắt mạng nơron, neural network, mơ hình xử lý thơng tin theo cách thức xử lý thông tin hệ nơron sinh học Nó tạo nên từ số lượng lớn phần tử (gọi phần tử xử lý hay nơron) kết nối với thông qua liên kết (gọi trọng số liên kết) làm việc thể thống để giải vấn đề cụ thể Một nơron đơn vị xử lý thông tin thành phần mạng nơron Cấu trúc nơron mơ tả hình Hình 1.2 Nơron nhân tạo Các thành phần nơron nhân tạo bao gồm:  Tập đầu vào: Là tín hiệu vào (input signals) nơron, tín hiệu thường đưa vào dạng vec-tơ m chiều GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan  Tập liên kết: Mỗi liên kết thể trọng số (gọi trọng số liên kết – Synaptic weight) Trọng số liên kết tín hiệu vào thứ j với nơron k thường kí hiệu wjk Thơng thường, trọng số khởi tạo cách ngẫu nhiên thời điểm khởi tạo mạng cập nhật liên tục trình học mạng  Bộ tổng (Summing function): Thường dùng để tính tổng tích đầu vào với trọng số liên kết  Ngưỡng (cịn gọi độ lệch - bias): Ngưỡng thường đưa vào thành phần hàm truyền  Hàm truyền (Transfer function) cịn gọi Hàm kích hoạt (Activation function): Hàm dùng để giới hạn phạm vi đầu nơron Nó nhận đầu vào kết hàm tổng ngưỡng cho Thông thường, phạm vi đầu nơron giới hạn đoạn [0,1] [-1, 1] Các hàm truyền đa dạng liệt kê bảng 1.1, hàm tuyến tính phi tuyến Việc lựa chọn hàm truyền tuỳ thuộc vào toán kinh nghiệm người thiết kế mạng Bảng 1.1 Các hàm kích hoạt thường sử dụng STT Tên hàm Identity Binary step Logistic TanH GVHD: Th.S Võ Thiện Lĩnh Dạng đồ thị Phương trình SVTH: Đinh Thị Tố Loan [ 0.4] [ 2] [−1 , 6] e = d-y = 0.6 - = −1, Ngược δ 21 −1 , −1, δ (1) = = φ '.e = −1 , = −1 , δ2 [] [ ][ ] ∆ w211(1) = 𝜂δ 21(1) z = 0,3.(-1,6).1 = -0,48 ∆ w212(1) = 𝜂δ 21(1) z = 0,3.(-1,6).1 = -0,48 ∆ w221(1) = 𝜂δ 22(1) z = 0,3.(-1,4).1 = -0,42 ∆ w222(1) = 𝜂δ 22(1) z = 0,3.(-1,4).1 = -0,42 w 211(1) = w 211(0) + ∆ w211(1) = 1-0,48 = 0,52 w 212(1) = w 212(0) + ∆ w212(1) = 1-0,48 = 0,52 w 221(1) = w 221(0) + ∆ w221(1) = 1-0,42 = 0,58 w 222(1) = w 222(0) + ∆ w222(1) = 1-0,42 = 0,58 δ 11 δ 21 w 211 +δ 22 w221 (−1,6 ) 0,52+ (−1,4 ) 0,58 −1,644 = = −1,644 δ (1) = = 2 2 (−1,6 ) 0,52+ (−1,4 ) 0,58 δ2 δ w 12+δ w22 [][ ][ ] [ ] ∆ w111(1) = 𝜂δ 11(1) x = 0,3.(-1,644).1 = -0,493 ∆ w112(1) = 𝜂δ 11(1) x = 0,3.(-1,644).0 = ∆ w121(1) = 𝜂δ 12(1) x = 0,3.(-1,644).1 = -0,493 ∆ w122(1) = 𝜂δ 12(1) x = 0,3.(-1,644).0 = w 111(1) = w 111(0) + ∆ w111(1) = 1-0,493 = 0,507 w 112(1) = w 112(0) + ∆ w112(1) = 1+0 = GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan w 121(1) = w 121(0) + ∆ w121(1) = 1-0,493 = 0,507 w 122(1) = w 122(0) + ∆ w122(1) = 1+0 = Thuận Z(2) = z1 x w (1)+ x2 w 112(1) 1.0,507+0.1 0,507 = 11 = 1.0,507+0.1 = 0,507 z2 x1 w 121(1)+ x w 122(1) [] [ ] [ ] [ ] y1 z 1(2)w11 (1)+ z (2)w212 (1) 0,507.0,52+0,507.0,52 Y(2) = = = 0,507.0,58+0,507.0,58 2 y2 z1 (2)w21 (1)+ z (2)w22 (1) [][ ] [ ] [ 0,527 ] = 0,588 0.4 0,527 −0,127 e = d-y = 0.6 - 0,588 = 0,012 [ ][ ][ ] Ngược δ 21 −0,127 −0,127 δ (2) = = φ '.e = 0,012 = 0,012 δ2 [] [ ][ ] ∆ w211(2) = 𝜂δ 21(2) z (2) = 0,3.(-0,127).0,507 = -0,019 ∆ w212(2) = 𝜂δ 21(2) z (2) = 0,3.(-0,127).0,507 = -0,019 ∆ w221(2) = 𝜂δ 22(2) z (2) = 0,3.0,012.0,507 = 0,002 ∆ w222(2) = 𝜂δ 22(2) z (2) = 0,3.0,012.0,507 = 0,002 w 211(2) = w 211(1) + ∆ w211(2) = 0,52-0,019 = 0,501 w 212(2) = w 212(1) + ∆ w212(2) = 0,52-0,019 = 0,501 w 221(2) = w 221(1) + ∆ w221(2) = 0,58+0,002 = 0,582 w 222(2) = w 222(1) + ∆ w222(2) = 0,58+0,002 = 0,582 GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan δ 11 δ 21( 2)w11 (2)+ δ 22 (2)w221 (2) (−0,127 ) 0,501+ 0,012.0,58 = δ (2) = = 2 2 (−0,127 ) 0,501+ 0,012.0,582 δ2 δ (2)w12 (2)+ δ (2)w22 (2) [][ ][ ] [−0,057] = −0,057 ∆ w111(2) = 𝜂δ 11(2) x = 0,3.(-0,057).1 = -0,017 ∆ w112(2) = 𝜂δ 11(2) x = 0,3.(-0,057).0 = ∆ w121(2) = 𝜂δ 12(2) x = 0,3.(-0,057).1 = -0,017 ∆ w122(2) = 𝜂δ 12(2) x = 0,3.(-0,057).0 = w 111(2) = w 111(1) + ∆ w111(2) = 0,507-0,017 = 0,49 w 112(2) = w 112(1) + ∆ w112(2) = 1+0 = w 121(2) = w 121(1) + ∆ w121(2) = 0,507-0,017= 0,49 w 122(2) = w 122(1) + ∆ w122(2) = 1+0 = Thuận z1 x w 111 (2)+ x2 w 112(2) 1.0,49+ 0.1 0,49 Z(3) = = = 1.0,49+ 0.1 = 0,49 1 z2 x1 w 21(2)+ x w 22( 2) [] [ ] [ ] [ ] y1 z 1(3)w 211 (2)+ z2 (3)w212 (2) 0,49.0,501+0,49.0,501 Y(3) = = = 0,49 0,582+0,49 0,58 2 y2 z1 (3)w21 (2)+ z 2(3)w 22(2) [][ ] [ ] [ 0,491] = 0,57 0.4 0,491 −0,091 e = d-y = 0.6 - 0,57 = 0,03 [ ][ ][ ] Ngược δ (3) = δ 21 −0,091 −0,091 = φ '.e = 0,03 = 0,03 δ 22 [] [ GVHD: Th.S Võ Thiện Lĩnh ][ ] SVTH: Đinh Thị Tố Loan ∆ w211(3) = 𝜂δ 21(3) z (3) = 0,3.(-0,091).0,49 = -0,013 ∆ w212(3) = 𝜂δ 21(3) z (3) = 0,3.(-0,091).0,49 = -0,013 ∆ w221(3) = 𝜂δ 22(3) z (3) = 0,3.0,03.0,49 = 0,004 ∆ w222(3) = 𝜂δ 22(3) z (3) = 0,3.0,03.0,49 = 0,004 w 211(3) = w 211(2) + ∆ w211(3) = 0,501-0,013 = 0,488 w 212(3) = w 212(2) + ∆ w212(3) = 0,501-0,013 = 0,488 w 221(3) = w 221(2) + ∆ w221(3) = 0,582+0,004 = 0,586 w 222(3) = w 222(2) + ∆ w222(3) = 0,582+0,004 = 0,586 δ 11 δ 21 (3)w 211 (3)+ δ 22 (3)w221 (3) (−0,091 ) 0,488+ 0,03.0,58 = δ (3) = = 2 2 (−0,091 ) 0,488+0,03.0,586 δ2 δ 1( 2)w 12(2)+δ 2( 2)w22 (2) [][ ][ ] [ −0,027 ] = −0,02 ∆ w111(3) = 𝜂δ 11(3) x = 0,3.(-0,027).1 = -0,008 ∆ w112(3) = 𝜂δ 11(3) x = 0,3.(-0,027).0 = ∆ w121(3) = 𝜂δ 12(3) x = 0,3.(-0,027).1 = -0,008 ∆ w122(3) = 𝜂δ 12(3) x = 0,3.(-0,027).0 = w 111(3) = w 111(2) + ∆ w111(3) = 0,49-0,008 = 0,482 w 112(3) = w 112(2) + ∆ w112(3) = 1+0 = w 121(3) = w 121(2) + ∆ w121(3) = 0,49-0,008 = 0,482 w 122(3) = w 122(2) + ∆ w122(3) = 1+0 = GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan CHƯƠNG 4: SỬ DỤNG MẠNG LSTM ĐỂ DỰ ĐOÁN CỔ PHIẾU 4.1 CƠ SỞ LÝ THUYẾT Deep learning có mơ hình lớn Convolutional Neural Network (CNN) cho tốn có input ảnh Recurrent neural network (RNN) cho toán liệu dạng chuỗi (sequence) 4.1.1 Mạng hồi quy RNN gì? Để hiểu rõ RNN, trước tiên nhìn lại mơ hình Neural Network đây: GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan Neural Network bao gồm phần Input layer, Hidden layer Output layer Đầu vào đầu mạng neuron độc lập với Mơ hình khơng phù hợp với tốn dạng chuỗi mơ tả, hồn thành câu, dự đốn từ phụ thuộc vào vị trí câu từ đằng trước Như RNN đời với ý tưởng sử dụng nhớ để lưu lại thông tin từ từ bước tính tốn xử lý trước để dựa vào đưa dự đốn xác cho bước dự đốn Hình: Mơ hình mạng RNN Nếu mạng Neural Network input layer xx đi qua hidden layer h cho output layer y với full connected giữa layer RNN, input  x t  sẽ kết hợp với hidden layer ht −1 bằng hàm  f w để tính tốn hidden layer ht  hiện output  y t  sẽ tính từ ht 4.1.2 LSTM gì? Mạng nhớ dài-ngắn (Long Short Term Memory networks), thường gọi LSTM - dạng đặc biệt RNN Nó có khả học phụ thuộc xa LSTM nhớ thơng tin suốt thời gian dài, đặc tính mặc định chúng, ta khơng cần phải huấn luyện để nhớ được.  Mọi mạng hồi quy có dạng chuỗi mô-đun lặp lặp lại mạng nơ-ron Với mạng RNN chuẩn, mơ-dun có cấu trúc đơn giản, thường tầng tanh GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan LSTM có kiến trúc dạng chuỗi vậy, mơ-đun có cấu trúc khác với mạng RNN chuẩn Thay có tầng mạng nơ-ron, chúng có tới tầng tương tác với cách đặc biệt GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan * Ý tưởng cốt lõi LSTM Chìa khóa LSTM trạng thái tế bào (cell state) - đường chạy thơng ngang phía sơ đồ hình vẽ Trạng thái tế bào dạng giống băng truyền Nó chạy xuyên suốt tất mắt xích (các nút mạng) tương tác tuyến tính đơi chút Vì mà thơng tin dễ dàng truyền thơng suốt mà khơng sợ bị thay đổi LSTM có khả bỏ thêm vào thông tin cần thiết cho trạng thái tế báo, chúng điều chỉnh cẩn thận nhóm gọi cổng (gate) Các cổng nơi sàng lọc thơng tin qua nó, chúng kết hợp tầng mạng sigmoid phép nhân GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan Tầng sigmoid cho đầu số khoản [0, 1][0,1], mơ tả có thơng tin thơng qua Khi đầu là 00 thì có nghĩa khơng cho thơng tin qua cả, cịn là 11 thì có nghĩa cho tất thơng tin qua Một LSTM gồm có cổng để trì điều hành trạng thái tế bào *Bên LSTM Bước LSTM định xem thông tin cần bỏ từ trạng thái tế bào Quyết định đưa tầng sigmoid - gọi “tầng cổng quên” (forget gate layer) Nó lấy đầu vào là h_{t-1}ht−1 và x_txt rồi đưa kết số khoảng [0, 1][0,1] cho số trạng thái tế bào C_{t-1}Ct−1 Đẩu là 11 thể giữ tồn thơng tin lại, cịn 00 chỉ taonf thông tin bị bỏ Quay trở lại với ví dụ mơ hình ngơn ngữ dự đoán từ dựa tất từ trước đó, với tốn vậy, trạng thái tế bào mang thơng tin giới tính nhân vật giúp ta sử dụng đại từ nhân xưng chuẩn xác Tuy nhiên, đề cập tới người khác ta khơng muốn nhớ tới giới tính nhân vật nữa, khơng cịn tác dụng với chủ GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan Bước định xem thông tin ta lưu vào trạng thái tế bào Việc gồm phần Đầu tiên sử dụng tầng sigmoid gọi “tầng cổng vào” (input gate layer) để định giá trị ta cập nhập Tiếp theo tầng tanhtanh tạo véc-tơ cho giá trị mới \tilde{C_t}Ct~ nhằm thêm vào cho trạng thái Trong bước tiếp theo, ta kết hợp giá trị lại để tạo cập nhập cho trạng thái Chẳng hạn với ví dụ mơ hình ngơn ngữ ta, ta muốn thêm giới tính nhân vật vào trạng thái tế bào thay giới tính nhân vật trước Giờ lúc cập nhập trạng thái tế bào cũ Ct−1 thành trạng thái mới Ct Ở bước trước định việc cần làm, nên ta cần thực xong Ta nhân trạng thái cũ với f_t để bỏ thông tin ta định quên lúc trước Sau cộng thêm Trạng thái mơi thu phụ thuộc vào việc ta định cập nhập giá trị trạng thái Với tồn mơ hình ngơn ngữ, việc ta bỏ thơng tin giới tính nhân vật cũ, thêm thơng tin giới tính nhân vật ta định bước trước GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan Cuối cùng, ta cần định xem ta muốn đầu Giá trị đầu dựa vào trạng thái tế bào, tiếp tục sàng lọc Đầu tiên, ta chạy tầng sigmoid để định phần trạng thái tế bào ta muốn xuất Sau đó, ta đưa trạng thái tế bảo qua hàm tanh để co giá trị khoảng [-1, 1][−1,1], nhân với đầu cổng sigmoid để giá trị đầu ta mong muốn Với ví dụ mơ hình ngơn ngữ, cần xem chủ thể mà ta đưa thơng tin trạng từ sau Ví dụ, đầu chủ thể số số nhiều ta biết dạng trạng từ theo sau phải 4.2 PHÂN TÍCH GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan (Mẫu) DANH MỤC TÀI LIỆU THAM KHẢO Tiếng Việt: GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan [1] Tên tài liệu, tên tác giả, Nhà xuất bản, năm phát hành [2] ……………… Tiếng Anh: [1] Ho T K, Mao B H , Yuan Z Z, Liu H D, Fung Y F Computer Simulation and Modeling in Railway Applications [J ] Computer Physics Communications, 2002, 143, pp:1-10 [2] …………………………………… Ghi chú: - Danh mục tài liệu tham khảo phải xếp theo abc tên tài liệu, tác giả, nơi năm phát hành Nếu xếp theo tên tác giả xếp abc theo họ, sau đến tên tài liệu, nơi năm phát hành Danh mục tài liệu tham khảo xếp cuối cùng, sau trang phụ lục GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan ... Thị Tố Loan CHƯƠNG 1: CẤU TẠO CƠ BẢN CỦA MỘT TẾ BÀO NO RON NHÂN TẠO 1.1 CẤU TẠO CƠ BẢN CỦA MỘT TẾ BÀO NO RON NHÂN TẠO 1.1.1 Cấu tạo tế bào no ron sinh học Theo nhà nghiên cứu sinh học, hệ thống... n? ?ron đơn vị xử lý thông tin thành phần mạng n? ?ron Cấu trúc n? ?ron mơ tả hình Hình 1.2 N? ?ron nhân tạo Các thành phần n? ?ron nhân tạo bao gồm:  Tập đầu vào: Là tín hiệu vào (input signals) n? ?ron, ... rẽ tiếp tục truyền tới n? ?ron khác GVHD: Th.S Võ Thiện Lĩnh SVTH: Đinh Thị Tố Loan Hình 1.1 Cấu tạo tế bào n? ?ron sinh học 1.1.2 Cấu tạo tế bào no ron nhân tạo Mạng n? ?ron nhân tạo, Artificial Neural

Ngày đăng: 03/01/2022, 05:52

Hình ảnh liên quan

Hình 1.2 Nơron nhân tạo Các thành phần cơ bản của một nơron nhân tạo bao gồm: - MẠNG NO RON VÀ ỨNG DỤNG TRONG XỬ LÝ TÍN HIỆU

Hình 1.2.

Nơron nhân tạo Các thành phần cơ bản của một nơron nhân tạo bao gồm: Xem tại trang 9 của tài liệu.
Hình 1.1 Cấu tạo của tế bào nơron sinh học - MẠNG NO RON VÀ ỨNG DỤNG TRONG XỬ LÝ TÍN HIỆU

Hình 1.1.

Cấu tạo của tế bào nơron sinh học Xem tại trang 9 của tài liệu.
Bảng 1.1 Các hàm kích hoạt thường được sử dụng - MẠNG NO RON VÀ ỨNG DỤNG TRONG XỬ LÝ TÍN HIỆU

Bảng 1.1.

Các hàm kích hoạt thường được sử dụng Xem tại trang 10 của tài liệu.
Deep learning có 2 mô hình lớn là Convolutional Neural Network (CNN) cho bài toán có input là ảnh và Recurrent neural network (RNN) cho bài toán dữ liệu dạng chuỗi (sequence). - MẠNG NO RON VÀ ỨNG DỤNG TRONG XỬ LÝ TÍN HIỆU

eep.

learning có 2 mô hình lớn là Convolutional Neural Network (CNN) cho bài toán có input là ảnh và Recurrent neural network (RNN) cho bài toán dữ liệu dạng chuỗi (sequence) Xem tại trang 23 của tài liệu.
Hình: Mô hình mạng RNN - MẠNG NO RON VÀ ỨNG DỤNG TRONG XỬ LÝ TÍN HIỆU

nh.

Mô hình mạng RNN Xem tại trang 24 của tài liệu.
Chẳng hạn với ví dụ mô hình ngôn ngữ của ta, ta sẽ muốn thêm giới tính của nhân vật mới này vào trạng thái tế bào và thay thế giới tính của nhân vật trước đó. - MẠNG NO RON VÀ ỨNG DỤNG TRONG XỬ LÝ TÍN HIỆU

h.

ẳng hạn với ví dụ mô hình ngôn ngữ của ta, ta sẽ muốn thêm giới tính của nhân vật mới này vào trạng thái tế bào và thay thế giới tính của nhân vật trước đó Xem tại trang 28 của tài liệu.
Với ví dụ về mô hình ngôn ngữ, chỉ cần xem chủ thể mà ta có thể đưa ra thông tin về một trạng từ đi sau đó - MẠNG NO RON VÀ ỨNG DỤNG TRONG XỬ LÝ TÍN HIỆU

i.

ví dụ về mô hình ngôn ngữ, chỉ cần xem chủ thể mà ta có thể đưa ra thông tin về một trạng từ đi sau đó Xem tại trang 29 của tài liệu.

Mục lục

    *Phạm vi đề tài

    * Ý tưởng cốt lõi của LSTM

Tài liệu cùng người dùng

  • Đang cập nhật ...

Tài liệu liên quan