CHƯƠNG 3. KẾT HỢP MẠNG NƠRON NHÂN TẠO VỚI CÁC PHƯƠNG PHÁP
3.2. SO SÁNH HAI KHẢ NĂNG KẾT HỢP MẠNG NƠRON VỚI PHƯƠNG PHÁP
Trong phần trước, chúng tôi đã trình bày hai khả năng kết hợp các phương pháp thu giảm số chiều của mạng nơron. Trong phần này, chúng tôi so sánh hai khả năng kết hợp này.
GọiN là số điểm trong tập dữ liệu nguyên thủy, chưa thu giảm, được sử dụng ban đầu trong cả hai khả năng kết hợp. Gọi n là số điểm dữ liệu trong kết quả thu giảm
Thu giảm số chiều theo phương pháp PIP Cửa sổ trượt ảow, chiều dàiy
Cửa sổ trượt ảow’, sau khi thu giảm từ y
xuốngsđiểm
Chương 3. Kết hợp mạng nơron nhân tạo với các phương pháp thu giảm số chiều 37
bằng cách thu giảm thứ 1. Trong cách thu giảm thứ 2, gọi y là kích thước dữ liệu trược thu giảm của cửa sổ trượt (kích thước cửa sổ ảo), s là kích thước sau khi thu giảm (cửa sổ trượt thật).
Ở cách 1, như cách thức đã trình bày ở mục 2.6.2, thời gian thu giảm tập dữ liệu nguyên thủy của phương pháp PIP làO(n).O(N),của phương pháp PAA làO(n).
Trong quá trình huấn luyện mạng, cón-s+1cửa sổ trượt. Số cửa sổ trượt tương ứng với số lần tính toán ra điểm dữ liệuxt+1.và số lần tính toán giá trị cập nhật trọng số.
Nếu xem số lần tính toán ra điểm dữ liệu xt+1 và số lần tính toán giá trị cập nhật trọng số là 1 đơn vị thời gian thì tổng thời gian tính toán trong quá trình huấn luyện xấp xỉ (n-s+1), tương đương O(n). Vậy tổng thời gian thu giảm và huấn luyện của cách này này là:
Bảng 3.1 Bảng ước lượng thời gian tính toán trong cách kết hợp thứ nhất Phương
pháp thu giảm
Thời gian tính toán để thu giảm
Thời gian tính toán trong quá trình huấn luyện
Tổng thời gian tính toán
PIP O(n).O(N) O(n) O(n).O(N) + O(n) =
O(N).O(n)
PAA O(n) O(n)
O(n) + O(n) = 2.O(n)
Qua Bảng 3.1 chúng ta thấy thời gian dùng phương pháp PIP sẽ có thể lâu hơn phương pháp PAAO(N)/2 lần.
Ở cách 2, trong quá trình huấn luyện mạng, cóN-y+1cửa sổ trượt. Như cách thức đã trình bày ở mục 2.6.2, nếu thu giảm cửa sổ trượt từ y xuống s điểm bằng phương pháp PIP, thì mỗi cửa sổ trượt ảo mấtO(s).O(y) phép tính toán. Vậy tổng thời gian thu giảm bằng phương pháp PIP là(N-y+1).O(s).O(y),tương đươngO(N).O(s).O(y).
Tương tự, nếu thu giảm bằng phương pháp PAA, tổng thời gian thu giảm là (N- y+1).O(s),tương đươngO(N).O(s).
với số lần tính toán ra điểm dữ liệu xt+1và số lần tính toán giá trị cập nhật trọng số.
Nếu xem số lần tính toán ra điểm dữ liệuxt+1và số lần tính toán giá trị cập nhật trọng số là 1 đơn vị thời gian thì tổng thời gian tính toán trong quá trình huấn luyện xấp xỉ
N-y+1, tương đươngO(N). Vậy tổng thời gian thu giảm và huấn luyện của cách này này là:
Bảng 3.2 Bảng ước lượng thời gian tính toán trong cách kết hợp thứ hai Phương
pháp thu giảm
Thời gian tính toán để thu giảm
Thời gian tính toán trong quá trình huấn luyện
Tổng thời gian tính toán
PIP O(N).O(s).O(y) O(N) O(N).O(s).O(y) + O(N) =
O(N).O(s).O(y)
PAA O(N).O(s) O(N) O(N).O(s)+O(N) =
O(N).O(s)
Qua Bảng 3.2, chúng ta thấy thời gian dùng phương pháp PIP sẽ có thể lâu hơn phương pháp PAAO(y)lần.
Như vậy, ta có bảng so sánh thời gian tính toán tổng hợp của hai cách như Bảng 3.3.
Bảng 3.3 Bảng so sánh thời gian tính toán trong hai cách kết hợp
Phương pháp thu
giảm
Thời gian tính toán để thu giảm
Thời gian tính toán trong quá trình huấn
luyện
Tổng thời gian tính toán
Cách 1 PIP O(n).O(N) O(n) O(N).O(n)
PAA O(n) O(n) 2.O(n)
Cách 2 PIP O(N).O(s).O(y) O(N) O(N).O(s).O(y)
PAA O(N).O(s) O(N) O(N).O(s)
Qua Bảng 3.3, nếu chúng ta dùng phương pháp PAA, thì thời gian tính toán ở cách kết hợp 2 lớn hơn thời gian tính toán ở cách kết hợp 1. Nếu dùng phương pháp PIP, thì sự khác biệt thời gian phụ thuộc vàoO(n)vàO(s).O(y).
Chương 3. Kết hợp mạng nơron nhân tạo với các phương pháp thu giảm số chiều 39
Sau khi xác định và phân tích hai khả năng kết hợp các phương pháp thu giảm số chiều của mạng nơron, vấn đề tiếp theo là nên thu giảm dữ liệu bao nhiêu lần, có nghĩa là hệ số thu giảm nên là bao nhiêu.