Mạng Nơ-ron nhân tạo (Artificial Neural Network- ANN) là mơ hình xử lý thơng tin trên máy tính được mơ phỏng dựa trên hoạt động của hệ thống thần kinh của sinh vật, bao gồm số lượng lớn các Nơ-ron được gắn kết để xử lý thơng tin. Giống như bộ não con người, được học bởi kinh nghiệm (thơng qua huấn luyện), cĩ khả năng lưu giữ những kinh nghiệm hiểu biết (tri thức) và sử dụng những tri thức đĩ trong việc phân tích các sự kiện sau này, ANN dự đốn các dữ liệu chưa biết (unseen data) nhờ vào cấu trúc mà nĩ hình thành được trong quá trình huấn luyện. Nhờ vào sự mơ phỏng não bộ, ANN cĩ vơ số ứng dụng trong nhiều lĩnh vực như khoa học máy tính, điện tử, vật lý, hố học, sinh học, khí tượng thuỷ văn đến cả quân sự. Cụ thể, một mạng ANN cĩ thể dùng để phân loại dữ liệu, xấp xỉ hàm số, dự đốn kết quả và tái tạo cấu trúc dữ liệu [16].
Việc huấn luyện một mơ hình ANN là sự điều chỉnh các trọng số (Weigh) và phần hệ số tự do (bias) theo mục tiêu huấn luyện, vì vậy để hiểu được cách học của một mơ hình ANN thì cần phải nắm được kiến trúc của nĩ để hiểu các trọng số và “bias” là gì và điều chỉnh ra sao.
Về cơ bản, kiến trúc chung của một ANN gồm 3 thành phần chính đĩ là lớp đầu vào (Input Layer), lớp ẩn (Hidden Layer) và lớp đầu ra (Output Layer). Trong một ANN cĩ thể cĩ nhiều lớp ẩn nhưng chỉ cĩ một lớp đầu vào và một lớp đầu ra. Lớp ẩn (Hidden Layer) là các lớp giữa của mạng ANN, gồm các Nơ-ron, nhận dữ liệu là output từ các nơ-ron ở lớp trước đĩ. Kết quả của lớp ẩn này sau đĩ lại đĩng vai trị là các input cho các lớp tiếp theo. Các nơ- ron về mặt tốn học là các hàm tổng bậc một với các biến là input nối vào nơ-ron đĩ. Hàm số này cĩ dạng:
f(x1,x2, … xn)=x1*W1 + x2*W2+…+xn*Wn + b (1)
trong đĩ x1, x2, … xn là các input của nơ-ron và W1, W2, ... Wn là hệ số (hay trọng số) tương ứng với mơi input. Các thành phần vừa kể cĩ quan hệ tổng quát được mơ tả như hình 1.8.
Hình 2.8 Mơ hình xử lý thơng tin của một ANN [16].
Input: là đầu vào của mạng ANN, tương ứng với 1 đặc trưng của dữ liệu cần xử lý. Ví dụ: Nếu phân tích HRV thường các nhà nghiên cứu se sử dụng nhịp tim trung bình, biên độ dao động của nhịp, tần số dao động, … vậy thì nhịp tim trung bình là một input của mạng ANN dùng cho xử lý HRV.
Output: là kết quả của mạng ANN sau khi xử lý. Output thường cĩ hai cách sử dụng: hoặc lấy trực tiếp; kết quả của mơ hình mạng để đưa ra kết quả cuối cùng (thường dùng trong xấp xỉ hàm số chưa biết hoặc các nghiên cứu về dự đốn số liệu) hai là qua một vài phép biến đổi tốn hoặc để biến đổi Output thành các kết quả số học cĩ giá trị rời rạc (thường dùng cho phân loại). Weights (ký hiệu là W): Là các hệ số của các nơ-ron trong mơi lớp của mơ hình mạng, thường được gọi là trọng số. Các trọng số đĩng vai trị quan trọng hàng đầu của một mơ hình mạng ANN vì nhờ các trọng số này se cấu tạo nên các hàm số để phân chia miền cho các mẫu quan sát.
Bias (ký hiệu là b): là hệ số tự do, hay giá trị cộng thêm của các hàm số ở các nơ-ron. Giá trị này là phần quan trọng thứ hai trong việc cấu tạo nên các hàm số phân miền vừa nêu.
Transfer function: tạm dịch là hàm truyền, là hàm số biến đổi output của một nơ-ron trước khi truyền qua lớp kế tiếp để làm input. Hàm truyền này cĩ tác dụng thường là giới hạn giá trị đầu ra của các nơ-ron và chuẩn hố chúng theo một cấu trúc nhất định, đảm bảo tính ổn định cho kết quả của lớp kế tiếp nĩi riêng và tồn bộ mơ hình mạng nĩi chung. Một số hàm truyền phổ biến thể hiện trong hình 1.9.
Hình 2.9 Một số hàm truyền thơng dụng [16].
Cách học của một mơ hình ANN cũng khơng phải quá đặc biệt. Do Output của một ANN là một hàm số nên ta se tính được bộ của các Weigh (W) và Bias (b) tối ưu thơng qua hàm sai số của Output với giá trị mục tiêu của huấn luyện. Bộ W và b tối ưu là bộ W và b để hàm sai số Output của ANN đạt giá trị cực tiểu, hoặc lý tưởng nhất là giá trị nhỏ nhất. Các hàm sai số thường được sử dụng như là MSE (Mean Square Error – Sai số bình phương trung bình), SSE (Sum Square Error – tổng sai lệch bình phương), RMSE (Root Mean Square Error – Căn bậc hai của MSE),… Các hàm sai số của việc huấn luyện ANN cĩ tên là hàm hiệu suất (Performance) và bài tốn tìm giá trị cực tiểu cho hàm số sai số được gọi là bài tốn tối ưu hố (Optimization). Một số phương pháp Optimization phổ biến cĩ thể kể ra như : Gradient Decent, Gradient Decent Accelaration, Swamp Optimization,…
Hiện nay, cấu trúc của một mơ hình ANN đã được phát triển trở nên rất phức tạp, và đương nhiên là hiệu quả cũng như khả năng ứng dụng của nĩ cũng được nâng cao lên rất nhiều. Mơi một kiểu cấu tạo được gọi là một kiến trúc của mạng ANN, và mơi kiến trúc thường se cĩ những thế mạnh riêng cũng như lĩnh vực ứng dụng thế mạng tương ứng. Ví dụ: kiến trúc mạng CNN (Convolution Neural Network) hay cịn gọi là mạng nơ-ron tích chập cĩ ứng dụng thế mạnh trong nhận dạng và phân loại hình ảnh [16]. Như vậy, việc chọn đúng mơ hình phân loại cho ứng dụng mà ta quan tâm se giúp nâng cao lên hiệu quả cho việc xử lý và cho ra kết qủa tốt nhất cho việc xử lý.
Thiết kế thí nghiệm Thu nhận tín hiệu Tiền xử lý tín hiệu
Huấn luyện các mơ hình phân loại
Xử lý tiền huấn luyện Trích xuất đặc trưng
Xác thực định lượng cho kết quả
Tối ưu cho mơ hình phân loạiRút ra các kết luận
CHƯƠNG 3
PHƯƠNG PHÁP NGHIÊN CỨU
Hình 3.1 Sơ đồ tổng quát cho quy trình nghiên cứu của nhĩm.
Trước khi đi vào phần phương pháp nghiên cứu, để tổng quát về nghiên cứu này, nội dung chính về quy trình và phương pháp của nghiên cứu se được tĩm gọn và thể hiện như trong sơ đồ ở hình 3.1. Đầu tiên nhĩm se thiết kế một quy trình thí nghiệm để khơi dậy hai trạng thái cảm xúc căng thẳng và thư giãn cho đối tượng đo. Trong lúc đĩ nhĩm se thu nhận đồng thời tín hiệu EEG và HRV ở hai trạng thái này. Sau đĩ, tín hiệu thu được se được đưa vào bước tiền xử lý bao gồm lọc nhiễu, phân đoạn và dán nhãn. Tiếp theo, các phân đoạn dữ liệu này se được trích xuất các đặc trưng cĩ liên quan theo ba nhĩm là miền thời gian, miền tần số và phi tuyến. Sau đĩ, các đặc trưng se được chọn lọc lại và giảm chiều ở bước xử lý tiền huấn luyện và se được dùng cho việc huấn luyện các mơ hình phân loại. Kết quả của các mơ hình phân loại se được xác thực định lượng bằng phương pháp xác thực chéo kết hợp với ma trận nhầm lẫn. Từ kết quả này, nhĩm se tiến hành thêm một bước là tối ưu hố cho các mơ hình phân loại chưa tốt để nâng cao hơn hiệu quả cho các mơ hình đĩ. Cuối cùng, với những kết quả đạt được, nhĩm se rút ra các kết luận và đánh giá ưu khuyết điểm cho nghiên cứu này của nhĩm.